python爬虫学习小程序

技术小牛人 2017-11-05

python 函数 path url html read utf-8

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
#coding:utf-8
#-------------------------------------------------------------------------------
# Name:        模块1
# Purpose:
#
# Author:      mrwang
#
# Created:     18/04/2014
# Copyright:   (c) mrwang 2014
# Licence:     <your licence>
#-------------------------------------------------------------------------------
import urllib
def main():
    url = 'http://xxxxxxx.xx'
    html = urllib.urlopen(url)
    # print html.read() #读取内容
    # print html.read().decode('gbk').encode('utf-8') #乱码解决
    # print html.read().decode('gbk', 'ignore').encode('utf-8') #一个页面多个编码 加ignore 忽略无法显示的字符
    # print html.info() #查看网页头部信息
    '''
    Connection: close
    Date: Fri, 18 Apr 2014 03:13:46 GMT
    Server: Microsoft-IIS/6.0
    MicrosoftOfficeWebServer: 5.0_Pub
    pragma: no-cache
    cache-control: private
    Content-Length: 50853
    Content-Type: text/html
    Expires: Thu, 17 Apr 2014 03:13:44 GMT
    Set-Cookie: web%5Fid=9952508807; path=/
    Set-Cookie: ASPSESSIONIDQCTQRBQA=NJFIJEBAIFPPLGFKELICDDEL; path=/
    Cache-control: no-cache
    '''
    # print html.getcode() #返回访问状态码
    # print html.geturl() #返回网页
    # urllib.urlretrieve(url, "c:\\abc.txt") #下载网页
    # html.close() #关闭连接
    '''
    urllib.urlretrieve 方法使用
    1 传入网址
    2 传入本地保存路径文件名
    3 一个函数调用,我们可以任意定义这个函数,但是这个函数一定要有三个参数
        参数1 到目前为止传递的数据块数量
        参数2 每个数据块的大小,单位byte,字节
        参数3 获取的文件的大小 有时候会返回-1
    '''
    urllib.urlretrieve(url, 'C://a.html', callback)
def callback(a, b, c):
    '''
    @参数a 到目前为止传递的数据块数量
    @参数b 每个数据块的大小,单位byte,字节
    @参数c 获取的文件的大小 有时候会返回-1
    '''
    down_progress = 100.0 * * / c
    if down_progress > 100:
        down_progress = 100
    print "%.2f%%" % down_progress, #后面加上 , 就不会换行
    '''
    0.00% 16.11% 32.22% 48.33% 64.44% 80.55% 96.66% 100.00%
    '''
if __name__ == '__main__':
    main()
本文转自    拖鞋崽      51CTO博客,原文链接:http://blog.51cto.com/1992mrwang/1398011
登录 后评论
下一篇
云栖号资讯小编
33324人浏览
2020-07-13
相关推荐
Python学习(20)--爬虫
1843人浏览
2018-03-22 08:14:31
Python 网络爬虫入门详解
1195人浏览
2019-01-04 22:23:40
Python爬虫入门一之综述
2027人浏览
2016-12-16 18:46:00
0
0
0
689