Python urllib详解

• Urllib

   官方文档地址：https://docs.python.org/3/library/urllib.html

  其主要包括一下模块：

  urllib.request 请求模块

  urllib.error 异常处理模块

  urllib.parse url解析模块

  urllib.robotparser robots.txt解析模块

• urllib.request.urlopen

　　　urlopen参数如下：

　　urllib.request.urlopen(url, data=None, [timeout, ]*, cafile=None, capath=None, cadefault=False, context=None

常用参数：

　　　url:访问的地址，一般不只是地址。

　　　data:此参数为可选字段，特别要注意的是，如果选择，请求变为post传递方式,其中传递的参数需要转为bytes，如果是我们只需要通过 urllib.parse.urlencode 转换即可：

import urllib.parse
import urllib.request
data = bytes(urllib.parse.urlencode({"word": "python"}), encoding=  'utf8')
response = urllib.request.urlopen("http://xxxxx", data=data)
print(response.read().decode('utf-8'))

　　timeout:设置网站的访问超时时间

其他参数：

　　context 参数：它必须是 ssl.SSLContext 类型，用来指定 SSL 设置。

　　cafile 和 capath 两个参数：是指定CA证书和它的路径，这个在请求 HTTPS 链接时会有用。

　　cadefault 参数：现在已经弃用了，默认为 False 

urlopen返回对象提供方法：

　　read() , readline() ,readlines() , fileno() , close() ：对HTTPResponse类型数据进行操作。

　　info()：返回HTTPMessage对象，表示远程服务器返回的头信息。

　　getcode()：返回Http状态码。

　　geturl()：返回请求的url。

import urllib.request
response = urllib.request.urlopen('http://python.org/')

#查看 response 的返回类型
print(type(response))

#查看反应地址信息
print(response)

#查看头部信息_1
print(response.info())

#查看头部信息_2(http header)
print(response.getheaders())

#输出头部属性信息
print(response.getheader("Server"))

#查看响应状态信息_1
print(response.status)

#查看响应状态信息_2
print(response.getcode())

#查看响应url地址
print(response.geturl())

#输出网页源码
page = response.read()
print(page.decode('utf-8'))  

 

　　urllib.request.Request

　　

import urllib.request
headers = {'Host': 'www.xicidaili.com',
           'User-Agent': 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT6.0)',
           'Accept': r'application/json, text/javascript, */*; q=0.01',
           'Referer': r'http://www.xicidaili.com/', }

req = urllib.request.Request('http://www.xicidaili.com/', headers=headers)
response = urllib.request.urlopen(req)
html = response.read().decode('utf-8')
print(html)

• Request参数如下：

　　urllib.request.Request(url, data=None, headers={}, origin_req_host=None, unverifiable=False, method=None)

　　　　

常用参数：　　

　　url:访问的地址。

　　data:此参数为可选字段，其中传递的参数需要转为bytes，如果是字典只需要通过 urllib.parse.urlencode 转换即可：

 　  headers:http相应headers传递的信息，构造方法：headers 参数传递，通过调用 Request 对象的 add_header() 方法来添加请求头。

其他参数：

　　origin_req_host ：指的是请求方的 host 名称或者 IP 地址。

　　unverifiable ：用来表明这个请求是否是无法验证的，默认是 False 。意思就是说用户没有足够权限来选择接收这个请求的结果。如果没有权限，这时 unverifiable 的值就是 True 。

　　method ：用来指示请求使用的方法，比如 GET ， POST ， PUT 等

• urllib.request.ProxyHandler（ip代理）

import urllib.request

#创建自定义函数
def use_proxy(proxy_addr,url):

    #使用urllib.request.ProxyHandle()设置代理服务器参数
    proxy = urllib.request.ProxyHandler({'http':proxy_addr})

    #使用urllib.request.build_opener()创建一个自定义的opener()对象
    #第一个参数为代理信息，第二个参数为urllib.request.HTTPHandler类
    opener = urllib.request.build_opener(proxy,urllib.request.HTTPHandler)

    #为了方便，使用urllib.request.install_opener()创建全局默认的opener对象
    urllib.request.install_opener(opener)
    #urllib.request.urlopen()打开指定网址进行爬取，将函数的调用赋值给data
    data = urllib.request.urlopen(url).read().decode('utf-8')
    return data

proxy_addr = '61.135.217.7:80'
data = use_proxy(proxy_addr,"http:4//www.baidu.com")
print(len(data))

• urllib.request.HTTPCookieProcessor

　　

import http.cookiejar, urllib.request

cookie = http.cookiejar.CookieJar()
handler = urllib.request.HTTPCookieProcessor(cookie)
opener = urllib.request.build_opener(handler)
response = opener.open('http://www.baidu.com')

 

• 保存cookie(MozillaCookieJar)

　　

filename = 'cookie.txt'  
cookie = http.cookiejar.MozillaCookieJar(filename)  
handler = urllib.request.HTTPCookieProcessor(cookie)  
opener = urllib.request.build_opener(handler)  
response = opener.open('http://www.baidu.com')  
cookie.save(ignore_discard=True, ignore_expires=True)

• 使用cookie

　　

import http.cookiejar, urllib.request
cookie = http.cookiejar.MozillaCookieJar()
cookie.load('cookie.txt', ignore_discard=True, ignore_expires=True)
handler = urllib.request.HTTPCookieProcessor(cookie)
opener = urllib.request.build_opener(handler)
response = opener.open('http://www.baidu.com')
print(response.read().decode('utf-8'))

• urllib.error

　　用 try-except来捕捉异常,

　　主要的错误方式就两种 ：

　　　　URLError（错误信息）

　　　　HTTPError(错误编码)

　　

try:
    data=urllib.request.urlopen(url)
    print(data.read().decode('utf-8'))
except urllib.error.HTTPError as e:
    print(e.code)
except urllib.error.URLError as e:
    print(e.reason)