Loading

摘要: IP代理池之验证是否有效 把proxy pool项目跑起来,但也不知道这些ip怎么用,爬虫的时候是否用代理去爬取,下面通过一个例子来看看。 代码如下: import requests PROXY_POOL_URL = 'http://127.0.0.1:5010/get/' def get_prox 阅读全文
posted @ 2019-05-23 21:06 YinJayChen 阅读(708) 评论(0) 推荐(1) 编辑
摘要: 反爬虫之搭建IP代理池 听说你又被封 ip 了,你要学会伪装好自己,这次说说伪装你的头部。可惜加了header请求头,加了cookie 还是被限制爬取了。这时就得祭出IP代理池!!! 下面就是requests使用ip代理例子 response = requests.get(url,proxies=p 阅读全文
posted @ 2019-05-23 00:20 YinJayChen 阅读(4410) 评论(0) 推荐(0) 编辑