python爬虫反爬之快速配置免费IP代理池(ProxyPool)
关注我的公众号【靠谱杨阅读人生】回复ProxyPool可以免费获取网盘链接。
也可自行搜索下载:https://github.com/Python3WebSpider/ProxyPool.git
1、下载之后打开setting文件修改redis相关配置。
2、之后开启本机redis服务,就可以直接运行run文件
可以下载一个 Redis Desktop Manager redis可视化工具,关注我的公众号【靠谱杨阅读人生】回复redis可以获取下载链接(文章末尾有公众号二维码),也可以自行百度下载。
3、使用redis中的IP
import random
import redis
class my_redis:
def get_ip(self):
r = redis.Redis(host='127.0.0.1', port=6379, db=0,decode_responses=True)
my_redis_data = r.zrange("proxies:universal",1,3000,True)
return random.choice(my_redis_data)
# print(len(my_redis_data))
if __name__ == '__main__':
test_redis=my_redis()
data=test_redis.get_ip()
print(data)
好看请赞,养成习惯:) 本文来自博客园,作者:靠谱杨, 转载请注明原文链接:https://www.cnblogs.com/rainbow-1/p/16725503.html
欢迎来我的51CTO博客主页踩一踩 我的51CTO博客
文章中的公众号名称可能有误,请统一搜索:靠谱杨的秘密基地