会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
乐之之
知而行乐,乐而行之,天道酬勤,学无止境。
博客园
首页
新随笔
联系
订阅
管理
公告
2022年12月6日
scrapy-redis分布式
摘要: 一、简介 scrapy是一个基于redis的scrapy组件,用于快速实现scrapy项目的分布式数据爬取。 (一)安装redis pip install scrapy_redis (二)执行流程图 调度器、管道不可以被分布式集群共享 二、中间件的使用 下载中间件(Downloader Middle
阅读全文
posted @ 2022-12-06 19:43 乐之之
阅读(50)
评论(0)
推荐(0)
编辑