乐之之

知而行乐,乐而行之,天道酬勤,学无止境。

2022年12月6日

scrapy-redis分布式

摘要: 一、简介 scrapy是一个基于redis的scrapy组件,用于快速实现scrapy项目的分布式数据爬取。 (一)安装redis pip install scrapy_redis (二)执行流程图 调度器、管道不可以被分布式集群共享 二、中间件的使用 下载中间件(Downloader Middle 阅读全文

posted @ 2022-12-06 19:43 乐之之 阅读(50) 评论(0) 推荐(0) 编辑