摘要：源码自带项目说明： 使用scrapy-redis的example来修改 先从github上拿到scrapy-redis的示例，然后将里面的example-project目录移到指定的地址： 我们clone到的 scrapy-redis 源码中有自带一个example-project项目，这个项目包含 阅读全文

摘要：Scrapy 和 scrapy-redis的区别 Scrapy 是一个通用的爬虫框架，但是不支持分布式，Scrapy-redis是为了更方便地实现Scrapy分布式爬取，而提供了一些以redis为基础的组件(仅有组件)。 pip install scrapy-redis Scrapy-redis提供 阅读全文