摘要:
1.如果在centos里新创建的工程,需要对templates在settings里面配置路径 settings.py static静态文件 需在nginx配置里添加路径(只在settings.py 里配置无效) 阅读全文
摘要:
1.概念:多台机器上可以执行同一个爬虫程序,实现网站数据的分布爬取。 2.原生的scrapy 是不可以实现分布式爬虫? a) 调度器无法共享 b) 管道无法共享 3. scrapy-redis 组件:专门为scrapy 开发的一套组件。该组件可以让scrapy 实现分布式 a) 下载:pip ins 阅读全文