摘要: 在爬取数据时有时候有些文件数据需要爬取下载下来使用多线程下载可以让程序跑的更快点。 scrapy中有个扩展可以使用扩展模块来实现下载。 在自己的spider中加入 custom_settings 在要下载的时候添加 阅读全文
posted @ 2017-07-12 20:58 sea101 阅读(913) 评论(0) 推荐(0) 编辑