摘要: scrapy不同的item指定不同的Pipeline from items import AspiderItem, BspiderItem, CspiderItem class myspiderPipeline(object): def __init__(self): pass def proces 阅读全文
posted @ 2019-11-27 11:18 叫我大表哥 阅读(980) 评论(0) 推荐(0) 编辑
摘要: 定时启动爬虫 # 查看命令得绝对路径 # which scrapy # cd到爬虫得项目目录下 + scrapy命令得绝对路径 + 启动命令 */5 * * * * cd /opt/mafengwo/mafengwo/spiders && /usr/bin/scrapy crawl mfw_spid 阅读全文
posted @ 2019-11-27 11:17 叫我大表哥 阅读(648) 评论(0) 推荐(0) 编辑