windows下 scrapyd 安装使用
1.安装 Microsoft Visual C++ 14.0
2.安装scrapyd.
3.部署项目配置,编辑需要部署的项目的scrapy.cfg文件(需要将哪一个爬虫部署到scrapyd中,就配置该项目的该文件)
[deploy:爬虫名称(可以自行定义)]
url = http://localhost:6800/
project = 项目名(创建爬虫项目时使用的名称)
4.部署命令,
同样在scrapy项目路径下执行:
scrapyd-deploy 爬虫名称 -p 项目名称
5.启动项目
- 启动项目:
curl http://localhost:6800/schedule.json -d project=project_name -d spider=spider_name
- 关闭爬虫:
curl http://localhost:6800/cancel.json -d project=project_name -d job=jobid