Scrapy全局命令和项目命令

这里scrapy命令分为:全局命令、项目命令;很好理解,全局命令就是在哪都能用,项目命令就是只能依托你的项目.

 

全局命令:

  1.startproject   创建项目

  2.genspider  根据项目创建爬虫spider

  3.settings  查看scrapy设置参数

    --get BOT_NAME  获取爬虫名字

  4.runspider  运行爬虫除了scrapy crawl XX之外,我们还能用runspider,前者基于项目运行,后者基于文件运行

  5.shell  调试网站,后面跟一个网站链接

  6.fetch  调试命令,它的功效就是模拟我们的爬虫下载页面,可以用来分析网页是否是异步传输或者js渲染之类的

  7.view  和fetch类似都是查看爬虫看到的是否和你看到的一直,便于排错

  8.version  查看scrapy版本

 

项目命令:

  1.crawl  运行爬虫

  2.check  检查爬虫

  3.list  显示有多少个蜘蛛

  4.edit  使用编辑器打开爬虫

 

暂时知道这些,以后学新的了再来补充命令.

posted @ 2018-08-24 15:58  一杯闪光喵  阅读(852)  评论(0编辑  收藏  举报