二十六、Scrapy自定义命令

  • 创建命令目录及文件

     

     

  • settings.py中定义命令

   

 

 

  • 代码

    from scrapy.commands import ScrapyCommand


    class Command(ScrapyCommand):
       requires_project = True

       def syntax(self):
           return '[options]'

       def short_desc(self):
           return 'Runs all of the spiders'

       def run(self, args, opts):
           # 获取爬虫列表
           spider_list = self.crawler_process.spiders.list()
           for name in spider_list:
               # 初始化爬虫
               self.crawler_process.crawl(name, **opts.__dict__)
           # 开始执行所有的爬虫
           self.crawler_process.start()

     

  •  

 

posted @ 2020-07-27 21:56  Norni  阅读(191)  评论(0编辑  收藏  举报