在scrapy的spiders文件中设置请求时间间隔

设置某个spider单独使用的设置项等等。

在spiders文件中写如下:

  custom_settings = { 'DOWNLOAD_DELAY': 0.2, 'CONCURRENT_REQUESTS_PER_IP': 4, 'DOWNLOADER_MIDDLEWARES': {}, }

posted @ 2017-10-13 13:32  Python全栈工程师之路  阅读(4907)  评论(0编辑  收藏  举报