2019年3月5日
爬虫 crawlSpider 分布式 增量式 提高效率
摘要： crawlSpider 作用:为了方便提取页面整个链接url,不必使用创参寻找url,通过拉链提取器,将start_urls的全部符合规则的URL地址全部取出 使用:创建文件scrapy startproject xxx(文件名) cd xxx scrapy genspider -t crawl x 阅读全文
posted @ 2019-03-05 19:42 逆欢 阅读(642) 评论(0) 推荐(0) 编辑