摘要：
一、介绍 1、引言 比如当我们爬取一个小说网站的时候，第一天你把小说网站全部小说都爬下来了，存储好了。一个月后，当这个小说网站又新出了几本小说，你重新爬取这个网站的时候，如果你不是增量式爬虫，那么你的程序会重新把这个网站所有小说再爬一次，而实际上我们只需要把新增的小说爬下来即可，这就是增量式爬虫。 阅读全文
摘要：
一、介绍 1、原生的scrapy框架 原生的scrapy框架是实现不了分布式的，其原因有： 1. 因为多台机器上部署的scrapy会各自拥有各自的调度器，这样就使得多台机器无法分配start_urls列表中的url。（多台机器无法共享同一个调度器） 2. 多台机器爬取到的数据无法通过同一个管道对数据 阅读全文
摘要：
一、介绍 CrawlSpider是Spider的一个子类，除了继承到Spider的特性和功能外，还派生除了其自己独有的更加强大的特性和功能。其中最显著的功能就是"LinkExtractors"链接提取器。Spider是所有爬虫的基类，其设计原则只是为了爬取start_url列表中网页，而从爬取到的网 阅读全文
摘要：
一、scrapy框架介绍 1、介绍 Scrapy，Python开发的一个快速、高层次的屏幕抓取和web抓取框架，用于抓取web站点并从页面中提取结构化的数据。Scrapy用途广泛，可以用于数据挖掘、监测和自动化测试。 Scrapy吸引人的地方在于它是一个框架，任何人都可以根据需求方便的修改。它也提供 阅读全文