摘要:
#章节十六:复习与反爬虫 ##1. 爬虫总复习 我还记得事情是从这张图开始的,它被用来描述浏览器的工作原理: 请求和响应。这两件事几乎构成了我们后面的所有学习内容。 在第0关,我们说爬虫,就是利用程序在网上拿到对我们有用的数据。程序所做的,最关键步骤正是“请求”和“响应”。 据此,我们定义了“爬虫四 阅读全文
摘要:
#章节十五:Scrapy实操 ##1. 复习 上一关,我们学习了Scrapy框架,知道了Scrapy爬虫公司的结构和工作原理。 在Scrapy爬虫公司里,引擎是最大的boss,统领着调度器、下载器、爬虫和数据管道四大部门。 这四大部门都听命于引擎,视引擎的需求为最高需求。 我们还通过实操爬取豆瓣To 阅读全文