摘要: 一、概述 下图显示了Scrapy的大体架构,其中包含了它的主要组件及系统的数据处理流程(绿色箭头所示)。下面就来一个个解释每个组件的作用及数据的处理过程。 二、组件 1、Scrapy Engine(Scrapy引擎) Scrapy引擎是用来控制整个系统的数据处理流程,并进行事务处理的触发。更多的详细 阅读全文
posted @ 2016-07-11 19:55 soulmate1023 阅读(469) 评论(0) 推荐(0) 编辑
摘要: 最近还在看Python版的rcnn代码,附带练习Python编程写一个小的网络爬虫程序。 抓取网页的过程其实和读者平时使用IE浏览器浏览网页的道理是一样的。比如说你在浏览器的地址栏中输入 www.baidu.com 这个地址。打开网页的过程其实就是浏览器作为一个浏览的“客户端”,向服务器端发送了 一 阅读全文
posted @ 2016-07-11 17:13 soulmate1023 阅读(1775) 评论(3) 推荐(0) 编辑