摘要:
Scraping with Python for Fun and Profit - PyCon India 2010 View more presentations from Abhishek Mishra 阅读全文
摘要:
Python抓取框架:Scrapy的架构Written by标点符on 2011年07月3日 in程序设计最近在学Python,同时也在学如何使用python抓取数据,于是就被我发现了这个非常受欢迎的Python抓取框架Scrapy,下面一起学习下Scrapy的架构,便于更好的使用这个工具。一、概述下图显示了Scrapy的大体架构,其中包含了它的主要组件及系统的数据处理流程(绿色箭头所示)。下面就来一个个解释每个组件的作用及数据的处理过程。二、组件1、Scrapy Engine(Scrapy引擎)Scrapy引擎是用来控制整个系统的数据处理流程,并进行事务处理的触发。更多的详细内容可以看下面的 阅读全文