Ted

  博客园 :: 首页 :: 博问 :: 闪存 :: 新随笔 :: 联系 :: 订阅 订阅 :: 管理 ::

2012年3月24日

摘要: Scraping with Python for Fun and Profit - PyCon India 2010 View more presentations from Abhishek Mishra 阅读全文
posted @ 2012-03-24 00:46 wufawei 阅读(198) 评论(0) 推荐(0) 编辑

摘要: Python抓取框架:Scrapy的架构Written by标点符on 2011年07月3日 in程序设计最近在学Python,同时也在学如何使用python抓取数据,于是就被我发现了这个非常受欢迎的Python抓取框架Scrapy,下面一起学习下Scrapy的架构,便于更好的使用这个工具。一、概述下图显示了Scrapy的大体架构,其中包含了它的主要组件及系统的数据处理流程(绿色箭头所示)。下面就来一个个解释每个组件的作用及数据的处理过程。二、组件1、Scrapy Engine(Scrapy引擎)Scrapy引擎是用来控制整个系统的数据处理流程,并进行事务处理的触发。更多的详细内容可以看下面的 阅读全文
posted @ 2012-03-24 00:44 wufawei 阅读(431) 评论(0) 推荐(1) 编辑