摘要: scrapy的架构图: 组件 Scrapy Engine 引擎负责控制数据流在系统中所有组件中流动,并在相应动作发生时触发事件。 调度器(Scheduler) 调度器从引擎接受request并将他们入队,以便之后引擎请求他们时提供给引擎。 下载器(Downloader) 下载器负责获取页面数据并提供 阅读全文
posted @ 2018-04-12 18:58 JasonLiu 阅读(227) 评论(0) 推荐(0) 编辑