2018年2月1日

scrapy结构及各部件介绍

摘要: 1.总览,数据流图: 2.Engine:引擎负责控制系统所有组件之间的数据流,并在发生某些操作时触发事件。 3.Scheduler:调度程序接收来自引擎的请求,并将它们排入队列,并在之后,当Engine需要的时候,将requests发送给engine。 4.Downloader:下载器负责提取网页并 阅读全文

posted @ 2018-02-01 14:52 zhang293 阅读(5468) 评论(0) 推荐(0) 编辑

导航