摘要: 我们都知道大名鼎鼎的爬虫框架scrapy,它是基于twisted框架基础上进行的封装,它是基于异步调用,所以爬取的速度会很快,下面简单介绍一下scrapy的组成. 首先我们先安装scrapy,如果是基于python3.x 安装scrapy会出错因为依赖的twisted不兼容现有的python版本导致 阅读全文
posted @ 2017-05-29 13:01 月上贺兰 阅读(4474) 评论(1) 推荐(0) 编辑