2019年3月25日
scrapy中selenium的应用
摘要： 引入 在通过scrapy框架进行某些网站数据爬取的时候，往往会碰到页面动态数据加载的情况发生，如果直接使用scrapy对其url发请求，是绝对获取不到那部分动态加载出来的数据值。但是通过观察我们会发现，通过浏览器进行url请求发送则会加载出对应的动态加载出的数据。那么如果我们想要在scrapy也获取 阅读全文
posted @ 2019-03-25 21:27 清风_Z 阅读(315) 评论(0) 推荐(0) 编辑
如何提高scrapy的爬取效率
摘要： 提高scrapy的爬取效率 配置文件： 阅读全文
posted @ 2019-03-25 10:11 清风_Z 阅读(2076) 评论(0) 推荐(0) 编辑