摘要: 摘要:介绍了使用Scrapy进行双向爬取(对付分类信息网站)的方法。 所谓的双向爬取是指以下这种情况,我要对某个生活分类信息的网站进行数据爬取,譬如要爬取租房信息栏目,我在该栏目的索引页看到如下页面,此时我要爬取该索引页中的每个条目的详细信息(纵向爬取),然后在分页器里跳转到下一页(横向爬取),再爬 阅读全文
posted @ 2016-04-15 11:41 kylinlin 阅读(9494) 评论(1) 推荐(2) 编辑
摘要: 摘要:介绍了使用Scrapy登录简单网站的流程,不涉及验证码破解 简单登录 很多时候,你都会发现你需要爬取数据的网站都有一个登录机制,大多数情况下,都要求你输入正确的用户名和密码。现在就模拟这种情况,在浏览器打开网页:http://127.0.0.1:9312/dynamic,首先打开调试器,然后点 阅读全文
posted @ 2016-04-15 10:46 kylinlin 阅读(6124) 评论(0) 推荐(1) 编辑