会员
商店
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
总访问量:
FankCoder
人生短苦,唯有Python
查看更多文章,请访问我的网站 http://fankcoder.com
博客园
首页
新随笔
联系
订阅
管理
随笔 - 44
文章 - 0
评论 - 2
阅读 -
25107
随笔分类 -
爬虫
spider
爬虫防掉线
摘要:最近爬了amazon,发现以前写的爬虫比较"单薄",爬爬静态站或者ajax传参的网站还可以用,针对比较机智的服务,如amazon网站,连续访问100多次后爬虫就会经常失败了,查找了下失败的原因,发现amazon会检测Ip一旦发现请求次数过多,就会跳转到一个检测是否程序在操作的页面,就是输入验证码的网...
阅读全文
posted @
2016-01-25 15:21
三秋
阅读(525)
评论(0)
推荐(0)
编辑
公告
总访问量:
点击右上角即可分享