会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
To be a data scientist
数据科学相关的学习笔记,实践心得
博客园
首页
新随笔
联系
订阅
管理
2017年4月20日
大规模爬虫流程总结
摘要: 爬虫是一个比较容易上手的技术,也许花5分钟看一篇文档就能爬取单个网页上的数据。但对于大规模爬虫,完全就是另一回事,并不是1 n这么简单,还会衍生出许多别的问题。 系统的大规模爬虫流程如图所示。 先检查是否有API API是网站官方提供的数据接口,如果通过调用API采集数据,则相当于在网站允许的范围内
阅读全文
posted @ 2017-04-20 18:26 依然很拉风
阅读(2075)
评论(8)
推荐(1)
编辑