会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
他人能者亦能,他人不能者吾亦能
博客园
首页
新随笔
联系
订阅
管理
2019年6月29日
如何提升爬虫的性能
摘要: 一:背景知识 爬虫的本质就是一个socket客户端与服务端通信的过程,如果我们有多个url待爬取,只用一个线程并且采用串行的方式执行,那么只能等待爬取结束后才能继续下一个,效率非常的低 需要强调的是:对于单线程下串行N个任务,并不完全等同于低效,如果这N个任务都是纯计算的任务,那么该线程对cpu的利
阅读全文
posted @ 2019-06-29 22:46 Andy_ouyang
阅读(411)
评论(0)
推荐(0)
编辑