会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
三百六十行,行行转IT
博客园
首页
新随笔
联系
订阅
管理
2017年9月1日
爬虫必备—性能相关(异步非阻塞)
摘要: 在编写爬虫时,性能的消耗主要在IO请求中,当单进程单线程模式下请求URL时必然会引起等待,从而使得请求整体变慢。 1. 同步执行 2. 多线程执行(多个线程并发执行,时间长短取决于最长的URL请求) 3. 多进程执行(在CPU核心数足够的情况下,多个进程并行执行,时间长短取决于最长的URL请求,理论
阅读全文
posted @ 2017-09-01 21:28 jack-boy
阅读(973)
评论(0)
推荐(0)
编辑
公告
Hello world!