摘要: 一 背景知识 爬虫的本质就是一个socket客户端与服务端的通信过程,如果我们有多个url待爬取,只用一个线程且采用串行的方式执行,那只能等待爬取一个结束后才能继续下一个,效率会非常低。 需要强调的是:对于单线程下串行N个任务,并不完全等同于低效,如果这N个任务都是纯计算的任务,那么该线程对cpu的 阅读全文
posted @ 2018-01-22 21:12 Dear坏小子 阅读(112) 评论(0) 推荐(0) 编辑
该文被密码保护。 阅读全文
posted @ 2018-01-22 16:41 Dear坏小子 阅读(1) 评论(0) 推荐(0) 编辑