2018年2月22日
摘要: 1. 多进程爬虫 对于数据量较大的爬虫,对数据的处理要求较高时,可以采用python多进程或多线程的机制完成,多进程是指分配多个CPU处理程序,同一时刻只有一个CPU在工作,多线程是指进程内部有多个类似"子进程"同时在协同工作。python中有多种多个模块可完成多进程和多线程的工作,此处此用mult 阅读全文
posted @ 2018-02-22 14:37 HappyLab 阅读(733) 评论(0) 推荐(0) 编辑