摘要: 性能相关 在编写爬虫时,性能的消耗主要在IO请求中,当单进程单线程模式下请求URL时必然会引起等待,从而使得请求整体变慢。 import requests def fetch_async(url): response = requests.get(url) return response url_l 阅读全文
posted @ 2019-07-22 12:00 帅某人是也 阅读(201) 评论(0) 推荐(0) 编辑
摘要: 正文:Executor是一个抽象类,子类: ThreadPoolExecutor和ProcessPoolExecutor ,一个线程池,一个进程池. future对象:在未来的某一时刻完成操作的对象.submit方法可以返回一个future对象,此对象直接返回,等线程函数执行完后把return的数据 阅读全文
posted @ 2019-07-22 11:43 帅某人是也 阅读(10350) 评论(0) 推荐(0) 编辑