摘要:
看了一圈, 没看到稍微好用的ConnectionPool, 除了一个aiomysql, 但是这个是异步的, 我暂时没有用到这么高版本的Python, 所以就动手造一个轮子. 原理比较简单, 先造一个线程安全的集合, 无非就是Lock+Set, 然后修改PyMySQL的close方法, 把实例对象和我的这个集合关联起来, close的时候丢进集合里面 这里是代码: 复制代码 import t... 阅读全文
摘要:
编程模块:requests,lxml,pymongo,time,BeautifulSoup 首先获取所有产品的分类网址: 复制代码 1 def step(): 2 try: 3 headers = { 4 。。。。。 5 } 6 r = requests.get(url,headers,time... 阅读全文