python数据库连接池
一 DBUtils的认识
首先管理数据库连接池的包是 DBUtils,为高频度并发的数据库访问提供更好的性能,可以自动管理连接对象的创建和释放,最常用的两个外部接口是PersistentDB 和 PooledDB,前者提供了单个线程专用的数据库连接池,后者则是进程内所有线程共享的数据库连接池。
二 DBUtils 简介
DBUtils是一套Python数据库连接池包,并允许对非线程安全的数据库接口进行线程安全包装。DBUtils来自Webware for Python。
DBUtils提供两种外部接口:
- PersistentDB :提供线程专用的数据库连接,并自动管理连接。
- PooledDB :提供线程间可共享的数据库连接,并自动管理连接。
三 创建数据库连接池
1 import time 2 import pymysql 3 import threading 4 from DBUtils.PooledDB import PooledDB, SharedDBConnection 5 POOL = PooledDB( 6 creator=pymysql, # 使用链接数据库的模块 7 maxconnections=6, # 连接池允许的最大连接数,0和None表示不限制连接数 8 mincached=2, # 初始化时,链接池中至少创建的空闲的链接,0表示不创建 9 maxcached=5, # 链接池中最多闲置的链接,0和None不限制 10 maxshared=3, # 链接池中最多共享的链接数量,0和None表示全部共享。PS: 无用,因为pymysql和MySQLdb等模块的 threadsafety都为1,所有值无论设置为多少,_maxcached永远为0,所以永远是所有链接都共享。 11 blocking=True, # 连接池中如果没有可用连接后,是否阻塞等待。True,等待;False,不等待然后报错 12 maxusage=None, # 一个链接最多被重复使用的次数,None表示无限制 13 setsession=[], # 开始会话前执行的命令列表。如:["set datestyle to ...", "set time zone ..."] 14 ping=0, 15 # ping MySQL服务端,检查是否服务可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always 16 host='127.0.0.1', 17 port=3306, 18 user='root', 19 password='123', 20 database='pooldb', 21 charset='utf8' 22 )
四 使用数据库连接池
1 def func(): 2 # 检测当前正在运行连接数的是否小于最大链接数,如果不小于则:等待或报raise TooManyConnections异常 3 # 否则 4 # 则优先去初始化时创建的链接中获取链接 SteadyDBConnection。 5 # 然后将SteadyDBConnection对象封装到PooledDedicatedDBConnection中并返回。 6 # 如果最开始创建的链接没有链接,则去创建一个SteadyDBConnection对象,再封装到PooledDedicatedDBConnection中并返回。 7 # 一旦关闭链接后,连接就返回到连接池让后续线程继续使用。 8 conn = POOL.connection() 9 10 cursor = conn.cursor() 11 cursor.execute('select * from tb1') 12 result = cursor.fetchall() 13 conn.close()
五 自制sqlhelper
1 class MySQLhelper(object): 2 def __init__(self, host, port, dbuser, password, database): 3 self.pool = PooledDB( 4 creator=pymysql, # 使用链接数据库的模块 5 maxconnections=6, # 连接池允许的最大连接数,0和None表示不限制连接数 6 mincached=2, # 初始化时,链接池中至少创建的空闲的链接,0表示不创建 7 maxcached=5, # 链接池中最多闲置的链接,0和None不限制 8 maxshared=3, 9 # 链接池中最多共享的链接数量,0和None表示全部共享。PS: 无用,因为pymysql和MySQLdb等模块的 threadsafety都为1,所有值无论设置为多少,_maxcached永远为0,所以永远是所有链接都共享。 10 blocking=True, # 连接池中如果没有可用连接后,是否阻塞等待。True,等待;False,不等待然后报错 11 maxusage=None, # 一个链接最多被重复使用的次数,None表示无限制 12 setsession=[], # 开始会话前执行的命令列表。如:["set datestyle to ...", "set time zone ..."] 13 ping=0, 14 # ping MySQL服务端,检查是否服务可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always 15 host=host, 16 port=int(port), 17 user=dbuser, 18 password=password, 19 database=database, 20 charset='utf8' 21 ) 22 23 def create_conn_cursor(self): 24 conn = self.pool.connection() 25 cursor = conn.cursor(pymysql.cursors.DictCursor) 26 return conn,cursor 27 28 def fetch_all(self, sql, args): 29 conn,cursor = self.create_conn_cursor() 30 cursor.execute(sql,args) 31 result = cursor.fetchall() 32 cursor.close() 33 conn.close() 34 return result 35 36 37 def insert_one(self,sql,args): 38 conn,cursor = self.create_conn_cursor() 39 res = cursor.execute(sql,args) 40 conn.commit() 41 print(res) 42 conn.close() 43 return res 44 45 def update(self,sql,args): 46 conn,cursor = self.create_conn_cursor() 47 res = cursor.execute(sql,args) 48 conn.commit() 49 print(res) 50 conn.close() 51 return res 52 53 54 sqlhelper = MySQLhelper("127.0.0.1", 3306, "root", "1233121234567", "dragon") 55 56 # sqlhelper.fetch_all("select * from user where id=%s",(1)) 57 58 # sqlhelper.insert_one("insert into user VALUES (%s,%s)",("jinwangba",4)) 59 60 # sqlhelper.update("update user SET name=%s WHERE id=%s",("yinwangba",1))