Python操作MySQL
本篇对于Python操作MySQL主要使用两种方式：
- 原生模块 pymsql
- ORM框架 SQLAchemy
pymsql
pymsql是Python中操作MySQL的模块，其使用方法和MySQLdb几乎相同。
下载安装
pip3 install pymysql
使用操作
1、在python中执行SQL原生语句
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 import pymysql 4 5 # 创建连接 6 conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1') 7 # 创建游标 8 cursor = conn.cursor() 9 10 # 执行SQL，并返回收影响行数 11 effect_row = cursor.execute("update hosts set host = '1.1.1.2'") 12 13 # 执行SQL，并返回受影响行数 14 #effect_row = cursor.execute("update hosts set host = '1.1.1.2' where nid > %s", (1,)) 15 16 # 执行SQL，并返回受影响行数 17 #effect_row = cursor.executemany("insert into hosts(host,color_id)values(%s,%s)", [("1.1.1.11",1),("1.1.1.11",2)]) 18 19 20 # 提交，不然无法保存新建或者修改的数据 21 conn.commit() 22 23 # 关闭游标 24 cursor.close() 25 # 关闭连接 26 conn.close()
2、获取新创建数据自增ID
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 import pymysql 4 5 conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1') 6 cursor = conn.cursor() 7 cursor.executemany("insert into hosts(host,color_id)values(%s,%s)", [("1.1.1.11",1),("1.1.1.11",2)]) 8 conn.commit() 9 cursor.close() 10 conn.close() 11 12 # 获取最新自增ID 13 new_id = cursor.lastrowid
3、获取查询数据
1 import pymysql 2 3 conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1') 4 cursor = conn.cursor() 5 cursor.execute("select * from hosts") 6 7 # 获取第一行数据 8 row_1 = cursor.fetchone() 9 10 # 获取前n行数据 11 # row_2 = cursor.fetchmany(3) 12 # 获取所有数据 13 # row_3 = cursor.fetchall() 14 15 conn.commit() 16 cursor.close() 17 conn.close()
注：在fetch数据时按照顺序进行，可以使用cursor.scroll(num,mode)来移动游标位置，如：
- cursor.scroll(1,mode='relative') # 相对当前位置移动
- cursor.scroll(2,mode='absolute') # 相对绝对位置移动
4、fetch数据类型
关于默认获取的数据是元祖类型，如果想要或者字典类型的数据，即：
1 import pymysql 2 3 conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1') 4 5 # 游标设置为字典类型 6 cursor = conn.cursor(cursor=pymysql.cursors.DictCursor) 7 r = cursor.execute("call p1()") 8 9 result = cursor.fetchone() 10 #print显示的类型即为字典 11 12 conn.commit() 13 cursor.close() 14 conn.close()
SQLAchemy
SQLAlchemy是Python编程语言下的一款ORM框架，该框架建立在数据库API之上，使用关系对象映射进行数据库操作，简言之便是：将对象转换成SQL，然后使用数据API执行SQL并获取执行结果。
SQLAlchemy本身无法操作数据库，其必须以来pymsql等第三方插件，Dialect用于和数据API进行交流，根据配置文件的不同调用不同的数据库API，从而实现对数据库的操作，如：
1 MySQL-Python 2 mysql+mysqldb://<user>:<password>@<host>[:<port>]/<dbname> 3 4 pymysql 5 mysql+pymysql://<username>:<password>@<host>/<dbname>[?<options>] 6 7 MySQL-Connector 8 mysql+mysqlconnector://<user>:<password>@<host>[:<port>]/<dbname> 9 10 cx_Oracle 11 oracle+cx_oracle://user:pass@host:port/dbname[?key=value&key=value...] 12 13 更多详见：http://docs.sqlalchemy.org/en/latest/dialects/index.html
一、内部处理
使用 Engine/ConnectionPooling/Dialect 进行数据库操作，Engine使用ConnectionPooling连接数据库，然后再通过Dialect执行SQL语句。
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 from sqlalchemy import create_engine 4 5 6 engine = create_engine("mysql+pymysql://root:123@127.0.0.1:3306/t1", max_overflow=5) 7 8 # 执行SQL 9 # cur = engine.execute( 10 # "INSERT INTO hosts (host, color_id) VALUES ('1.1.1.22', 3)" 11 # ) 12 13 # 新插入行自增ID 14 # cur.lastrowid 15 16 # 执行SQL 17 # cur = engine.execute( 18 # "INSERT INTO hosts (host, color_id) VALUES(%s, %s)",[('1.1.1.22', 3),('1.1.1.221', 3),] 19 # ) 20 21 22 # 执行SQL 23 # cur = engine.execute( 24 # "INSERT INTO hosts (host, color_id) VALUES (%(host)s, %(color_id)s)", 25 # host='1.1.1.99', color_id=3 26 # ) 27 28 # 执行SQL 29 # cur = engine.execute('select * from hosts') 30 # 获取第一行数据 31 # cur.fetchone() 32 # 获取第n行数据 33 # cur.fetchmany(3) 34 # 获取所有数据 35 # cur.fetchall()
二、ORM功能使用
使用 ORM/Schema Type/SQL Expression Language/Engine/ConnectionPooling/Dialect 所有组件对数据进行操作。根据类创建对象，对象转换成SQL，执行SQL。
1、创建表
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 from sqlalchemy.ext.declarative import declarative_base 4 from sqlalchemy import Column, Integer, String, ForeignKey, UniqueConstraint, Index 5 from sqlalchemy.orm import sessionmaker, relationship 6 from sqlalchemy import create_engine 7 8 engine = create_engine("mysql+pymysql://root:123@127.0.0.1:3306/t1", max_overflow=5) 9 10 Base = declarative_base() 11 12 # 创建单表（必须要事先声明Base 并使该类继承Base） 13 class Users(Base): 14 __tablename__ = 'users' 设置表名 15 id = Column(Integer, primary_key=True) 16 name = Column(String(32)) 17 extra = Column(String(16)) 18 #以上相当于在SQL中建立表格并设置表头
19 __table_args__ = ( 20 UniqueConstraint('id', 'name', name='uix_id_name'), 21 Index('ix_id_name', 'name', 'extra'), 22 ) 23 #以上建立联合唯一索引和其他索引 24 25 # 一对多 26 class Favor(Base): 27 __tablename__ = 'favor' 28 nid = Column(Integer, primary_key=True) 29 caption = Column(String(50), default='red', unique=True) 30 31 32 class Person(Base): 33 __tablename__ = 'person' 34 nid = Column(Integer, primary_key=True) 35 name = Column(String(32), index=True, nullable=True) 36 favor_id = Column(Integer, ForeignKey("favor.nid")) #建立外键 37 38 39 # 多对多 40 class Group(Base): 41 __tablename__ = 'group' 42 id = Column(Integer, primary_key=True) 43 name = Column(String(64), unique=True, nullable=False) 44 port = Column(Integer, default=22) 45 46 47 class Server(Base): 48 __tablename__ = 'server' 49 50 id = Column(Integer, primary_key=True, autoincrement=True) 51 hostname = Column(String(64), unique=True, nullable=False) 52 53 54 class ServerToGroup(Base): 55 __tablename__ = 'servertogroup' 56 nid = Column(Integer, primary_key=True, autoincrement=True) 57 server_id = Column(Integer, ForeignKey('server.id')) 58 group_id = Column(Integer, ForeignKey('group.id')) 59 60 61 def init_db(): 62 Base.metadata.create_all(engine) #运行本脚中engine的所有语句 63 #class映射为数据表，对象obj映射为数据表中的数据行
64 65 def drop_db(): 66 Base.metadata.drop_all(engine)
注：设置外检的另一种方式 ForeignKeyConstraint(['other_id'], ['othertable.other_id'])
2、操作表
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 from sqlalchemy.ext.declarative import declarative_base 4 from sqlalchemy import Column, Integer, String, ForeignKey, UniqueConstraint, Index 5 from sqlalchemy.orm import sessionmaker, relationship 6 from sqlalchemy import create_engine 7 8 engine = create_engine("mysql+pymysql://root:123@127.0.0.1:3306/t1", max_overflow=5) 9 10 Base = declarative_base() 11 12 # 创建单表 13 class Users(Base): 14 __tablename__ = 'users' 15 id = Column(Integer, primary_key=True) 16 name = Column(String(32)) 17 extra = Column(String(16)) 18 19 __table_args__ = ( 20 UniqueConstraint('id', 'name', name='uix_id_name'), 21 Index('ix_id_name', 'name', 'extra'), 22 ) 23 24 def __repr__(self): 25 return "%s-%s" %(self.id, self.name) 26 27 # 一对多 28 class Favor(Base): 29 __tablename__ = 'favor' 30 nid = Column(Integer, primary_key=True) 31 caption = Column(String(50), default='red', unique=True) 32 33 def __repr__(self): 34 return "%s-%s" %(self.nid, self.caption) 35 36 class Person(Base): 37 __tablename__ = 'person' 38 nid = Column(Integer, primary_key=True) 39 name = Column(String(32), index=True, nullable=True) 40 favor_id = Column(Integer, ForeignKey("favor.nid")) 41 # 与生成表结构无关，仅用于查询方便 42 favor = relationship("Favor", backref='pers') 43 44 # 多对多 45 class ServerToGroup(Base): 46 __tablename__ = 'servertogroup' 47 nid = Column(Integer, primary_key=True, autoincrement=True) 48 server_id = Column(Integer, ForeignKey('server.id')) 49 group_id = Column(Integer, ForeignKey('group.id')) 50 group = relationship("Group", backref='s2g') 51 server = relationship("Server", backref='s2g') 52 #backref 用于反查 53 54 class Group(Base): 55 __tablename__ = 'group' 56 id = Column(Integer, primary_key=True) 57 name = Column(String(64), unique=True, nullable=False) 58 port = Column(Integer, default=22) 59 # group = relationship('Group',secondary=ServerToGroup,backref='host_list') 60 61 62 class Server(Base): 63 __tablename__ = 'server' 64 65 id = Column(Integer, primary_key=True, autoincrement=True) 66 hostname = Column(String(64), unique=True, nullable=False) 67 68 69 70 71 def init_db(): 72 Base.metadata.create_all(engine) 73 74 75 def drop_db(): 76 Base.metadata.drop_all(engine) 77 78 79 Session = sessionmaker(bind=engine) 80 session = Session() 81 82 表结构 + 数据库连接
增
1 #增加一行数据 2 obj = Users(name="alex0", extra='sb') 3 session.add(obj) 4 #增加多行数据 5 session.add_all([ 6 Users(name="alex1", extra='sb'), 7 Users(name="alex2", extra='sb'), 8 ]) 9 session.commit()
删
1 #查找到位置后选择delete 2 session.query(Users).filter(Users.id > 2).delete() 3 session.commit()
改
1 #覆盖更新 2 session.query(Users).filter(Users.id > 2).update({"name" : "099"}) 3 #原内容基础上更新（注意synchronize_session的参数） 4 session.query(Users).filter(Users.id > 2).update({Users.name: Users.name + "099"}, synchronize_session=False) 5 #原内容基础上带有函数的更新（注意synchronize_session的参数） 6 session.query(Users).filter(Users.id > 2).update({"num": Users.num + 1}, synchronize_session="evaluate") 7 session.commit()
#凡是涉及到修改数据库操作的都要进行commit提交
查
1 #查询数据表中的所有内容 2 ret = session.query(Users).all() 3 #查询数据表中指定列的所有内容 4 ret = session.query(Users.name, Users.extra).all() 5 #查询数据表中筛选后的所有内容 6 ret = session.query(Users).filter_by(name='alex').all() 7 #查询数据表中筛选后显示的第一条内容 8 ret = session.query(Users).filter_by(name='alex').first() 9 10 ret = session.query(Users).filter(text("id<:value and name=:name")).params(value=224, name='fred').order_by(User.id).all() 11 12 ret = session.query(Users).from_statement(text("SELECT * FROM users where name=:name")).params(name='ed').all()
其他
1 # 条件 2 #筛选指定列的所有数据（注意括号里写的是参数式） 3 ret = session.query(Users).filter_by(name='alex').all() 4 #筛选指定条件的所有数据（注意括号内的为表达式） 5 ret = session.query(Users).filter(Users.id > 1, Users.name == 'eric').all() 6 #筛选指定范围（between）的所有数据 7 ret = session.query(Users).filter(Users.id.between(1, 3), Users.name == 'eric').all() 8 #筛选的所有包含某种范围（in)的所有数据 9 ret = session.query(Users).filter(Users.id.in_([1,3,4])).all() 10 #筛选不包含某种范围的所有数据（~代表“非”） 11 ret = session.query(Users).filter(~Users.id.in_([1,3,4])).all() 12 #筛选符合子查询操作语句的所有数据（里面嵌套子查询，类似于 （select * from XXX）as B； ） 13 ret = session.query(Users).filter(Users.id.in_(session.query(Users.id).filter_by(name='eric'))).all() 14 15 #导入“并”与“或” （注意and 和or 的下划线） 16 from sqlalchemy import and_, or_ 17 #筛选满足’并‘条件语句的所有数据 18 ret = session.query(Users).filter(and_(Users.id > 3, Users.name == 'eric')).all() 19 #筛选满足’或‘条件语句的所有数据 20 ret = session.query(Users).filter(or_(Users.id < 2, Users.name == 'eric')).all() 21 #“并”和“或”语句交叉使用（“或”语句里包含着“并”语句） 22 ret = session.query(Users).filter( 23 or_( 24 Users.id < 2, 25 and_(Users.name == 'eric', Users.id > 3), 26 Users.extra != "" 27 )).all() 28 29 30 # 通配符 31 #与SQL语句中一样的like 语句（where xxx like "e%") 32 ret = session.query(Users).filter(Users.name.like('e%')).all() 33 # “~”为非 34 ret = session.query(Users).filter(~Users.name.like('e%')).all() 35 36 # 限制 37 #切片操作，在SQL语句中相当于limit 38 ret = session.query(Users)[1:2] 39 40 # 排序 41 #按照一定要求进行排序（降序）并筛选所有数据 42 ret = session.query(Users).order_by(Users.name.desc()).all() 43 #重复内容的排序方法 44 ret = session.query(Users).order_by(Users.name.desc(), Users.id.asc()).all() 45 46 # 分组 47 #导入函数功能 48 from sqlalchemy.sql import func 49 #按某一列进行分组 50 ret = session.query(Users).group_by(Users.extra).all() 51 ret = session.query( 52 func.max(Users.id), 53 func.sum(Users.id), 54 func.min(Users.id)).group_by(Users.name).all() 55 56 ret = session.query( 57 func.max(Users.id), 58 func.sum(Users.id), 59 #分组后进行筛选用having语句 func.min(Users.id)).group_by(Users.name).having(func.min(Users.id) >2).all() 60 61 # 连表 62 #指定特定列匹配进行连表 63 ret = session.query(Users, Favor).filter(Users.id == Favor.nid).all() 64 #用默认的外键进行连表 65 ret = session.query(Person).join(Favor).all() 66 #用默认的外键进行连表，并以outer的形式连表（显示所有数据）（注意：若选择inner，则只显示共有的数据） 67 ret = session.query(Person).join(Favor, isouter=True).all() 68 69 70 # 组合 71 #两张表竖着合并（去除重复数据） 72 q1 = session.query(Users.name).filter(Users.id > 2) 73 q2 = session.query(Favor.caption).filter(Favor.nid < 2) 74 ret = q1.union(q2).all() 75 #两张表竖着合并（不去除重复数据） 76 q1 = session.query(Users.name).filter(Users.id > 2) 77 q2 = session.query(Favor.caption).filter(Favor.nid < 2) 78 ret = q1.union_all(q2).all()
