一、Python操作数据库学习笔记
1 Python标准数据库接口DB-API介绍
Python标准数据库接口为 Python DB-API,它为开发人员提供了数据库应用编程接口。Python DB-API支持很多种的数据库,你可以选择跟自己项目相关的数据库。Python DB-API支持的数据库如下所示:
- GadFly
- mSQL
- MySQL
- PostgreSQL
- Microsoft SQL Server 2000
- Informix
- Interbase
- Oracle
- Sybase
不同的数据库你需要下载不同的DB API模块,例如你需要访问Oracle数据库和Mysql数据,你需要下载Oracle和MySQL数据库模块。 Python的DB-API,为大多数的数据库实现了接口,使用它连接各数据库后,就可以用相同的方式操作各数据库。
Python DB-API使用流程:
1) 引入 API 模块。
2) 获取与数据库的连接。
3) 执行SQL语句和存储过程。
4) 关闭数据库连接。
Python的数据库学习,主要在于学习DB-API的学习流程,记住这四步,你就已经成功了一大半了。
2 MySQL的安装
因为博主目前只关注MySQL的使用,所以本文中只限于介绍如何利用Python来操作MySQL数据库。下面简单介绍一下如何为自己的Python IDE安装MySQL:
确认是否已经安装有MySQL, 执行以下代码:
# encoding: utf-8 #!/usr/bin/python import MySQLdb
如果执行后报错就说明没有安装MySQL,否则则证明你已经无需安装MySQL。
3 数据库连接
连接数据库前,请先确认以下事项:连接数据库TESTDB使用的用户名为 "testuser" ,密码为 "test123",你可以可以自己设定或者直接使用root用户名及其密码。
以下实例链接Mysql的TESTDB数据库,对应了DB-API的四个步骤:# encoding: utf-8
一、Python操作数据库学习笔记 1 Python标准数据库接口DB-API介绍 Python标准数据库接口为 Python DB-API,它为开发人员提供了数据库应用编程接口。Python DB-API支持很多种的数据库,你可以选择跟自己项目相关的数据库。Python DB-API支持的数据库如下所示: GadFly mSQL MySQL PostgreSQL Microsoft SQL Server 2000 Informix Interbase Oracle Sybase 不同的数据库你需要下载不同的DB API模块,例如你需要访问Oracle数据库和Mysql数据,你需要下载Oracle和MySQL数据库模块。 Python的DB-API,为大多数的数据库实现了接口,使用它连接各数据库后,就可以用相同的方式操作各数据库。 Python DB-API使用流程: 1) 引入 API 模块。 2) 获取与数据库的连接。 3) 执行SQL语句和存储过程。 4) 关闭数据库连接。 Python的数据库学习,主要在于学习DB-API的学习流程,记住这四步,你就已经成功了一大半了。 2 MySQL的安装 因为博主目前只关注MySQL的使用,所以本文中只限于介绍如何利用Python来操作MySQL数据库。下面简单介绍一下如何为自己的Python IDE安装MySQL: 确认是否已经安装有MySQL, 执行以下代码: # encoding: utf-8 #!/usr/bin/python import MySQLdb 如果执行后报错就说明没有安装MySQL,否则则证明你已经无需安装MySQL。 3 数据库连接 连接数据库前,请先确认以下事项:连接数据库TESTDB使用的用户名为 "testuser" ,密码为 "test123",你可以可以自己设定或者直接使用root用户名及其密码。 以下实例链接Mysql的TESTDB数据库,对应了DB-API的四个步骤:# encoding: utf-8 复制代码 #!/usr/bin/python # 1 引入API模块 import MySQLdb # 2 获取与数据库的连接 # 打开数据库连接 db = MySQLdb.connect("localhost","testuser","test123","TESTDB" ) # 3 执行SQL语句和存储过程 # 使用cursor()方法获取操作游标 cursor = db.cursor() # 使用execute方法执行SQL语句 cursor.execute("SELECT VERSION()") # 使用 fetchone() 方法获取一条数据库。 data = cursor.fetchone() print "Database version : %s " % data # 4 关闭数据库连接 # 关闭数据库连接 db.close() 复制代码 执行结果显示: Database version : 5.0.45 4 创建数据库表 我们尝试建立一个自定义的数据库表: 数据库表名称:EMPLOYEEEMPLOYEE 数据表字段为:FIRST_NAME,LAST_NAME,AGE,SEX 和 INCOME
执行结果显示:
Database version : 5.0.45
4 创建数据库表
我们尝试建立一个自定义的数据库表:
数据库表名称:EMPLOYEEEMPLOYEE
数据表字段为:FIRST_NAME,LAST_NAME,AGE,SEX 和 INCOME
# encoding: utf-8 #!/usr/bin/python import MySQLdb # 打开数据库连接 db = MySQLdb.connect("localhost","testuser","test123","TESTDB" ) # 使用cursor()方法获取操作游标 cursor = db.cursor() # 如果数据表已经存在使用 execute() 方法删除表。 cursor.execute("DROP TABLE IF EXISTS EMPLOYEE") # 创建数据表SQL语句 sql = """CREATE TABLE EMPLOYEE ( FIRST_NAME CHAR(20) NOT NULL, LAST_NAME CHAR(20), AGE INT, SEX CHAR(1), INCOME FLOAT )""" cursor.execute(sql) # 关闭数据库连接 db.close()
5 插入数据操作
使用SQL INSERT 语句向数据库表 EMPLOYEE 插入记录:
# encoding: utf-8 #!/usr/bin/python import MySQLdb # 打开数据库连接 db = MySQLdb.connect("localhost","testuser","test123","TESTDB" ) # 使用cursor()方法获取操作游标 cursor = db.cursor() # SQL 插入语句 sql = """INSERT INTO EMPLOYEE(FIRST_NAME, LAST_NAME, AGE, SEX, INCOME) VALUES ('Mac', 'Mohan', 20, 'M', 2000)""" try: # 执行sql语句 cursor.execute(sql) # 提交到数据库执行 db.commit() except: # Rollback in case there is any error db.rollback() # 关闭数据库连接 db.close()
# encoding: utf-8 #!/usr/bin/python import MySQLdb # 打开数据库连接 db = MySQLdb.connect("localhost","testuser","test123","TESTDB" ) # 使用cursor()方法获取操作游标 cursor = db.cursor() # SQL 插入语句 sql = """INSERT INTO EMPLOYEE(FIRST_NAME, LAST_NAME, AGE, SEX, INCOME) VALUES ('Mac', 'Mohan', 20, 'M', 2000)""" try: # 执行sql语句 cursor.execute(sql) # 提交到数据库执行 db.commit() except: # Rollback in case there is any error db.rollback() # 关闭数据库连接 db.close()
在这里提几个重要的点:
1) 请 注意一定要有conn.commit()这句来提交事务,要不然不能真正的插入数据。
2)dollback()是回滚操作,回滚(Rollback)指的是程序或数据处理错误,将程序或数据恢复到上一次正确状态的行为。回滚包括程序回滚和数据回滚等类型。
6 数据库查询操作
Python查询Mysql使用 fetchone() 方法获取单条数据, 使用fetchall() 方法获取多条数据。
- fetchone(): 该方法获取下一个查询结果集。结果集是一个对象
- fetchall(): 接收全部的返回结果行.
- rowcount: 这是一个只读属性,并返回执行execute()方法后影响的行数。
查询EMPLOYEE表中salary(工资)字段大于1000的所有数据:
# encoding: utf-8 #!/usr/bin/python import MySQLdb # 打开数据库连接 db = MySQLdb.connect("localhost","testuser","test123","TESTDB" ) # 使用cursor()方法获取操作游标 cursor = db.cursor() # SQL 查询语句 sql = "SELECT * FROM EMPLOYEE \ WHERE INCOME > '%d'" % (1000) try: # 执行SQL语句 cursor.execute(sql) # 获取所有记录列表 results = cursor.fetchall() for row in results: fname = row[0] lname = row[1] age = row[2] sex = row[3] income = row[4] # 打印结果 print "fname=%s,lname=%s,age=%d,sex=%s,income=%d" % \ (fname, lname, age, sex, income ) except: print "Error: unable to fecth data" # 关闭数据库连接 db.close()
7 数据库更新操作
更新操作用于更新数据表的的数据,以下实例将 TESTDB表中的 SEX 字段全部修改为 'M',AGE 字段递增1:
# encoding: utf-8 #!/usr/bin/python import MySQLdb # 打开数据库连接 db = MySQLdb.connect("localhost","testuser","test123","TESTDB" ) # 使用cursor()方法获取操作游标 cursor = db.cursor() # SQL 更新语句 sql = "UPDATE EMPLOYEE SET AGE = AGE + 1 WHERE SEX = '%c'" % ('M') try: # 执行SQL语句 cursor.execute(sql) # 提交到数据库执行 db.commit() except: # 发生错误时回滚 db.rollback() # 关闭数据库连接 db.close()
8 常用函数
下面总结一下常用的函数:
1) Connect() 方法用于创建数据库的连接,里面可以指定参数:用户名,密码,主机等信息。这只是连接到了数据库,要想操作数据库需要创建游标。
2)commit() 提交
3)rollback() 回滚
4)cursor用来执行命令的方法:
callproc(self, procname, args):用来执行存储过程,接收的参数为存储过程名和参数列表,返回值为受影响的行数
execute(self, query, args):执行单条sql语句,接收的参数为sql语句本身和使用的参数列表,返回值为受影响的行数
executemany(self, query, args):执行单挑sql语句,但是重复执行参数列表里的参数,返回值为受影响的行数
nextset(self):移动到下一个结果集
5)cursor用来接收返回值的方法:
fetchall(self):接收全部的返回结果行.
fetchmany(self, size=None):接收size条返回结果行.如果size的值大于返回的结果行的数量,则会返回cursor.arraysize条数据.
fetchone(self):返回一条结果行.
6)scroll(self, value, mode='relative'):移动指针到某一行.如果mode='relative',则表示从当前所在行移动value条,如果 mode='absolute',则表示从结果集的第一行移动value条.
二、建立数据库
1、实操:
a、把文件写入数据库
代码如下
# -*- coding: utf-8 -*- """ Created on Sat Jun 1 11:06:50 2019 @author: Administrator """ import sqlite3 import openpyxl #import pandas as pd lists=sqlite3.connect('D:/我的文件/Python作业/MyDatabase.db') c=lists.cursor() #c.execute('''CREATE TABLE rankg("序号","排名","学校名称","省市","总分","生源质量","培养结果","科研规模","科研质量","顶尖成果","顶尖人才","科技服务","产学研合作","成果转化")''') #import pandas as pd #def csv_to_xlsx_pd(): #csv = pd.read_csv('D:/我的文件/Python作业/CrawUniv.csv', encoding='gbk') #csv.to_excel('D:/我的文件/Python作业/CrawUniv.xlsx', sheet_name='data') listinsheet=openpyxl.load_workbook(r'D:/我的文件/Python作业/CrawUniv.xlsx') datainlist=listinsheet.active #获取excel文件当前表格 data_truck=('''INSERT INTO rankg("序号","排名","学校名称","省市","总分","生源质量","培养结果","科研规模","科研质量","顶尖成果","顶尖人才","科技服务","产学研合作","成果转化") VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?)''') for row in datainlist.iter_rows(min_row=2,max_col=14,max_row=datainlist.max_row): #使excel各行数据成为迭代器 cargo=[cell.value for cell in row] #敲黑板!!使每行中单元格成为迭代器 c.execute(data_truck,cargo) #敲黑板!写入一行数据到数据库中表rankf for row in c.execute('SELECT * FROM rankg ORDER BY "序号"'): print(row) lists.commit() lists.close()
显示结果如下:
b、查询我们学校的排名和得分
代码如下:
# -*- coding: utf-8 -*- """ Created on Mon Jun 3 00:49:23 2019 @author: Administrator """ import sqlite3 import openpyxl lists=sqlite3.connect('D:/我的文件/Python作业/MyDatabase.db') c=lists.cursor() #c.execute('''CREATE TABLE rankh("序号","排名","学校名称","省市","总分","生源质量","培养结果","科研规模","科研质量","顶尖成果","顶尖人才","科技服务","产学研合作","成果转化")''') listinsheet=openpyxl.load_workbook(r'D:/我的文件/Python作业/CrawUniv.xlsx') datainlist=listinsheet.active #获取excel文件当前表格 data_truck=('''INSERT INTO rankh("序号","排名","学校名称","省市","总分","生源质量","培养结果","科研规模","科研质量","顶尖成果","顶尖人才","科技服务","产学研合作","成果转化") VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?)''') for row in datainlist.iter_rows(min_row=0,max_col=14,max_row=datainlist.max_row): #使excel各行数据成为迭代器 cargo=[cell.value for cell in row] #敲黑板!!使每行中单元格成为迭代器 c.execute(data_truck,cargo) #敲黑板!写入一行数据到数据库中表rankh c.execute('SELECT * FROM rankh WHERE "学校名称"="广东技术师范学院"')#榜上为广东技术师范学院 r = c.fetchall() print(r) lists.commit() lists.close()
结果显示如下:
c、广东学校排名和评分(以“顶尖成果(高被引论文-篇)”为依据)
代码如下:
# -*- coding: utf-8 -*- """ Created on Mon Jun 3 01:06:36 2019 @author: Administrator """ import sqlite3 import openpyxl lists=sqlite3.connect('D:/我的文件/Python作业/MyDatabase.db') c=lists.cursor() #c.execute('''CREATE TABLE rank9("序号","排名","学校名称","省市","总分","生源质量","培养结果","科研规模","科研质量","顶尖成果","顶尖人才","科技服务","产学研合作","成果转化")''') listinsheet=openpyxl.load_workbook(r'D:/我的文件/Python作业/CrawUniv.xlsx') datainlist=listinsheet.active #获取excel文件当前表格 data_truck=('''INSERT INTO rank9("序号","排名","学校名称","省市","总分","生源质量","培养结果","科研规模","科研质量","顶尖成果","顶尖人才","科技服务","产学研合作","成果转化") VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?)''') for row in datainlist.iter_rows(min_row=2,max_col=14,max_row=datainlist.max_row): #使excel各行数据成为迭代器 cargo=[cell.value for cell in row] #敲黑板!!使每行中单元格成为迭代器 c.execute(data_truck,cargo) #敲黑板!写入一行数据到数据库中表rank9 c.execute('SELECT * FROM rank9 WHERE "省市"="广东省" ORDER BY "顶尖成果"') r = c.fetchall() print(r) lists.commit() lists.close()