pandas+sqlAlchemy操作数据库

I. sqlalchemy创建mysql连接

点击查看代码
from sqlalchemy import create_engine
import pandas as pd
engine = create_engine(*args, **kwargs)

标准调用方式是将URL作为第一个位置参数
形如``dialect[+driver]://user:password@host/dbname[?key=value..]``

dialect    数据库类型, 如'mysql', 'oracle'
driver     DBAPI的名字, 如'mysqlconnector', 'pymysql' 
           (安装第一个库: pip install mysql-connector-python)
user       用户名, 一般为root
password   密码
host       IP, 本地连接的话为'localhost'
dbname     要连接的数据库的名字

`

举例:

点击查看代码
from sqlalchemy import create_engine
import pandas as pd
# 创建数据库连接对象
win_user = 'root'  # 数据库用户名
win_password = '123456'  # 数据库密码
win_host = 'localhost'  # 数据库ip地址
win_port=3306  # 端口号
win_test = test  # 数据库
engine = create_engine(f'mysql+pymysql://{win_user}:{win_password}@{win_host}:{win_port}/{win_test}', echo=True)

# sql语句
sql = 'SELECT * FFROM test'
# 通过pandas读取数据
data = pd.read_sql(sql,engine)
# 数据进行处理

# 处理好的数据写入到数据库
data.to_sql('表名', engine)  # 表不存在直接创建

read_sql()

参数:

pandas.read_sql(sql, con, index_col=None, coerce_float=True, params=None, parse_dates=None, columns=None, chunksize=None)

sql: SQL命令字符串

con: 连接sql数据库的engine,一般可以用SQLalchemy或者pymysql之类的包建立

index_col: 选择某一列作为index

coerce_float: 将数字形式的字符串直接以float型读入

parse_dates: 将某一列日期型字符串转换为datetime型数据,与pd.to_datetime函数功能类似。可以直接提供需要转换的列名以默认的日期形式转换,也可以用字典的格式提供列名和转换的日期格式,比如{column_name: format string}(format string:"%Y:%m:%H:%M:%S")。

columns: 要选取的列。一般没啥用,因为在sql命令里面一般就指定要选择的列

chunksize: 如果提供了一个整数值,那么就会返回一个generator,每次输出的行数就是提供的值的大小。

to_sql()

参数:

data.to_sql(name, con, schema=None, if_exists="fail", index=True, index_label=None, chunksize=None, dtype=None, method=None)

name: 要写入表的名字

con: 创建数据库连接的对象。

schema: 用于创建数据库对象,基本上都是使用默认值。

if_exists:如果表存在怎么办?

fail:抛出ValueError异常、
replace:在插入数据之前删除表。注意不是仅删除数据,是删除原来的表,重新建表.
append:插入新数据。如果有主键,要避免主键冲突;看清表的格式,DataFrame的columns与表的columns是对应的;DF的index默认是作为一列数据的,也就是说默认会写入数据库的,

index: 将索引作为一列写入数据库,默认为True,也就是说默认DF的索引是要写入数据库的,index_label为列名

index_label: 将索引写入数据库时的列名,默认为index;如果DF是多级索引,则index_label应为一个序列

chunksize: 批处理,每次处理多少条数据。默认全部,一般没啥用,除非数据量太大,明显感觉卡的时候可以分批处理。

dtype: 一个字典,指定列的数据类型。键是列的名字,值是sqlalchemy types或者sqlite3的字符串形式。如果是新建表,则需要指定类型,不然会以存储量最大类型作为默认类型。比如varchar类型就会成为text类型,空间资源浪费很多。如果是添加数据,则一般不需要规定该参数。

method:哪种类型的插入语句?

None: 默认单行插入
multi: 多行插入
callable: 以回调函数插入
posted @ 2022-07-16 21:40  白云~  阅读(582)  评论(0编辑  收藏  举报