Python工具箱系列(二十一)
准备数据
为了方便准备试验用的数据,建议使用Faker这个库来模拟。Faker是一个Python软件包,可生成伪造数据。无论是需要引导数据库,创建美观的XML文档,填充持久性以进行压力测试,还是匿名化来自生产服务的数据,Faker都能完美实现。
pip install faker
以下代码生成姓名、性别这类最常用的试验数据。
from faker import Faker def fakedata(maxtimes): fake = Faker('zh_CN') data_total = [[fake.name(), fake.company(), fake.phone_number(), fake.company_email(), fake.address(), fake.date_time(tzinfo=None)] for x in range(maxtimes)] print(data_total) return data_total fakedata(10)
由于每次fake时,数据都在变化。为了方便使用,可以将生成的数据保存在文件中。文件类型可以是:
◇txt文件。虽然最简单最自由,但要程序可行分析,不建议
◇excel文件。在Windows环境下使用非常方便。但平台兼容性差
◇csv文件。兼容性强,跨平台,解析方便,推荐
◇json文件。兼容性强,跨平台,解析方便,推荐
◇其它格式可以考虑yaml格式等
下面代码演示了如何以csv格式保存生成的数据:
from faker import Faker import csv def fakedata(maxtimes): fake = Faker('zh_CN') data_total = [[fake.name(), fake.company(), fake.phone_number(), fake.company_email(), fake.address(), fake.date_time(tzinfo=None)] for x in range(maxtimes)] print(data_total) return data_total headerlist = ['name','company','phone','email','address','date'] with open('fake.csv','w',encoding='utf-8') as f: writer = csv.writer(f) # 写头部信息 writer.writerow(headerlist) # 写数据 data = fakedata(100) writer.writerows(data)
以上代码生成100条记录,并且保存在fake.csv文件备用。
创建数据库并且插入记录
sqlite是python3内置的标准库,直接引用即可,不需要任何安装,非常方便。
import sqlite3 import csv # 连接数据库,如果没有,则直接创建 conn = sqlite3.connect("demo.db") cur = conn.cursor() # 创建表 sqlstr = 'create table demo_table(name text,company text,phone text,email text,address text,date text)' cur.execute(sqlstr) # 不提交表格没有真正创建 conn.commit() # 从文件中读出数据,并且依次写入数据库 with open('fake.csv', 'r', encoding='utf-8') as f: reader = csv.reader(f) # 读头部信息 header = next(reader) print(header) # 开始遍历 for row in reader: if row: insertsql = f"insert into demo_table (name,company,phone,email,address) values ('{row[0]}','{row[1]}','{row[2]}','{row[3]}','{row[4]}')" # 插入数据库记录 cur.execute(insertsql) # 一次性提交 cur.close() conn.commit() conn.close()
以上就将保存在fake.csv中的内容全部插入到了数据库中。后续的CRUD操作都很类似。
sqlite还可以在内存中创建数据库,只要输入特殊参数值:memory:即可,该数据库只存在于内存中,不会生成本地数据库文件。只要使用如下所示的特殊的关键定即可。
conn = sqlite3.connect(':memory:')
内存数据库速度更快,可以在不产生文件的情况下,实现临时性的SQL运算,属于一次性消费。