文件操作与处理
应用程序运行过程中产生的数据最先都是存放于内存中的,若想永久保存下来,必须要保存于硬盘中。
应用程序若想操作硬件必须通过操作系统,而文件就是操作系统提供给应用程序来操作硬盘的虚拟概念;用户或应用程序对文件的操作,就是向操作系统发起调用,然后由操作系统完成对硬盘的具体操作。
1.文件操作的基本流程
1.1 基本流程
有了文件的概念,我们无需再去考虑操作硬盘的细节,只需要关注操作文件的流程:
# 1、 打开文件,由应用程序向操作系统发起系统调用open(...),操作系统打开该文件,对应一块硬盘空间,并返回一个文件对象赋值给一个变量f
f = open('a.txt', 'r', encoding='utf-8') # 默认打开模式就为r
# 2、 调用文件对象下的读/写方法,会被操作系统转换为读/写硬盘的操作
data = f.read()
# 3、 向操作系统发起关闭文件的请求,回收系统资源
f.close()
1.2 资源回收与with上下文管理
打开一个文件包含两部分资源:应用程序的变量f和操作系统打开的文件。在操作完毕一个文件时,必须把与该文件的这两部分资源全部回收,回收方法为:
1、f.close() # 回收操作系统打开的文件资源
2、del f # 回收应用程序级的变量
其中del f一定要发生在f.close()之后,否则就会导致操作系统打开的文件无法关闭,白白占用资源;
而Python自动的垃圾回收机制决定了我们无需考虑del f,这就要求我们,在操作完毕文件后,一定要记住f.close(),虽然如此强调,但是大多数读者还是会不由自主地忘记f.close(),考虑到这一点,Python提供了with关键字来帮我们管理上下文:
# 1、在执行完子代码块后,with 会自动执行f.close()
with open('a.txt', 'w') as f:
pass
# 2、可以用with同时打开多个文件,用逗号分隔开即可
with open('a.txt', 'r') as read_f, open('b.txt', 'w') as write_f:
data = read_f.read()
write_f.write(data)
1.3 指定操作文本文件的字符编码
f = open(...) 是由操作系统打开文件,如果打开的是文本文件,会涉及到字符编码问题,如果没有为open()指定编码,那么打开文本文件的默认编码很明显是操作系统说了算,操作系统会用自己的默认编码去打开文件,在Windows下是GBK,在Linux下是utf-8。
这就要用到之前介绍的字符编码的知识:若要保证不乱码,文件以什么方式存的,就要以什么方式打开。
f = open('a.txt', 'r', encoding='utf-8')
2.文件的操作模式
2.1 控制文件读写操作的模式
- r(默认的):只读模式
- w:重写模式
- a:只追加写模式
2.1.1 案例一:r 模式的使用
# r只读模式: 在文件不存在时则报错,文件存在时文件内指针直接跳到文件开头
with open('a.txt', 'r', encoding='utf-8') as f:
res = f.read() # 会将文件的内容由硬盘全部读入内存,赋值给res
# 实现用户认证功能
inp_name = input('请输入你的名字: ').strip()
inp_pwd = input('请输入你的密码: ').strip()
with open(r'db.txt', 'r', encoding='utf-8') as f:
for line in f:
# 把用户输入的名字与密码与读出内容做比对
u, p = line.strip('\n').split(':')
if inp_name == u and inp_pwd == p:
print('登录成功!')
break
else:
print('账号名或者密码错误')
2.1.2 案例二:w 模式的使用
w重写模式: 文件不存在时会自动创建空文档,文件存在会清空文件,文件指针跑到文件开头
with open('b.txt', 'w', encoding='utf-8') as f:
f.write('你好\n')
f.write('我好\n')
f.write('大家好\n')
f.write('111\n222\n333\n')
强调:
- 在文件不关闭的情况下,连续的写入,后写的内容一定跟在前写内容的后面
- 如果重新以w模式打开文件,则会清空文件内容
2.1.3 案例三:a 模式的使用
a只追加写模式: 在文件不存在时会自动创建空文档,文件存在会将文件指针直接移动到文件末尾
with open('c.txt', 'a', encoding='utf-8') as f:
f.write('44444\n')
f.write('55555\n')
w 模式与 a 模式的异同:
- 相同点:在打开的文件不关闭的情况下,连续的写入,新写的内容总会跟在前写的内容之后
- 不同点:以 a 模式重新打开文件,不会清空原文件内容,会将文件指针直接移动到文件末尾,新写的内容永远写在最后
# 实现注册功能:
name = input('username>>>: ').strip()
pwd = input('password>>>: ').strip()
with open('db1.txt', 'a', encoding='utf-8') as f:
info = '%s:%s\n' %(name, pwd)
f.write(info)
2.1.4 案例四:+ 模式的使用(了解)
- r+ w+ a+ :可读可写
- 在平时工作中,我们只单纯使用r/w/a,要么只读,要么只写,一般不用可读可写的模式
2.2 控制文件读写内容的模式
大前提: tb模式均不能单独使用,必须与r/w/a之一结合使用
t(默认的模式):文本模式 : r w a >>> rt wt at
- 读写文件都是以字符串为单位的
- 只能针对文本文件进行操作
- 必须指定encoding参数
b:二进制模式: rb wb ab
- 该模式可以操作任意类型的文件
- 读写文件都是以bytes(二进制)为基本单位的
- 一定不能指定encoding参数
2.2.1 案例一:t 模式的使用
t 模式:如果我们指定的文件打开模式为r/w/a,其实默认就是rt/wt/at
with open('a.txt', 'rt', encoding='utf-8') as f:
res = f.read()
print(type(res)) # 输出结果为:<class 'str'>
with open('a.txt', 'wt', encoding='utf-8') as f:
s = 'abc'
f.write(s) # 写入的也必须是字符串类型
强调:t 模式只能用于操作文本文件,无论读写,都应该以字符串为单位,而存取硬盘本质都是二进制的形式,当指定 t 模式时,内部帮我们做了编码与解码。
2.2.2 案例二:b 模式的使用
b: 读写都是以二进制为单位
with open('1.mp4', 'rb') as f:
data = f.read()
print(type(data)) # 输出结果为:<class 'bytes'>
with open('a.txt',mode='wb') as f:
msg = "你好"
res = msg.encode('utf-8') # res为bytes类型
f.write(res) # 在b模式下写入文件的只能是bytes类型
强调:b模式对比t模式
- 在操作纯文本文件方面t模式帮我们省去了编码与解码的环节,b模式则需要手动编码与解码,所以此时t模式更为方便。
- 针对非文本文件(如图片、视频、音频等)只能使用b模式。
小练习:编写拷贝工具
file_adr = input("请输入源文件路径:")
copy_file_adr = input("请输入文件拷贝路径:")
with open(file_adr, 'rb') as f1, open(copy_file_adr, 'wb') as f2:
for line in f1:
f2.write(line)
3.操作文件的方法
3.1 重点
读操作
f.read() # 读取所有内容,执行完该操作后,文件指针会移动到文件末尾
f.readline() # 读取一行内容,光标移动到第二行首部
f.readlines() # 读取每一行内容,存放于列表中
强调:f.read()与f.readlines()都是将内容一次性读入内容,如果内容过大会导致内存溢出,若还想将内容全读入内存,则必须分多次读入,有两种实现方式:
方式一:
with open('a.txt', 'rt', encoding='utf-8') as f:
for line in f:
print(line) # 同一时刻只读入一行内容到内存中
方式二:
with open('1.mp4', 'rb') as f:
while True:
data = f.read(1024) # 同一时刻只读入1024个Bytes到内存中
if len(data) == 0:
break
写操作
f.write('1111\n222\n') # 针对文本模式的写,需要自己写换行符
f.write('1111\n222\n'.encode('utf-8')) # 针对b模式的写,需要自己写换行符
f.writelines(['333\n', '444\n']) # 文件模式
f.writelines([bytes('333\n', encoding='utf-8'), '444\n'.encode('utf-8')]) # b模式
3.2 了解
f.readable() # 文件是否可读
f.writable() # 文件是否可写
f.closed # 文件是否关闭
f.encoding # 如果文件打开模式为b,则没有该属性
f.flush() # 立刻将文件内容从内存刷到硬盘
f.name # 文件对象指代的文件路径
4.主动控制文件内指针移动
大前提:文件内指针的移动都是Bytes为单位的,唯一例外的是t模式下的read(n):n以字符为单位。
with open('a.txt', 'rt', encoding='utf-8') as f:
data = f.read(3) # 读取3个字符
with open('a.txt', 'rb') as f:
data = f.read(3) # 读取3个Bytes
之前文件内指针的移动都是由读/写操作而被动触发的,若想读取文件某一特定位置的数据,则需要用f.seek()方法主动控制文件内指针的移动,详细用法如下:
f.seek(指针移动的字节数, 模式控制):
模式控制:
- 0: 默认的模式,该模式代表指针移动的字节数是以文件开头为参照的
- 1: 该模式代表指针移动的字节数是以当前所在的位置为参照的
- 2: 该模式代表指针移动的字节数是以文件末尾的位置为参照的
强调:其中0模式可以在t或者b模式使用,而1跟2模式只能在b模式下用
4.1 案例一:0模式详解
a.txt用utf-8编码,内容如下:(abc各占1个字节,中文“你好”各占3个字节)
abc你好
0模式的使用:
with open('a.txt', 'rt', encoding='utf-8') as f:
f.seek(3,0) # 参照文件开头移动了3个字节
print(f.tell()) # 查看当前文件指针距离文件开头的位置,输出结果为3
print(f.read()) # 从第3个字节的位置读到文件末尾,输出结果为:你好
注意:由于在t模式下,会将读取的内容自动解码,所以必须保证读取的内容是一个完整中文数据,否则解码失败
with open('a.txt', 'rb') as f:
f.seek(6,0)
print(f.read().decode('utf-8')) # 输出结果为: 好
4.2 案例二:1模式详解
1模式的使用:
with open('a.txt', 'rb') as f:
f.seek(3,1) # 从当前位置往后移动3个字节,而此时的当前位置就是文件开头
print(f.tell()) # 输出结果为:3
f.seek(4,1) # 从当前位置往后移动4个字节,而此时的当前位置为3
print(f.tell()) # 输出结果为:7
4.3 案例三:2模式详解
a.txt用utf-8编码,内容如下:(abc各占1个字节,中文“你好”各占3个字节)
abc你好
2模式的使用:
with open('a.txt', 'rb') as f:
f.seek(0,2) # 参照文件末尾移动0个字节, 即直接跳到文件末尾
print(f.tell()) # 输出结果为:9
f.seek(-3,2) # 参照文件末尾往前移动了3个字节
print(f.read().decode('utf-8')) # 输出结果为:好
小练习:实现动态查看最新一条日志的效果
import time
with open('access.log', 'rb') as f:
f.seek(0, 2)
while True:
line = f.readline()
if len(line) == 0: # 没有内容
time.sleep(1)
else:
print(line.decode('utf-8'), end='')
5.文件的修改
文件a.txt内容如下:
张一蛋 山东 179 49 12344234523
李二蛋 河北 163 57 13913453521
王全蛋 山西 153 62 18651433422
执行操作:
with open('a.txt', 'r+t', encoding='utf-8') as f:
f.seek(9)
f.write('<妇女主任>')
文件修改后的内容如下:
张一蛋<妇女主任> 179 49 12344234523
李二蛋 河北 163 57 13913453521
王全蛋 山西 153 62 18651433422
强调:
- 硬盘空间是无法修改的,硬盘中数据的更新都是用新内容覆盖旧内容。
- 内存中的数据是可以修改的。
文件对应的是硬盘空间,硬盘不能修改对应着文件本质也不能修改,那我们看到文件的内容可以修改,是如何实现的呢?
大致的思路是将硬盘中文件内容读入内存,然后在内存中修改完毕后再覆盖回硬盘。具体的实现方式分为两种:
5.1 文件修改方式一
实现思路:将文件内容一次性全部读入内存,然后在内存中修改完毕后再覆盖写回原文件
- 优点:在文件修改过程中同一份数据只有一份
- 缺点:会过多地占用内存
with open('db.txt', 'rt', encoding='utf-8') as f:
data = f.read()
with open('db.txt', 'wt', encoding='utf-8') as f:
f.write(data.replace('kevin', 'NB'))
5.2 文件修改方式二
实现思路:以读的方式打开原文件,以写的方式打开一个临时文件,一行行读取原文件内容,修改完后写入临时文件...,删掉原文件,将临时文件重命名原文件名
- 优点:不会占用过多的内存
- 缺点:在文件修改过程中同一份数据存了两份
import os
with open('db.txt', 'rt', encoding='utf-8') as read_f,\
open('.db.txt.swap', 'wt', encoding='utf-8') as wrife_f:
for line in read_f:
wrife_f.write(line.replace('NB', 'kevin'))
os.remove('db.txt')
os.rename('.db.txt.swap', 'db.txt')