python学习笔记（八）———— IO编程

一、文件读写

读写文件是最常见的IO操作。Python内置了读写文件的函数，用法和C是兼容的。

读写文件前，我们先必须了解一下，在磁盘上读写文件的功能都是由操作系统提供的，现代操作系统不允许普通的程序直接操作磁盘，所以，读写文件就是请求操作系统打开一个文件对象（通常称为文件描述符），然后，通过操作系统提供的接口从这个文件对象中读取数据（读文件），或者把数据写入这个文件对象（写文件）。

读文件

要以读文件的模式打开一个文件对象，使用Python内置的open()函数，传入文件名和标示符：

?

1	f = open('/Users/michael/test.txt', 'r')

标示符'r'表示读，这样，我们就成功地打开了一个文件。

如果文件不存在，open()函数就会抛出一个IOError的错误，并且给出错误码和详细的信息告诉你文件不存在：

如果文件打开成功，接下来，调用read()方法可以一次读取文件的全部内容，Python把内容读到内存，用一个str对象表示：

最后一步是调用close()方法关闭文件。文件使用完毕后必须关闭，因为文件对象会占用操作系统的资源，并且操作系统同一时间能打开的文件数量也是有限的：

由于文件读写时都有可能产生IOError，一旦出错，后面的f.close()就不会调用。所以，为了保证无论是否出错都能正确地关闭文件，我们可以使用try ... finally来实现：

?

1 2 3 4 5 6

try:     f = open('/path/to/file', 'r')     print(f.read()) finally:     if f:         f.close()

但是每次都这么写实在太繁琐，所以，Python引入了with语句来自动帮我们调用close()方法：

?

1 2	with open('/path/to/file', 'r') as f:     print(f.read())

　　

这和前面的try ... finally是一样的，但是代码更佳简洁，并且不必调用f.close()方法。

调用read()会一次性读取文件的全部内容，如果文件有10G，内存就爆了，所以，要保险起见，可以反复调用read(size)方法，每次最多读取size个字节的内容。另外，调用readline()可以每次读取一行内容，调用readlines()一次读取所有内容并按行返回list。因此，要根据需要决定怎么调用。

如果文件很小，read()一次性读取最方便；如果不能确定文件大小，反复调用read(size)比较保险；如果是配置文件，调用readlines()最方便：

?

1 2	for line in f.readlines():     print(line.strip()) # 把末尾的'\n'删掉

file-like Object

像open()函数返回的这种有个read()方法的对象，在Python中统称为file-like Object。除了file外，还可以是内存的字节流，网络流，自定义流等等。file-like Object不要求从特定类继承，只要写个read()方法就行。

StringIO就是在内存中创建的file-like Object，常用作临时缓冲。

二进制文件

前面讲的默认都是读取文本文件，并且是UTF-8编码的文本文件。要读取二进制文件，比如图片、视频等等，用'rb'模式打开文件即可：　

?

1 2	f = open('/Users/michael/test.jpg', 'rb') f.read()#输出内容会为 b'\xff\xd8\xff\xe1\x00\x18Exif\x00\x00...' # 十六进制表示的字节

字符编码

要读取非UTF-8编码的文本文件，需要给open()函数传入encoding参数，例如，读取GBK编码的文件：

?

1 2	f = open('/Users/michael/gbk.txt', 'r', encoding='gbk') f.read()

遇到有些编码不规范的文件，你可能会遇到UnicodeDecodeError，因为在文本文件中可能夹杂了一些非法编码的字符。遇到这种情况，open()函数还接收一个errors参数，表示如果遇到编码错误后如何处理。最简单的方式是直接忽略：　

?

1	f = open('/Users/michael/gbk.txt', 'r', encoding='gbk', errors='ignore')

　

写文件

写文件和读文件是一样的，唯一区别是调用open()函数时，传入标识符'w'或者'wb'表示写文本文件或写二进制文件：

f = open('/Users/michael/test.txt', 'w')
f.write('Hello, world!')
f.close()

你可以反复调用write()来写入文件，但是务必要调用f.close()来关闭文件。当我们写文件时，操作系统往往不会立刻把数据写入磁盘，而是放到内存缓存起来，空闲的时候再慢慢写入。只有调用close()方法时，操作系统才保证把没有写入的数据全部写入磁盘。忘记调用close()的后果是数据可能只写了一部分到磁盘，剩下的丢失了。所以，还是用with语句来得保险：　　　

?

1 2	with open('/Users/michael/test.txt', 'w') as f:     f.write('Hello, world!')

要写入特定编码的文本文件，请给open()函数传入encoding参数，将字符串自动转换成指定编码。

细心的童鞋会发现，以'w'模式写入文件时，如果文件已存在，会直接覆盖（相当于删掉后新写入一个文件）。如果我们希望追加到文件末尾怎么办？可以传入'a'以追加（append）模式写入。

所有模式的定义及含义可以参考Python的官方文档。

　　

?

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18

模式  描述 t   文本模式 (默认)。 x   写模式，新建一个文件，如果该文件已存在则会报错。 b   二进制模式。 +   打开一个文件进行更新(可读可写)。 U   通用换行模式（Python 3 不支持）。 r   以只读方式打开文件。文件的指针将会放在文件的开头。这是默认模式。 rb  以二进制格式打开一个文件用于只读。文件指针将会放在文件的开头。这是默认模式。一般用于非文本文件如图片等。 r+  打开一个文件用于读写。文件指针将会放在文件的开头。 rb+ 以二进制格式打开一个文件用于读写。文件指针将会放在文件的开头。一般用于非文本文件如图片等。 w   打开一个文件只用于写入。如果该文件已存在则打开文件，并从开头开始编辑，即原有内容会被删除。如果该文件不存在，创建新文件。 wb  以二进制格式打开一个文件只用于写入。如果该文件已存在则打开文件，并从开头开始编辑，即原有内容会被删除。如果该文件不存在，创建新文件。一般用于非文本文件如图片等。 w+  打开一个文件用于读写。如果该文件已存在则打开文件，并从开头开始编辑，即原有内容会被删除。如果该文件不存在，创建新文件。 wb+ 以二进制格式打开一个文件用于读写。如果该文件已存在则打开文件，并从开头开始编辑，即原有内容会被删除。如果该文件不存在，创建新文件。一般用于非文本文件如图片等。 a   打开一个文件用于追加。如果该文件已存在，文件指针将会放在文件的结尾。也就是说，新的内容将会被写入到已有内容之后。如果该文件不存在，创建新文件进行写入。 ab  以二进制格式打开一个文件用于追加。如果该文件已存在，文件指针将会放在文件的结尾。也就是说，新的内容将会被写入到已有内容之后。如果该文件不存在，创建新文件进行写入。 a+  打开一个文件用于读写。如果该文件已存在，文件指针将会放在文件的结尾。文件打开时会是追加模式。如果该文件不存在，创建新文件用于读写。 ab+ 以二进制格式打开一个文件用于追加。如果该文件已存在，文件指针将会放在文件的结尾。如果该文件不存在，创建新文件用于读写。

　　

当前显示的内容如下：

?

1 2 3 4

fpath=r'C:\Users\Ursalink\Desktop\mock.txt' with open(fpath, 'r',encoding='utf-8') as f:     s = f.read()     print(s)

 

 

在后面加入其他的文字的方法

 

?

1 2	with open(r'C:\Users\Administrator\Desktop\text.txt','a') as f: f.write('Hello World'+'\n')

　

?

1 2 3 4 5 6 7 8 9 10

#打开简历投递文本文件 with open("C:/Users/Desktop/大厂投递简历日期.txt","r",encoding="UTF-8",errors="ignore") as f:     print(f.read())       #写文本文件   str = "年龄:22\n性别:男\n姓名:ljr\n"      with open("C:/Users/Desktop/大厂投递简历日期.txt",'a',encoding="utf-8",errors="ignore") as f:     f.write(str)

 

二、内存读写，StringIO和BytesIO

StringIO和BytesIO是在内存中操作str和bytes的方法，使得和读写文件具有一致的接口。

StringIO

很多时候，数据读写不一定是文件，也可以在内存中读写。

StringIO顾名思义就是在内存中读写str。

要把str写入StringIO，我们需要先创建一个StringIO，然后，像文件一样写入即可

?

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

from io import StringIO <br>#法1： f=StringIO() print(f.write('hello')) print(f.write(' ')) print(f.write('world!')) print(f.getvalue())   #法2：<br>#初始化一个StringIO f=StringIO('Hello!\nHi!\nGoodbye!') while True:     s=f.readline()     if s=='':         break     print(s.strip())

 

　

BytesIO

StringIO操作的只能是str，如果要操作二进制数据，就需要使用BytesIO。

BytesIO实现了在内存中读写bytes，我们创建一个BytesIO，然后写入一些bytes：　

请注意，写入的不是str，而是经过UTF-8编码的bytes。

和StringIO类似，可以用一个bytes初始化BytesIO，然后，像读文件一样读取：

?

1 2 3 4 5 6 7

from io import BytesIO<br>#法1 f=BytesIO() f.write('中文'.encode('utf-8')) print(f.getvalue()) <br>#法2 f=BytesIO(b'\xe4\xb8\xad\xe6\x96\x87') print(f.read())

　　

三、操作文件和目录　　

Python的os模块封装了操作系统的目录和文件操作，要注意这些函数有的在os模块中，有的在os.path模块中。

操作文件和目录

如果我们要操作文件、目录，可以在命令行下面输入操作系统提供的各种命令来完成。比如dir、cp等命令。

如果要在Python程序中执行这些目录和文件的操作怎么办？其实操作系统提供的命令只是简单地调用了操作系统提供的接口函数，Python内置的os模块也可以直接调用操作系统提供的接口函数。

打开Python交互式命令行，我们来看看如何使用os模块的基本功能：

?

1 2 3

import os print(os.name) #如果是posix，说明系统是Linux、Unix或Mac OS X，如果是nt，就是Windows系统。

　

环境变量

在操作系统中定义的环境变量，全部保存在os.environ这个变量中，可以直接查看：

?

1	os.environos.environ.get('key')<br>os.environ.get('PATH')

要获取某个环境变量的值，可以调用

操作文件和目录

操作文件和目录的函数一部分放在os模块中，一部分放在os.path模块中，这一点要注意一下。查看、创建和删除目录可以这么调用：

?

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36

import os # print(os.environ) # os.environ.get('key') # os.environ.get('PATH')   #打印出当前项目所在的目录 print(os.path.abspath('.')) #拼接目录，在某个目录下新建一个目录 os.path.join('/Users/michael', 'testdir') #拆分目录 os.path.split('/Users/michael/testdir/file.txt') #得到('/Users/michael/testdir', 'file.txt') #得到文件扩展名，很多时候非常方便： os.path.splitext('/path/to/file.txt') ('/path/to/file', '.txt')   #创建一个目录 os.mkdir('/Users/michael/testdir') #删掉一个目录 os.rmdir('/Users/michael/testdir')   #这些合并、拆分路径的函数并不要求目录和文件要真实存在，它们只对字符串进行操作 #文件操作使用下面的函数。假定当前目录下有一个test.txt文件：   #shutil模块提供了copyfile()的函数，你还可以在shutil模块中找到很多实用函数， # 它们可以看做是os模块的补充。 #文件重命名 os.rename('test.txt', 'test.py') #删掉文件 os.remove('test.py')         #列出所有的py文件 [x for x in os.listdir('.') if os.path.isfile(x) and os.path.splitext(x)[1] == '.py']

　　

四、序列化

Python语言特定的序列化模块是pickle，但如果要把序列化搞得更通用、更符合Web标准，就可以使用json模块。

json模块的dumps()和loads()函数是定义得非常好的接口的典范。当我们使用时，只需要传入一个必须的参数。但是，当默认的序列化或反序列机制不满足我们的要求时，我们又可以传入更多的参数来定制序列化或反序列化的规则，既做到了接口简单易用，又做到了充分的扩展性和灵活性。

 

在程序运行的过程中，所有的变量都是在内存中，比如，定义一个dict：

?

1	d = dict(name='Bob', age=20, score=88)

可以随时修改变量，比如把name改成'Bill'，但是一旦程序结束，变量所占用的内存就被操作系统全部回收。

如果没有把修改后的'Bill'存储到磁盘上，下次重新运行程序，变量又被初始化为'Bob'。

我们把变量从内存中变成可存储或传输的过程称之为序列化，在Python中叫pickling，在其他语言中也被称之为serialization，marshalling，flattening等等，都是一个意思。

序列化之后，就可以把序列化后的内容写入磁盘，或者通过网络传输到别的机器上。

反过来，把变量内容从序列化的对象重新读到内存里称之为反序列化，即unpickling。

Python提供了pickle模块来实现序列化。

首先，我们尝试把一个对象序列化并写入文件：

法1：pickle.dumps()方法把任意对象序列化成一个bytes，然后，就可以把这个bytes写入文件。

法2：pickle.dump()直接把对象序列化后写入一个file-like Object： 

 

 

 

看看写入的dump.txt文件，一堆乱七八糟的内容，这些都是Python保存的对象内部信息。

当我们要把对象从磁盘读到内存时，可以先把内容读到一个bytes，然后用pickle.loads()方法反序列化出对象，也可以直接用pickle.load()方法从一个file-like Object中直接反序列化出对象。我们打开另一个Python命令行来反序列化刚才保存的对象：

?

1 2 3 4

f=open(fpath,'rb') c=pickle.load(f) f.close() print(c)<br><br>#打印结果：  {'name': 'Bob', 'age': 20, 'score': 90}

 

 

JSON　　

如果我们要在不同的编程语言之间传递对象，就必须把对象序列化为标准格式，比如XML，但更好的方法是序列化为JSON，因为JSON表示出来就是一个字符串，可以被所有语言读取，也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式，并且比XML更快，而且可以直接在Web页面中读取，非常方便。

JSON表示的对象就是标准的JavaScript语言的对象，JSON和Python内置的数据类型对应如下：

JSON类型	Python类型
{}	dict
[]	list
"string"	str
1234.56	int或float
true/false	True/False
null	None

（一）dict 转换 为一个JSON对象的方法

 

Python内置的json模块提供了非常完善的Python对象到JSON格式的转换。我们先看看如何把Python对象变成一个JSON：

?

1 2 3

import json d=dict(name='Bob',age=20,score=80) print(json.dumps(d))<br><br>#打印结果：{'age': 20, 'score': 88, 'name': 'Bob'}

dumps()方法返回一个str，内容就是标准的JSON。类似的，dump()方法可以直接把JSON写入一个file-like Object。

要把JSON反序列化为Python对象，用loads()或者对应的load()方法，前者把JSON的字符串反序列化，后者从file-like Object中读取字符串并反序列化：

?

1 2	json_str = '{"age": 20, "score": 88, "name": "Bob"}' print(json.loads(json_str))　　#打印结果：{'age': 20, 'score': 88, 'name': 'Bob'}

　

 

（二）class 转换 为一个JSON对象的方法　（无法直接转换 需要依靠自己定制一个类，先转成dict，再转成JSON对象）

?

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17

import json   class Student(object):     def __init__(self, name, age, score):         self.name = name         self.age = age         self.score = score   def student2dict(std):     return {         'name': std.name,         'age': std.age,         'score': std.score     }   s = Student('Bob', 20, 88) print(json.dumps(s, default=student2dict))<br><br>#打印内容：{"name": "Bob", "age": 20, "score": 88}

 

也可以直接使用匿名函数，

?

1	print(json.dumps(s, default=lambda obj: obj.__dict__))

因为通常class的实例都有一个__dict__属性，它就是一个dict，用来存储实例变量。也有少数例外，比如定义了__slots__的class。

同样的道理，如果我们要把JSON反序列化为一个Student对象实例，loads()方法首先转换出一个dict对象，然后，我们传入的object_hook函数负责把dict转换为Student实例：

?

1 2	def dict2student(d):     return Student(d['name'], d['age'], d['score'])

　运行结果如下;

?

1 2 3 4

json_str = '{"age": 20, "score": 88, "name": "Bob"}' print(json.loads(json_str, object_hook=dict2student))   #打印出反序列化的student实例对象