python学习笔记(二)
note eight
使用元类
动态语言和静态语言最大的不同,就是函数和类的定义,不是编译时定义的,而是运行时动态创建的。
程序的调试用logging 模块
import logging
单元测试
为了编写单元测试,我们需要引入python自带的unittest模块
文件读写
读写文件是最常见的IO操作,python内置了读写文件的函数。读写文件就是请求操作系统打开一个文件对象,然后通过操作系统提供的接口从这个文件对象中读取数据,或者把数据写入这个文件对象。
step1:打开文件
使用python内置的open()函数
step2:对文件对象进行读或写
read(),write()
step3:关闭文件
close(),文件使用完后必须关闭,因为文件对象会占用操作系统的资源,并且操作系统同一时间能打开的文件数量也是有限的
但每次都这么写实在太繁琐,所以PYthon引入了with语句来自动帮我们调用close()方法
with open() as f
二进制文件
前面讲的默认都是读取文本文件,并且是ASCII编码的文本文件。要读取二进制文件,比如图片、视频等等,用"rb"模式打开文件
字符编码
要读取非ASCII编码的文本文件,就必须以二进制模式打开,再解码。如GBK编码的文件
f = open('/Users/michael/gbk.txt', 'rb')
>>> u = f.read().decode('gbk')
>>> u
u'\u6d4b\u8bd5'
>>> print u
测试
如果每次手动转换嫌麻烦,python还提供了一个codecs模块帮我们在读文件时自动转换编码,直接读出unicode
import codecs
with codecs.open('/Users/michael/gbk.txt', 'r', 'gbk') as f:
f.read() # u'\u6d4b\u8bd5'
序列化
在程序运行的过程中,所有的变量都是在内存中,可以随时修改变量,但是一旦程序结束,,变量所占的内存就被操作系统全部收回。
我们把变量从内存中变成可存储或传输的过程称为序列化,在python中叫picking。序列化后,就可以把序列化之后的内容写入磁盘,或通过网络传输到别的机器上。
反过来,把变量内容从序列化的对象重新读到内存里称为反序列化。
python提供两个模块来实现序列化
cPickle, pickle
导入模块
: d
Out[11]: {'age': 20, 'name': 'Jack', 'score': 88}
In [12]: try :
....: import cPickle as pickle
....: except ImportError:
....: import pickle
....:
In [13]: pickle.dumps(d)
Out[13]: "(dp1\nS'age'\np2\nI20\nsS'score'\np3\nI88\nsS'name'\np4\nS'Jack'\np5\ns."
pickle.dumps()方法把任意对象序列化成一个str,然后就可以把这个str写入文件、或者用另一个方法pickle.dump()直接把对象序列化后写入一个file-like Object
In [15]: f= open(r"C:\Users\MyHome\Desktop\dumps.txt","wb")
In [16]: pickle.dump(d,f)
In [17]: f.close()
当我们要把对象从磁盘读到内存时,可以先把内容读到一个str,然后用pickle.loads()方法反序列化对象,也可以直接用pickle.load()方法从一个file-like Object 中直接反序列化对象。
In [18]: f= open(r"C:\Users\MyHome\Desktop\dumps.txt","rb")
In [19]: d = pickle.load(f)
In [20]: f.close()
In [21]: d
Out[21]: {'age': 20, 'name': 'Jack', 'score': 88}
JSON进阶
如果我们要在不同的编程语言之间传递对象,就必须把对象序列化为标准格式,比如XML,但更好的方法是序列化为JSON,因为JSON表示出来就是一个字符串,可以被所有语言读取,也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式,并且比XML更快,而且可以直接在Web页面中读取,非常方便。
python中内置的json模块提供了非常完善的Python对象到JSON格式的转换。我们先看看如何把python对象变成一个JSON
In [22]: import json
In [23]: d = dict(name = "Jack",age = 24,score = 96)
In [24]: json.dumps(d)
Out[24]: '{"age": 24, "score": 96, "name": "Jack"}'
dumps()方法返回一个str,内容就是标准的JSON,类似的,dump()方法可以直接把JSON写入一个file-like Object
要把JSON反序列化为python对象,用loads()或者对应的load()方法,前者把JSON的字符串反序列化,后者从file-like Object 中读取字符串并反序列化
In [25]: json_str = '{"age": 24, "score": 96, "name": "Jack"}'
In [26]: json.loads(json_str)
Out[26]: {u'age': 24, u'name': u'Jack', u'score': 96}
Python的dict对象可以直接序列化为JSON的{},不过,很多时候,我们更喜欢用class表示对象,比如定义Student类,然后序列化:
import json
class Student(object):
def __init__(self, name, age, score):
self.name = name
self.age = age
self.score = score
s = Student('Bob', 20, 88)
print(json.dumps(s))
运行代码,毫不留情地得到一个TypeError:
Traceback (most recent call last):
...
TypeError: <__main__.Student object at 0x
错误的原因是Student对象不是一个可序列化为JSON的对象。
如果连class的实例对象都无法序列化为JSON,这肯定不合理!
别急,我们仔细看看dumps()方法的参数列表,可以发现,除了第一个必须的obj参数外,dumps()方法还提供了一大堆的可选参数:
https://docs.python.org/2/library/json.html#json.dumps
这些可选参数就是让我们来定制JSON序列化。前面的代码之所以无法把Student类实例序列化为JSON,是因为默认情况下,dumps()方法不知道如何将Student实例变为一个JSON的{}对象。
可选参数default就是把任意一个对象变成一个可序列为JSON的对象,我们只需要为Student专门写一个转换函数,再把函数传进去即可:
def studentdict(std):
return {"name":std.name,"age":std.age,"score":std.score}
print (json.dumps(s,default=studentdict))
不过,下次如果遇到一个Teacher类的实例,照样无法序列化为JSON。我们可以偷个懒,把任意class的实例变为dict:
print(json.dumps(s, default=lambda obj: obj.__dict__))
同样的道理,如果我们要把JSON反序列化为一个Student对象实例,loads()方法首先转换出一个dict对象,然后,我们传入的object_hook函数负责把dict转换为Student实例:
def dict2student(d):
return Student(d['name'], d['age'], d['score'])
json_str = '{"age": 20, "score": 88, "name": "Bob"}'
print(json.loads(json_str, object_hook=dict2student))
运行结果如下:
<__main__.Student object at 0x10cd3c190>
打印出的是反序列化的Student实例对象。
解析
如果我们要编写一个搜索引擎,第一步是用爬虫把目标网站的页面抓取下来,第二部就是解析该HTML页面,看看里面的内容到底是新闻、图片还是视频。
如何解析HTML呢,python提供了HTMLParser来非常方便地解析HTML