模块
re模块
import re ret = re.findall('a', 'ha hao ok hello') # 返回所有满足匹配条件的结果,放在列表里 print(ret) #结果 : ['a', 'a'] ret = re.search('a', 'eva egon yuan') print(ret) #结果 :<re.Match object; span=(2, 3), match='a'> ret = re.search('a', 'eva egon yuan').group() print(ret) #结果 :a ret = re.search('j', 'eva egon yuan') #如果找不到就返回None print(ret) # 函数会在字符串内查找模式匹配,只到找到第一个匹配然后返回一个包含匹配信息的对象,该对象可以 通过调用group()方法得到匹配的字符串,如果字符串没有匹配，则返回None。（注意：可以找的是字符串不单单是一个字符） ret = re.match('a', 'abc') # 同search,不过尽在字符串开始处进行匹配 print(ret) #结果 :<re.Match object; span=(0, 1), match='a'> ret = re.match('a', 'abc').group() # 同search,不过尽在字符串开始处进行匹配 print(ret) #结果 :a ret = re.split('[ab]', 'abcd') # 先按'a'分割得到''和'bcd',在对''和'bcd'分别按'b'分割 print(ret) #结果 :['', '', 'cd'] ret = re.sub('\d', 'H', '1nihaohahah5ai', 1)#将数字替换成'H'，参数1表示只替换1个 print(ret) #结果：Hnihaohahah5ai ret = re.subn('\d', 'H', 'eva3egon4yuan4')#将数字替换成'H'，返回元组(替换的结果,替换了多少次) print(ret) #结果： ('evaHegonHyuanH', 3) obj = re.compile('\d{3}') #将正则表达式编译成为一个 正则表达式对象，规则要匹配的是3个数字 ret = obj.search('abc123eeee') #正则表达式对象调用search，参数为待匹配的字符串 print(ret.group()) #结果 ： 123 ret = re.finditer('\d', 'ds3sy4784a') #finditer返回一个存放匹配结果的迭代器 print(ret) # <callable_iterator object at 0x10195f940> print(next(ret).group()) #查看第一个结果 print(next(ret).group()) #查看第二个结果 print([i.group() for i in ret]) #查看剩余的结果 结果： <callable_iterator object at 0x00CEFFB0> 3 4 ['7', '8', '4']
1 findall的优先级查询：
import re ret = re.findall('www.(baidu|oldboy).com', 'www.oldboy.com') print(ret) # ['oldboy'] 这是因为findall会优先把匹配结果组里内容返回,如果想要匹配结果,取消权限即可 ret = re.findall('www.(?:baidu|oldboy).com', 'www.oldboy.com') print(ret) # ['www.oldboy.com']
2 split的优先级查询
ret=re.split("\d+","eva3egon4yuan") print(ret) #结果 ： ['eva', 'egon', 'yuan'] ret=re.split("(\d+)","eva3egon4yuan") print(ret) #结果 ： ['eva', '3', 'egon', '4', 'yuan'] #在匹配部分加上（）之后所切出的结果是不同的， #没有（）的没有保留所匹配的项，但是有（）的却能够保留了匹配的项， #这个在某些需要保留匹配部分的使用过程是非常重要的。
练习题：
collections模块
1.namedtuple: 生成可以使用名字来访问元素内容的tuple
2.deque: 双端队列，可以快速的从另外一侧追加和推出对象
3.Counter: 计数器，主要用来计数
4.OrderedDict: 有序字典
5.defaultdict: 带有默认值的字典
namedtuple
我们知道tuple可以表示不变集合，
例如，一个点的二维坐标就可以表示成：
p = (1, 2)
但是，看到(1, 2)，很难看出这个tuple是用来表示一个坐标的。
这时，namedtuple就派上了用场：
from collections import namedtuple Point = namedtuple('Point', ['x', 'y']) p = Point(1, 2) print(p.x) print(p.y) #结果：1 2
类似的，如果要用坐标和半径表示一个圆，也可以用namedtuple定义：
#namedtuple('名称', [属性list]):
Circle = namedtuple('Circle', ['x', 'y', 'r'])
from collections import namedtuple Circle = namedtuple('Circle', ['x', 'y', 'r']) c=Circle(1,2,6) print(c.x) print(c.y) print(c.r) #结果：1 2 6
queue
import queue q=queue.Queue() #创建一个空列表 q.put(10) q.put(5) #放入值 q.put(9) q.put(8) print(q.get()) #拿出值 print(q.get()) print(q.get()) print(q.get()) print(q.get()) #拿完了阻塞 #结果：10 5 9 8
deque
使用list存储数据时，按索引访问元素很快，但是插入和删除元素就很慢了，因为list是线性存储，数据量大的时候，插入和删除效率很低。
deque是为了高效实现插入和删除操作的双向列表，适合用于队列和栈：
from collections import deque q=deque(['a','b','c']) q.append('q') #从最后插入一个值 q.appendleft('m') #从前面插入一个值 q.insert(1,5) #从索引为1的地方插入5 print(q) #结果：deque(['m', 5, 'a', 'b', 'c', 'q'])
deque除了实现list的append()和pop()外，还支持appendleft()和popleft()，这样就可以非常高效地往头部添加或删除元素。
OrderedDict
使用dict时，Key是无序的。在对dict做迭代时，我们无法确定Key的顺序。
如果要保持Key的顺序，可以用OrderedDict：
>>> from collections import OrderedDict >>> d = dict([('a', 1), ('b', 2), ('c', 3)]) >>> d # dict的Key是无序的 {'a': 1, 'c': 3, 'b': 2} >>> od = OrderedDict([('a', 1), ('b', 2), ('c', 3)]) >>> od # OrderedDict的Key是有序的 OrderedDict([('a', 1), ('b', 2), ('c', 3)])
注意，OrderedDict的Key会按照插入的顺序排列，不是Key本身排序：
>>> od = OrderedDict() >>> od['z'] = 1 >>> od['y'] = 2 >>> od['x'] = 3 >>> od.keys() # 按照插入的Key的顺序返回 ['z', 'y', 'x']
defaultdict
有如下值集合 [11,22,33,44,55,66,77,88,99,90...]，将所有大于 66 的值保存至字典的第一个key中，将小于 66 的值保存至第二个key的值中。
即： {'k1': 大于66 , 'k2': 小于66}
values = [11, 22, 33,44,55,66,77,88,99,90] my_dict = {} for value in values: if value>66: if my_dict.has_key('k1'): my_dict['k1'].append(value) else: my_dict['k1'] = [value] else: if my_dict.has_key('k2'): my_dict['k2'].append(value) else: my_dict['k2'] = [value]
from collections import defaultdict values = [11, 22, 33,44,55,66,77,88,99,90] my_dict = defaultdict(list) for value in values: if value>66: my_dict['k1'].append(value) else: my_dict['k2'].append(value)
使用dict时，如果引用的Key不存在，就会抛出KeyError。如果希望key不存在时，返回一个默认值，就可以用defaultdict：
>>> from collections import defaultdict >>> dd = defaultdict(lambda: 'N/A') >>> dd['key1'] = 'abc' >>> dd['key1'] # key1存在 'abc' >>> dd['key2'] # key2不存在，返回默认值 'N/A'
Counter
Counter类的目的是用来跟踪值出现的次数。它是一个无序的容器类型，以字典的键值对形式存储，其中元素作为key，其计数作为value。计数值可以是任意的Interger（包括0和负数）。Counter类和其他语言的bags或multisets很相似。
c = Counter('abcdeabcdabcaba')
print c
输出：Counter({'a': 5, 'b': 4, 'c': 3, 'd': 2, 'e': 1})
time模块
表示时间的三种方式
在Python中，通常有这三种方式来表示时间：时间戳、元组(struct_time)、格式化的时间字符串：
(1)时间戳(timestamp) ：通常来说，时间戳表示的是从1970年1月1日00:00:00开始按秒计算的偏移量。我们运行“type(time.time())”，返回的是float类型。
(2)格式化的时间字符串(Format String)： ‘1999-12-0
%y 两位数的年份表示（00-99） %Y 四位数的年份表示（0000-9999） %m 月份（1-12） %d 月内中的一天（0-31） %H 24小时制小时数（0-23） %I 12小时制小时数（1-12） %M 分钟数（00=59） %S 秒（00-59） %a 本地简化星期名称 %A 本地完整星期名称 %b 本地简化的月份名称 %B 本地完整的月份名称 %c 本地相应的日期表示和时间表示 %j 年内的一天（1-366） %p 本地A.M.或P.M.的等价符 %U 一年中的星期数（0-53）星期天为星期的开始 %w 星期（0-6），星期天为星期的开始 %W 一年中的星期数（0-53）星期一为星期的开始 %x 本地相应的日期表示 %X 本地相应的时间表示 %Z 当前时区的名称 %% %号本身
(3)元组(struct_time) ：struct_time元组共有9个元素共九个元素:(年，月，日，时，分，秒，一年中第几周，一年中第几天等）
import time struct_time=time.localtime() print(struct_time) print(struct_time.tm_year) print(struct_time.tm_mon) #结果： time.struct_time(tm_year=2019, tm_mon=3, tm_mday=9, tm_hour=16, tm_min=51, tm_sec=22, tm_wday=5, tm_yday=68, tm_isdst=0) 2019 3
| 索引（Index） | 属性（Attribute） | 值（Values） |
|---|---|---|
| 0 | tm_year（年） | 比如2011 |
| 1 | tm_mon（月） | 1 - 12 |
| 2 | tm_mday（日） | 1 - 31 |
| 3 | tm_hour（时） | 0 - 23 |
| 4 | tm_min（分） | 0 - 59 |
| 5 | tm_sec（秒） | 0 - 60 |
| 6 | tm_wday（weekday） | 0 - 6（0表示周一） |
| 7 | tm_yday（一年中的第几天） | 1 - 366 |
| 8 | tm_isdst（是否是夏令时） | 默认为0 |
python中表示时间的几种格式：
import time
print(time.time()) # 时间戳
print(time.strftime("%Y-%m-%d %H:%M:%S")) # 时间字符串/格式化时间
print(time.localtime()) # 时间元组/结构化时间 : localtime 将一个时间戳转换为当地时区的struct_time
print(time.gmtime()) #英国伦敦时间
#结果：
1552120289.1700697
2019-03-09 16:31:29
time.struct_time(tm_year=2019, tm_mon=3, tm_mday=9, tm_hour=16, tm_min=31, tm_sec=29, tm_wday=5, tm_yday=68, tm_isdst=0)
time.struct_time(tm_year=2019, tm_mon=3, tm_mday=9, tm_hour=8, tm_min=31, tm_sec=29, tm_wday=5, tm_yday=68, tm_isdst=0)
小结：时间戳是计算机能够识别的时间；时间字符串是人能够看懂的时间；元组则是用来操作时间的
几种格式之间的转换
import time # 时间戳 --> 结构化时间 time.gmtime() # 伦敦时间 time.localtime() # 当地时间 ---------------------------------------------------用法 print(time.localtime(160000000)) print(time.gmtime(160000000)) #传入时间戳得到结构化时间 #结果： time.struct_time(tm_year=1975, tm_mon=1, tm_mday=27, tm_hour=4, tm_min=26, tm_sec=40, tm_wday=0, tm_yday=27, tm_isdst=0) time.struct_time(tm_year=1975, tm_mon=1, tm_mday=26, tm_hour=20, tm_min=26, tm_sec=40, tm_wday=6, tm_yday=26, tm_isdst=0) # 结构化时间 --> 时间戳 time.mktime(浮点数) ---------------------------------------------------用法 print(time.mktime(time.localtime())) #得到目前的时间戳 #结果： 1552123662.0 # 结构化时间 --> 字符串时间 time.strftime("格式定义","结构化时间") # 结构化时间参数若不传,则显示当前时间 ---------------------------------------------------用法 print(time.strftime("%Y-%m-%d",time.localtime())) #结果： 2019-03-09 # 字符串时间 --> 结构化时间 time.strptime(时间字符串,字符串对应格式) ---------------------------------------------------用法 print(time.strptime("2012-12.31","%Y-%m.%d")) #结果： time.struct_time(tm_year=2012, tm_mon=12, tm_mday=31, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=0, tm_yday=366, tm_isdst=-1)
# 结构化时间 --> 字符串时间 time.asctime(结构化时间) 如果不传参数,直接返回当前时间的格式化串 ---------------------------------------------------用法 print(time.asctime(time.localtime())) #结果： Sat Mar 9 17:35:57 2019 #时间戳 --> 字符串时间 time.ctime(时间戳) 如果不传参数,直接返回当前时间的格式化串 ---------------------------------------------------用法 print(time.ctime()) print(time.ctime(16000000)) #结果： Sat Mar 9 17:38:38 2019 Sun Jul 5 12:26:40 1970
计算时间差 :
str_time1 = '2018-8-19 22:10:8' str_time2 = '2018-8-20 11:07:3' struct_t1 = time.strptime(str_time1,'%Y-%m-%d %H:%M:%S') struct_t2 = time.strptime(str_time2,'%Y-%m-%d %H:%M:%S') timestamp1 = time.mktime(struct_t1) timestamp2 = time.mktime(struct_t2) sub_time = timestamp2 - timestamp1 gm_time = time.gmtime(sub_time) # 1970-1-1 00:00:00 print('过去了%d年%d月%d天%d小时%d分钟%d秒'%(gm_time.tm_year-1970,gm_time.tm_mon-1, gm_time.tm_mday-1,gm_time.tm_hour, gm_time.tm_min,gm_time.tm_sec)) # 函数形式 : def func(str_time1,str_time2): struct_t1 = time.strptime(str_time1,'%Y-%m-%d %H:%M:%S') struct_t2 = time.strptime(str_time2,'%Y-%m-%d %H:%M:%S') timestamp1 = time.mktime(struct_t1) timestamp2 = time.mktime(struct_t2) sub_time = timestamp2 - timestamp1 gm_time = time.gmtime(sub_time) num = '过去了%d年%d月%d天%d小时%d分钟%d秒'%(gm_time.tm_year-1970,gm_time.tm_mon-1, gm_time.tm_mday-1,gm_time.tm_hour, gm_time.tm_min,gm_time.tm_sec) return num print(func('2018-8-19 22:10:8','2018-8-20 11:07:3'))
random模块
import random #随机小数 random.random() # 大于0且小于1之间的小数 random.uniform(1,3) #大于1小于3的小数 ---------------------------------------------------用法 print(random.random()) print(random.uniform(1,3)) #结果： 0.7167982470888765 1.3664687262859994 #随机整数 random.randint(1,5) # 大于等于1且小于等于5之间的整数 random.randrange(1,10,2) # 大于等于1且小于10之间的奇数 ---------------------------------------------------用法 print(random.randint(1,5)) print(random.randrange(1,10,2)) #结果： 3 7 #随机选择一个返回 random.choice([1,'23',[4,5]]) # #1或者23或者[4,5] #随机选择多个返回，返回的个数为函数的第二个参数 random.sample([1,'23',[4,5]],2) # #列表元素任意2个组合 ---------------------------------------------------用法 print(random.choice([1,'23',[4,5]])) print(random.choice([1,'23',[4,5]]),2) #结果： [4, 5] [4, 5] 2 #打乱列表顺序 random.shuffle(item) # 打乱次序 ---------------------------------------------------用法 item=[1,3,5,7,9] random.shuffle(item) print(item) random.shuffle(item) print(item) #结果： [7, 3, 1, 9, 5] [9, 7, 5, 1, 3]
练习：生成随机验证码
import random def v_code(): code = '' for i in range(5): num=random.randint(0,9) alf=chr(random.randint(65,90)) add=random.choice([num,alf]) code="".join([code,str(add)]) return code print(v_code())
os模块
os.makedirs('dirname1/dirname2') 可生成多层递归目录 os.removedirs('dirname1') 若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推 os.mkdir('dirname') 生成单级目录；相当于shell中mkdir dirname os.rmdir('dirname') 删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname os.listdir('dirname') 列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印 os.remove() 删除一个文件 os.rename("oldname","newname") 重命名文件/目录 os.stat('path/filename') 获取文件/目录信息 os.system("bash command") 运行shell命令，直接显示 os.popen("bash command).read() 运行shell命令，获取执行结果 os.getcwd() 获取当前工作目录，即当前python脚本工作的目录路径 os.chdir("dirname") 改变当前脚本工作目录；相当于shell下cd os.path os.path.abspath(path) 返回path规范化的绝对路径 os.path.split(path) 将path分割成目录和文件名二元组返回 os.path.dirname(path) 返回path的目录。其实就是os.path.split(path)的第一个元素 os.path.basename(path) 返回path最后的文件名。如何path以／或\结尾，那么就会返回空值。即os.path.split(path)的第二个元素 os.path.exists(path) 如果path存在，返回True；如果path不存在，返回False os.path.isabs(path) 如果path是绝对路径，返回True os.path.isfile(path) 如果path是一个存在的文件，返回True。否则返回False os.path.isdir(path) 如果path是一个存在的目录，则返回True。否则返回False os.path.join(path1[, path2[, ...]]) 将多个路径组合后返回，第一个绝对路径之前的参数将被忽略 os.path.getatime(path) 返回path所指向的文件或者目录的最后访问时间 os.path.getmtime(path) 返回path所指向的文件或者目录的最后修改时间 os.path.getsize(path) 返回path的大小
注意：os.stat('path/filename') 获取文件/目录信息 的结构说明
st_mode: inode 保护模式 st_ino: inode 节点号。 st_dev: inode 驻留的设备。 st_nlink: inode 的链接数。 st_uid: 所有者的用户ID。 st_gid: 所有者的组ID。 st_size: 普通文件以字节为单位的大小；包含等待某些特殊文件的数据。 st_atime: 上次访问的时间。 st_mtime: 最后一次修改的时间。 st_ctime: 由操作系统报告的"ctime"。在某些系统上（如Unix）是最新的元数据更改的时间，在其它系统上（如Windows）是创建时间（详细信息参见平台的文档）。
os.sep 输出操作系统特定的路径分隔符，win下为"\\",Linux下为"/" os.linesep 输出当前平台使用的行终止符，win下为"\r\n",Linux下为"\n" os.pathsep 输出用于分割文件路径的字符串 win下为;,Linux下为: os.name 输出字符串指示当前使用平台。win->'nt'; Linux->'posix'
sys模块
sys模块是与python解释器交互的一个接口
sys.argv 命令行参数List，第一个元素是程序本身路径 sys.exit(n) 退出程序，正常退出时exit(0),错误退出sys.exit(1) sys.version 获取Python解释程序的版本信息 sys.path 返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值 sys.platform 返回操作系统平台名称
异常处理和status
序列化模块
什么叫序列化——将原本的字典、列表等内容转换成一个字符串的过程就叫做序列化。
比如，我们在python代码中计算的一个数据需要给另外一段程序使用，那我们怎么给？ 现在我们能想到的方法就是存在文件里，然后另一个python程序再从文件里读出来。 但是我们都知道，对于文件来说是没有字典这个概念的，所以我们只能将数据转换成字典放到文件中。 你一定会问，将字典转换成一个字符串很简单，就是str(dic)就可以办到了，为什么我们还要学习序列化模块呢？ 没错序列化的过程就是从dic 变成str(dic)的过程。现在你可以通过str(dic)，将一个名为dic的字典转换成一个字符串， 但是你要怎么把一个字符串转换成字典呢？ 聪明的你肯定想到了eval()，如果我们将一个字符串类型的字典str_dic传给eval，就会得到一个返回的字典类型了。 eval()函数十分强大，但是eval是做什么的？e官方demo解释为：将字符串str当成有效的表达式来求值并返回计算结果。 ＢＵＴ！强大的函数有代价。安全性是其最大的缺点。 想象一下，如果我们从文件中读出的不是一个数据结构，而是一句"删除文件"类似的破坏性语句，那么后果实在不堪设设想。 而使用eval就要担这个风险。 所以，我们并不推荐用eval方法来进行反序列化操作(将str转换成python中的数据结构) 为什么要有序列化模块
序列化的目的
1、以某种存储形式使自定义对象持久化；
2、将对象从一个地方传递到另一个地方。
3、使程序更具维护性
json
#通用的序列化格式
#只有很少一部分数据类型能够通过json转化为字符串
Json模块提供了四个功能：dumps、dump、loads、load
#json dumps序列化方法 loads反序列化方法 dic={1:"a",2:"b"} print(type(dic),dic) import json str_d=json.dumps(dic) #序列化 print(type(str_d),str_d) dic_d=json.loads(str_d) #反序列化 print(type(dic_d),dic_d) #可进行序列化的有数字 列表 字典 元组(转换成列表序列化)
#结果：
<class 'dict'> {1: 'a', 2: 'b'}
<class 'str'> {"1": "a", "2": "b"}
<class 'dict'> {'1': 'a', '2': 'b'}
import json #json dump load #对文件进行操作，把字典写进了文件中，本来是不可以的 dic={1:"a",2:"b"} f=open('fff','w',encoding='utf-8') json.dump(dic,f) f.close() fff文件中#结果： {"1": "a", "2": "b"}
fff 文件： {"1": "a", "2": "b"} ------------------------------ f=open('fff') res=json.load() #对文件中的数据反序列化 f.close() print(type(res),res) #结果： <class 'dict'> {'1': 'a', '2': 'b'}
import json f = open('file','w') json.dump({'国籍':'中国'},f) ret = json.dumps({'国籍':'中国'}) f.write(ret+'\n') json.dump({'国籍':'美国'},f,ensure_ascii=False) ret = json.dumps({'国籍':'美国'},ensure_ascii=False) f.write(ret+'\n') f.close()
pickle
#所有的python中的数据类型都可以转化为字符串形式
#pickle序列化的内容只有python能够理解
#且部分反序列依赖代码(退出某个程序是的状态被保存下来，之后进去会恢复到以前的状态)
import pickle dic = {'k1':'v1','k2':'v2','k3':'v3'} str_dic = pickle.dumps(dic) print(str_dic) #一串二进制内容 dic2 = pickle.loads(str_dic) print(dic2) #字典 import time struct_time = time.localtime(1000000000) print(struct_time) f = open('pickle_file','wb') pickle.dump(struct_time,f) f.close() f = open('pickle_file','rb') struct_time2 = pickle.load(f) print(struct_time2.tm_year) pickle
shelve
#序列化句柄
#使用句柄直接操作非常方便
模块的导入
#什么是模块？
#把一些常用的方法写在一个文件里(模块)
模块一般的顺序
# 内置模块
# 扩展模块
# 自定义模块
import demo demo.read()
#调用模块
import 模块名
#提高兼容性(word和txt操作文档的方法差不多)将模块重新命名
import demo1 as db
import demo2 as db
from 模块 import 方法 as 新命名 #对方法重新命名
from 模块 import * #将模块中所有的方法导入
from 模块 import * 和 _all_是一对
没有all这个变量，就会导入所有变量
如果有all，就只导入all列表中的方法，其他方法不导入
__all__=['read']
模块不会被重复导入：sys.moudles
模块导入的路径：sys.path
在模块中有一个变量_name_
当我们直接执行这个模块的时候__name__ == __main__
当我们执行其他模块，引用这个模块的时候__name__ == 模块名
