Py修行路 python基础 （二十一）logging日志模块 json序列化 正则表达式（re）
一、日志模块
两种配置方式：1、config函数 2、logger
#1、config函数 不能输出到屏幕
#2、logger对象 （获取别人的信息，需要两个数据流：文件流和屏幕流需要将数据从两个数据流中接收）
1、函数式简单配置
import logging logging.debug('debug message') logging.info('info message') logging.warning('warning message') logging.error('error message') logging.critical('critical message')
默认情况下Python的logging模块将日志打印到了标准输出中，且只显示了大于等于WARNING级别的日志，这说明默认的日志级别设置为WARNING（日志级别等级CRITICAL > ERROR > WARNING > INFO > DEBUG），默认的日志格式为日志级别：Logger名称：用户输出消息。
灵活配置日志级别，日志格式，输出位置:
2）config函数样式
import logging #config logging.basicConfig(level=logging.DEBUG, #设置文件等级 format='%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s', datefmt='%a, %d %b %Y %H:%M:%S', filename='/tmp/test.log', filemode='w') logging.debug('debug message') logging.info('info message') logging.warning('warning message') logging.error('error message') logging.critical('critical message')
配置参数：
logging.basicConfig()函数中可通过具体参数来更改logging模块默认行为，可用参数有： filename：用指定的文件名创建FiledHandler，这样日志会被存储在指定的文件中。 filemode：文件打开方式，在指定了filename时使用这个参数，默认值为“a”还可指定为“w”。 format：指定handler使用的日志显示格式。 datefmt：指定日期时间格式。 level：设置rootlogger（后边会讲解具体概念）的日志级别 stream：用指定的stream创建StreamHandler。可以指定输出到sys.stderr,sys.stdout或者文件(f=open(‘test.log’,’w’))，默认为sys.stderr。若同时列出了filename和stream两个参数，则stream参数会被忽略。 format参数中可能用到的格式化串： %(name)s Logger的名字 %(levelno)s 数字形式的日志级别 %(levelname)s 文本形式的日志级别 %(pathname)s 调用日志输出函数的模块的完整路径名，可能没有 %(filename)s 调用日志输出函数的模块的文件名 %(module)s 调用日志输出函数的模块名 %(funcName)s 调用日志输出函数的函数名 %(lineno)d 调用日志输出函数的语句所在的代码行 %(created)f 当前时间，用UNIX标准的表示时间的浮 点数表示 %(relativeCreated)d 输出日志信息时的，自Logger创建以 来的毫秒数 %(asctime)s 字符串形式的当前时间。默认格式是 “2003-07-08 16:49:45,896”。逗号后面的是毫秒 %(thread)d 线程ID。可能没有 %(threadName)s 线程名。可能没有 %(process)d 进程ID。可能没有 %(message)s用户输出的消息
3）logger对象配置方式：
logging库提供了多个组件：Logger、Handler、Filter、Formatter。Logger对象提供应用程序可直接使用的接口，Handler发送日志到适当的目的地，Filter提供了过滤日志信息的方法，Formatter指定日志显示格式。另外，可以通过：logger.setLevel(logging.Debug)设置级别。
import logging #logger对象 logger = logging.getLogger() #创建一个logger对象 logger.setLevel(logging.DEBUG) #设置输出等级 fm = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s') #设置文件编写格式 fh = logging.FileHandler('b.log') #创建一个hander 负责产生文件数据 sh = logging.StreamHandler() #创建一个hander 负责产生屏幕数据 fh.setFormatter(fm) #设置格式 sh.setFormatter(fm) #设置格式 logger.addHandler(fh) #接收文件的数据流 logger.addHandler(sh) ##接收屏幕的数据流 logger.debug('logger debug message') logger.info('logger info message') logger.warning('logger warning message') logger.error('logger error message') logger.critical('日志信息')
二、序列化模块 json （可支持跨语言之间的转换！）
之前我们学习过用eval内置方法可以将一个字符串转成python对象，不过，eval方法是有局限性的，对于普通的数据类型，json.loads和eval都能用，但遇到特殊类型的时候，eval就不管用了,所以eval的重点还是通常用来执行一个字符串表达式，并返回表达式的值。
1、什么是序列化
我们把对象(变量)从内存中变成可存储或传输的过程称之为序列化，序列化之后，就可以把序列化后的内容写入磁盘，或者通过网络传输到别的机器上。反过来，把变量内容从序列化的对象重新读到内存里称之为反序列化。
1）json
如果我们要在不同的编程语言之间传递对象，就必须把对象序列化为标准格式，比如XML，但更好的方法是序列化为JSON，因为JSON表示出来就是一个字符串，可以被所有语言读取，也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式，并且比XML更快，而且可以直接在Web页面中读取，非常方便。JSON表示的对象就是标准的JavaScript语言的对象一个子集，JSON和Python内置的数据类型对应如下：
序列化：json.dumps()
反序列化：json.loads() #只要是json字符串，就能反序列化回去
import json d = {'name':'egon'} s = json.dumps(d) #将字典d转为json字符串 序列化过程 print(type(s)) print(s) #注意转换的引号，由单引号转成了双引号。形成json字符串 data = json.loads(s) #反序列过程 print(data['name']) #执行结果： <class 'str'> {"name": "egon"} egon
#dump方式 用于文件操作，省掉了write
# # -------------- dump方式 用于文件操作中，先将数据序列化然后写入文件中! import json d={'name':"egon"} f=open("new2",'w') json.dump(d,f)#---------1 将字典d转成json字符串 2 将json字符串写入f里（！注意参数顺序！） f.close() f=open("new2") print(f.read()) f.close()
2）pickle 仅在python中进行序列化转换，可对任意类型的数据进行序列化转换。
操作与json一样，但是转换的数据为bytes格式，不可查看
#----------------------------------pickle-------------------- import pickle import datetime t=datetime.datetime.now() d={"data":t} print(d) s=pickle.dumps(d) #序列化 print(s,type(s)) #查看序列化的内容，数据类型 s1 = pickle.loads(s) #反序列化 print(s1,type(s1)) #查看序列化的内容，数据类型
三、正则表达式 re 模块
就其本质而言，正则表达式（或 RE）是一种小型的、高度专业化的编程语言，（在Python中）它内嵌在Python中，并通过 re 模块实现。正则表达式模式被编译成一系列的字节码，然后由用 C 编写的匹配引擎执行。
正则就是给字符串操作得。
爬虫里会大量用到字符串。要处理一定是对字符串处理。
正则表达式是模糊匹配，这就是正则表达式得真正关键所在。
匹配是一个一个对应的关系，匹配上就放进自己的列表中。
1.正则表达式（元字符）：只对字符串进行操作
1）操作 一个字符
通配符 点 . 可以替换除了换行符（\n）所有字符， 通配符（一个字符）没有跳过之说。
2）操作 重复字符（操作元字符前的一个字符）
* 代表：0到无穷次
+ 代表：1到无穷次
？ 代表：0到1次
{} ｛r,m｝代表：有r-m次
\d 代表：0-9 的 数字
[] 字符集 中括号内的字符是或的关系，只要匹配到其中一个就可以。
在字符集中还要注意：*，+ . 等元字符都代表的是普通符号， 而 - ^ \
[^2] 字符集内的 ^ 是取反的意思。及除字符集内的条件其他的都符合，[\d] 表示的还是数字！
3）有特殊意义的字符：
- 代表：什么到什么 的意思 例如：[1-9]
^ 开始匹配 从字符串开始位置匹配
$ 结尾匹配 从字符串结尾位置匹配
() 分组 优先匹配分组的内容
(?:内容) 表示取消分组的优先级
| 管道符 表示 或的意思
\ 转义符 将有意义的符号转成无意义的，将无意义的转换成有意义的
1、后面加上一个元字符使其变成普通符号 比如：\. \*
2、将一些普通符号变成特殊符号 比如：\d \w
2、re方法
re.findall(pattern , string) 找到所有的匹配元素，返回列表
re.finditer() #将拿到的东西整成一个可迭代的对象
re.search； 只匹配第一个结果，匹配到就不再向下匹配，返回一个内存地址，通过.group()的方式获取匹配的字符串
re.match:只在字符串开始的位置匹配
re.split(规则，字符串) 分割 以前边的规则表达式为条件分隔符，对字符串进行分割！可在后边限制分割次数
re.sub() 替换
ret4 = re.sub(规则，替换内容，原字符串，次数) 返回一个字符串
re.subn() 替换 返回一个元组（内容，替换次数）
re.compile(规则) 编译规则
c = compile('\d+') 可操作多个字符串
ret5 = c.findall('hello32world')
print(ret5)
贪婪匹配与非贪婪匹配！
命名分组：
整体代码如下：
# 正则：对字符串的模糊匹配 # key：元字符（有特殊功能的字符） import re #元字符 # . :匹配除\n以外的任意符号 print(re.findall("a.+d","abcd")) # ^:从字符串开始位置匹配 # $：从字符串结尾匹配 print(re.findall("^yuan","yuandashj342jhg234")) print(re.findall("yuan$","yuandashj342jhg234yuan")) # * + ? {} ：重复 print(re.findall("[0-9]{4}","af5324jh523hgj34gkhg53453")) #贪婪匹配 print(re.findall("\d+","af5324jh523hgj34gkhg53453")) #非贪婪匹配 print(re.findall("\d+?","af5324jh523hgj34gkhg53453")) print(re.findall("(abc\d)*?","af5324jh523hgj34gkhg53453")) # 字符集 []: 起一个或者的意思 print(re.findall("a[bc]d","hasdabdjhacd")) #注意: * ,+.等元字符都是普通符号， - ^ \ print(re.findall("[0-9]+","dashj342jhg234")) print(re.findall("[a-z]+","dashj342jhg234")) print(re.findall("[^\d]+","d2a2fhj87fgj")) # ()：分组 print(re.findall("(ad)+","addd")) print(re.findall("(ad)+yuan","adddyuangfsdui")) print(re.findall("(?:ad)+yuan","adadyuangfsdui")) print(re.findall("(?:\d)+yuan","adad678423yuang4234fsdui")) #命名分组 ret8=re.search(r"(?P<A>\w+)\\aticles\\(?P<id>\d{4})",r"yuan\aticles\1234") ret8=re.search(r"a\\nb",r"a\nb") print(ret8) print(ret8.group("id")) print(ret8.group("A")) # # | :或 print(re.findall("www\.(?:oldboy|baidu)\.com","www.oldboy.com")) # \:转义 # 1 后面加一个元字符使其变成普通符号 \. \* # 2 将一些普通符号变成特殊符号 比如 \d \w print(re.findall("\d+\.?\d*\*\d+\.?\d*","-2*6+7*45+1.456*3-8/4")) print(re.findall("\w","$da@s4 234")) print(re.findall("a\sb","a badf")) print(re.findall("\\bI","hello I am LIA")) print(re.findall(r"\dI","hello 654I am LIA")) print(re.findall(r"c\\l","abc\l")) # re的方法 # re.findall() # re.findall(pattern, string) # 找到所有的匹配元素，返回列表 #获得迭代器对象 s=re.finditer("\d+","ad324das32") print(s) print(next(s).group()) print(next(s).group()) # "(3+7*2+27+7+(4/2+1))+3" # search;只匹配第一个结果 ret=re.search("\d+","djksf34asd3") print(ret.group()) # #match:只在字符串开始的位置匹配 ret=re.match("\d+","423djksf34asd3") print(ret.group()) #split 分割 s2=re.split("\d+","fhd3245jskf54skf453sd",2) print(s2) ret3=re.split("l","hello yuan") print(ret3) # #sub: 替换 ret4=re.sub("\d+","A","hello 234jkhh23",1) print(ret4) ret4=re.subn("\d+","A","hello 234jkhh23") print(ret4) #compile: 编译方法 c=re.compile("\d+") ret5=c.findall("hello32world53") #== re.findall("\d+","hello32world53") print(ret5)
