常用模块2

模块就是py文件。python中能开辟作用域的只有函数、类和模块。

for循环不能开辟作用域，for循环内的变量为全局变量。if...else...同for循环一样。

一 time模块

时间表示形式

在Python中，通常有这三种方式来表示时间：时间戳、元组(struct_time)、格式化的时间字符串：

(1)时间戳(timestamp) ：通常来说，时间戳表示的是从1970年1月1日00:00:00开始按秒计算的偏移量。

　　我们运行“type(time.time())”，返回的是float类型。

1
2
3
4
5
#时间戳，时间戳是计算机能够识别的时间。
 
import time
print(time.time())      #返回当前时间的时间戳，其中time.time()，第一个time为模块名，第二个time为方法
--->1493166727.099066

 

(2)格式化的时间字符串(Format String)： ‘2017-04-26’

1
2
3
4
5
6
7
#时间字符串，是人能够看懂的时间。
 
print(time.strftime("%Y-%m-%d %X"))　　#Y代表year，m为mouth，d为day，x为时间
--->'2017-04-26 00:32:18'
 
print(time.strftime("%Y：%m))　    #年月日时间分割可以更改，此处用“：”分割
--->'2017:04'

 

(3)元组(struct_time) ：struct_time元组共有9个元素共九个元素:(年，月，日，时，分，秒，一年中第几周，一年中第几天等）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
# 时间元组，结构化时间，是用来操作时间的。
 
import time
c=time.localtime()
print(c)
--->time.struct_time(tm_year=2017, tm_mon=4, tm_mday=26, tm_hour=16, tm_min=30, tm_sec=42, tm_wday=2, tm_yday=116, tm_isdst=0)
<br>#通过操作结构化时间查看具体信息
y=c.tm_year
print(y)
--->2017
 
m=c.tm_mon
print(m)
--->4
 
d=c.tm_mday
print(d)
--->26

 

几种时间形式的转换

 

 

 

 

时间戳转化为结构化时间：localtime/gmtime

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
#时间戳转化为结构化时间localtime/gmtime
#gmtime为世界标准时间，一般不使用。
#localtime为东八区时间，为我们所在的时间，常使用localtime
 
c1=time.localtime(3600*24)
print(c1)  #打印距离1970-1-1 00:00:00一天的时间信息
--->time.struct_time(tm_year=1970, tm_mon=1, tm_mday=2, tm_hour=8, tm_min=0, tm_sec=0, tm_wday=4, tm_yday=2, tm_isdst=0)
print(c1.tm_year,c1.tm_mon,c1.tm_mday,c1.tm_hour,c1.tm_min)
--->1970 1 2 8 0
 
c2=time.gmtime(3600*24)
print(c2)
--->time.struct_time(tm_year=1970, tm_mon=1, tm_mday=2, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=4, tm_yday=2, tm_isdst=0)
 
print(c2.tm_year,c2.tm_mon,c2.tm_mday,c2.tm_hour,c2.tm_min)
--->1970 1 2 0 0
1
<strong> </strong>

结构化时间转化为时间戳：mktime

1
2
3
#结构化时间转化为时间戳mktime
print(time.mktime(time.localtime()))        #当前结构化时间转化为时间戳
--->1493196972.0

 

字符串时间转化为结构化时间：strptime

1
2
3
#字符串时间转化为结构化时间：strptime
print(time.strptime("2017-03-16","%Y-%m-%d"))   #字符串时间2017-03-16转化为结构化时间
--->time.struct_time(tm_year=2017, tm_mon=3, tm_mday=16, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=3, tm_yday=75, tm_isdst=-1)

 

结构化时间转化为字符串时间:strftime

1
2
3
#结构化时间转化为字符串时间:strftime
print(time.strftime("%Y-%m-%d %X", time.localtime()))       #当前结构化时间转化为当前字符串时间
--->2017-04-26 17:07:05

 

 

 

结构化时间转化为时间字符串：asctime

1
2
3
4
5
6
#结构化时间转化为时间字符串：asctime
print(time.asctime(time.localtime(312343423)))      #转化成距离1970-1-1 00:00:00 时间312343423秒的时间字符串格式
--->Sun Nov 25 10:03:43 1979
 
print(time.asctime(time.localtime()))   #转化成当前时间字符串格式
--->Wed Apr 26 17:25:16 2017

　　 

时间戳转化为时间字符串：ctime

1
2
3
4
5
6
#时间戳转化为时间字符串：ctime
print(time.ctime(312343423))        #转化成距离1970-1-1 00:00:00 时间312343423秒的时间字符串格式
--->Sun Nov 25 10:03:43 1979
 
print(time.ctime())     #转化成当前时间字符串格式
--->Wed Apr 26 17:26:19 2017

 

其他方法

1
2
#其他方法
sleep(secs)    # 线程推迟指定的时间运行，单位为秒。相当于IO操作。

 

二 random模块 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
import random
print(random.random())      #输出大于0且小于1之间的小数
--->0.03231288445315539
 
print(random.randint(1,5))   # 随机输出大于等于1且小于等于5之间的整数，[1,5]
--->4
 
print(random.randrange(1,3))    # 随机输出大于等于1且小于3之间的整数，[1,3)
--->2
 
print(random.choice([1,'2',[3,4]]))      #随机取列表中的一个元素，结果为1或者2或者[3,4]
--->[3, 4]
 
print(random.sample([1,'2',[3,4]],2))      #随机取列表中任意2个元素
--->[1, [3, 4]]
 
print(random.uniform(1,3))      #随机取大于1小于3的小数
--->1.0122103690258861
 
item=[1,2,3,4,5]
print(random.shuffle(item))     #直接输出，什么都没有
--->None
 
random.shuffle(item)
print(item)
--->[1, 3, 5, 2, 4]
print(item)     #再次打印结果和上一次输出结果一样，需要重新打乱才能输出重新排序的列表
--->[1, 3, 5, 2, 4]
random.shuffle(item)
print(item)
--->[2, 3, 5, 1, 4]

　　

练习：随机生成验证码，字母和数字

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
def v_code():
 
    code = ''
    for i in range(10):
 
        num=random.randint(0,9)              #随机选择0~9一个数字
        alf1=chr(random.randint(65,90))    #随机选择A~Z一个字母
        alf2=chr(random.randint(97,122))    #随机选择a~z一个字母
        add=random.choice([num,alf1,alf2])      #随机选择num、alf1、alf2中一个
        code="".join([code,str(add)])            #拼接依次选到的元素
 
    return code            #返回验证码
 
print(v_code())
--->48OIcy44rA

　　

 

三 hashlib 

3.1 算法介绍

Python的hashlib提供了常见的摘要算法，如MD5，SHA1等等。

什么是摘要算法呢？摘要算法又称哈希算法、散列算法。它通过一个函数，把任意长度的数据转换为一个长度固定的数据串（通常用16进制的字符串表示）。

摘要算法就是通过摘要函数f()对任意长度的数据data计算出固定长度的摘要digest，目的是为了发现原始数据是否被人篡改过。

摘要算法之所以能指出数据是否被篡改过，就是因为摘要函数是一个单向函数，计算f(data)很容易，但通过digest反推data却非常困难。

而且，对原始数据做一个bit的修改，都会导致计算出的摘要完全不同。

我们以常见的摘要算法MD5为例，计算出一个字符串的MD5值：

1
2
3
4
5
6
import hashlib
 
md5 = hashlib.md5()  # md5只是hashlib摘要算法的一种，可以使用其他摘要算法。md5使用较多。
md5.update('how to use md5 in python hashlib?'.encode("utf8"))  #使用.encode("utf8")或者加b强制转换成二进制方式都不会报错，在python2中不需要
print(md5.hexdigest())
--->d26a53750bc40b38b65a520292f69306　　  # 对应的唯一值

如果数据量很大，可以分块多次调用update()，最后计算的结果是一样的：

 

1
2
3
4
5
6
import hashlib
md5 = hashlib.md5()
md5.update(b'how to use md5 in ')
md5.update(b'python hashlib?')
print(md5.hexdigest())
--->d26a53750bc40b38b65a520292f69306

 

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
import hashlib
 
m=hashlib.md5()
m.update("hello".encode("utf8"))  #计算hello的hash值
print(m.hexdigest())        #以16进制的方式打印经过md5摘要算法计算的hello的hash值
--->5d41402abc4b2a76b9719d911017c592
 
m.update("hello".encode("utf8"))  #计算hellohello的hash值
print(m.hexdigest())
--->23b431acfeb41e15d466d75de822307c
 
n=hashlib.md5("world".encode("utf8"))
n.update(b"python")
print(n.hexdigest())
--->ff9360a32af52a8a18496b51ad7e6b3f

 

MD5是最常见的摘要算法，速度很快，生成结果是固定的128 bit字节，通常用一个32位的16进制字符串表示。

另一种常见的摘要算法是SHA1，调用SHA1和调用MD5完全类似： 

1
2
3
4
5
6
7
import hashlib
 
sha1 = hashlib.sha1()
sha1.update('how to use sha1 in '.encode("utf8"))
sha1.update(b'python hashlib?')
print(sha1.hexdigest())
--->2c76b57293ce30acef38d98f6046927161b46a44

SHA1的结果是160 bit字节，通常用一个40位的16进制字符串表示。

比SHA1更安全的算法是SHA256和SHA512，不过越安全的算法越慢，而且摘要长度更长。　

 

 

3.2 摘要算法应用

任何允许用户登录的网站都会存储用户登录的用户名和口令。如何存储用户名和口令呢？方法是存到数据库表中：

1
2
3
4
5
name    | password
--------+----------
michael | 123456
bob     | abc999
alice   | alice2008

如果以明文保存用户口令，如果数据库泄露，所有用户的口令就落入黑客的手里。此外，网站运维人员是可以访问数据库的，也就是能获取到所有用户的口令。

正确的保存口令的方式是不存储用户的明文口令，而是存储用户口令的摘要，比如MD5：

username | password
---------+---------------------------------
michael  | e10adc3949ba59abbe56e057f20f883e
bob      | 878ef96e86145580c38c87f0410ad153
alice    | 99b1c2188db85afee403b1536010c2c9

考虑这么个情况，很多用户喜欢用123456，888888，password这些简单的口令，于是，黑客可以事先计算出这些常用口令的MD5值，得到一个反推表：

'e10adc3949ba59abbe56e057f20f883e': '123456'
'21218cca77804d2ba1922c33e0151105': '888888'
'5f4dcc3b5aa765d61d8327deb882cf99': 'password'

这样，无需破解，只需要对比数据库的MD5，黑客就获得了使用常用口令的用户账号。

对于用户来讲，当然不要使用过于简单的口令。但是，我们能否在程序设计上对简单口令加强保护呢？

由于常用口令的MD5值很容易被计算出来，所以，要确保存储的用户口令不是那些已经被计算出来的常用口令的MD5，这一方法通过对原始口令加一个复杂字符串来实现，俗称“加盐”：

1
hashlib.md5("salt".encode("utf8"))    #“加盐”的内容此时是salt，也可以为账户名xuyaping，字符串a，数字1等等

经过Salt处理的MD5口令，只要Salt不被黑客知道，即使用户输入简单口令，也很难通过MD5反推明文口令。

但是如果有两个用户都使用了相同的简单口令比如123456，在数据库中，将存储两条相同的MD5值，这说明这两个用户的口令是一样的。

有没有办法让使用相同口令的用户存储不同的MD5呢？

如果假定用户无法修改登录名，就可以通过把登录名作为Salt的一部分来计算MD5，从而实现相同口令的用户也存储不同的MD5。

摘要算法在很多地方都有广泛的应用。要注意摘要算法不是加密算法，不能用于加密（因为无法通过摘要反推明文），只能用于防篡改，

但是它的单向计算特性决定了可以在不存储明文口令的情况下验证用户口令。

 

 

四 os模块 

os模块是与操作系统交互的一个接口

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
os.getcwd() 获取当前工作目录，即当前python脚本工作的目录路径
 
os.chdir()　　当前目录
  
os.chdir("dirname")  改变当前脚本工作目录；相当于shell下cd
  
os.curdir  返回当前目录: ('.')，相当于shell下cd.
  
os.pardir  获取当前目录的父目录字符串名：('..')，相当于shell下cd.. 返回上一层目录
  
os.makedirs('dirname1/dirname2')    可生成多层递归目录
  
os.removedirs('dirname1')    若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推
  
os.mkdir('dirname')    生成单级目录；相当于shell中mkdir dirname
  
os.rmdir('dirname')    删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname
  
os.listdir('dirname')    列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印
  
os.remove()  删除一个文件
  
os.rename("oldname","newname")  重命名文件/目录
  
os.stat('path/filename')  获取文件/目录信息
  
os.sep    输出操作系统特定的路径分隔符，win下为"\\",Linux下为"/"
  
os.linesep    输出当前平台使用的行终止符，win下为"\t\n",Linux下为"\n"
  
os.pathsep    输出用于分割文件路径的字符串 win下为;,Linux下为:
  
os.name    输出字符串指示当前使用平台。win->'nt'; Linux->'posix'
  
os.system("bash command")  运行shell命令，直接显示
  
os.environ  获取系统环境变量
  
os.path.abspath(path)  返回path规范化的绝对路径
  
os.path.split(path)  将path分割成目录和文件名二元组返回
  
os.path.dirname(path)  返回path的目录。其实就是os.path.split(path)的第一个元素
  
os.path.basename(path)  返回path最后的文件名。如何path以／或\结尾，那么就会返回空值。即os.path.split(path)的第二个元素
  
os.path.exists(path)  如果path存在，返回True；如果path不存在，返回False
  
os.path.isabs(path)  如果path是绝对路径，返回True
  
os.path.isfile(path)  如果path是一个存在的文件，返回True。否则返回False
  
os.path.isdir(path)  如果path是一个存在的目录，则返回True。否则返回False
  
os.path.join(path1[, path2[, ...]])  将多个路径组合后返回，第一个绝对路径之前的参数将被忽略
  
os.path.getatime(path)  返回path所指向的文件或者目录的最后存取时间
  
os.path.getmtime(path)  返回path所指向的文件或者目录的最后修改时间
  
os.path.getsize(path) 返回path的大小

　　 

 

五 sys模块 

1
2
3
4
5
6
sys.argv           命令行参数List，第一个元素是程序本身路径
sys.exit(n)        退出程序，正常退出时exit(0)
sys.version        获取Python解释程序的版本信息
sys.maxint         最大的Int值
sys.path           返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值
sys.platform       返回操作系统平台名称

　

 

六 logging模块

6.1 函数式简单配置

不予以配置，查看默认情况下输出：

1
2
3
4
5
6
7
8
9
10
import logging
logging.debug('debug message')
logging.info('info message')
logging.warning('warning message')
logging.error('error message')
logging.critical('critical message')
 
--->WARNING:root:warning message
    ERROR:root:error message
    CRITICAL:root:critical message

默认情况下Python的logging模块将日志打印到了标准输出中，且只显示了大于等于WARNING级别的日志，这说明默认的日志级别设置为WARNING（日志级别等级CRITICAL > ERROR > WARNING > INFO > DEBUG），默认的日志格式为日志级别：Logger名称：用户输出消息。

 

灵活配置日志级别，日志格式，输出位置:

使用config 

1
2
3
4
5
6
7
8
9
10
11
12
13
import logging
 
logging.basicConfig(level=logging.DEBUG,  # 配置日志级别，默认输出debug等级及等级更高的内容
                    format='%(asctime)s--->%(filename)s[line:%(lineno)d]====>%(levelname)s::::%(message)s',  # 配置日志显示格式
                    datefmt='%a, %d %b %Y %H:%M:%S',  # 配置时间格式
                    filename='test.log',  # 配置文件路径
                    filemode='w')  # 配置文件权限
 
logging.debug('debug message')
logging.info('info message')
logging.warning('warning message')
logging.error('error message')
logging.critical('critical message')

日志输出内容test.log文本打开内容如下：

1
2
3
4
5
Tue, 02 May 2017 07:49:54--->日志模块.py[line:9]====>DEBUG::::debug message
Tue, 02 May 2017 07:49:54--->日志模块.py[line:10]====>INFO::::info message
Tue, 02 May 2017 07:49:54--->日志模块.py[line:11]====>WARNING::::warning message
Tue, 02 May 2017 07:49:54--->日志模块.py[line:12]====>ERROR::::error message
Tue, 02 May 2017 07:49:54--->日志模块.py[line:13]====>CRITICAL::::critical message

 

可见在logging.basicConfig()函数中可通过具体参数来更改logging模块默认行为，可用参数有

filename：用指定的文件名创建FiledHandler（后边会具体讲解handler的概念），这样日志会被存储在指定的文件中。

filemode：文件打开方式，在指定了filename时使用这个参数，默认值为“a”还可指定为“w”。

format：指定handler使用的日志显示格式。 

datefmt：指定日期时间格式。 

level：设置rootlogger（后边会讲解具体概念）的日志级别。 

stream：用指定的stream创建StreamHandler。可以指定输出到sys.stderr,sys.stdout或者文件(f=open('test.log','w'))，默认为sys.stderr。

若同时列出了filename和stream两个参数，则stream参数会被忽略。

format参数中可能用到的格式化串：

%(name)s Logger的名字

%(levelno)s 数字形式的日志级别

%(levelname)s 文本形式的日志级别

%(pathname)s 调用日志输出函数的模块的完整路径名，可能没有

%(filename)s 调用日志输出函数的模块的文件名

%(module)s 调用日志输出函数的模块名

%(funcName)s 调用日志输出函数的函数名

%(lineno)d 调用日志输出函数的语句所在的代码行

%(created)f 当前时间，用UNIX标准的表示时间的浮 点数表示

%(relativeCreated)d 输出日志信息时的，自Logger创建以 来的毫秒数

%(asctime)s 字符串形式的当前时间。默认格式是 “2003-07-08 16:49:45,896”。逗号后面的是毫秒

%(thread)d 线程ID。可能没有

%(threadName)s 线程名。可能没有

%(process)d 进程ID。可能没有

%(message)s用户输出的消息

 

 使用logger对象来配置

与config比，可同时显示在程序运行页面屏幕和文件中，功能更多，推荐使用。

    上述几个例子中我们了解到了logging.debug()、logging.info()、logging.warning()、logging.error()、logging.critical()（分别用以记录不同级别的日志信息），logging.basicConfig()（用默认日志格式（Formatter）为日志系统建立一个默认的流处理器（StreamHandler），设置基础配置（如日志级别等）并加到root logger（根Logger）中）这几个logging模块级别的函数，另外还有一个模块级别的函数是logging.getLogger([name])（返回一个logger对象，如果没有指定名字将返回root logger）

先看一个最简单的过程：

1
2
3
4
5
import logging
logging.info('info message')    #不会被打印，因为等级不够
logger=logging.getLogger()
print(logger)
---><RootLogger root (WARNING)>

   

示例1：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
1 import logging
 2
 3 logger=logging.getLogger()         #创建一个大对象
 4
 5 fh=logging.FileHandler("test_log") #向文件里发送内容，并且给个参数，作用是：定义一个文件名，往文件里写入内容
 6 ch=logging.StreamHandler()         #向屏幕上发送内容　　
 7 #logger.setLevel(logging.DEBUG)  #设定输出等级
 8 fm=logging.Formatter("%(asctime)s  %(message)s")   #这个也是一个对象，作用是：定义日志格式
 9
10 fh.setFormatter(fm)     #往文件里写内容
11 ch.setFormatter(fm)     #往屏幕上输出内容
12
13 logger.addHandler(fh)   #对象，类似于吸别人内力，把fh吃掉
14 logger.addHandler(ch)   #对象，类似于吸别人内力，把ch吃掉
15
16 logger.debug("debug")   #输出日志的级别
17 logger.info("info")
18 logger.warning("warning")
19 logger.error("error")
20 logger.critical("critical")

执行结果：

 
 1 会生成一个test_log的文件，同时往里面写入信息，并在屏幕上面显示相同信息。
 2 文件内容如下：
 3 2016-12-15 14:38:27,657  warning
 4 2016-12-15 14:38:27,658  error
 5 2016-12-15 14:38:27,658  critical
 6 
 7 屏幕输出信息如下：
 8 2016-12-15 14:38:27,657  warning
 9 2016-12-15 14:38:27,658  error
10 2016-12-15 14:38:27,658  critical
 

 

示例2： logger.setLevel("DEBUG")   调整日志级别，控制日志显示信息，DEBUG显示5条记录

 
 1 import logging
 2 
 3 logger=logging.getLogger()         #创建一个大对象
 4 
 5 fh=logging.FileHandler("test_log") #向文件里发送内容，并且给个参数，作用是：定义一个文件名，往文件里写入内容
 6 ch=logging.StreamHandler()         #向屏幕上发送内容
 7 
 8 fm=logging.Formatter("%(asctime)s  %(message)s")   #这个也是一个对象，作用是：定义日志格式
 9 
10 fh.setFormatter(fm)      #往文件里写内容
11 ch.setFormatter(fm)      #往屏幕上输出内容
12 
13 logger.addHandler(fh)    #对象，类似于吸别人内力，把fh吃掉
14 logger.addHandler(ch)    #对象，类似于吸别人内力，把ch吃掉
15 logger.setLevel("DEBUG") #设置日志级别，控制日志输入多少条信息
16 
17 
18 #-------------从这里开始都是在操作log----------------
19 
20 logger.debug("debug")   #输出日志的级别
21 logger.info("info")
22 logger.warning("warning")
23 logger.error("error")
24 logger.critical("critical")
 

执行结果：

 
 1 会生成一个test_log的文件，同时往里面写入信息，并在屏幕上面显示相同信息。
 2 文件内容如下：
 3 2016-12-15 14:54:37,036  debug
 4 2016-12-15 14:54:37,037  info
 5 2016-12-15 14:54:37,038  warning
 6 2016-12-15 14:54:37,038  error
 7 2016-12-15 14:54:37,039  critical
 8 
 9 屏幕输出信息如下：
10 2016-12-15 14:54:37,036  debug
11 2016-12-15 14:54:37,037  info
12 2016-12-15 14:54:37,038  warning
13 2016-12-15 14:54:37,038  error
14 2016-12-15 14:54:37,039  critical
 

 

示例3：  写成函数的形式，并有返回值

 
 1 import logging
 2 
 3 def logger():
 4 
 5     logger=logging.getLogger()         #创建一个大对象
 6 
 7     fh=logging.FileHandler("test_log") #向文件里发送内容，并且给个参数，作用是：定义一个文件名，往文件里写入内容
 8     ch=logging.StreamHandler()         #向屏幕上发送内容
 9 
10     fm=logging.Formatter("%(asctime)s  %(message)s")   #这个也是一个对象，作用是：定义日志格式
11 
12     fh.setFormatter(fm)       #往文件里写内容
13     ch.setFormatter(fm)       #往屏幕上输出内容
14 
15     logger.addHandler(fh)     #对象，类似于吸别人内力，把fh吃掉
16     logger.addHandler(ch)     #对象，类似于吸别人内力，把ch吃掉
17     logger.setLevel("DEBUG")  #设置日志级别，控制日志输入多少条信息
18 
19     return logger
20 
21 #-------------从这里开始都是在操作log----------------
22 logger=logger()         #这个日志就做成了一个接口，想在其它地方使用，直接调用他就可以啦！
23 
24 logger.debug("debug")   #输出日志的级别
25 logger.info("info")
26 logger.warning("warning")
27 logger.error("error")
28 logger.critical("critical")
 

执行结果：

 
 1 会生成一个test_log的文件，同时往里面写入信息，并在屏幕上面显示相同信息。
 2 文件内容如下：
 3 2016-12-15 14:54:37,036  debug
 4 2016-12-15 14:54:37,037  info
 5 2016-12-15 14:54:37,038  warning
 6 2016-12-15 14:54:37,038  error
 7 2016-12-15 14:54:37,039  critical
 8 
 9 屏幕输出信息如下：
10 2016-12-15 14:54:37,036  debug
11 2016-12-15 14:54:37,037  info
12 2016-12-15 14:54:37,038  warning
13 2016-12-15 14:54:37,038  error
14 2016-12-15 14:54:37,039  critical
 

 

示例4： 只在屏幕文件中写入日志，不在屏幕上面显示

 
 1 import logging
 2 
 3 def logger():
 4 
 5     logger=logging.getLogger()         #创建一个大对象
 6 
 7     fh=logging.FileHandler("test_log") #向文件里发送内容，并且给个参数，作用是：定义一个文件名，往文件里写入内容
 8     #ch=logging.StreamHandler()        #向屏幕上发送内容
 9 
10     fm=logging.Formatter("%(asctime)s  %(message)s")   #这个也是一个对象，作用是：定义日志格式
11 
12     fh.setFormatter(fm)      #往文件里写内容
13     #ch.setFormatter(fm)     #往屏幕上输出内容
14 
15     logger.addHandler(fh)    #对象，类似于吸别人内力，把fh吃掉
16     #logger.addHandler(ch)   #对象，类似于吸别人内力，把ch吃掉
17     logger.setLevel("DEBUG") #设置日志级别，控制日志输入多少条信息
18 
19     return logger
20 
21 #-------------从这里开始都是在操作log----------------
22 logger=logger()         #这个日志就做成了一个接口，在其它地方，直接调用他就可以啦！
23 
24 logger.debug("debug")   #输出日志的级别
25 logger.info("info")
26 logger.warning("warning")
27 logger.error("error")
28 logger.critical("critical")
 

执行结果：

 
1 #会生成一个test_log的文件，同时往里面写入信息，不会在屏幕上面显示信息。
2 #文件内容如下：
3 2016-12-15 14:54:37,036  debug
4 2016-12-15 14:54:37,037  info
5 2016-12-15 14:54:37,038  warning
6 2016-12-15 14:54:37,038  error
7 2016-12-15 14:54:37,039  critical
 

 

示例5：没有根用户
#如果我们再创建两个logger对象

 
 1 import logging
 2 
 3 logger1 = logging.getLogger('mylogger')   #默认是根，这里代表他是子用户（两个用户是同级）
 4 #logger1 = logging.getLogger('mylogger.sontree')   #如果mylogger下再创建一个字对象，就用.sontree;等于他就是mylogger的下级对象。
 5 logger1.setLevel(logging.DEBUG)           #第一次是DEBUG级别
 6 
 7 logger2 = logging.getLogger('mylogger')   #默认是根，这里代表他是子用户（两个用户是同级）
 8 logger2.setLevel(logging.INFO)            #第二次是INFO级别，覆盖第一次的级别，所以打印结果是INFO级别显示
 9 
10 fh=logging.FileHandler("test_log-new")    #向文件里发送内容，并且给个参数，作用是：定义一个文件名，往文件里写入内容
11 ch=logging.StreamHandler()                #向屏幕上发送内容
12 
13 logger1.addHandler(fh)
14 logger1.addHandler(ch)
15 
16 logger2.addHandler(fh)
17 logger2.addHandler(ch)
 

执行结果：

 
 1 logger1 and logger2各打印4条信息
 2 生成一个test_log-new的文件，同时往里面写入信息，并在屏幕上面显示相同信息。
 3 文件内容如下：
 4 logger1 info message
 5 logger1 warning message
 6 logger1 error message
 7 logger1 critical message
 8 logger2 info message
 9 logger2 warning message
10 logger2 error message
11 logger2 critical message
12 
13 #屏幕上面显示的内容
14 logger1 info message
15 logger1 warning message
16 logger1 error message
17 logger1 critical message
18 logger2 info message
19 logger2 warning message
20 logger2 error message
21 logger2 critical message
 

 

示例6：添加根用户  (lgger和mylogger是父子关系) （注意日志输出问题）

 
 1 import logging
 2 
 3 logger = logging.getLogger()              #根用户(根用户级别，没有定义日志级别，默认warning级别，所以是3条信息
 4 
 5 logger1 = logging.getLogger('mylogger')   #默认是根，这里代表他是子用户（两个用户是同级）
 6 logger1.setLevel(logging.DEBUG)           #第一次是DEBUG级别,默认是打印五条信息，但是他打印信息的时候，会先去找父，如果有父，他就会多打印一遍，所以输出是10条信息
 7 
 8 fh=logging.FileHandler("test_log-new")    #向文件里发送内容，并且给个参数，作用是：定义一个文件名，往文件里写入内容
 9 ch=logging.StreamHandler()                #向屏幕上发送内容
10 
11 logger.addHandler(ch)                     #添加一个根用户
12 logger.addHandler(fh)
13 
14 logger1.addHandler(fh)                    #添加一个子用户
15 logger1.addHandler(ch)
16 
17 #打印信息
18 logger.debug('logger debug message')
19 logger.info('logger info message')
20 logger.warning('logger warning message')
21 logger.error('logger error message')
22 logger.critical('logger critical message')
23 
24 #打印4条信息
25 logger1.debug('logger1 debug message')
26 logger1.info('logger1 info message')
27 logger1.warning('logger1 warning message')
28 logger1.error('logger1 error message')
29 logger1.critical('logger1 critical message')
 

输出结果：

 
 1 生成一个test_log-new的文件，同时往里面写入信息，并在屏幕上面显示相同信息。
 2 文件内容如下：
 3 logger warning message
 4 logger error message
 5 logger critical message    #前三条是根输出的三条信息
 6 logger1 debug message      #后10条是子输出的10条信息，为什么会输入10条呢？
 7 logger1 debug message      #第一次是DEBUG级别,默认是打印五条信息，但是他打印信息的时候，会先去找父，如果有父，他就会多打印一遍，所以输出是5+5=10条信息
 8 logger1 info message
 9 logger1 info message
10 logger1 warning message
11 logger1 warning message
12 logger1 error message
13 logger1 error message
14 logger1 critical message
15 logger1 critical message
16 
17 屏幕输出内容如下：
18 logger warning message
19 logger error message
20 logger critical message    
21 logger1 debug message
22 logger1 debug message
23 logger1 info message
24 logger1 info message
25 logger1 warning message
26 logger1 warning message
27 logger1 error message
28 logger1 error message
29 logger1 critical message
30 logger1 critical message
 

 

示例7：添加根用户  （控制根用户不输入，只输出子用户信息）

 
 1 import logging
 2 
 3 logger = logging.getLogger()                #根用户(根用户级别，没有定义日志级别，默认warning级别，所以是3条信息
 4 
 5 logger1 = logging.getLogger('mylogger')     #默认是根，这里代表他是子用户（两个用户是同级）
 6 logger1.setLevel(logging.DEBUG)             #第一次是DEBUG级别,默认是打印五条信息，但是他打印信息的时候，会先去找父，如果有父，他就会多打印一遍，所以输出是10条信息
 7 
 8 fh=logging.FileHandler("test_log-new")      #向文件里发送内容，并且给个参数，作用是：定义一个文件名，往文件里写入内容
 9 ch=logging.StreamHandler()                  #向屏幕上发送内容
10 
11 logger1.addHandler(fh)                      #添加一个子用户
12 logger1.addHandler(ch)
13 
14 #打印4条信息
15 logger1.debug('logger1 debug message')
16 logger1.info('logger1 info message')
17 logger1.warning('logger1 warning message')
18 logger1.error('logger1 error message')
19 logger1.critical('logger1 critical message')
 

执行结果：

 
#生成一个test_log-new的文件，同时往里面写入信息，并在屏幕上面显示相同信息。
文件内容如下：
logger1 debug message
logger1 info message
logger1 warning message
logger1 error message
logger1 critical message

屏幕输出内容如下：
logger1 debug message
logger1 info message
logger1 warning message
logger1 error message
logger1 critical message
 

 

logging库提供了多个组件：Logger、Handler、Filter、Formatter。Logger对象提供应用程序可直接使用的接口，Handler发送日志到适当的目的地，Filter提供了过滤日志信息的方法，Formatter指定日志显示格式。

Logger是一个树形层级结构，输出信息之前都要获得一个Logger（如果没有显示的获取则自动创建并使用root Logger）。
      logger = logging.getLogger()返回一个默认的Logger也即root Logger，并应用默认的日志级别、Handler和Formatter设置。
当然也可以通过Logger.setLevel(lel)指定最低的日志级别，可用的日志级别有logging.DEBUG、logging.INFO、logging.WARNING、logging.ERROR、logging.CRITICAL。
      Logger.debug()、Logger.info()、Logger.warning()、Logger.error()、Logger.critical()输出不同级别的日志，只有日志等级大于或等于设置的日志级别的日志才会被输出。

 

 

七 序列化模块json & pickle

 之前我们学习过用eval内置方法可以将一个字符串转成python对象，不过，eval方法是有局限性的，对于普通的数据类型，json.loads和eval都能用，但遇到特殊类型的时候，eval就不管用了,所以eval的重点还是通常用来执行一个字符串表达式，并返回表达式的值。

1
2
3
4
5
6
7
import json
x="[null,true,false,1]"
# print(eval(x))
--->报错
 
print(json.loads(x))
--->[null,true,false,1]

　　

　　

什么是序列化？

我们把对象(变量)从内存中变成可存储或传输的过程称之为序列化，在Python中叫pickling，在其他语言中也被称之为serialization，marshalling，flattening等等，都是一个意思。

序列化之后，就可以把序列化后的内容写入磁盘，或者通过网络传输到别的机器上。

反过来，把变量内容从序列化的对象重新读到内存里称之为反序列化，即unpickling。

json  

如果我们要在不同的编程语言之间传递对象，就必须把对象序列化为标准格式，比如XML，但更好的方法是序列化为JSON，因为JSON表示出来就是一个字符串，可以被所有语言读取，也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式，并且比XML更快，而且可以直接在Web页面中读取，非常方便。

JSON表示的对象就是标准的JavaScript语言的对象一个子集，JSON和Python内置的数据类型对应如下：

 

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
import json
i=10
s='hello'
t=(1,4,6)
l=[3,5,7]
d={'name':"yuan"}
 
#序列化
json_str1=json.dumps(i)    #将整型i转换为json字符串形式
json_str2=json.dumps(s)    #将字符串'hello'转换为json字符串形式
json_str3=json.dumps(t)    #将元组t=(1,4,6)转换为json字符串形式
json_str4=json.dumps(l)    #将列表l=[3,5,7]转换为json字符串形式
json_str5=json.dumps(d)    #将字典d={'name':"yuan"}转换为json字符串形式。当d有英文时，打印出的是unicode数据；当d内容为英语时，正常显示
 
print(json_str1)       #json能识别整型
--->10                #json的字符串10
 
print(json_str2)       #json不能识别字符串
--->"hello"              #打印双引号，jason识别不了单引号''
 
print(json_str3)       #json不能识别元组，识别不了()，默认转换为[]
--->[1, 4, 6]
 
print(json_str4)       #json能识别列表
--->[3, 5, 7]
 
print(json_str5)       #json能识别字典。jason识别不了单引号''，所以输出的都是双引号。
--->{"name": "yuan"}

 　

python在文本中的使用：　　

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
#序列化
 
import json
dic={'name':'alvin','age':23,'sex':'male'}
print(type(dic))
---><class 'dict'>
 
data=json.dumps(dic)
print("type",type(data))
---><class 'str'>
print("data",data)
 
 
f=open('序列化对象','w')
f.write(data)          #等价于json.dump(dic,f)
f.close()
 
 
#反序列化
 
import json
f=open('序列化对象')
new_data=json.loads(f.read())    #等价于data=json.load(f)
 
print(type(new_data))

 

json序列化 

把字典转换成json形式的字符串写入文件中 （两种方法效果一样，只是写法不同而已）

方法一：推荐用这种方法

 
1 #1、把字典转换成json形式的字符串写入文件中
2 import json
3 dic = {'name': 'xuyaping'}
4 dic = json.dumps(dic)
5 f = open("hello", "w")
6 f.write(dic)
 

方法二：

1 import json
2 dic = {'name': 'xuyaping'}
3 f = open("hello", "w")
4 dic = json.dump(dic, f)

执行结果：

会生成一个hello的文件，并写入内容：

1 {"name": "xuyaping"}

 

json反序列化

先创建一个json_test文件，写入内容

1 {"name":"alvin"} #只要符合json规范就可以把值取出来。  另一种示例：{'name':"alvin"} #如果是'name' 的值是单引号就会报错。

再去取值

 
1 import json
2 
3 with open("Json_test","r") as f:  #双引号可以直接把值取出来
4     data=f.read()
5     data=json.loads(data)
6     print(data["name"])
 

执行结果：

1 alvin

 

注：无论数据是怎样创建的，只要满足json格式，就可以json.loads出来,不一定非要dumps的数据才能loads

 

 

 pickle

可以转换为任意数据类型，比json转换数据类型丰富很多。pickle序列化后的结果为字节格式，json序列化后的结果为字符串格式。

pickle，完全为python设定的。不同语言之间用json。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
#序列化
 
import pickle
dic={'name':'alvin','age':23,'sex':'male'}
print(type(dic))
---><class 'dict'>
  
j=pickle.dumps(dic)　　　　#pickle.dumps()序列化为字节。
print(type(j))
---><class 'bytes'>
  
  
f=open('序列化对象_pickle','wb')#注意是w是写入str,wb是写入bytes,j是'bytes'
f.write(j)      #等价于pickle.dump(dic,f)
  
f.close()
 
 
#反序列化
 
import pickle
f=open('序列化对象_pickle','rb')
  
data=pickle.loads(f.read())#  等价于data=pickle.load(f)
  
print(data['age'])

　

Pickle的问题和所有其他编程语言特有的序列化问题一样，就是它只能用于Python，并且可能不同版本的Python彼此都不兼容，因此，只能用Pickle保存那些不重要的数据，不能成功地反序列化也没关系。

 

总结：

Json模块提供了四个功能：dumps、dump、loads、load

pickle模块提供了四个功能：dumps、dump、loads、load

　　dump()函数接受一个文件句柄和一个数据对象作为参数，把数据对象以特定的格式保存 到给定的文件中。当我们使用load()函数从文件中取出已保存的对象时，pickle知道如何恢复这些对象到它们本来的格式。

　　dumps()函数执行和dump() 函数相同的序列化。取代接受流对象并将序列化后的数据保存到磁盘文件，这个函数简单的返回序列化的数据。

　　loads()函数执行和load() 函数一样的反序列化。取代接受一个流对象并去文件读取序列化后的数据，它接受包含序列化后的数据的str对象, 直接返回的对象。

 

 

八 re模块

就其本质而言，正则表达式（或 RE）是一种小型的、高度专业化的编程语言，（在Python中）它内嵌在Python中，并通过 re 模块实现。正则表达式模式被编译成一系列的字节码，然后由用 C 编写的匹配引擎执行。

 

字符匹配（普通字符，元字符）：有特殊功能的符号，正则表达式最核心的部分。

1 普通字符：大多数字符和字母都会和自身匹配。
              >>> re.findall('alvin','yuanaleSxalexwupeiqi')　　#re.findall,将符合条件的全部返还放到列表中。
                      ['alvin'] 

2 元字符：. ^ $ * + ? { } [ ] | ( ) \ 

.  　　匹配任何一个除换行符以外的任意字符。

^ 　　 匹配以前面字符开头的任意字符。^ 放在[]中是取反的意思。

$  　　匹配以后面字符结尾的任意字符。

* 　　将前面的符号匹配0到无穷次。

+ 　　将前面的符号匹配1到无穷次。

？　　将前面的符号匹配0次或者1次。

{} 　 {n,m} 将前面的符号匹配n到m次。

[]　　字符集，或的关系。把通配符当作普通符号，没有意义 ，除了 - ^ \外。

|  　  或

() 　 分组，涉及到分组，优先把分组内容显示出来，匹配的只是分组的内容。

？：  取消优先级，取消分组特权。

\  　 转义符号。

 

完全匹配，找什么就是什么。python内置的方法都是完全匹配。

1
2
3
4
5
6
7
8
#完全匹配
import re
s="hello world"
print(s.replace("w","W"))
--->hello World
 
print(s.find("w"))
--->6      #6为索引值

 

模糊匹配，如\d代表数字，\d+代表1到正无穷个数字。

1
2
3
4
5
6
7
8
import re
l1=re.findall("\d","vbdkvbl1349vdkb358cnkvh3750jfg")
print(l1)
--->['1', '3', '4', '9', '3', '5', '8', '3', '7', '5', '0']
 
l2=re.findall("\d+","vbdkvbl1349vdkb358cnkvh3750jfg")
print(l2)
--->['1349', '358', '3750']

 

.  匹配任何一个除换行符以外的任意字符。

 

\t可以匹配成功。\n不可以匹配，除了\n不能匹配，其他都能匹配。

 

 * 将前面的符号b匹配0到无穷次

 

 

+将前面的符号b匹配1到无穷次

匹配失败。

 

？将前面的符号匹配0次或者1次。

 

{3} 将前面的符号匹配3次。

 

{3,5} 将前面的符号匹配3到5次.

 

匹配北京电话号码

 

ab{0，}相当于ab*

ab{0，}相当于ab+

 

[] 字符集，或的关系。

[bd]　　匹配b或d 

[b,d]　　匹配b或,或d 三个字符

没有a,c所以没匹配出来

 

[] ，把通配符当作普通符号，没有意义 。

[*] ，其中*只是普通符号，没有意义 。

 

[] ，把元字符当作普通符号，除了 - ^ \外，其他没有意义 。

匹配失败。

 

^ 开头

匹配以yuan开头的字符

 

$ 结尾

匹配以yuan结尾的字符

 

[0-9]和\d完全一样。 [a-z]和\w一样。^ 放在[]中是取反的意思。

 

 

 

() 分组

 

(ad) 分组。因为涉及到分组，优先把分组内容显示出来，匹配的只是分组的内容。

 

 

？：  取消优先级，取消分组特权。

 

 |   或的意思。

 

将乘法运算过滤出来

\*   将*转化为普通字符。

\d+\.?\d*     \d+匹配数字，\.将.转化为普通字符 ,   ?\d*匹配0到无穷个小数点。

 

- 不加打印出结果也是一样的。

 

 

 

特殊符号使用\转义没效果，只针对普通字符。

 

\s  匹配空格。

\b 匹配特殊符号和边界的。

 

加 r的原因

 

c\\\l  ,\\\一个是匹配\ ,一个是转义\，一个是python解释器翻译\  

加 r也能实现。

 r 告诉python解释器不要进行转义。

 

 

\b 在ascii表中有一个功能。

 

\d 在ascii表中没有一个功能，Python解释器不认识，所以直接送给正则。

一般情况下都加上r。

 

re.findall()  返回的是列表。

re.finditer()  返回的是迭代器。

 

 

 

re.search()与re.findall()不同的是匹配到第一个信息后就不向下匹配了。当返回None表示没有匹配成功。

 

search和findall 不一样的是需要group() ，且search匹配一个就停止。

 

re.split()  分割

re.split()  第三个参数设置分割次数。

 

re.sub()  替换

第三个参数count为替换次数

re.sbn()将替换的次数也打印出来。

 

re.compile   编译方法。

好处：效率高。对相同字符串编译处理多次，提高效率。

 

 

命名分组

 

？P<author>  想当于给每个匹配的内容取个名字。

 

非贪婪匹配与贪婪匹配

 后面字符串也要加r，因为\n python解释器能识别，所以需要转化成原生字符串给python解释器。　

 

 

常用正则表达式符号

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
'.'     默认匹配除\n之外的任意一个字符，若指定flag DOTALL,则匹配任意字符，包括换行
'^'     匹配字符开头，若指定flags MULTILINE,这种也可以匹配上(r"^a","\nabc\neee",flags=re.MULTILINE)
'$'     匹配字符结尾，或e.search("foo$","bfoo\nsdfsf",flags=re.MULTILINE).group()也可以
'*'     匹配*号前的字符0次或多次，re.findall("ab*","cabb3abcbbac")  结果为['abb', 'ab', 'a']
'+'     匹配前一个字符1次或多次，re.findall("ab+","ab+cd+abb+bba") 结果['ab', 'abb']
'?'     匹配前一个字符1次或0次
'{m}'   匹配前一个字符m次
'{n,m}' 匹配前一个字符n到m次，re.findall("ab{1,3}","abb abc abbcbbb") 结果'abb', 'ab', 'abb']
'|'     匹配|左或|右的字符，re.search("abc|ABC","ABCBabcCD").group() 结果'ABC'
'(...)' 分组匹配，re.search("(abc){2}a(123|456)c", "abcabca456c").group() 结果 abcabca456c
 
 
'\A'    只从字符开头匹配，re.search("\Aabc","alexabc") 是匹配不到的
'\Z'    匹配字符结尾，同$
'\d'    匹配数字0-9
'\D'    匹配非数字
'\w'    匹配[A-Za-z0-9]
'\W'    匹配非[A-Za-z0-9]
's'     匹配空白字符、\t、\n、\r , re.search("\s+","ab\tc1\n3").group() 结果 '\t'
 
'(?P<name>...)' 分组匹配 re.search("(?P<province>[0-9]{4})(?P<city>[0-9]{2})(?P<birthday>[0-9]{4})","371481199306143242").groupdict("city") 结果{'province': '3714', 'city': '81', 'birthday': '1993'}

　　

最常用的匹配语法

1
2
3
4
5
re.match 从头开始匹配
re.search 匹配包含
re.findall 把所有匹配到的字符放到以列表中的元素返回
re.splitall 以匹配到的字符当做列表分隔符
re.sub      匹配字符并替换

反斜杠的困扰
与大多数编程语言相同，正则表达式里使用"\"作为转义字符，这就可能造成反斜杠困扰。假如你需要匹配文本中的字符"\"，那么使用编程语言表示的正则表达式里将需要4个反斜杠"\\\\"：前两个和后两个分别用于在编程语言里转义成反斜杠，转换成两个反斜杠后再在正则表达式里转义成一个反斜杠。Python里的原生字符串很好地解决了这个问题，这个例子中的正则表达式可以使用r"\\"表示。同样，匹配一个数字的"\\d"可以写成r"\d"。有了原生字符串，你再也不用担心是不是漏写了反斜杠，写出来的表达式也更直观。

 

仅需轻轻知道的几个匹配模式

1
2
3
re.I(re.IGNORECASE): 忽略大小写（括号内是完整写法，下同）
M(MULTILINE): 多行模式，改变'^'和'$'的行为（参见上图）
S(DOTALL): 点任意匹配模式，改变'.'的行为
posted @ 2017-11-21 14:57  PengDa  阅读(203)  评论(0)  编辑  收藏  举报