Python 模块
一、sys
1 sys.argv 命令行参数List，第一个元素是程序本身路径 2 sys.exit(n) 退出程序，正常退出时exit(0) 3 sys.version 获取Python解释程序的版本信息 4 sys.maxint 最大的Int值 5 sys.path 返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值 6 sys.platform 返回操作系统平台名称 7 sys.stdin 输入相关 8 sys.stdout 输出相关 9 sys.stderror 错误相关
显示进度条：
1 import sys 2 import time 3 4 5 def view_bar(num, total): 6 rate = float(num) / float(total) 7 rate_num = int(rate * 100) 8 r = '\r%d%%' % (rate_num, ) 9 sys.stdout.write(r) 10 sys.stdout.flush() 11 12 13 if __name__ == '__main__': 14 for i in range(0, 100): 15 time.sleep(0.1) 16 view_bar(i, 100) 17 18 进度百分比
二、os
1 os.getcwd() 获取当前工作目录，即当前python脚本工作的目录路径 2 os.chdir("dirname") 改变当前脚本工作目录；相当于shell下cd 3 os.curdir 返回当前目录: ('.') 4 os.pardir 获取当前目录的父目录字符串名：('..') 5 os.makedirs('dir1/dir2') 可生成多层递归目录 6 os.removedirs('dirname1') 若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推 7 os.mkdir('dirname') 生成单级目录；相当于shell中mkdir dirname 8 os.rmdir('dirname') 删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname 9 os.listdir('dirname') 列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印 10 os.remove() 删除一个文件 11 os.rename("oldname","new") 重命名文件/目录 12 os.stat('path/filename') 获取文件/目录信息 13 os.sep 操作系统特定的路径分隔符，win下为"\\",Linux下为"/" 14 os.linesep 当前平台使用的行终止符，win下为"\t\n",Linux下为"\n" 15 os.pathsep 用于分割文件路径的字符串 16 os.name 字符串指示当前使用平台。win->'nt'; Linux->'posix' 17 os.system("bash command") 运行shell命令，直接显示 18 os.environ 获取系统环境变量 19 os.path.abspath(path) 返回path规范化的绝对路径 20 os.path.split(path) 将path分割成目录和文件名二元组返回 21 os.path.dirname(path) 返回path的目录。其实就是os.path.split(path)的第一个元素 22 os.path.basename(path) 返回path最后的文件名。如何path以／或\结尾，那么就会返回空值。即os.path.split(path)的第二个元素 23 os.path.exists(path) 如果path存在，返回True；如果path不存在，返回False 24 os.path.isabs(path) 如果path是绝对路径，返回True 25 os.path.isfile(path) 如果path是一个存在的文件，返回True。否则返回False 26 os.path.isdir(path) 如果path是一个存在的目录，则返回True。否则返回False 27 os.path.join(path1[, path2[, ...]]) 将多个路径组合后返回，第一个绝对路径之前的参数将被忽略 28 os.path.getatime(path) 返回path所指向的文件或者目录的最后存取时间 29 os.path.getmtime(path) 返回path所指向的文件或者目录的最后修改时间
三、hashlib
用于加密相关的操作，代替了md5模块和sha模块，主要提供 SHA1, SHA224, SHA256, SHA384, SHA512 ，MD5 算法
1 import hashlib 2 3 # ######## md5 ######## 4 hash = hashlib.md5() 5 # help(hash.update) 6 hash.update(bytes('admin', encoding='utf-8')) 7 print(hash.hexdigest()) 8 print(hash.digest()) 9 10 11 ######## sha1 ######## 12 13 hash = hashlib.sha1() 14 hash.update(bytes('admin', encoding='utf-8')) 15 print(hash.hexdigest()) 16 17 # ######## sha256 ######## 18 19 hash = hashlib.sha256() 20 hash.update(bytes('admin', encoding='utf-8')) 21 print(hash.hexdigest()) 22 23 24 # ######## sha384 ######## 25 26 hash = hashlib.sha384() 27 hash.update(bytes('admin', encoding='utf-8')) 28 print(hash.hexdigest()) 29 30 # ######## sha512 ######## 31 32 hash = hashlib.sha512() 33 hash.update(bytes('admin', encoding='utf-8')) 34 print(hash.hexdigest())
以上加密算法虽然依然非常厉害，但时候存在缺陷，即：通过撞库可以反解。所以，有必要对加密算法中添加自定义key再来做加密。
1 import hashlib 2 3 # ######## md5 ######## 4 5 hash = hashlib.md5(bytes('898oaFs09f',encoding="utf-8")) 6 hash.update(bytes('admin',encoding="utf-8")) 7 print(hash.hexdigest())
python内置还有一个 hmac 模块，它内部对我们创建 key 和 内容 进行进一步的处理然后再加密
1 import hmac 2 3 h = hmac.new(bytes('898oaFs09f',encoding="utf-8")) 4 h.update(bytes('admin',encoding="utf-8")) 5 print(h.hexdigest())
四、random
1 import random 2 3 print(random.random()) 4 print(random.randint(1, 2)) 5 print(random.randrange(1, 10))
1 import random 2 checkcode = '' 3 for i in range(4): 4 current = random.randrange(0,4) 5 if current != i: 6 temp = chr(random.randint(65,90)) 7 else: 8 temp = random.randint(0,9) 9 checkcode += str(temp) 10 print checkcode 11 12 随机验证码
五、re
python中re模块提供了正则表达式相关操作
字符： . 匹配除换行符以外的任意字符 \w 匹配字母或数字或下划线或汉字 \s 匹配任意的空白符 \d 匹配数字 \b 匹配单词的开始或结束 ^ 匹配字符串的开始 $ 匹配字符串的结束 次数： * 重复零次或更多次 + 重复一次或更多次 ? 重复零次或一次 {n} 重复n次 {n,} 重复n次或更多次 {n,m} 重复n到m次
match:
1 # match，从起始位置开始匹配，匹配成功返回一个对象，未匹配成功返回None 2 3 4 match(pattern, string, flags=0) 5 # pattern： 正则模型 6 # string ： 要匹配的字符串 7 # falgs ： 匹配模式 8 X VERBOSE Ignore whitespace and comments for nicer looking RE's. 9 I IGNORECASE Perform case-insensitive matching. 10 M MULTILINE "^" matches the beginning of lines (after a newline) 11 as well as the string. 12 "$" matches the end of lines (before a newline) as well 13 as the end of the string. 14 S DOTALL "." matches any character at all, including the newline. 15 16 A ASCII For string patterns, make \w, \W, \b, \B, \d, \D 17 match the corresponding ASCII character categories 18 (rather than the whole Unicode categories, which is the 19 default). 20 For bytes patterns, this flag is the only available 21 behaviour and needn't be specified. 22 23 L LOCALE Make \w, \W, \b, \B, dependent on the current locale. 24 U UNICODE For compatibility only. Ignored for string patterns (it 25 is the default), and forbidden for bytes patterns.
1 # 无分组 2 r = re.match("h\w+", origin) 3 print(r.group()) # 获取匹配到的所有结果 4 print(r.groups()) # 获取模型中匹配到的分组结果 5 print(r.groupdict()) # 获取模型中匹配到的分组结果 6 7 # 有分组 8 9 # 为何要有分组？提取匹配成功的指定内容（先匹配成功全部正则，再匹配成功的局部内容提取出来） 10 11 r = re.match("h(\w+).*(?P<name>\d)$", origin) 12 print(r.group()) # 获取匹配到的所有结果 13 print(r.groups()) # 获取模型中匹配到的分组结果 14 print(r.groupdict()) # 获取模型中匹配到的分组中所有执行了key的组
search:
1 # search,浏览整个字符串去匹配第一个，未匹配成功返回None 2 # search(pattern, string, flags=0)
1 # 无分组 2 3 r = re.search("a\w+", origin) 4 print(r.group()) # 获取匹配到的所有结果 5 print(r.groups()) # 获取模型中匹配到的分组结果 6 print(r.groupdict()) # 获取模型中匹配到的分组结果 7 8 # 有分组 9 10 r = re.search("a(\w+).*(?P<name>\d)$", origin) 11 print(r.group()) # 获取匹配到的所有结果 12 print(r.groups()) # 获取模型中匹配到的分组结果 13 print(r.groupdict()) # 获取模型中匹配到的分组中所有执行了key的组
findall:
1 # findall，获取非重复的匹配列表；如果有一个组则以列表形式返回，且每一个匹配均是字符串；如果模型中有多个组，则以列表形式返回，且每一个匹配均是元祖； 2 # 空的匹配也会包含在结果中 3 #findall(pattern, string, flags=0)
1 # 无分组 2 r = re.findall("a\w+",origin) 3 print(r) 4 5 # 有分组 6 origin = "hello alex bcd abcd lge acd 19" 7 r = re.findall("a((\w*)c)(d)", origin) 8 print(r) 9 10 Demo
sub:
1 # sub，替换匹配成功的指定位置字符串 2 3 sub(pattern, repl, string, count=0, flags=0) 4 # pattern： 正则模型 5 # repl ： 要替换的字符串或可执行对象 6 # string ： 要匹配的字符串 7 # count ： 指定匹配个数 8 # flags ： 匹配模式
1 origin = "hello alex bcd alex lge alex acd 19" 2 r = re.sub("a\w+", "999", origin, 2) 3 print(r)
split:
1 # split，根据正则匹配分割字符串 2 3 split(pattern, string, maxsplit=0, flags=0) 4 # pattern： 正则模型 5 # string ： 要匹配的字符串 6 # maxsplit：指定分割个数 7 # flags ： 匹配模式
1 # 无分组 2 origin = "hello alex bcd alex lge alex acd 19" 3 r = re.split("alex", origin, 1) 4 print(r) 5 6 # 有分组 7 8 origin = "hello alex bcd alex lge alex acd 19" 9 r1 = re.split("(alex)", origin, 1) 10 print(r1) 11 r2 = re.split("(al(ex))", origin, 1) 12 print(r2) 13 14 Demo
1 IP： 2 ^(25[0-5]|2[0-4]\d|[0-1]?\d?\d)(\.(25[0-5]|2[0-4]\d|[0-1]?\d?\d)){3}$ 3 手机号： 4 ^1[3|4|5|8][0-9]\d{8}$ 5 邮箱： 6 [a-zA-Z0-9_-]+@[a-zA-Z0-9_-]+(\.[a-zA-Z0-9_-]+)+ 7 8 常用正则表达式
六、序列化
Python中用于序列化的两个模块
- json 用于【字符串】和 【python基本数据类型】 间进行转换
- pickle 用于【python特有的类型】 和 【python基本数据类型】间进行转换
Json模块提供了四个功能：dumps、dump、loads、load
pickle模块提供了四个功能：dumps、dump、loads、load
七、configparser
configparser用于处理特定格式的文件，其本质上是利用open来操作文件。
1 # 注释1 2 ; 注释2 3 4 [section1] # 节点 5 k1 = v1 # 值 6 k2:v2 # 值 7 8 [section2] # 节点 9 k1 = v1 # 值
1、获取所有节点
1 import configparser 2 3 config = configparser.ConfigParser() 4 config.read('xxxooo', encoding='utf-8') 5 ret = config.sections() 6 print(ret)
2、获取指定节点下所有的键值对
1 import configparser 2 3 config = configparser.ConfigParser() 4 config.read('xxxooo', encoding='utf-8') 5 ret = config.items('section1') 6 print(ret)
3、获取指定节点下所有的建
1 import configparser 2 3 config = configparser.ConfigParser() 4 config.read('xxxooo', encoding='utf-8') 5 ret = config.options('section1') 6 print(ret)
4、获取指定节点下指定key的值
1 import configparser 2 3 config = configparser.ConfigParser() 4 config.read('xxxooo', encoding='utf-8') 5 6 7 v = config.get('section1', 'k1') 8 # v = config.getint('section1', 'k1') 9 # v = config.getfloat('section1', 'k1') 10 # v = config.getboolean('section1', 'k1') 11 12 print(v)
5、检查、删除、添加节点
1 import configparser 2 3 config = configparser.ConfigParser() 4 config.read('xxxooo', encoding='utf-8') 5 6 7 # 检查 8 has_sec = config.has_section('section1') 9 print(has_sec) 10 11 # 添加节点 12 config.add_section("SEC_1") 13 config.write(open('xxxooo', 'w')) 14 15 # 删除节点 16 config.remove_section("SEC_1") 17 config.write(open('xxxooo', 'w'))
检查、删除、设置指定组内的键值对
1 import configparser 2 3 config = configparser.ConfigParser() 4 config.read('xxxooo', encoding='utf-8') 5 6 # 检查 7 has_opt = config.has_option('section1', 'k1') 8 print(has_opt) 9 10 # 删除 11 config.remove_option('section1', 'k1') 12 config.write(open('xxxooo', 'w')) 13 14 # 设置 15 config.set('section1', 'k10', "123") 16 config.write(open('xxxooo', 'w'))
八、shutil
高级的 文件、文件夹、压缩包 处理模块
shutil.copyfileobj(fsrc, fdst[, length])
将文件内容拷贝到另一个文件中
1 import shutil 2 3 shutil.copyfileobj(open('old.xml','r'), open('new.xml', 'w'))
shutil.copyfile(src, dst)
拷贝文件
1 shutil.copyfile('f1.log', 'f2.log')
shutil.copymode(src, dst)
仅拷贝权限。内容、组、用户均不变
shutil.copymode('f1.log', 'f2.log')
shutil.make_archive(base_name, format,...)
创建压缩包并返回文件路径，例如：zip、tar
创建压缩包并返回文件路径，例如：zip、tar
- base_name： 压缩包的文件名，也可以是压缩包的路径。只是文件名时，则保存至当前目录，否则保存至指定路径，
如：www =>保存至当前路径
如：/Users/wupeiqi/www =>保存至/Users/wupeiqi/ - format： 压缩包种类，“zip”, “tar”, “bztar”，“gztar”
- root_dir： 要压缩的文件夹路径（默认当前目录）
- owner： 用户，默认当前用户
- group： 组，默认当前组
- logger： 用于记录日志，通常是logging.Logger对象
1 #将 /Users/wupeiqi/Downloads/test 下的文件打包放置当前程序目录 2 import shutil 3 ret = shutil.make_archive("wwwwwwwwww", 'gztar', root_dir='/Users/wupeiqi/Downloads/test') 4 5 6 #将 /Users/wupeiqi/Downloads/test 下的文件打包放置 /Users/wupeiqi/目录 7 import shutil 8 ret = shutil.make_archive("/Users/wupeiqi/wwwwwwwwww", 'gztar', root_dir='/Users/wupeiqi/Downloads/test')
九：压缩 解压
1 import zipfile 2 3 # 压缩 4 z = zipfile.ZipFile('laxi.zip', 'w') 5 z.write('a.log') 6 z.write('data.data') 7 z.close() 8 9 # 解压 10 z = zipfile.ZipFile('laxi.zip', 'r') 11 z.extractall() 12 z.close()
1 import tarfile 2 3 # 压缩 4 tar = tarfile.open('your.tar','w') 5 tar.add('/Users/wupeiqi/PycharmProjects/bbs2.log', arcname='bbs2.log') 6 tar.add('/Users/wupeiqi/PycharmProjects/cmdb.log', arcname='cmdb.log') 7 tar.close() 8 9 # 解压 10 tar = tarfile.open('your.tar','r') 11 tar.extractall() # 可设置解压地址 12 tar.close() 13 14 tarfile解压缩
十：Logging
用于便捷记录日志且线程安全的模块
1、单文件日志
1 import logging 2 3 4 logging.basicConfig(filename='log.log', 5 format='%(asctime)s - %(name)s - %(levelname)s -%(module)s: %(message)s', 6 datefmt='%Y-%m-%d %H:%M:%S %p', 7 level=10) 8 9 logging.debug('debug') 10 logging.info('info') 11 logging.warning('warning') 12 logging.error('error') 13 logging.critical('critical') 14 logging.log(10,'log')
日志等级：
CRITICAL = 50
FATAL = CRITICAL
ERROR = 40
WARNING = 30
WARN = WARNING
INFO = 20
DEBUG = 10
NOTSET = 0
注：只有【当前写等级】大于等于【日志等级】时，日志文件才被记录。
1 # 定义文件 2 file_1_1 = logging.FileHandler('l1_1.log', 'a', encoding='utf-8') 3 #创建文件 4 fmt = logging.Formatter(fmt="%(asctime)s - %(name)s - %(levelname)s -%(module)s: %(message)s") 5 #创建格式 6 file_1_1.setFormatter(fmt) 7 8 file_1_2 = logging.FileHandler('l1_2.log', 'a', encoding='utf-8') 9 fmt = logging.Formatter() 10 file_1_2.setFormatter(fmt) 11 12 # 定义日志 13 logger1 = logging.Logger('s1', level=logging.ERROR) 14 logger1.addHandler(file_1_1) 15 logger1.addHandler(file_1_2) 16 17 18 # 写日志 19 logger1.critical('1111') 20 21 日志一
1 # 定义文件 2 file_2_1 = logging.FileHandler('l2_1.log', 'a') 3 fmt = logging.Formatter() 4 file_2_1.setFormatter(fmt) 5 6 # 定义日志 7 logger2 = logging.Logger('s2', level=logging.INFO) 8 logger2.addHandler(file_2_1)
如上述创建的两个日志对象
- 当使用【logger1】写日志时，会将相应的内容写入 l1_1.log 和 l1_2.log 文件中
- 当使用【logger2】写日志时，会将相应的内容写入 l2_1.log 文件中
