python_regex
正则表达
动机（目的）：
1、处理文本成为计算机主要工作之一
2、根据文本内容进行固定搜索是文本处理的常见工作
3、为了快速方便的处理上述问题，正则表达式技术诞生，逐渐发展为一种单独技术被众多语言使用
定义：即高级文本匹配模式，提供了搜索，代替等功能，本质是由一些字符和特殊符号组成的字串。这个字串描述了字符和字符的重复行为，可以匹配某些特征的字符串集合。
正则表达式的特点
1、方便进行检索和修改
2、支持众多语言
3、使用灵活变化多样
4、文本处理，mongo存储某一类型，django、tornado路由，爬虫文本匹配
正则的规则和用法：
import re
re.findall(regex,string)
1、功能：使用正则表达式匹配字符串
2、参数：regex：正则表达式，string目标字符串
3、返回值：匹配到的内容，一个列表
元字符：即正则表达式中含有特殊含义的字符
普通字符：
1、元字符：abc...
2、匹配规则：匹配相应的普通字符
3、示例：re.findall('ab','fdsfdsbdab')#['ab']
使用 或 多个正则同时匹配
1、元字符：|
2、匹配规则：符号两侧的正则均能匹配（符号两侧不要加空格）
3、示例：re.findall('ab|cd','fdcdsfcddsbabdab')#['cd', 'cd', 'ab', 'ab']
匹配单一字符
1、元字符：.
2、匹配规则：匹配任意一个字符 ‘\n’除外
3、示例：
1、re.findall('f.o','afdffoofds')#['ffo']
2、re.findall('f.o','afdff\noofds')#[],不能匹配\n
匹配字符串开头
1、元字符：^
2、匹配规则：匹配一个字符串的开头位置
3、示例：
1、re.findall('^hello','hello world')#['hello']
2、re.findall('^hello','ohello world')#[]
匹配字符串结尾
1、元字符：$
2、匹配规则：匹配一个字符串的结尾位置
3、示例：
1、re.findall('hello$','ohello hello')#['hello']
2、re.findall('hello$','ohello hellof')# []
匹配重复0次或多次
1、元字符：*
2、匹配规则：匹配前面出现的正则表达式0次或多次
2、示例：
1、re.findall('ab*','abcdaabbfdb')# ['ab', 'a', 'abb']
匹配重复1次或多次：
1、元字符：+
2、匹配规则：匹配前面正则表达式至少出现一次
3、示例：re.findall('ab+','abcdaabbfdb')#['ab', 'abb']
匹配重复0次或一次
1、元字符：？
2、匹配规则：匹配前面正则表达式0次或1次
3、示例：re.findall('ab?','abcdaabbfdb')#['ab', 'a', 'ab']
匹配重复指定次数
1、元字符：{N}
2、匹配规则：匹配前面的正则表达式N次
3、示例：re.findall('ab{2}','abcdaabbfdb')#['abb']
匹配重复指定参数范围
1、元字符：{N，M}
2、匹配规则：匹配前面正则表达式N次到M次（包括N和M）
3、示例：re.findall('ab{1,3}','abcdaabbfdb')# ['ab', 'abb']
字符集匹配：
1、元字符：[]
2、匹配规则：匹配中括号中的字符集，或者字符集区间的一个字符
3、示例：
1、[0-9]：匹配任意一个数字字符
2、[A-Z]：匹配任意一个大写字母
3、[a-z]：匹配任意一个小写字母
4、^[A-z][0-9a-z]{5}：匹配以大写字母开头，后面5位数字或小写字母
5、re.findall('^[A-Z][0-9a-z]{5}','Hello1 join')# ['Hello1']
5、[\u4e00-\u9fa5] ：匹配任意一个中文
字符集不匹配：
1、元字符：[^...]
2、匹配规则：匹配出非字符集中任意一个字符
3、[^0-9]：匹配除了0-9的任意字符
匹配任意数字（非数字）字符：
1、元字符：\d等价于[0-9] \D等价于[^0-9]
2、匹配规则：\d匹配任意一个数字字符 \D匹配任意非数字字符
3、示例：re.findall('1\d{10}','13333759329')#['13333759329']
匹配任意普字符或者特殊字符
1、元字符：\w [_0-9a-zA-z] \W[^_0-9a-zA-z]
2、匹配规则：\w匹数字字母下划线 \W匹配除了数字字母下划线的字符
3、示例：
1、re.findall('[A-z]\w*','Hello World')# ['Hello', 'World']
2、re.findall('[A-Za-z]+-\d+','wangming-56')#['wangming-56']
匹配任意空字符或非空字符：
1、元字符：\s \S
2、匹配规则：\s任意空字符 [ \n\0\t\r]空格 换行 回车制表符 \S任意非空字符
3、示例：re.findall('hello\s+\w+\S','hello lily hello lucy hellofdsf')#['hello lily', 'hello lucy']
匹配字符串的开头和结尾：
1、元字符:\A等价于^ \Z等价于$
2、匹配规则：\A表示匹配字符串开头位置 \Z表示匹配字符串结尾位置
3、示例：re.findall('\Aabc\Z','abc')#['abc']严格匹配abc
匹配单词边界或非单词边界：
1、元字符：\b \B
2、匹配规则：\b匹配一个单词的边界 \B匹配一个单词的非边界
3、说明:数字字母下划线和其他字符的交界处认为是单词的边界
4、示例：
1、re.findall('is','This is a test')# ['is', 'is']
2、re.findall(r'\bis\b','This is a test')#['is']匹配到后面的is(\b为退格有特殊含义所以要加r)
元字符总结：
1、匹配单个字符：. \d \D \w \W \s \S [...] [^...]
2、匹配重复次数：* + ? {N} {N,M}
3、匹配字符串位置：^ $ \A \Z \b \B
4、其他：|
r子串和转义（\）
r 将字符变为raw字符串，不进行字符串的转义
示例：re.findall('\\bis\\b','This is a test')等价于re.findall(r'\bis\b','This is a test')
贪婪和非贪婪：
1、和重复次数不确定的元字符相关：* + ? {N,M}
2、贪婪模式：在使用重复元字符的时候，元字符的匹配总是尽可能多的向后匹配更多的内容，贪婪模式为默认模式
示例：re.findall('ab*','abbbbbbbbgab')#['abbbbbbbb', 'ab']尽可能多的匹配b
3、非贪婪模式：尽可能少的匹配内容，只要满足正则条件即可
示例：re.findall('ab*?','abbbbbbbbgab')# ['a', 'a']尽可能少的匹配b
import re str = 'Hello 1234567 World_This is a Regex Demo' res = re.match(r'^He.*(\d+)',str) print(res.group(1))#(\d+)匹配到的是7,.*平匹配到的是llo 123456 res2 = re.match(r'^He.*?(\d+)',str) print(res2.group(1))#(\d+)匹配到的是1234567，.*?匹配到的是llo ，
正则表达式的分组：
1、使用（）为正则表达式分组
2、(ab):表示给ab分了一个子组
3、正则表达式的子组用（）表示，增加子组后对整体的匹配没有影响
4、每个正则表达式可以有多个子组，子组由外到内由左到右为第一第二第三......子组
5、子组表示一个内部整体，很多函数可以单独提取子组的值
6、子组可以改变重复行为，将子组作为整体重复
示例：re.match('(ab)+','ababfhdsabdfbsf').group(0)#'abab'
7、捕获组和非捕获组（命名组和非命名组）
1、格式：（？P<name>regex）
2、作用：
1、某些函数可以通过名字提取子组内容，或者通过名字进行键值对的生成
2、起了名字的子组可以通过名称重复使用
示例：res = re.match('(?P<str>ab)cd(?P=str)','abcdab').group()# 'abcdab'
说明:上面的正则相当于是一个子组即res.group(0)#'abcdab',res.group(1)# 'ab',res.group(2)#报错
与这样的匹配是不同的:res = re.match('(ab)cd(ab)','abcdab') ;res.group(0)#'abcdab',res.group(1)# 'ab',res.group(2)#'ab'
练习：
1、匹配长度为8-10为的密码，必须以字母开头，数字字母下划线组成
re.findall(r'^[a-zA-z]\w{7,9}$','xfjsdjfk56')
2、匹配身份证号
re.findall(r'\d{17}[x\d]','410422199212202556')
re模块
1、complie(pattern, flags=0)
1、功能：获取正则表达式对象
2、参数：
1、pattern：正则表达式
2、flags:功能标志位，提供正则表达式结果的辅助功能
3、返回值：返回相应的正则对象
4、说明：
1、compile函数返回值的属性函数和re模块属性函数有相同的部分
2、他们的功能完全相同
3、compile返回值对象属性函数中pattern和flags部分，因为这两个参数内容在compile生成对象时已经指明而re模块直接调用这些函数时则需要传入，
4、compile返回值对象属性函数参数中有pos和endpos参数，可以指明匹配目标字符串的起始和终止位置，而re模块直接调用这些函数时没有这个
2、findall（string,pos ，endpos）
1、功能：将正则表达式匹配到的内容存入列表返回
2、参数：要匹配的目标字符串
3、返回值：返回匹配到内容的列表,如果正则表达式中有子组则返回子组元组的列表
3、spilt(regex，string):
1、功能：以正则表达式切割字符串
2、参数
3、返回值：分割后的内容放入列表
4、sub()
1、功能：用替换字符串替换正则表达式匹配到的内容
2、参数
3、返回值：返回替换后的字符串
5、subn（）：
1、功能：同sub
2、参数：同sub
3、返回值：返回一个元组，元组中第一个元素为替换后的字符串，第二个为替换的次数
6、groupindex:compile对象属性，得到由捕获组名和第几个子组数字组成的字典
7、groups：compile对象属性，得到一共有多少个子组
import re pattern = r'((?P<word>ab)cd(ef))' #创建正则表达式对象 obj = re.compile(pattern) l = obj.findall('abcdefghinabcdef') print(l) l1 = re.split(r'\s+','hello world nihao china') print(l1) s = re.sub(r'[A-Z]','##','Hello World',1)#不给最后一个参数默认全部替换 print(s)# ##ello World s2 = re.subn(r'[A-Z]','##','Hello World',1) print(s2)#('##ello World', 1) print(obj.groupindex)#{'word': 2} print(obj.groups)#3
8、finditer()
1、功能：同findall查找所有正则匹配到的内容
2、参数：同findall
3、返回值：返回一个迭代器，迭代的每一项都是一个matchobj
9、match（）
1、功能：匹配一个字符串开头的位置
2、参数：目标字符串
3、返回值：如果匹配到返回一个matchobj，如果没有匹配到返回None
10、search()
1、功能：同match，只是可以匹配到任意位置，只能匹配一处
2、参数：目标字符串
3、返回值：如果匹配到返回一个matchobj，如果没有匹配到返回None
11、fullmatch()
1、功能：完全匹配，整个目标字符串完全由正则匹配
2、参数：目标字符串
3、返回值：如果匹配到返回一个matchobj，如果没有匹配到返回None
import re obj = re.compile(r'foo') iter_obj = obj.finditer('fdfoo,food the') for i in iter_obj: print(i.group()) print('**************') #match匹配开头 try: m_obj = obj.match('qfoo,food on the jfdksf ') print(m_obj.group()) except AttributeError: print('match none') #search匹配任意位置 try: m_obj = obj.search('qfoo,food on the jfdksf ') print(m_obj.group()) except AttributeError: print('match none')
12、split()
split 方法按照能够匹配的子串将字符串分割后返回列表，它的使用形式如下：
re.split(pattern, string[, maxsplit=0, flags=0])
参数：
pattern 匹配的正则表达式, ()括号表示把匹配到的数据也包含在内。
string 要匹配的字符串
maxsplit 分割次数，maxsplit=1分割一次，默认为0不限制次数，负数表示不分割
flags 标志位
import re re1 = re.split('\W+', 'runoob, runoob, runoob.') print(re1) # ['runoob', 'runoob', 'runoob', ''] re2 = re.split('(\W+)', ' runoob, runoob, runoob.') # 把匹配到的字符串也包含在内 print(re2) # ['', ' ', 'runoob', ', ', 'runoob', ', ', 'runoob', '.', ''] re3 = re.split('\W+', ' runoob, runoob, runoob.', 1) print(re3) # ['', 'runoob, runoob, runoob.'] re4 = re.split('\W+', ' runoob, runoob, runoob.', -1) print(re4) # [' runoob, runoob, runoob.'] re5 = re.split('a3', 'hello world') # 对于一个找不到匹配的字符串而言，split 不会对其作出分割 print(re5) # ['hello world']
13、match对象属性及函数
1、属性
1、re
2、pos
3、endpos
4、lastgroup
5、lastindex
2、方法：
1、start()
2、end（）
3、span（）
4、group（）
1、功能：获取match对象匹配的内容
2、参数：默认为0表示整体匹配内容，>=1表示获取某个子组的匹配内容
3、返回值：返回对应的内容
5、groups（）
6、groupdict（）
import re re_obj = re.compile('(ab)cd(?P<dog>ef)') match_obj = re_obj.search('hi ,fkdfkabcdeffdk') #match对象属性 print('re:',match_obj.re)#re.compile('(ab)cd(?P<dog>ef)') print('pos:',match_obj.pos)#0,匹配目标字符串的开始位置 print('endpos:',match_obj.endpos)#18，匹配目标字符串的终止位置+1 print('lastgroup:',match_obj.lastgroup)#dog，最后一个分组的名称，最后一个分组如果没有名称则返回NOne print('lastindex:',match_obj.lastindex)#2，分组的个数（最后一组是第几组） print('**********************************') #match属性的函数 print('start():',match_obj.start())#9获取匹配内容在字符串中的开始位置 print('end():',match_obj.end())#15,获取匹配内容在字符串中结束的位置+1 print('span():',match_obj.span())#(9, 15),获取匹配内容在字符串中的起止位置 print('group():',match_obj.group())#abcdef，获取match对象匹配的内容，默认为0表示整体匹配内容， print('group():',match_obj.group(1))#ab，>=1表示获取某个子组的匹配内容 print('group():',match_obj.group(2))#ef print('groups():',match_obj.groups())#('ab', 'ef'),获取所有子组中的内容 print('groupdict():',match_obj.groupdict())#{'dog': 'ef'},返回所有捕获组构成的字典，如过没有捕获组返回字典，名字为键
flags：re直接调用的匹配函数大多有flags参数。功能为辅助正则匹配的标志位
1、I（IGNORECASE）：忽略大小写
2、S（DOTALL）：匹配换行对.元字符起作用
3、M（MULTILINE）：开头结尾计算换行 对^ $起作用,对\A \Z不起作用
4、X（VERBOSE）：让正则能以#添加注释
说明：同时可以添加多个flags，比如：re.I|re.S
import re re_object = re.compile('abcD',re.I) l = re_object.findall('himabcd,ADABCDf') print(l)#['abcd', 'ABCD'] s = '''hello world\nnihao china''' l1 = re.findall('.+',s,re.S) print(l1)#['hello world\nnihao china'] #^ $匹配每一行的开头结尾 obj = re.search('^nihao',s,re.M) print(obj.group())#nihao obj = re.search('world$',s,re.M) print(obj.group())#world re_obj = re.compile('''(ab)#这是第一个分组\ncd\n(?P<dog>ef)#这是第二个分组''',re.X) print(re_obj.search('abcdefgh').group())#abcdef
高级用法
1、(?<=...) : 表示前面的字符需要等于...
2、(?<!...) : 表示前面的字符不能等于...
例子：
import re res1 = re.findall(r"(?<=a)\d", "aa1bb2") print(res1) # ['1'] res1 = re.findall(r"(?<!a)\d", "aa1bb2") print(res1) # ['2']
django中dateformat.py源码中的例子
re_formatchars = _lazy_re_compile(r"(?<!\\)([aAbcdDeEfFgGhHiIjlLmMnNoOPrsStTUuwWyYzZ])") #表示以a或A.....并且前面不是\字符进行分割
re_formatchars.split('jS F Y H:i')
实际应用
1. 匹配IP地址, IP地址规则：(1~255).(0~255).(0~255).(0~255)
import re # 1~9, 10~99, 100~199, 200~249, 250~255 ip_reg = r"^([1-9]|[1-9]\d|1\d{2}|2[0-4]\d|25[0-5])\.(\d|[1-9]\d|1\d{2}|2[0-4]\d|25[0-5])\." \ r"(\d|[1-9]\d|1\d{2}|2[0-4]\d|25[0-5])\.([1-9]|[1-9]\d|1\d{2}|2[0-4]\d|25[0-5])$" compile_ip = re.compile(ip_reg) print(compile_ip.match('192.168.1.197')) print(re.match(ip_reg, '192.168.1.197'))
2. 匹配mac地址，mac地址规则 0～9a~fA~F 00:1e:68:51:4f:a9
import re mac_reg = r"^([0-9a-fA-F]{2}:){5}[0-9a-fA-F]{2}$" compile_mac = re.compile(mac_reg) print(compile_mac.match('00:1e:68:51:4f:a9')) print(re.match(mac_reg, '00:1e:68:51:4f:a9'))
