正则表达式的学习笔记
阅读《正自表达式30分钟入门教程》内容记录:
一、元字符:
\b:
代表的单词的开头和结尾,也就是单词的分界处。它只匹配一个位置。(它的前一个字符和后一个字符不全是\w)
示例:
要在him, history, high, hi里匹配hi这个单词
用hi查找,所有的hi都会被找到
所以要精确的查找hi单词,就应该使用\bhi\b
假如要找hi后面不远处有一个lucy
应该用\bhi\b.*\blucy\b
在这里 . * 是另一个元字符。先是一个单词hi,然后是任意个任意字符(但不能是换行),最后是lucy这个单词。
. :
它匹配出换行符以外的任意字符。
* :
它指定 * 前面的内容可以重复任意次以使整个表达式得到匹配,
因此, .* 连在一起表示任意数量的不包含还行的字符。
\d:
匹配任意0-9的数字
示例:
0\d\d-\d\d\d\d\d\d\d\d
以0开头,然后是俩个数字,然后是一个连字号-,最后是8个数字(也就是中国的电话号码。当然这个例子只能匹配区号为3位数的情形)。
还可以写成:0\d{2}-\d{8}
{2}{8}的意思是\d必须连续重复匹配2次(8次)
下面来看看更多的例子:
\ba\w*\b匹配以字母a开头的单词——
先是某个单词开始处(\b),然后是字母a,然后是任意数量的字母或数字(\w*),最后是单词结束处(\b)。
正则表达式里的单词是什么意思:不少于一个连续的\w。(这与自然语言中的英语单词没什么关系)
\d+匹配1个或更多连续的数字。这里的+是和*类似的元字符,不同的是*匹配重复任意次(可能是0次),而+则匹配重复1次或更多次。
\b\w{6}\b匹配刚好6个字符的单词。
常用的元字符总结:
——————————————————————————————————————————————————————————————
代码 说明
——————————————————————————————————————————————————————————————
. 匹配除换行符以外的任意字符
\w 匹配字母或数字或下划线或汉字
\s 匹配任意的空白符
\d 匹配数字
\b 匹配单词的开始或结束
^ 匹配字符串的开始
$ 匹配字符串的结束
——————————————————————————————————————————————————————————————
如果不使用^和$的话,对于\d{5,12}而言,使用这样的方法就只能保证字符串里包含5到12连续位数字,而不是整个字符串就是5到12位数字。
^ 匹配你 要用来查找的字符串的开头,$匹配结尾。这两个代码在验证输入的内容时非常有用,比如一个网站如果 要求你填写的QQ号必须为5位到12位数字时,可以使用:^\d{5,12}$。
这里的{5,12}和前面介绍过的{2}是 类似的,只不过{2}匹配只能不多不少重复2次,{5,12}则是重复的次数不能少于5次,不能多于12次, 否则都不匹配。
和忽略大小写的选项类似,有些正则表达式处理工具还有一个处理多行的选项。如果选中了这个选项,^和$的意义就变成了匹配行的开始处和结束处。
二、字符转义:
如果你想查找元字符本身的话,比如你查找.,或者*,就出现了问题:你没办法指定它们,因为它们会被解释成别的意思。这时你就得使用\来取消这些字符的特殊意义。因此,你应该使用\.和\*。当然,要查找\本身,你也得用\\.
三、重复:(常用的限定符)
——————————————————————————————————————————————————————————————
代码 说明
——————————————————————————————————————————————————————————————
* 重复零次或更多次
+ 重复一次或更多次
? 重复一次或一次
{n} 重复n次
{n,} 重复n次或更多次
{n,m} 重复n到m次
——————————————————————————————————————————————————————————————
示例:
windows\d+ 匹配windows 后面跟1个或更多数字 ^\w+ 匹配一行的第一个单词(或整个字符串的第一个单词,具体匹配那个意思得看选项设置)
四、字符类:
如果你想匹配没有预定义元字符的字符集合(比如元 音字母a,e,i,o,u),应该怎么办?
很简单,你只需要在方括号里列出它们就行了,像[aeiou]就匹配任何一个英文元音字母,[.?!]匹配标点符号(.或?或!)。
我们也可以轻松地指定一个字符范围,像[0-9]代 表的含意与\d就是完全一致的:一位数字; 同理[a-z0-9A-Z_]也完全等同于\w(如 果只考虑英文的话)。
下面是一个更复杂的表达式:
\(?0\d{2}[) -]?\d{8}。
“(”和“)”也是元字符,后面的分组节里会提 到,所以在这里需要使用转义。
这个表达式可以匹配几种格式的电话号码,像(010)88886666,或022-22334455, 或02912345678等。我们对它进行一些分析吧:首先是一个转义字符\(,它能出现0次或1次(?),然后是一个0,后面跟着2个数字(\d{2}),然后是)或-或空格中 的一个,它出现1次或不出现(?),最后是8个数字(\d{8})。
五、分支条件:
不幸的是,刚才那个表达式也能匹配010)12345678或(022-87654321这样的“不正确”的格式。要解决这个问题,我们需要用到分枝条件。正则表达式里的分枝条件指的是有几种规则,如 果满足其中任意一种规则都应该当成匹配,具体方法是用|把不同的规则分隔开。
0\d{2}-\d{8}|0\d{3}-\d{7}这个表达式能匹配两种以连字号分隔的电话号码: 一种是三位区号,8位本地号(如010-12345678), 一种是4位区号,7位本地号 (0376-2233445)
0\d{2}[- ]?\d{8}|0\d{2}[- ]?\d{8}这 个表达式匹配3位区号的电话号码, 其中区号可以用小括号括起来,也可以不用, 区号与本地号间可以用连字号或空格间 隔,也可以没有间隔
\d{5}-\d{4}|\d{5}这个表达式用于匹配美国的邮政编码。美国邮编 的规则是5位数字,或者用连字号间隔的9位数字。之所以要给出这个例子是因为它能说明一个问题:使用分枝条件时,要注意各个条件的顺序。 如果你把它改成\d{5}|\d{5}-\d{4}的话,那么就只会匹配5位的邮编(以及9位邮 编的前5位)。原因是匹配分枝条件时,将会从左到右地测试每个条件,如果满足了某个分枝的话,就不会去再管其它的条件了。
六、分组:
我们已经提到了怎么重复单个字符(直接在字符后面加上限定符就行了);但如果想要重复多个字符又该怎么办?你可以用小括号来指定子表达式(也叫做分组),然后你就可以指定这个子表达 式的重复次数了,你也可以对子表达式进行其它一些操作。
(\d{1,3}\.){3}\d{1,3}是一个简单的IP地址匹配表达式。要理解这个表达式,请按下列顺序分析它:\d{1,3}匹 配1到3位的数字,(\d{1,3}\.){3}匹 配三位数字加上一个英文句号(这个整体也就是这个分组)重 复3次,最后再加上一个一到三位的数字(\d{1,3})。
IP地址中每个数字都不能大于255,不幸的是,它也将匹配256.300.888.999这种不可能存在的IP地 址。如果能使用算术比较的话,或许能简单地解决这个问题,但是正则表达式中并不提供关于数学的任何功能,所以只能使用冗长的分组,选择,字符类来描述一个 正确的IP地址:((2[0-4]\d|25[0-5]|[01]?\d\d?)\.){3}(2[0-4]\d|25[0-5]|[01]?\d\d?)
七、反义:(常用的反义代码)
有时需要查找不属于某个能简单定义的字符类的字符。比如想查找除了数字以外,其它任意字符都行的情况,这时需要用到反义:
——————————————————————————————————————————————————————————————
代码 说明
——————————————————————————————————————————————————————————————
\W 匹配任意不是字母,数字,下划线,汉字的字符
\S 匹配任意不是空白符的字符
\D 匹配任意非数字的字符
\B 匹配不是单词开头或结束的位置
[^x] 匹配除了x以外的任意字符
[^aeiou] 匹配除了aeiou这几个字母以外的任意字符
——————————————————————————————————————————————————————————————
示例:
\S+ 匹配不包含空白符的字符串 <a[^>]+> 匹配用尖括号括起来的以a开头的字符串。 import re name = ("<My name is <Guido>, I like python very much!>") ne = re.findall(r"<G[^>]+>", name) print(ne, type(ne)) #执行结果 ['<Guido>'] <class 'list'> import re name = ("<My name is <Guido, I like python very much!>") ne = re.findall(r"<G[^>]+>", name) print(ne, type(ne)) #执行结果 ['<Guido, I like python very much!>'] <class 'list'> import re name = ("<My name is <Guido>, I like python very much!>") ne = re.findall(r"<M[^>]+>", name) print(ne, type(ne)) #执行结果 ['<My name is <Guido>'] <class 'list'>
八、后向引用:
使用小括号指定一个子表达式后,匹配这个子表达式的文本(也就是此分组捕获的内容)可以在表达式或其它 程序中作进一步的处理。默认情况下,每个分组会自动拥有一个组号,规则是:从左向右,以分组的左括 号为标志,第一个出现的分组的组号为1,第二个为2,以此类推。
其实,组号分配还不像我刚说得那么简单:
1、分组0对应整个正则表达式
2、实际上组号分配过程是要从左向右扫描两遍的:第一遍只给未命名组分配,第二遍只给命名组分配——因此所有命名组的组号都大于未命名组的组号
3、你可以使用(?:exp)这样的语法来剥夺一个分组对组号分配的参与权。
\b(\w+)\b\s+\1\b可以用来匹配重复的单词,像go go, 或者kitty kitty。这个表达式首先是一个单词, 也就是单词开始处和结束处之间的多于一个的字母或数字(\b(\w+)\b), 这个单词会被捕获到编号为1的分组中,然后是1个或几个空白符(\s+),最后是分组1中捕获的内容(也就是前面匹配的那个单词)(\1)。
你也可以自己指定子表达式的组名。要指定一个子表达式的组名,请使用这样的语法:(?<Word>\w+)(或者把尖括号换成'也 行:(?'Word'\w+)),这样就把\w+的 组名指定为Word了。要反向引用这个分组捕获的 内容,你可以使用\k<Word>,所以上一个例子也可以写成这样:\b(?<Word>\w+)\b\s+\k<Word>\b。
使用小括号的时候,还有很多特定用途的语法。下面列出了最常用的一些:
——————————————————————————————————————————————————————————————
分类 代码 说明
——————————————————————————————————————————————————————————————
捕获 (exp) 匹配exp,并捕获文本到自动命名的组里
(?<name>exp) 匹配exp,并捕获文本到名称为name的组里,也可以写成 (?'name'exp)
(?:exp) 匹配exp,不捕获匹配的文本,也不给此分组分配组号
——————————————————————————————————————————————————————————————
零宽断言 (?=exp) 匹配exp前面的位置
(?<=exp) 匹配exp后面的位置
(?!exp) 匹配后面跟的不是exp的位置
(?<!exp) 匹配前面不是exp的位置
——————————————————————————————————————————————————————————————
注释 (?#comment) 这种类型的分组不对正则表达式的处理产生任何影响,用于提供注释让人阅读
——————————————————————————————————————————————————————————————
我们已经讨论了前两种语法。第三个(?:exp)不会改变正则表达式的处理方式,只 是这样的组匹配的内容不会像前两种那样被捕获到某个组里面,也不会拥有组号。“我为什么会想要这样 做?”——好问题,你觉得为什么呢?
零宽断言:
人若无名,便可专心练剑;物若无名,便可随意取舍
接下来的四个用于查找在某些内容(但并不包括这些内容)之前或之后的东西,也就是说它们像\b,^,$那样用于指定一个位置,这个位置应该满足一定的 条件(即断言),因此它们也被称为零宽断言。最好还是拿例子来说明吧:
断言用来声明一个应该为真的事实。正则表达式中只有当断言为真时才会继续进行匹配。
(?=exp)也叫零宽度正预测先行断言, 它断言自身出现的位置的后面能匹配表达式exp。比如\b\w+(?=ing\b), 匹配以ing结尾的单词的前面部分(除了ing以外的部分),如查找I'm singing while you're dancing.时,它会匹配sing和danc。
(?<=exp)也叫零宽度正回顾后发断言,它断言自身出现的位置的前面能匹配表达式exp。比如(?<=\bre)\w+\b会匹配以re开头的单词的后半部 分(除了re以外的部分),例如在查找reading a book时,它匹配ading。
假如你想要给一个很长的数字中每三位间加一个逗号(当然是从右边加起了),你可以这样查找需要在前面和里面添加逗号的部分: ((?<=\d)\d{3})+\b,用它对1234567890进 行查找时结果是890。
((?<=\d)\d{3})+\b 与 \d{3})+\b的匹配结果相同:
import re ne = re.findall(r"((?<=\d)\d{3})+\b", nem) print(ne, type(ne)) #执行结果: ['890'] <class 'list'>
下面这个例子同时使用了这两种断言:
(?<=\s)\d+(?=\s)匹配以空白符间隔的数字(再次强调,不包括这些空白符)。
负向零宽断言:
前面我们提到过怎么查找不是某个字符或不在某个字符类里的字符的方法(反义)。但是如果我们只是想要确保某个字符没有出现,但并不想去匹配它时怎么办?例如,如果我们想查找这样的单词--它里面出现了字母q,但是q后面跟的不是字母u, 我们可以尝试这样:
\b\w*q[^u]\w*\b匹配包含后面不是字母u的字母q的单词。但是如果多做测试(或者你思维足够敏锐,直接就观察出来了),你会发现,如果q出现在单词 的结尾的话,像Iraq,Benq,这个表达式就会出错。这是因为[^u]总要匹配一个字符,所以如果q是单词的最后一个字符的话,后面的[^u]将会匹配q后面的单词分隔符(可能是空格,或者是句号或其它的什么),后面的\w*\b将会匹配下一个单词,于是\b\w*q[^u]\w*\b就能匹配整个Iraq fighting。负向零宽断言能解决这样的问题,因为它只匹配一个位置,并不消费任何字符。现在,我们可以这样来解决这个问题:\b\w*q(?!u)\w*\b。
零宽度负预测先行断言(?!exp),断言此位置的后面不能匹配表达式exp。例如:\d{3}(?!\d)匹 配三位数字,而且这三位数字的后面不能是数字;\b((?!abc)\w)+\b匹 配不包含连续字符串abc的单词。
同理,我们可以用(?<!exp),零 宽度负回顾后发断言来断言此位置的前面不能匹配表达式exp:(?<![a-z])\d{7}匹配前面不是小写字母的七位数字。
请详细分析表达式(?<=<(\w+)>).*(?=<\/\1>), 这个表达式最能表现零宽断言的真正用途。
一个更复杂的例子:(?<=<(\w+)>).*(?=<\/\1>)匹 配不包含属性的简单HTML标签内里的内容。(<?(\w+)>)指 定了这样的前缀:被尖括号括起来的单词(比 如可能是<b>),然后是.*(任意的字符串),最后是一个后缀(?=<\/\1>)。注意后缀里的\/,它用到了前面提过的字符转义;\1则是一个反向 引用,引用的正是捕获的第一组,前面的(\w+)匹 配的内容,这样如果前缀实际上是<b>的话,后缀就是</b>了。整个表达式匹配的是<b>和</b> 之间的内容(再次提醒,不包括前缀和后缀本身)。
九、注释:
小括号的另一种用途是(?#comment)包含注释。例如:2[0-4]\d(?#200-249)|25[0-5](?#250-255)|[01]?\d\d?(?#0-199)。
要包含注释的话,最好是启用“忽略模式里的空白符”选项,这样在编写表达式时能任意的添加空格,Tab,换行,而实际使用时这些都将被忽 略。启用这个选项后,在#后面到这一行结束的所有文本都将被当成注释忽略掉。例如,我们可以前面的一个表达式写成这样:
(?<= # 断言要匹配的文本的前缀 <(\w+)> # 查找尖括号括起来的字母或数字(即HTML/XML标签) ) # 前缀结束 .* # 匹配任意文本 (?= # 断言要匹配的文本的后缀 <\/\1> # 查找尖括号括起来的内容:前面是一个"/",后面是先前捕获的标签 ) # 后缀结束
十、贪婪与懒惰:
当正则表达式中包含能接受重复的限定符时,通常的行为是(在使整个表达式能得到匹配的前提下)匹配尽可能多的 字符。以这个表达式为例:a.*b,它将会匹配最长的以 a开始,以b结束的字符串。如果用它来搜索aabab的话,它会匹配整个字符串aabab。这被称为贪婪匹配。
有时,我们更需要懒惰匹配,也就是匹配尽可能少的 字符。前面给出的限定符都可以被转化为懒惰匹配模式,只要在它后面加上一个问号?。这样.*?就意味着匹配任意数量的重复,但是在能使整个匹配成功的前提 下使用最少的重复。现在看看懒惰版的例子吧:
a.*?b匹配最短的,以a开始,以b结 束的字符串。如果把它应用于aabab的话,它会匹配aab(第一到第三个字符)和ab(第四到第五个字符)。
为什么第一个匹配是aab(第一到第三个字符)而不是ab(第二到第三个字符)?简单地说,因为正则表达式有另 一条规则,比懒惰/贪婪规则的优先级更高:最先开始的匹配拥有最高的优先权——The match that begins earliest wins。
懒惰限定符
——————————————————————————————————————————————————————————————
代码 说明
——————————————————————————————————————————————————————————————
*? 重复任意次,但尽可能少重复
+? 重复一次或更多次,但尽可能少重复
?? 重复0次或1次,但尽可能少重复
{n,m}? 重复n到m次,但尽可能少重复
{n,}? 重复n次以上,但尽可能少重复
——————————————————————————————————————————————————————————————
十一、处理选项:
在每种编程语言中处理的方式有所不同,以下列举在Python中的处理选项方式:
——————————————————————————————————————————————————————————————
名称 说明
——————————————————————————————————————————————————————————————
re.I(re.IGNORECASE): 忽略大小写(括号内是完整写法,下同)
re.M(MULTILINE): 多行匹配,改变'^'和'$'的行为
re.S(DOTALL): 点任意匹配模式,改变'.'的行为
re.L(LOCALE): 使预定字符类 \w \W \b \B \s \S 取决于当前区域设定
re.U(UNICODE): 使预定字符类 \w \W \b \B \s \S \d \D 取决于unicode定义的字符属性 X(VERBOSE): 详细模式。这个模式 下正则表达式可以是多行,忽略空白字符,并可以加入注释。
re.X(): 该标志通过给予你更灵活的格式以便你将正则表达式写的更易于理解。
——————————————————————————————————————————————————————————————
以上是目前我所能够接受和理解的
——————————————————————————————————————————————————————————————
常用的正则表达式:
http://deerchao.net/tutorials/regex/common.htm
还有很多内容,详细请参考原文:
deerchao的blog
http://www.cnblogs.com/deerchao/archive/2006/08/24/zhengzhe30fengzhongjiaocheng.html