正则表达式入门体验
先来了解一些概念:
单词:正则表达式里的单词的意思就是不少于一个的连续的\w。
一、常用的元字符:
\b |
匹配单词的开始或结束,也就是单词的分界处。虽然通常英文的单词是由空格,标点符号或者换行来分隔的,但是\b 并不匹配这些单词分隔字符中的任何一个,它只匹配一个位置。 更精确的说法是\b 匹配这样的位置:它的前一个字符和后一个字符不全是(一个是,一个不是或不存在)\w。 |
. | 匹配除了换行符以外的任意字符。 |
* | 代表的是数量——它指定*前边的内容可以连续重复使用任意次以使整个表达式得到匹配。因此,.* 连在一起就意味着任意数量的不包含换行的字符。 |
\n | 换行符就是'\n',ASCII 编码为 10(十六进制 0x0A)的字符。 |
\d | 匹配一位数字(比如0)。为了避免重复,我们也可以这样写表达式:\d{2}。\d后面的{2}({8})的意思是前面\d 必须连续重复匹配2次(8次)。 |
\s | 匹配任意的空白符,包括空格,制表符(Tab),换行符,中文全角空格等。 |
\w | 匹配字母或数字或下划线或汉字等。 |
^ | 匹配字符串的开始。 |
$ | 匹配字符串的结束。 |
() | 分组,后面会有描述。 |
ex:比如一个网站如果要求你填写的 QQ 号必须为 5 位到 12 位数字时,可以使用:^\d{5,12}$。
当想查找元字符本身的话,比如查找.或者*,就出现了问题:你没办法指定它们,因为它们会被解释成别的意思。这时你就得使用\来取消这些字符的特殊意义。因此,你应该使用\.和\*。当然,要查找\本身,你也得用\\。
二、重复次数匹配:
* | 重复零次或更多次 |
? | 重复零次或一次 |
{n} | 重复 n 次 |
{n,} | 重复 n 次或更多次 |
{n,m} | 重复 n 到 m 次 |
+ | 重复一次或更多次 |
ex:Windows\d+匹配 Windows 后面跟 1 个或更多数字
ex:^\w+匹配字符串的第一个单词(或整个字符串的第一个单词,具体匹配哪个意思得看选项设置)
三、字符类匹配:
- [aeiou] 匹配任何一个英文元音字母,[.?!]匹配标点符号(.或?或!)。
- [0-9] 代表的含意与\d一致:一位数字,[a-z0-9A-Z]完全等同于\w(只考虑英文)。
ex:\(?0\d{2}[) -]?\d{8}。“(”和“)”也是元字符,所以在这里需要使用转义。
这个表达式可以匹配几种格式的电话号码,像(010)88886666,或 022-22334455,或02912345678 等。首先是一个转义字符\(,它能出现 0 次或 1 次(?),然后是一个 0,后面跟着 2 个数字(\d{2}),然后是)或-或空格中的一个,它出现 1 次或不出现(?),最后是8 个数字(\d{8})。
四、分枝条件:
实际上,如果仔细想,上一个表达式也能匹配 010)12345678 或(022-87654321 这样的不正确的格式,而分支条件则能解决这个问题。
分枝条件指的是有几种规则,如果满足其中任意一种规则都应该当成匹配,具体方法是用|把不同的规则分隔开。
- ex:0\d{2}-\d{8}|0\d{3}-\d{7}这个表达式能匹配两种以连字号分隔的电话号码:一种是三位区号,8位本地号(如 010-12345678),一种是4位区号,7位本地号(0376-2233445)。
- ex:\(0\d{2}\)[- ]?\d{8}|0\d{2}[- ]?\d{8}这个表达式匹配3位区号的电话号码,其中区号可以用小括号括起来,也可以不用,区号与本地号间可以用连字号或空格间隔,也可以没有间隔。注意:|号前后的两段表达式分别为一个分枝表达式。
- ex:\d{5}-\d{4}|\d{5}这个表达式用于匹配美国的邮政编码。美国邮编的规则是5位数字,或者用连字号间隔的9位数字。之所以要给出这个例子是因为它能说明一个问题:使用分枝条件时,要注意各个条件的顺序。如果你把它改成\d{5}|\d{5}-\d{4}的话,那么就只会匹配 5 位的邮编(以及 9 位邮编的前 5 位)。原因是匹配分枝条件时,将会从左到右地测试每个条件,如果满足了某个分枝的话,就不会去再管其它的条件了。
五、分组:
前面已经提到了怎么重复单个字符(直接在字符后面加上限定符就行了\d{3});但如果想要重复多个字符又该怎么办?正则表达式中可以用小括号来指定子表达式(也叫做分组),然后通过指定这个子表达式的重复次数就可以了,也可以对子表达式进行其它一些操作。
(\d{1,3}\.){3}\d{1,3}是一个简单的 IP 地址匹配表达式。要理解这个表达式,请按下列顺序分析它:
\d{1,3}匹配 1 到 3 位的数字,(\d{1,3}\.){3}匹配三位数字加上一个英文句号(这个整体也就是这个分组)重复 3 次,最后再加上一个一到三位的数字(\d{1,3})。不幸的是,IP地址中每个数字都不能大于255,但上面的表达式也将匹配256.300.888.999这种不可能存在的 IP 地址。如果能使用算术比较的话,或许能简单地解决这个问题,但是正则表达式中并不提供关于数学的任何功能,所以只能使用冗长的分组选择字符类来描述一个正确的 IP 地址:
^((2[0-4]\d|25[0-5]|[01]?\d\d?)\.){3}(2[0-4]\d|25[0-5]|[01]?\d\d?)
理解这个表达式的关键是理解 2[0-4]\d|25[0-5]|[01]?\d\d?,简单提一下,对IP的数值分为3个区间处理200-249|250-255|1-199。
六、反义:
有时需要查找不属于某个能简单定义的字符类的字符。比如想查找除了数字以外,其它任意字符都行的情况,这时需要用到反义
\W | 匹配任意不是字母,数字,下划线,汉字的字符 |
\S | 匹配任意不是空白符的字符 |
\D | 匹配任意非数字的字符 |
\B | 匹配不是单词开头或结束的位置 |
[^x] | 匹配除了 x 以外的任意字符 |
[^aeiou] | 匹配除了 aeiou 这几个字母以外的任意字符 |
ex:\S+匹配不包含空白符的字符串。
ex:<a[^>]+>匹配用尖括号括起来的以a开头的字符串。
七、后向引用:
使用小括号指定一个子表达式后,匹配这个子表达式的文本 (也就是此分组捕获的内容)可以在表达式或其它程序中作进一步的处理。默认情况下,每个分组会自动拥有一个组号,规则是:从左向右,以分组的左括号为标志,第一个出现的分组的组号为 1,第二个为 2,以此类推。
- 分组 0 对应整个正则表达式
- 实际上组号分配过程是要从左向右扫描两遍的:第一遍只给未命名组分配,第二遍只给命名组分配--因此所有命名组的组号都大于未命名的组号
- 可以使用(?:exp)这样的语法来剥夺一个分组对组号分配的参与权.
后向引用用于重复搜索前面某个分组匹配的文本。例如,\1 代表分组 1 匹配的文本。
ex:\b(\w+)\b\s+\1\b 可以用来匹配重复的单词,像 go go, 或者 kitty kitty。这个表达式首先是一个单词,也就是单词开始处和结束处之间的多于一个的字母或数字(\b(\w+)\b),这个单词会被捕获到编号为 1 的分组中,然后是 1 个或几个空白符(\s+),最后是分组 1 中捕获的内容(也就是前面匹配的那个单词)(\1)。
我们也可以自己指定子表达式的组名。自定义子表达式的语法:(?<Word>\w+)(或者把尖括号换成'也行:(?'Word'\w+)),这样就把\w+的组名指定为 Word 了。要反向引用这个分组捕获的内容,可以使用\k<Word>,所以上一个例子也可以写成这样:\b(?<Word>\w+)\b\s+\k<Word>\b。
常用的分组表达式:
(exp) | 匹配 exp,并捕获文本到自动命名的组里 | |
(<name>exp) | 匹配 exp,并捕获文本到名称为 name 的组里,也可以写成(?'name'exp) | |
(?:exp) | 匹配 exp,不捕获匹配的文本,也不给此分组分配组号 | |
(?=exp) | 匹配 exp 前面的位置(断言自身出现的位置的后面能匹配表达式 exp) | |
(?<=exp) | 匹配 exp 后面的位置(断言自身出现的位置的前面能匹配表达式 exp) | |
(?!exp) | 匹配后面跟的不是 exp 的位置(断言此位置的后面不能匹配表达式 exp) | |
(?<!exp) | 匹配前面不是 exp 的位置(断言此位置的前面不能匹配表达式 exp) | |
(?#comment) | 这种类型的分组不对正则表达式的处理产生任何影响,用于提供注释让人阅读 |
八、零宽断言:
在上一节的表中,只讲述了其中两个,接下来的四个用于查找在某些内容(但并不包括这些内容)之前或之后的东西,也就是说它们像\b,^,$那样用于指定一个位置,这个位置应该满足一定的条件(即断言),因此它们也被称为零宽断言。断言用来声明一个应该为真的事实。正则表达式中只有当断言为真时才会继续进行匹配。
ex:
- (?=exp)也叫零宽度正预测先行断言,它断言自身出现的位置的后面能匹配表达式 exp。比如\b\w+(?=ing\b),匹配以ing结尾的单词的前面部分(除了ing以外的部分),如查找 I'm singing while you're dancing.时,它会匹配 sing 和 danc。
- (?<=exp)也叫零宽度正回顾后发断言,它断言自身出现的位置的前面能匹配表达式 exp。比如(?<=\bre)\w+\b 会匹配以 re 开头的单词的后半部分(除了 re 以外的部分),例如在查找 reading a book 时,它匹配 ading。
假如你想要给一个很长的数字中每三位间加一个逗号(当然是从右边加起了),你可以这样查找需要在前面和里面添加逗号的部分:((?<=\d)\d{3})+\b,用它对 1234567890 进行查找时结果是234567890。
下面这个例子同时使用了这两种断言:(?<=\s)\d+(?=\s)匹配以空白符间隔的数字(再次强调,不包括这些空白符)。
九、负向零宽断言:
前面提到过怎么查找不是某个字符或不在某个字符类里的字符的方法(反义)。但是如果我们只是想要确保某个字符没有出现,但并不想去匹配它时怎么办?例如,如果我们想查找这样的单词--它里面出现了字母 q,但是 q 后面跟的不是字母 u,我们可以尝试这样:
\b\w*q[^u]\w*\b 匹配包含后面不是字母 u 的字母 q 的单词。但是如果多做测试(或者你思维足够敏锐,直接就观察出来了),你会发现,如果 q 出现在单词的结尾的话,像 Iraq,Benq,这个表达式就会出错。这是因为[^u]总要匹配一个字符,所以如果 q 是单词的最后一个字符的话,后面的[^u]将会匹配 q 后面的单词分隔符(可能是空格,或者是句号或其它的什么),后面的\w*\b 将会匹配下一个单词,于是\b\w*q[^u]\w*\b 就能匹配整个 Iraq fighting。负向零宽断言则能解决这样的问题,因为它只匹配一个位置,并不消费任何字符。
现在,我们可以用这样的表达式来解决这个问题:\b\w*q(?!u)\w*\b。
零宽度负预测先行断言(?!exp),断言此位置的后面不能匹配表达式 exp。例如:\d{3}(?!\d)匹配三位数字,而且这三位数字的后面不能是数字;\b((?!abc)\w)+\b 匹配不包含连续字符串 abc 的单词。
同理,我们可以用(?<!exp),零宽度负回顾后发断言来断言此位置的前面不能匹配表达式 exp:(?<![a-z])\d{7}匹配前面不是小写字母的七位数字。
一个复杂的例子:(?<=<(\w+)>).*(?=<\/\1>)匹配不包含属性的简单 HTML 标签内里的内容。(?<=<(\w+)>)指定了这样的前缀:被尖括号括起来的单词(比如可能是<b>),然后是.*(任意的字符串),最后是一个后缀(?=<\/\1>)。注意后缀里的\/,它用到了前面提过的字符转义;\1 则是一个反向引用,引用的正是捕获的第一组,前面的(\w+)匹配的内容,这样如果前缀实际上是<b>的话,后缀就是</b>了。整个表达式匹配的是<b>和</b>之间的内容(再次提醒,不包括前缀和后缀本身)。
注:上面这个表达式,我在java里面使用这个表达式,会报一个错( java.util.regex.PatternSyntaxException: Look-behind group does not have an obvious maximum length near index 10),不知道在.net环境中会否报错,没尝试过,下面我给出我在java里面找到的正确的表达式:(?<=<(\w{1,15})>).*(?=<\/\1>),区别在于\w后面的参数,由 + 变为 {1,15} ,为什么要这么改我也不知道,我是根据报错的信息(错误信息提示说是 组没有一个明确的最大长度,so)提示尝试性的给了一个<>标签里面标签名的最大长度15,有知道的大神还请指点一下;
十、注释:
小括号的另一种用途是通过语法(?#comment)来包含注释。例如:2[0-4]\d(?#200-249)|25[0-5](?#250-255)|[01]?\d\d?(?#0-199)。
要包含注释的话,最好是启用“忽略模式里的空白符”选项,这样在编写表达式时能任意的添加空格,Tab,换行,而实际使用时这些都将被忽略。启用这个选项后,在#后面到这一行结束的所有文本都将被当成注释忽略掉。
十一、贪婪与懒惰:
当正则表达式中包含能接受重复的限定符时,通常的行为是(在使整个表达式能得到匹配的前提下)匹配尽可能多的字符。以这个表达式为例:a.*b,它将会匹配最长的以 a 开始,以 b 结束的字符串。如果用它来搜索 aabab 的话,它会匹配整个字符串 aabab。这被称为贪婪匹配。
有时,我们更需要懒惰匹配,也就是匹配尽可能少的字符。前面给出的限定符都可以被转化为懒惰匹配模式,只要在它后面加上一个问号?。这样.*?就意味着匹配任意数量的重复,但是在能使整个匹配成功的前提下使用最少的重复。
ex:a.*?b 匹配最短的,以 a 开始,以 b 结束的字符串。如果把它应用于 aabab 的话,它会匹配 aab(第一到第三个字符)和 ab(第四到第五个字符)。
为什么第一个匹配是 aab(第一到第三个字符)而不是 ab(第二到第三个字符)?简单地说,因为正则表达式有另一条规则,比懒惰/贪婪规则的优先级更高:最先开始的匹配拥有最高的优先权——The match that begins earliest wins。
*? | 重复任意次,但尽可能少重复 |
+? 或 *+ | 重复 1 次或更多次,但尽可能少重复 |
?? | 重复 0 次或 1 次,但尽可能少重复 |
{n,m}? | 重复 n 到 m 次,但尽可能少重复 |
{n,}? | 重复 n 次以上,但尽可能少重复 |
十二、处理选项:
在Java中,可以使用Pattern.compileRegex(String regex,int flag)构造函数来设置正则表达式的处理选项。
IgnoreCase(忽略大小写) | 匹配时不区分大小写。 |
Multiline(多行模式) | 更改^和$的含义,使它们分别在任意一行的行首和行尾匹配,而不仅仅在整个字符串的开头和结尾匹配。(在此模式下,$的精确含意是:匹配\n 之前的位置以及字符串结束前的位置.) |
Singleline(单行模式) | 更改.的含义,使它与每一个字符匹配(包括换行符\n)。 |
IgnorePatternWhitespace(忽略空白) | 忽略表达式中的非转义空白并启用由#标记的注释。 |
ExplicitCapture(显式捕获) | 仅捕获已被显式命名的组。 |
一个经常被问到的问题是:是不是只能同时使用多行模式和单行模式中的一种?答案是:不是,这两个选项之间没有任何关系。
十三、平衡组/递归匹配:
这里介绍的平衡组语法是由.Net Framework 支持的;其它语言/库不一定支持这种功能,或者支持此功能但需要使用不同的语法,我所使用的java就不能使用这样的语法,会报错。
有时我们需要匹配像( 100 * ( 50 + 15 ) )这样的可嵌套的层次性结构,这时简单地使用\(.+\)则只会匹配到最左边的左括号和最右边的右括号之间的内容(这里我们讨论的是贪婪模式,懒惰模式也有同样的问题)。假如原来的字符串里的左括号和右括号出现的次数不相等,比如( 5 / ( 3 + 2 ) ) ),那我们的匹配结果里两者的个数也不会相等。有没有办法在这样的字符串里匹配到最长的,配对的括号之间的内容呢?
为了避免(和\(混淆,暂时用尖括号代替圆括号。现在的问题就变成了如何把xx <aa <bbb> <bbb> aa> yy 这样的字符串里,最长的配对的尖括号内的内容捕获出来?
这里需要用到以下的语法构造:
- (?'group') 把捕获的内容命名为 group,并压入堆栈(Stack)
- (?'-group') 从堆栈上弹出最后压入堆栈的名为 group 的捕获内容,如果堆栈本来为空,则本分组的匹配失败
- (?(group)yes|no) 如果堆栈上存在以名为 group 的捕获内容的话,继续匹配 yes 部分的表达式,否则继续匹配 no 部分
- (?!) 零宽负向先行断言,由于没有后缀表达式,试图匹配总是失败
如果对于堆栈不是很了解,也可以这样理解上面的三种语法:第一个就是在黑板 上写一个"group",第二个就是从黑板上擦掉一个"group",第三个就是看黑板上写的还有没有"group",如果有就继续匹配 yes 部分,否则 就匹配 no 部分。
现在需要做的是每碰到了左括号,就在压入一个"Open",每碰到一个右括号,就弹出一个,到了最后就看看堆栈是否为空--如果不为空那就证明左括号比右括号多,那匹配就应该失败。正则表达式引擎会进行回溯(放弃最前面或最后面的一些字符),尽量使整个表达式得到匹配。
< #最外层的左括号 [^<>]* #最外层左括号后面的不是括号的内容(*号表示这个限定重复0次或多次,实际上这样写也能匹配<<) ( #开始平衡组 ((?'Open'<)[^<>]+)* #匹配到左括号,住栈里面压进去一个Open,再匹配左括号后面不是括号的内容 ((?'-Open'>)[^<>]+)* #匹配到右括号,从栈里面弹出来一个Open,再匹配右括号后面不是括号的内容 )* #结束平衡组 (?(Open)(?!)) #在遇到最外层的右括号前面,判断栈里面是否还有Open,如果有,则匹配失败 > #最外层的右括号
平衡组的一个最常见的应用就是匹配 HTML,下面这个例子可以匹配嵌套的<div>标签:
<div[^>]*>[^<>]*(((?'Open'<div[^>]*>)[^<>]*)+((?'-Open'</div>)[^<>]*)+)*(?(Open)(?!))</div>
注:文章来源于网络,我只是进一步整理精简;点击查看原文
一些常用的正则表达式,会陆续更新
匹配目标 | 正则表达式 |
匹配url | (http|ftp|https):\/\/[\w\-_]+(\.[\w\-_]+)+([\w\-\.,@?^=%&:/~\+#]*[\w\-\@?^=%&/~\+#])? |
集合
- [xyz] 字符集合(x/y或z)
- [a-z] 字符范围
- [a-zA-Z]
- [^xyz] 字符集合取反(任意字符,除xyz)
- [^a-z] 字符范围取反
- [a-d][m-p] 并集(a到d或m到p)
常用元字符
- . 换行符以外的任意字符
- \w 字母或数字或下划线或汉字 [a-zA-Z_0-9]
- \s 任意空白符(空格、TAB\t、回车\r、\n)
- \d 数字[0-9]
- ^ 字符串的开始
- $ 字符串的结束
- \b 单词的开始或结束
常用反义符
- \W 任意不是字母,数字,下划线,汉字的字符[^\w]
- \S 任意不是空白符的字符[^\s]
- \D 任意非数字的字符[^0-9]
- \B 不是单词开头或结束的位置
- [^x] 除x以外的任意字符
- [^aeiou] 除aeiou外的任意字符
其它
\a | 报警字符(打印它的效果是电脑嘀一声) |
\b | 通常是单词分界位置,但如果在字符类里使用代表退格 |
\t | 制表符,Tab |
\r | 回车 |
\v | 竖向制表符 |
\f | 换页符 |
\n | 换行符 |
\e | Escape |
\0nn | ASCII 代码中八进制代码为 nn 的字符 |
\xnn | ASCII 代码中十六进制代码为 nn 的字符 |
\unnnn | Unicode 代码中十六进制代码为 nnnn 的字符 |
\cN | ASCII 控制字符。比如\cC 代表 Ctrl+C |
\A | 字符串开头(类似^,但不受处理多行选项的影响) |
\Z | 字符串结尾或行尾(不受处理多行选项的影响) |
\z | 字符串结尾(类似$,但不受处理多行选项的影响) |
\G | 当前搜索的开头 |
\p{name} | Unicode 中命名为 name 的字符类,例如\p{IsGreek} |
(?>exp) | 贪婪子表达式 |
(?<x>-<y>exp) | 平衡组 |
(?im-nsx:exp) | 在子表达式 exp 中改变处理选项 |
(?im-nsx) | 为表达式后面的部分改变处理选项 |
(?(exp)yes|no) | 把 exp 当作零宽正向先行断言,如果在这个位置能匹配,使用 yes 作为此组的表达式;否则使用 no |
(?(exp)yes) | 同上,只是使用空表达式作为 no |
(?(name)yes|no) | 如果命名为 name 的组捕获到了内容,使用 yes 作为表达式;否则使用 no |
(?(name)yes) | 同上,只是使用空表达式作为 no |