sed & awk常用正则表达式

正则表达式元字符

正则表达式中有两种基本元素：

1. 以字面值或变量表示的值（如.代表任意单个字符）。
2. 操作符（如*代表将前面的字符重复任意次）。

元字符汇总

特殊字符	用途
.	匹配除换行符以外的任意单个字符。在awk中，句点也能匹配换行符。
*	匹配任意一个（包括零个）在它面前的字符（包括由正则表达式指定的字符）
[…]	匹配方括号中的字符类中的任意一个。如果方括号中第一个字符为脱字符号（^），则表示否定匹配，即匹配出了换行符和类中列出的哪些字符以外的所有字符。在awk中，也匹配换行符。连字符（-）用于表示字符的范围。如果类中的第一个字符为右方括号（]）则表示它是类的成员。所有其他的元字符在被指定为类中成员时都会失去它们原来的含义。
^	如果作为正则表达式的第一个字符，则表示匹配行的开始。在awk中匹配字符串的开始，即使字符串包含嵌入的换行符。
$	如果作为正则表达式的最后一个字符，则表示匹配行的结尾。在awk中匹配字符串的结尾，即使字符串包含嵌入的换行符。
\{n,m\}	匹配它前面某个范围内单个字符出现的次数（包括由正则表达式指定的字符）。\{n,m\}将匹配n次出现，\{n,\}至少匹配n次出现，而且\{n,m\}匹配n和m之间的任意次出现。
\	转意随后的特殊字符。
+	匹配前面的正则表达式的一次或多次出现。
?	匹配前面的正则表达式的零次或一次出现。
|	指定可以匹配其前面的或后面的正则表达式。
()	对正则表达式分组
{n,m}	匹配它前面某个范围内单个字符出现的次数（包括由正则表达式指定的字符）。{n}表示匹配n次出现，{n,}表示至少匹配n次出现，{n,m}匹配n和m之间的任意次出现。

普遍存在的反斜杠

元字符反斜杠（/）将元字符转换成普通字符（或将普通字符转换成元字符）。它强制将任意元字符解释为普通字符，一边匹配该字符本身。

在sed中，使用反斜杠将一组普通字符转意为元字符。

如 \(\) \{\} \n

字符类

字符类是对通配符概念的改进。我们可以列出要匹配的字符，而不是匹配特殊位置的任意字符。使用方括号元字符（[]）将字符列表括起来，其中每个字符占据一个位置。

注意：在方括号中元字符会失去它们的含义。

如[Ww]hat可以匹配what或者What

字符类中的的特殊字符：

字符	功能
\	转义任意特殊字符（只用于awk中）
-	当它不再第一个或最后一个位置时，表示一个范围。
^	仅当在第一个位置时表示反转匹配。

反斜杠只在awk中是特殊的，因此可以使用字符类"[a\]1]"以匹配一个a、一个]或一个1。

 

如果闭括号（]）是作为类中的第一个字符出现（或者是脱字符后的第一个字符），那么它就被解释为类的一个成员。如果连字符在一个类中是第一个或最后一个字符，则失去其特殊含义。因此，为了匹配算术操作符，我们在下面的实例中将连字符（-）放在第一位：

        [-+*/]

使用正则表达式匹配下面的日期，该日期可能有下面两种格式：

MM-DD-YY

MM/DD/YY

下面的正则表达式指示每个字符位置可能的树枝范围：

        [0-9][0-9][-/][0-3][0-9][-/][0-9][0-9]

"-"或"/"都可能是定界符。在第一个位置防止连字符确保它在字符类中解释为字面意义，即作为一个连字符，而不是指示一个范围。

排除字符类

通常，字符类包括在哪个位置想要匹配的所有字符。在类中作为第一个字符的脱字符（^）将类中所有字符都排除在被匹配之外。相反，除换行符以外没有在列的方括号中的任意字符都将被匹配。

下面的模式将匹配任意非数字字符：

    [^0-9]

它匹配字面表中所有的大写和小写字面以及所有特殊字符，例如标点符号。

POSIX字符类补充

POSIX标准对正则表达式字符和操作符的含义进行了形式化。这种标准定义了两类正则表达式：基本的正则表达式（BRE），grep和sed使用这种正则表达式；扩展的正则表达式，egrep和awk使用这种正则表达式。

POSIX还改变了常用的属于，我们一直成为"字符类"的东西在POSIX标准中成为"括号表达式"。在括号表达式中，出了字面字符（例如a, !等）以外，还可以由其他标记。如：

• 字符类。由[:和:]包围的关键字组成的POSIX字符类。关键字描述了不同的字符类，如文字字符类，控制字符等等。
• 整理复合。整理复合是多字符的序列。表示这些字符应该被看作是一个单元，它由[,和.]包围的字符组成。
• 等价类。等价类列出了应该看作是等价的字符集，它由地区化的字符元素（有[=和=]包围）组成。

所有这3种结果都必须出现在括号表达式的方括号中。例如[[:alpha:]!]匹配任意单个字幕字符或感叹号，[[.ch.]]匹配整理元素ch，但不止匹配字幕c或字幕h。

POSIX字符类：

[:alnum:]	可打印的字符（包括空白字符）
[:alpha:]	字母字符
[:blank:]	空格和制表符
[:cntrl:]	控制字符
[:digit:]	数字字符
[:graph:]	可打印和可见的（非空格）字符
[:lower:]	小写字符
[:print:]	可打印的字符（包括空包字符）
[:punct:]	标点符号字符
[:space:]	空白字符
[:upper:]	大写字符
[:xdigit:]	十六进制数字

定位元字符

有两个元字符用于指定字符串出现在行首或行末的上下文。脱字符^表示行开始，$表示行结束。

可以使用两个联系的定位元字符来匹配空行，即：

    ^$

可以使用这种模式计算文件中的空行数，在grep中使用计数选项-c：

    # grep –c '^$' ch04

    5

如果想使用sed来删除空行，那么这个正则表达式很有用。下面的正则表达式可以用于匹配空行，即使其中包含空格：

    ^□*$

同样，可以使用以下表达式匹配整个行：

    ^.*$

在sed（和grep）中，只有当"^"和"$"分别出现在正则表达式的开始或结尾才是特殊的。因此"^abc" 意味着 "匹配只处于行开始处的字母a、b和c"，而"ab^c"以为着"匹配处于行的任意位置的a、b、字面意义的^，然后是c"。这对于"$"同样适用。

 

在awk中则不同，"^"和"$"总是特殊的，即使它们可能使编写的正则表达式不匹配任何东西。可以说，在awk中，当想要匹配字面"^"或"$"时，不管它处于正则表达式的什么位置都应该使用反斜杠对其进行转义。

字符的跨度

在grep和sed中使用\{和\}。POSIX egrep 和 POSIX awk使用{和}。在任何情况下，大括号包围一个或两个参数。

    \{n,m\}

n和m是0到255之间的整数。如果只指定\{n\}本身，那么将精确匹配前面的字符或正则表达式的n次出现。如果指定\{n,m\}，那么就匹配出现的次数为n和m之间的任意次数。

选择性操作

竖线(|)元字符是元字符扩展集的一部分，用于指定正则表达式的联合。如果某行匹配其中的一个正则表达式，那么它就匹配该模式。

分组操作

圆括号()用于对正则表达式进行分组并设置优先级。它们是元字符扩展集的一部分。假设在文本文件中将公司的名称为"BigOne"或"BigOneComputer"，使用正则表达式：

    BigOne(Computer)?

将匹配字符串"BigOne"本身或者后面跟有一个字符串"□Computer"的形式。同样，有些属于有时会用全拼，有时会用缩写、则可以使用：

    # egrep "Lab(oratorie)?s" mail.list

    Bell Laboratories, Lucent Technologies

    Bell Labs

可以用竖线和圆括号来对选择性操作进行分组。在下面的示例中，使用它来指定单词"company"的单数或复数匹配。

    compan(y|ies)

注意：大多数sed和grep 的版本中不能对加圆括号的一组字符应用数量词，但是在egrep和awk的所有版本都是可以的。

限制范围

一个正则表达式为：

    A.*Z

匹配的结果为

All of us, including Zippy, our dog

All of us, including Zippy and Ziggy

All of us, including Zippy and Ziggy and Zelda

下划线的字符串表示匹配的字符串，即.*在每种情况下都会匹配可能的最长的范围。

 

正则表达式尝试匹配最长的字符串，这可能会引起意想不到的问题。例如，下面的正则表达式与引号中的任意个字符匹配：

    ".*"

输入字符串为：

    .Se "Appendix" "Full Progarm Listings."

要匹配第一个参数，可以用下面的正则表达式来描述：

    \.Se ".*"

然而，因为模式中的第二个引号与该行上的最后一个引号匹配，所以它结束匹配整个行。如果知道参数的个数，那么可以对每个进行说明：

    \.Se ".*" ".*"

虽然这种方法可以像期望的那样工作，但是每行也许不会有相同书目的参数，省略你只想要第一个参数。这里有一个匹配两个引号之间最短范围的正则表达式：

    "[^ "]*"

它匹配引号并且后面跟有任意个字符的情况，但它不匹配引号后面跟有引号的情况。

其他一些正则

国家的缩写	□[A-Z][A-Z]□
HTML代码	<[^ >]*>
匹配空行	^$
匹配整行	^.*$
匹配一个或多个空格（空内容的行）	□□*