shell三大文本处理工具之awk
文章目录
一、简介
awk 是一种编程语言，用于在 linux/unix 下对⽂文本和数据进⾏行处理。 数据可以来自标准输入、⼀个或多个文件，或其它命令的输出。 它⽀持⽤户自定义函数和动态正则表达式等先进功能，是 linux/unix 下的⼀个强⼤编程⼯具。 它在命令行中使用，但更多是作为脚本来使用。 awk 的处理文本和数据的方式是这样的，它逐行扫描⽂文件，从第一行到最后⼀行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。 如果没有指定处理动作，则把匹配的行显示到标准输出(屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。
二、awk命令格式和选项
2.1. awk的语法有两种形式
awk [options] 'script' var=value file(s)
awk [options] -f scriptfile var=value file(s)
2.2. 命令选项
#指定输入文件折分隔符，fs是一个字符串或者是一个正则表达式，如-F:。
-F fs or –field-separator fs
#赋值一个用户定义变量。
-v var=value or –asign var=value
#从脚本文件中读取awk命令。
-f scripfile or –file scriptfile
#对nnn值设置内在限制，-mf选项限制分配给nnn的最大块数目；-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能，在标准awk中不适用。
-mf nnn and -mr nnn
#在兼容模式下运行awk。所以gawk的行为和标准的awk完全一样，所有的awk扩展都被忽略。
-W compact or –compat, -W traditional or –traditional
#打印简短的版权信息。
-W copyleft or –copyleft, -W copyright or –copyright
#打印全部awk选项和每个选项的简短说明。
-W help or –help, -W usage or –usage
#打印不能向传统unix平台移植的结构的警告。
-W lint or –lint
#打印关于不能向传统unix平台移植的结构的警告。
-W lint-old or –lint-old
#允许间隔正则表达式的使用，参考(grep中的Posix字符类)，如括号表达式[[:alpha:]]。
- -W re-interval or –re-inerval
#使用program-text作为源代码，可与-f命令混用。
- -W source program-text or –source program-text
#打印bug报告信息的版本。
- -W version or –version
注：-W posix #打开兼容模式。但有以下限制，不识别：\x、函数关键字、func、换码序列以及当fs是一个空格时，将新行作为一个域分隔符；操作符和=不能代替和=；fflush无效。
三. 模式和操作
awk脚本是由模式和操作组成的：
pattern {action} 如$ awk '/root/' test，或$ awk '$3 < 100' test。
两者是可选的，如果没有模式，则 action 应用到全部记录，如果没有 action，则输出匹配全部记录。 默认情况下，每一个输入行都是一条记录，但用户可通过RS变量指定不同的分隔符进行分隔。
3.1 模式
模式可以是以下任意一个：
- /正则表达式/：使用通配符的扩展集。
- 关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符串或数字的比较，如$2>%1选择第二个字段比第一个字段长的行。
- 模式匹配表达式：用运算符(匹配)和!(不匹配)。
- 模式，模式：指定一个行的范围。该语法不能包括BEGIN和END模式。
- BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。
- END：让用户在最后一条输入记录被读取之后发生的动作。
3.2. 操作
操作由一人或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：
- 变量或数组赋值
- 输出命令
- 内置函数
- 控制流命令
四. 环境变量
4.1 awk的环境变量
| 变量 | 描述 |
|---|---|
| $n | 当前记录的第n个字段，字段间由FS分隔。 |
| $0 | 完整的输入记录。 |
| ARGC | 命令行参数的数目。 |
| ARGIND | 命令行中当前文件的位置(从0开始算)。 |
| ARGV | 包含命令行参数的数组。 |
| CONVFMT | 数字转换格式(默认值为%.6g) |
| ENVIRON | 环境变量关联数组。 |
| ERRNO | 最后一个系统错误的描述。 |
| FIELDWIDTHS | 字段宽度列表(用空格键分隔)。 |
| FILENAME | 当前文件名。 |
| FNR | 同NR，但相对于当前文件。 |
| FS | 字段分隔符(默认是任何空格)。 |
| IGNORECASE | 如果为真，则进行忽略大小写的匹配。 |
| NF | 当前记录中的字段数。 |
| NR | 当前记录数。(一个计数器，每处理完一条记录，NR的值就增加1) |
| OFMT | 数字的输出格式(默认值是%.6g)。 |
| OFS | 输出字段分隔符(默认值是一个空格)。 |
| ORS | 输出记录分隔符(默认值是一个换行符)。 |
| RLENGTH | 由match函数所匹配的字符串的长度。 |
| RS | 记录分隔符(默认是一个换行符)。 |
| RSTART | 由match函数所匹配的字符串的第一个位置。 |
| SUBSEP | 数组下标分隔符(默认值是034)。 |
五、awk运算符
5.1 运算符
| 运算符 | 描述 |
|---|---|
| = += -= *= /= %= ^= **= | 赋值 |
| ?: | C条件表达式 |
| || | 逻辑或 |
| && | 逻辑与 |
| ~ ~! | 匹配正则表达式和不匹配正则表达式 |
| < <= > >= != == | 关系运算符 |
| 空格 | 连接 |
| + - | 加，减 |
| * / & | 乘，除与求余 |
| + - ! | 一元加，减和逻辑非 |
| ^ *** | 求幂 |
| ++ – | 增加或减少，作为前缀或后缀 |
| $ | 字段引用 |
| in | 数组成员 |
六. 记录和域
6.1. 记录
awk把每一个以换行符结束的行称为一个记录。
记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中。
awk ‘{print $0}’ test将输出test文件中的所有记录。
变量NR：一个计数器，每处理完一条记录，NR的值就增加1。 如$ awk ‘{print NR,$0}’ test将输出test文件中所有记录，并在记录前显示记录号。
6.2. 域
记录中每个单词称做“域”，默认情况下以空格或tab分隔。 awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk ‘{print $1,$3}’ test将打印test文件中第一和第三个以空格分开的列(域)。
6.3. 域分隔符
内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。 如$ awk -F: ‘{print $1,$5}’ test将打印以冒号为分隔符的第一，第五列的内容。
可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中， 如$awk -F’[:t]’ ‘{print $1,$3}’ test，表示以空格、冒号和tab作为分隔符。
输出域的分隔符默认是一个空格，保存在OFS中。
awk -F: '{print $1,$5}' test #$1和$5间的逗号就是OFS的值
七. gawk专用正则表达式元字符
一般通用的元字符集就不讲了，可参考Sed和Grep学习笔记。以下几个是gawk专用的，不适合unix版本的awk。
| \Y | 匹配一个单词开头或者末尾的空字符串 |
|---|---|
| \B | 匹配单词内的空字符串。 |
| < | 匹配一个单词的开头的空字符串，锚定开始。 |
| > | 匹配一个单词的末尾的空字符串，锚定末尾。 |
| \w | 匹配一个字母数字组成的单词。 |
| \W | 匹配一个非字母数字组成的单词。 |
| \‘ | 匹配字符串开头的一个空字符串。 |
| ’ | 匹配字符串末尾的一个空字符串。 |
八. POSIX字符集
可参考我的Grep学习笔记
九. 匹配操作符(~)
用来在记录或者域内匹配正则表达式。
awk '$1 ~/^root/' test #将显示test文件第一列中以root开头的行。
十. 比较表达式
conditional expression1 ? expression2: expression3，
awk '{max = ($1 > $3) ? $1: $3; print max}' test #如果第一个域大于第三个域，$1就赋值给max，否则$3就赋值给max。
awk '$1 + $2 < 100' test #如果第一和第二个域相加大于100，则打印这些行。
awk '$1 > 5 && $2 < 10' test #如果第一个域大于5，并且第二个域小于10，则打印这些行。
十一. 范围模板
范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。 如果有一个模板没出现，则匹配到开头或末尾。如$ awk ‘/root/,/mysql/’ test将显示root第一次出现到mysql第一次出现之间的所有行。
awk '/^root/,/^mysql/' test #打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记录，则继续打印直到下一个以正则表达式mysql开头的记录为止，或到文件末尾。
十二. 示例
$ awk '/^(no|so)/' test #打印所有以模式no或so开头的行。
$ awk '/^[ns]/{print $1}' test #如果记录以n或s开头，就打印这个记录。
$ awk '$1 ~/[0-9][0-9]$/(print $1}' test #如果第一个域以两个数字结束就打印这个记录。
$ awk '$1 == 100 || $2 < 50' test #如果第一个或等于100或者第二个域小于50，则打印该行。
$ awk '$1 != 10' test #如果第一个域不等于10就打印该行。
$ awk '/test/{print $1 + 10}' test #如果记录包含正则表达式test，则第一个域加10并打印出来。
$ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test #如果第一个域大于5则打印问号后面的表达式值，否则打印冒号后面的表达式值。
