【译】 AWK教程指南 7AWK应用实例
本节将示范一个统计上班到达时间及迟到次数的程序。
这程序每日被执行时将读入两个数据文件：
* 员工当日到班时间的数据文件 ( 如下列的 arr.dat )
* 存放员工当月迟到累计次数的文件
当程序执行执完毕后将更新第二个数据文件的数据(迟到次数)，并打印当日的报表。这程序将分成下列数小节逐步完成，其大纲如下：
7.1 在到班资料文件 arr.dat 之前增加一行抬头"ID Number Arrvial Time"，并产生报表输出到文件today_rpt1 中。
<在awk中如何将数据输出到文件>
7.2 将 today_rpt1 上的数据按员工代号排序，并加注执行当日日期；产生文件 today_rpt2
<awk中如何运用系统资源及awk中Pipe的特性>
7.3 将awk程序包含在一个shell script文件中
7.4 于 today_rpt2 每日报表上，迟到者之前加上"*"，并加注当日平均到班时间；产生文件 today_rpt3
7.5 从文件中读取当月迟到次数，并根据当日出勤状况更新迟到累计数。
<使用者在awk中如何读取文件数据>
某公司其员工到勤时间文件内容如下，取名为 arr.dat。文件中第一栏为员工代号，第二栏为到达时间。本范例中，将使用该文件为数据文件。
7.1 重定向输出到文件
awk中并未提供如 C 语言中的fopen() 指令，也没有fprintf() 文件输出这样的指令。但awk中任何输出函数之后皆可借助使用与UNIX 中类似的 I/O 重定向符，将输出的数据重定向到指定的文件；其符号仍为 > (输出到一个新产生的文件) 或 >> ( 添加输出的数据到文件末尾 )。
例：在到班数据文件 arr.dat 之前增加一行抬头如下："ID Number Arrival Time"，并产生报表输出到文件 today_rpt1中。
建立如下文件并取名为reformat1.awk
BEGIN{ print " ID Number Arrival Time" > "today_rpt1"
print "===========================" > "today_rpt1"
}
{ printf(" %s %s\n", $1,$2 ) > "today_rpt1" }
执行：
$ awk -f reformat1.awk arr.dat
执行后将产生文件 today_rpt1，其内容如下：
说 明：
1. awk程序中，文件名称 today_rpt1 的前后须以" (双引号)括住，表示 today_rpt1 为一字符串常量。若未以"括住，则 today_rpt1 将被awk解释为一个变量名称。
在awk中任何变量使用之前，并不须事先声明。其初始值为空字符串(Null string) 或 0。因此程序中若未以 " 将 today_rpt1 括住，则 today_rpt1 将是一变量，其值将是空字符串，这会在执行时造成错误(Unix 无法帮您开启一个以空字符串为文件名的文件)。
因此在编辑awk程序时，须格外留心。因为若敲错变量名称，awk在编译程序时会认为是一新的变量，并不会察觉。因此往往会造成运行时错误。
2. BEGIN 为awk的保留字，是 Pattern 的一种。
以 BEGIN 为 Pattern 的 Actions 于awk程序刚被执行尚未读取数据文件时被执行一次，此后便不再被执行。
3. 读者或许觉得本程序中的I/O重定向符号应使用 " >>" (append)而非 " >"。
本程序中若使用 ">" 将数据重定向到 today_rpt1，awk 第一次执行该指令时会产生一个新文件 today_rpt1，其后再执行该指令时则把数据追加到today_rpt1文件末，并非每执行一次就重开一个新文件。
若采用">>"其差异仅在第一次执行该指令时，若已存在today_rpt1则 awk 将直接把数据append在原文件的末尾。
这一点，与UNIX中的用法不同。
7.2 使用系统资源
awk程序中很容易使用系统资源。这包括在程序中途调用 Shell 命令来处理程序中的部分数据；或在调用 Shell 命令后将其产生的结果交回 awk 程序(不需将结果暂存于某个文件)。这一过程是借助 awk 所提供的管道 (虽然有些类似 Unix 中的管道，但特性有些不同)，及一个从 awk 中调用 Unix 的 Shell 命令的语法来达成的。
例： 承上题，将数据按员工ID排序后再输出到文件 today_rpt2，并于表头附加执行时的日期。
分 析：
1. awk 提供与 UNIX 用法近似的 pipe，其记号亦为 "|"。其用法及含意如下：
awk程序中可接受下列两种语法：
a.语法
awk output 指令 | "Shell 接受的命令"
(如： print $1,$2 | "sort -k 1")
b.语法
"Shell 接受的命令" | awk input 指令
(如： "ls " | getline)
注： awk input 指令只有 getline 一个。
awk output 指令有 print, printf() 两个。
2. 在a 语法中，awk所输出的数据将转送往 Shell，由 Shell 的命令进行处理。以上例而言，print 所输出的数据将经由 Shell 命令 "sort -k 1" 排序后再送往屏幕(stdout)。
上列awk程序中，"print$1, $2" 可能反复执行很多次，其输出的结果将先暂存于 pipe 中，等到该程序结束时，才会一并进行 "sort -k 1"。
须注意两点：不论 print $1, $2 被执行几次，
"sort -k 1" 的执行时间是 "awk程序结束时"，
"sort -k 1" 的执行次数是 "一次"。
3. 在 b 语法中，awk将先调用 Shell 命令。其执行结果将通过 pipe 送入awk程序，以上例而言，awk先让 Shell 执行 "ls"，Shell 执行后将结果存于 pipe，awk指令 getline 再从 pipe 中读取数据。
使用本语法时应留心：
以上例而言，awk "立刻"调用 Shell 来执行 "ls"，执行次数是一次。
getline 则可能执行多次(若pipe中存在多行数据)。
4. 除上列a、b二种语法外，awk程序中其它地方如出现像 "date", "cls", "ls"... 这样的字符串，awk只把它当成一般字符串处理。
建立如下文件并取名为 reformat2.awk
# 程序 reformat2.awk
# 这程序用以练习awk中的pipe
BEGIN {
"date" | getline #Shell 执行 "date"，getline 取得结果并以$0记录
print " Today is " , $2, $3 > "today_rpt2"
print "=========================" > "today_rpt2"
print " ID Number Arrival Time" > "today_rpt2"
close( "today_rpt2" )
}
{ printf( "%s %s\n", $1 ,$2 ) | "sort -k 1 >> today_rpt2" }
执行如下命令：
$ awk -f reformat2.awk arr.dat
执行后，系统会自动将 sort 后的数据追加( Append; 因为使用 " >>") 到文件 today_rpt2末端。today_rpt2 内容如下：
说 明：
1. awk程序由三个主要部分构成：
i. Pattern { Action} 指令
ii. 函数主体。 例如： function double( x ){ return 2*x } (参考第11节 Recursive Program )
iii. Comment ( 以 # 开头识别之 )
2. awk 的输入指令 getline，每次读取一行数据。若getline之后未接任何变量，则所读入的内容将以$0 记录；否则以所指定的变量储存之。
以本例而言：
执行 "date" | getline 后,
$0 的值为 "Tue Nov 19 00:15:31 CST 2013" (笔者注：该时间为笔者本机上程序的执行时间)
当 $0 的值被更新时，awk将自动更新相关的内置变量，如：$1,$2,..,NF。故 $2 的值将为"Nov"，$3的值将为"19"。
(有少数旧版的awk不允许即使用者自行更新(update)$0的值，或者更新$0时，它不会自动更新 $1,$02,..,NF。这情况下，可改用gawk或nawk。否则使用者也可自行以awk字符串函数split()来分隔$0上的数据)
3. 本程序中 printf() 指令会被执行12次( 因为有arr.dat中有12行数据)，但读者不用担心数据被重复sort了12次。当awk结束该程序时才会 close 这个 pipe，此时才将这12行数据一次送往系统，并调用 "sort -k 1 >> today_rpt2" 处理之。
4. awk提供另一个调用Shell命令的方法，即使用awk函数
system("shell命令")
例如：
awk '
BEGIN{
system("date > date.dat")
getline < "date.dat"
print "Today is ", $2, $3
}
'
但使用 system( "shell 命令" ) 时，awk无法直接将执行中的部分数据输出给Shell 命令，且 Shell 命令执行的结果也无法直接输入到awk中。
7.3 执行AWK程序
本小节中描述如何将awk程序直接写在 shell script 之中。此后使用者执行 awk 程序时，就不需要每次都键入 " awk -f program datafile"。script 中还可包含其它 Shell 命令，如此更可增加执行过程的自动化。
建立一个简单的 awk程序 mydump.awk，如下：
{print}
这个程序执行时会把数据文件的内容 print 到屏幕上( 与cat功用类似 )。print 之后未接任何参数时，表示 "print $0"。
若欲执行该awk程序，来打印出文件 today_rpt1 及 today_rpt2 的内容时，必须于 UNIX 的命令行上执行下列命令：
方式一
awk -f mydump.awk today_rpt1 today_rpt2
方式二
awk '{print}' today_rpt1 today_rpt2
第二种方式系将awk 程序直接写在 Shell 的命令行上，这种方式仅适合较短的awk程序。
方式三 建立如下的 shell script，并取名为 mydisplay，
awk ' # 注意以下的 awk 与 ' 之间须有空白隔开
{print}
' $* # 注意以上的 ' 与 $* 之间须有空白隔开
执行 mydisplay 之前，须先将它改成可执行的文件(此步骤往后不再赘述)。
请执行如下命令：
$ chmod +x mydisplay
往后使用者就可直接把 mydisplay 当成指令，来display任何文件。
例如：
$ ./mydisplay today_rpt1 today_rpt2
说 明：
1. 在script文件 mydisplay 中，指令"awk"与第一个 ' 之间须有空格(Shell中并无" awk' "指令)。
第一个 ' 用以通知 Shell 其后为awk程序。
第二个 ' 则表示 awk 程序结束。
故awk程序中一律以"括住字符串或字符，而不使用 ' ，以免Shell混淆。
2. $* 为 shell script中的用法，它可用来代表命令行上 "mydisplay之后的所有参数"。
例如执行：
$ mydisplay today_rpt1 today_rpt2
事实上 Shell 已先把该指令转换成：
awk '
{ print}
' today_rpt1 today_rpt2
本例中，$* 用以代表 "today_rpt1 today_rpt2"。在Shell的语法中，可用 $1 代表第一个参数，$2 代表第二个参数。当不确定命令行上的参数个数时，可使用 $* 表示。
3. awk命令行上可同时指定多个数据文件。以
$ awk -f dump.awk today_rpt1 today_rpt2
为例，awk会先处理today_rpt1，再处理 today_rpt2。此时若文件无法打开，将造成错误。
例如：不存在文件"file_no_exist"，则执行：
$ awk -f dump.awk file_no_exit
将产生运行时错误(无法打开文件)。
但某些awk程序 "仅" 包含以 BEGIN 为Pattern的指令。执行这种awk程序时，awk并不须开启任何数据文件。此时命令行上若指定一个不存在的数据文件，并不会产生 "无法打开文件"的错误。(事实上awk并未打开该文件)
例如执行：
$ awk 'BEGIN {print "Hello,World!!"} ' file_no_exist
该程序中仅包含以 BEGIN 为 Pattern 的 Pattern {actions}，awk 执行时并不会打开任何数据文件；所以不会因不存在文件file_no_exit而产生 " 无法打开文件"的错误。
4. awk会将 Shell 命令行上awk程序(或 -f 程序文件名)之后的所有字符串，视为将输入awk进行处理的数据文件文件名。若执行awk的命令行上 "未指定任何数据文件文件名"，则将stdin视为输入的数据来源，直到输入end of file( Ctrl-D )为止。
读者可以用下列程序自行测试, 执行如下命令：
$ awk -f mydump.awk #(未接任何数据文件文件名)
或
$ ./mydisplay #(未接任何数据文件文件名)
将会发现：此后键入的任何数据将逐行复印一份于屏幕上。这情况不是机器当机！是因为awk程序正处于执行中。它正按程序指示，将读取数据并重新dump一次；只因执行时未指定数据文件文件名，故awk 便以stdin(键盘上的输入)为数据来源。读者可利用这个特点，设计可与awk即时聊天的程序。
7.4 改变字段的分隔符 & 用户自定义函数
awk不仅能自动分割字段，也允许使用者改变其字段切割方式以适应各种格式的需要。使用者也可自定义函数，若有需要可将该函数单独写成一个文件，以供其它awk程序调用。
范例：承接 6.2 的例子，若八点为上班时间，请加注 "*"于迟到记录之前，并计算平均上班时间。
分析：
1. 因八点整到达者不为迟到，故仅以到达的小时数做判断是不够的；仍应参考到达时的分钟数。若 "将到达时间转换成以分钟为单位"，不仅易于判断是否迟到，同时也易于计算到达平均时间。
2. 到达时间($2)的格式为 dd:dd 或 d:dd；数字当中含有一个 ":"。但文本数字交杂的数据awk无法直接做数学运算。(注：awk中字符串"26"与数字26 并无差异，可直接做字符串或数学运算，这是awk重要特色之一。但awk对文本数字交杂的字符串无法正确进行数学运算)。
解决的方法：
方法一
对到达时间($2) d:dd 或 dd:dd 进行字符串运算，分别取出到达的小时数及分钟数。
首先判断到达小时数为一位或两位字符，再调用函数分别截取分钟数及小时数。此解法需使用下列awk字符串函数：
length( 字符串 )：返回该字符串的长度。
substr( 字符串，起始位置，长度)：返回从起始位置起，指定长度的子字符串。若未指定长度，则返回从起始位置到字符串末尾的子字符串。
所以：
小时数 = substr( $2, 1, length($2) - 3 )
分钟数 = substr( $2, length($2) - 2 )
方法二
改变输入列字段的切割方式，使awk切割字段后分别将小时数及分钟数隔开于二个不同的字段。
字段分隔字符 FS (field seperator) 是awk的内置变量，其默认值是空白及tab。awk每次切割字段时都会先参考FS 的内容。若把":"也当成分隔字符，则awk 便能自动把小时数及分钟数分隔成不同的字段。
故令
FS = "[ \t:]+" (注：[ \t:]+ 为一Regular Expression )
1. Regular Expression 中使用中括号 [ ... ] 表示一个字符集合，用以表示任意一个位于中括号内的字符。故可用"[ \t:]"表示 一个 空白，tab 或 ":"
2. Regular Expression中使用 "+" 形容其前方的字符可出现一次或一次以上。
故 "[ \t:]+" 表示由一个或多个 "空白，tab 或 : " 所组成的字符串。
设定 FS = "[ \t:]+" 后，数据行如： "1034 7:26" 将被分割成3个字段
| 字段一 | 字段二 | 字段三 |
| $1 | $2 | $3 |
| 1034 | 7 | 26 |
明显地，awk程序中使用方法二比方法一更简洁方便。本例子中采用方法二，也借此示范改变字段切割方式的用途。
编写awk程序 reformat3，如下：
awk '
BEGIN {
FS= "[ \t:]+" #改变字段切割的方式
"date" | getline #Shell 执行 "date". getline 取得结果以$0记录
print " Today is " ,$2, $3 > "today_rpt3"
print "=========================">"today_rpt3"
print " ID Number Arrival Time" > "today_rpt3"
close( "today_rpt3" )
}
{
#已更改字段切割方式, $2表到达小时数, $3表分钟数
arrival = HM_to_M($2, $3)
printf(" %s %s:%s %s\n", $1, $2, $3, arrival > 480 ? "*": " ")|"sort -k 1 >> today_rpt3"
total += arrival
}
END{
close("today_rpt3")
close("sort -k 1 >> today_rpt3")
printf(" Average arrival time : %d:%d\n",total/NR/60, (total/NR)%60 ) >> "today_rpt3"
}
function HM_to_M( hour, min ){
return hour*60 + min
}
' $*
并执行如下指令：
$ ./reformat3 arr.dat
执行后，文件 today_rpt3 的内容如下：
说 明：
1. awk 中也允许使用者自定义函数。函数定义方式请参考本程序，function 为 awk 的保留字。HM_to_M( ) 这函数负责将所传入的小时及分钟数转换成以分钟为单位。使用者自定函数时，还有许多细节须留心，如data scope，... ( 请参考 第十节 Recursive Program)
2. awk中亦提供与 C 语言中相同的 Conditional Operator。上式printf()中使用arrival >480 ? "*" : " " 即为一例。若 arrival 大于 480 则return "*" ，否则return " "。
3. % 为awk的运算符(operator)，其作用与 C 语言中的 % 相同(取余数)。
4. NR(Number of Record) 为awk的内置变量。表示awk执行该程序后所读入的记录条数。
5. awk 中提供的 close( )指令，语法如下(有两种)：
① close( filename )
② close( 置于pipe之前的command )
为何本程序使用了两个 close( ) 指令：
- 指令 close( "sort -k 1 >> today_rpt3" )，其意思为 close 程序中置于 "sort -k 1 >> today_rpt3 " 之前的 Pipe，并立刻调用 Shell 来执行"sort -k 1 >> today_rpt3"。(若未执行这指令，awk必须于结束该程序时才会进行上述动作；则这12个sort后的数据将被 append 到文件 today_rpt3 中"Average arrival time : ..." 的后方)
- 因为 Shell 排序后的数据也要写到 today_rpt3，所以awk必须先关闭使用中的today_rpt3 以使 Shell 正确将排序后的数据追加到today_rpt3，否则2个不同的 process 同时打开一个文件进行输出将会产生不可预期的结果。
读者应留心上述两点，才可正确控制数据输出到文件中的顺序。
6. 指令 close("sort -k 1 >> today_rpt3")中字符串 "sort -k 1 >> today_rpt3" 必须与 pipe | 后面的 Shell Command 名称一字不差，否则awk将视为二个不同的 pipe。
读者可于BEGIN{}中先令变量 Sys_call = "sort -k 1 >> today_rpt3"，程序中再一律以 Sys_call 代替该字符串。
7.5 使用getline来读取文件数据
范例：承上题，从文件中读取当月迟到次数，并根据当日出勤状况更新迟到累计数。(按不同的月份累计于不同的文件)
分析：
1. 程序中自动抓取系统日期的月份名称，连接上"late.dat"，形成累计迟到次数的文件名称(如：Jullate.dat,...)，并以变量late_file记录该文件名。
2. 累计迟到次数的文件中的数据格式为：
员工代号(ID) 迟到次数
例如，执行本程序前文件 Novlate.dat 的内容为：
编写程序 reformat4 如下：
awk '
BEGIN {
Sys_Sort = "sort -k 1 >> today_rpt4"
Result = "today_rpt4"
# 改变字段切割的方式
# 令 Shell执行"date"; getline 读取结果，并以$0记录
FS = "[ \t:]+"
"date" | getline
print " Today is " , $2, $3 > Result
print "=========================" > Result
print " ID Number Arrival Time" > Result
close( Result )
# 从文件按中读取迟到数据, 并用数组cnt[ ]记录. 数组cnt[ ]中以
# 员工代号为下标, 所对应的值为该员工的迟到次数.
late_file = $2"late.dat"
while( getline < late_file >0 )
cnt[$1] = $2
close( late_file )
}
{
# 已更改字段切割方式, $2表小时数,$3表分钟数
arrival = HM_to_M($2, $3)
if( arrival > 480 ){
mark = "*" # 若当天迟到,应再增加其迟到次数, 且令mark 为"*".
cnt[$1]++
}
else mark = " "
# message 用以显示该员工的迟到累计数, 若未曾迟到message为空字符串
message = cnt[$1] ? cnt[$1] " times" : ""
printf("%s %2d:%2d %5s %s\n", $1, $2, $3, mark, message ) | Sys_Sort
total += arrival
}
END {
close( Result )
close( Sys_Sort )
printf(" Average arrival time : %d:%d\n", total/NR/60, (total/NR)%60 ) >> Result
#将数组cnt[ ]中新的迟到数据写回文件中
for( any in cnt )
print any, cnt[any] > late_file
}
function HM_to_M( hour, min ){
return hour*60 + min
}
' $*
执行后，today_rpt4 的内容如下：
说 明：
1. late_file 是一变量，用以记录迟到次数的文件的文件名。late_file的值由两部分构成，前半部是当月月份名称(由调用"date"取得)，后半部固定为"late.dat"，如： Junlate.dat。
2. 指令 getline < late_file 表示从late_file所代表的文件中读取一条记录，并存放于$0。若使用者可自行把数据放入$0，awk会自动对这新置入 $0 的数据进行字段分割。之后程序中可用$1, $2,..来表示该笔资料的字段一，字段二，...
(注：有少数awk版本不容许使用者自行将数据置于 $0，遇此情况可改用gawk或nawk)
执行getline指令时，若成功读取记录，它会返回1；若遇到文件结束，它返回0；无法打开文件则返回-1。
3. 利用 while( getline < filename >0 ) {....}可读入文件中的每一笔数据并予处理。这是awk中用户自行读取数据文件的一个重要模式。
4. 数组 cnt[ ] 以员工ID 当下标(index)，其对应值表示其迟到的次数。
5. 执行结束后，利用 for(Variable in array ){...}的语法 for( any in cnt ) print any, cnt[any] > late_file 将更新过的数据重新写回到记录迟到次数的文件。该语法在前面曾有说明。
