九,awk数组详解

  注:在阅读这篇文章之前,最好已经了解了一些开发的基本语法,比如,for循环、数组的基本使用 等,否则在阅读时 有可能遇到障碍。

   前文中提及过,awk其实可以算作一门脚本语言,因为它包含了一个脚本语言的各种语法结构,比如条件判断语句,比如循环语句,那么,awk中能否使用"数组"呢?必须能啊,今天我们就来聊聊awk中的数组。

   如果你有过任何一种编程语言的使用经验,那么你一定知道,我们可以通过数组的下标(或者称索引),引用数组中的元素,其他语言中,数组的下标通常由0开始,也就是说,如果想要引用数组中的第1个元素,则需要引用对应的下标"[0]",awk中的数组也是通过引用下标的方法,获取数组中的元素的,但是在awk中,数组元素的下标默认从1开始,但是为了兼容你的使用习惯,我们也可以从0开始设置下标,此处不用纠结,到后面自然会明白,我们先来看一个最简单的示例。

   在其他语言中,你可能会习惯性的先"声明"一个数组,在awk中,则不用这样,直接为数组中的元素赋值即可,示例如下。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";print huluwa[1]}'
二娃
[root@node1 ~]# 

   如上图所示,为了方便示例,上例中使用了BEGIN模式,在BEGIN模式中,存在一个名为"葫芦娃"(拼音)的数组,我们在这个数组中放置了3个元素,第1个元素为"大娃",第2个元素为"二娃",第3个元素为"三娃",如果我们想要引用数组中第二个元素的值,只要引用下标为1的元素即可,正如上图所示,我们使用下标"[1]",获得了huluwa这个数组中第二个元素的值,即"二娃"。

  当然,如果你想要看到更多的"葫芦娃",可以在数组里面放置更多的元素。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[6]="七娃";print huluwa[1]}'
二娃
[root@node1 ~]# 

   如上图所示,由于命令太长,可读性可能会降低,为了在编写时提高命令的可读性,我们可以使用Linux命令行的"换行符"进行换行,Linux中,命令行的换行符为反斜杠"\",上述命令换行后,如下。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";\
> huluwa[3]="四娃";huluwa[4]="五娃";huluwa[6]="七娃";print huluwa[1]}'
二娃

   我们知道,在动画中,六娃的超能力是"隐身",所以六娃也叫"隐身娃",那么,我们就把上述数组中的第5个元素的值设置为"空字符串"吧,用空字符串表示六娃已经"隐身"了,示例如下。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="";print huluwa[5]}'

[root@node1 ~]# 

   如上图所示,上例数组中的第5个元素的值被设置为了"空字符串",当我们打印数组中的第5个元素的值时,打印出的值就是"空"(注:"空格"不为"空")。

  为什么要举这个例子呢?之所以举这个例子,是因为在awk中,元素的值可以设置为"空",在awk中,将元素的值设置为"空字符串"是合法的。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="";if(huluwa[5]==""){print "数组的第六个元素不存在"}}'
数组的第六个元素不存在
[root@node1 ~]# 

  正如上图所示,第6个元素明明已经存在,但是通过上述方法判断元素是否存在时,仍然显示对应的元素不存在。

   其实,使用上述方法判断元素是否存在之所以不合理,除了上述原因,还有另外一个原因,就是当一个元素不存在于数组时,如果我们直接引用这个不存在的元素,awk会自动创建这个元素,并且默认为这个元素赋值为"空字符串",示例如下。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="";{print huluwa[6]}}'

[root@node1 ~]# 

   如上图所示,数组中并没有第7个元素,但是当我们输出第7个元素时,输出了"空",所以,出于此原因,在awk中使用之前的方法判断元素是否为空也是不合理的,因为当我们引用一个不存在于数组中的元素时,这个元素其实已经被赋值为"空字符串"了

  那么,在awk中,应该怎样判断元素是否存在呢?我们可以使用如下语法。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="";if(5 in huluwa){print "数组的第六个元素存在打印这句话"}}'
数组的第六个元素存在打印这句话
[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="";if(6 in huluwa){print "数组的第七个元素存在打印这句话"}}'
[root@node1 ~]# 

   如上图所示,我们可以使用语法  "if(下标 in 数组名)" ,从而判断数组中是否存在对应的元素。

  当然,我们还可以使用 "!" 对条件进行取反,如下图所示。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="";if (! (6 in huluwa)){print "数组的第七个元素不存在打印这句话"}}'
数组的第七个元素不存在打印这句话

   在awk中,数组的下标不仅可以为"数字",还可以为"任意字符串",如果你使用过shell中的数组,你可以把awk的数组比作bash中的"关联数组",示例如下

[root@node1 ~]# awk 'BEGIN{ huluwa["yiwa"]="大娃";huluwa["erwa"]="二娃";huluwa["sanwa"]="三娃";huluwa["siwa"]="四娃";huluwa["wuwa"]="五娃";huluwa["liuwa"]="六娃";print huluwa["wuwa"]}'
五娃

   其实,awk中的数组本来就是"关联数组",之所以先用以数字作为下标的数组举例,是为了让读者能够更好的过度,不过,以数字作为数组下标的数组在某些场景中有一定的优势,但是它本质上也是关联数组,awk默认会把"数字"下标转换为"字符串",所以,本质上它还是一个使用字符串作为下标的关联数组。

  使用delete可以删除数组中的元素,如下所示

[root@node1 ~]# awk 'BEGIN{ huluwa["yiwa"]="大娃";huluwa["erwa"]="二娃";huluwa["sanwa"]="三娃";print huluwa["yiwa"];delete huluwa["yiwa"];print huluwa["yiwa"]}'
大娃

[root@node1 ~]# 

   到目前为止,我们已经介绍了怎样为数组中的元素赋值、怎样输出数组中的某个元素、以及怎样删除数组中的元素,那么现在,我们来聊聊在awk中怎样输出数组中的所有元素,在awk中,如果想要输出数组中的所有元素,则需要借助for循环语句,还记得在前文中介绍for循环时,有两种for循环语法吗?我们来回顾一下。

#for循环语法格式1
for(初始化; 布尔表达式; 更新) {
//代码语句
}
 
#for循环语法格式2
for(变量 in 数组) {
//代码语句
}

   这两种for循环语法都能够遍历输出数组中的元素,不过第一种for循环语法只能输出以数字作为下标的数组,示例如下

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="六娃";huluwa[6]="七娃";for(i=0;i<=6;i++) print huluwa[i]}'
大娃
二娃
三娃
四娃
五娃
六娃
七娃

   你一定看出来了,我们利用了for循环中的变量"i"与数组中的下标都是"数字"的这一特性,按照顺序输出了数组中的元素值。

   那么,当数组中的元素的下标为"无规律的字符串"时,我们该怎么办呢?这时可以使用for循环的第二种语法,示例如下。

[root@node1 ~]# awk 'BEGIN{ huluwa["yiwa"]="大娃";huluwa["erwa"]="二娃";huluwa["sanwa"]="三娃";huluwa["siwa"]="四娃";huluwa["wuwa"]="五娃";huluwa["liuwa"]="六娃";for(i in huluwa )print i,huluwa[i]}'
liuwa 六娃
siwa 四娃
wuwa 五娃
yiwa 大娃
erwa 二娃
sanwa 三娃
[root@node1 ~]# 

   注意,在这种语法中,for循环中的变量"i"表示的是元素的下标,而并非表示元素的值,所以,如果想要输出元素的值,则需要使用"print 数组名[变量]"

   细心如你,一定发现了一个小问题,当数组中的下标为"字符串"时,元素值输出的顺序与元素在数组中的顺序不同,这是因为awk中的数组本质上是关联数组,所以默认打印出的元素是无序的。

  那么你可能会提问了,既然之前说过,数字下标最终也会被转换成 "字符串",本质上也是关联数组,既然都属于关联数组,那么为什么第一种for循环语法能够按照顺序输出数组中的元素值呢?

  这就是以数字作为下标的优势,因为第一种for循环语法中的变量"i"为数字,由于for循环的原因,"i"是按照顺序递增的,当"i"的值与下标的值相同时,我们即可按照下标的顺序,输出对应元素的值,换句话说就是,我们是通过下标的顺序,输出对应元素值的顺序,也就是键值定位。但是,即使数组元素的下标为数字,如果使用第二种for循环语法,也不能够按照顺序输出,示例如下。

[root@node1 ~]# awk 'BEGIN{ huluwa[0]="大娃";huluwa[1]="二娃";huluwa[2]="三娃";huluwa[3]="四娃";huluwa[4]="五娃";huluwa[5]="六娃";huluwa[6]="七娃";for(i in huluwa) print i,huluwa[i]}'
4 五娃
5 六娃
6 七娃
0 大娃
1 二娃
2 三娃
3 四娃

   上例又印证我们之前所说的,awk中的数组本质上就是关联数组。

  我想,经过上述对比,你应该已经明白了。

  前文中,我们都是手动的为数组中的元素赋值,那么我们能不能将指定的文本分割,然后将分割后的字段自动赋值到数组的元素中呢?答案是必须的,但是如果我们想要实现这样的效果,需要借助于split函数,而我们还没有介绍过函数,所以此处就先跳过了,不过需要提前说明的是,通过split函数生成的数组的下标默认是从1开始的,这就是为什么之前说,awk中数组的下标默认是从1开始的了。

  实例应用

  在实际的工作中,我们往往会使用数组,统计某些字符出现的次数,比如,我们想要统计日志中每个IP地址出现了多少次,我们就可以利用数组去统计。

  但是,统计的时候需要配合一些特殊用法,别着急,我们慢慢聊。

  在awk中,我们可以进行数值运算,示例如下

[root@node1 ~]# awk 'BEGIN{a=1 ; print a ; a=a+1 ; print a}'
1
2
[root@node1 ~]# awk 'BEGIN{a=1 ; print a ; a++ ; print a}'
1
2

   我们将变量a的值设置为1,进行加法计算,每次自加后,再次打印变量a的值,都会加1

  这并不难理解,因为上例中,a的值本来就是一个数字。

  那么,如果变量a的值是一个字符串,我们能否对变量a进行自加运算呢?我们来试试。

[root@node1 ~]# awk 'BEGIN{a="test" ; print a ; a++ ; print a ; a=a+1 ; print a}'
test
1
2

   如上图所示,在awk中,当变量a的值为字符串时,竟然也可以进行加法运算,从上例可以看出,awk中,如果字符串参与运算,字符串将被当做数字0进行运算。

   那么"空字符串"呢?当空字符串参与运算时,也会被当做数字0吗?我们来试试。

[root@node1 ~]# awk 'BEGIN{a="" ; print a ; a++ ; print a ; a=a+1 ; print a}'

1
2
[root@node1 ~]# 

   看样子,我们猜的不错,空字符串在参与运算时,也会被当做数字0

   之前说过,当我们直接引用一个数组中不存在的元素时,awk会自动创建这个元素,并且为其赋值为"空字符串"。

  所以,如果我们引用一个不存在元素,并对其进行自加运算,那么会出现什么效果呢?我们来试一试

[root@node1 ~]# awk 'BEGIN{print testarr["ip"];testarr["ip"]++;print testarr["ip"]}'

1

   如上图所示,当引用了一个不存在的元素时,元素被赋值为空字符串,当对这个元素进行自加运算时,元素的值就变成了1,因为,空字符串在参与运算时,被当做0使用了,所以,综上所述,我们对一个不存在的元素进行自加运算后,这个元素的值就变成了自加运算的次数,自加x次,元素的值就被赋值为x,自加y次,元素的值就被赋值为y,示例如下。

[root@node1 ~]# awk 'BEGIN{print testarr["ip"];testarr["ip"]++;print testarr["ip"];testarr["ip"]++;print testarr["ip"]}'

1
2

   利用这一点,我们就可以统计文本中某些字符出现的次数,比如IP地址,示例如下。

[root@node1 ~]# cat test10 
192.168.1.1
192.168.1.2
192.168.1.3
192.168.1.12
192.168.1.3
192.168.1.3
192.168.1.2
192.168.1.1
192.168.1.2
192.168.1.3
[root@node1 ~]# awk '{count[$1]++} END{for(i in count) print i,count[i]}' test10
192.168.1.12 1
192.168.1.1 2
192.168.1.2 3
192.168.1.3 4

   当然,看懂上图中的命令,需要掌握前文中的知识,同时需要理解今天所介绍的知识。

  上图中,我们使用了一个空模式,一个END模式。

  空模式中,我们随便创建了一个数组,并且将IP地址作为引用元素的下标,进行了引用,所以,当执行到第一行时,我们引用的是count["192.168.1.1"]

  很明显,这个元素并不存在,所以,当第一行被空模式中的动作处理完毕后,count["192.168.1.1"]的值已经被赋值为1了。

  由于END模式中的动作会最后执行,所以我们先不考虑END模式。

  这时,空模式中的动作继续处理下一行,而下一行的IP地址为192.168.1.2

  所以,count["192.168.1.2"]第一次参与运算的过程与上述过程同理。

  其他IP地址第一次参与运算的过程与上述过程同理。

  直到再次遇到相同的IP地址时,使用同样一个IP地址作为下标的元素将会再次被自加,每次遇到相同的IP地址,对应元素的值都会加1。

  直到处理完所有行,开始执行END模式中的动作。

  而END模式中,我们打印出了count数组中的所有元素的下标,以及元素对应的值。

  此刻,count数组中的下标即为IP地址,元素的值即为对应IP地址出现的次数。

  最终,我们统计出了每个IP地址出现的次数。

   其实,我们就是利用了之前所演示的一个知识点:

  我们对一个不存在的元素进行自加运算后,这个元素的值就变成了自加运算的次数

   上述过程可能比较绕,如果你之前没有接触过awk,一遍看不懂是很正常的,自己按照上述过程动手做几遍,细细品味一番,相信你会搞明白的。

   如果你以后再想统计文本中某类文本出现的"次数",就可以使用上述套路了,活学活用以后,你会发现上述套路特别好使。

  实际应用 例如统计网站访问源地址访问的次数并且按访问次数从高到低排序

[root@node1 ~]# awk '{count[$1]++} END{for(i in count) print i,count[i]}' test10|sort -n -r -k2
192.168.1.3 4
192.168.1.2 3
192.168.1.1 2
192.168.1.12 1

   sort参数解析

sort 
-n #按数值排序,默认按字符串排序 
-r  #反序
-k2 #使用第二列排序 默认使用第一列排序

   比如,如果我们想要统计如下文本中每个人名出现的次数,我们则可以使用如下命令。

[root@node1 ~]# awk '{for(i=1;i<=NF;i++){count[$i]++}}END{for(j in count){print j,count[j]}}' test4
Tyler 1
Angel 1
James 1
ALlen 1
Lucas 1
William 1
Thomas 1
Green 1
Jack 1
Phillips 1
Kevin 2
Lee 2
Aiden 1

   解析

  处理每行NF代表每一行有多少列,以空格为分隔符变量人名,没出现一次相同的人名则数量+1 然后再最后END输出人名出现的次数

  关于awk中数组的用法,就先总结到这里,这些知识已经能够满足我的日常使用了,但是这些并不是数组的全部,如果你想要更加深入的了解数组,可以参考官方  手册的数组部分,链接如下。

  http://www.gnu.org/software/gawk/manual/gawk.html#Arrays

posted @ 2020-09-17 17:52  minseo  阅读(633)  评论(4编辑  收藏  举报