『忘了再学』Shell基础 — 27、AWK编程的介绍和基本使用
1、AWK介绍
(1)AWK概述
AWK是一种处理文本文件的语言,是一个强大的文本分析工具。
AWK可以看成一门独立的语言,它拥有语言的基本特征,换句话说AWK可以写出极其繁琐和复杂的程序,AWK的语法比Shell的语法还难以接收。但绝大多数情况下,我们并不需要用AWK写过于复杂的东西,建议能用Shell处理的需求就不用AWK来解决。
当用AWK处理需求远要比Shell处理简单的多的时候,我们就用AWK来解决。
AWK也是用来截取列信息的,它比Shell中的cut
命令更先进,比如对空格作为分隔符的处理。
(2)printf
格式化输出
在学习AWK之前,我们要先学习一下printf
格式化输出命令,这个命令是AWK基本输出中必须要用到的一个命令。
AWK的标准输出支持print
命令和printf
命令,这两个命令在AWK当中基本作用是一样的,但是Linux命令中只支持printf
命令,如下:
# 在Linux中执行print命令和printf命令
[root@192 ~]# print
# 报错命令没有找到
-bash: print: command not found
[root@192 ~]# printf
# 提示你命令格式写错了
printf: usage: printf [-v var] format [arguments]
我们可以看到Linux系统中只支持printf
命令,所以我们这里就先学习一下printf
命令。
(3)printf
命令说明
[root@localhost ~]# printf '输出类型输出格式' 输出内容
输出类型:
%ns:输出字符串。n是数字指输出几个字符。
%ni:输出整数。n是数字指输出几个数字。
%m.nf:输出浮点数。m和n是数字,指输出的总位数和小数位数。如%8.2f代表共输出8位数,其中2位是小数,6位是整数。
输出格式:
\a:输出警告声音。
\b:输出退格键,也就是Backspace键。
\f:清除屏幕。
\n:换行。
\r:回车,也就是Enter键。
\t:水平输出退格键,也就是Tab键
\v:垂直输出退格键,也就是Tab键。
练习,使用如下文本:
ID Name Python Linux MySQL Java
1 Tangs 88 87 86 85.55
2 Sunwk 99 98 97 96,66
3 Zhubj 77 76 75 74.44
4 Shahs 66 65 64 63.33
执行printf
命令:
[root@localhost tmp]# printf '%s' $(cat student.txt)
说明:printf
命令后是没有办法直接写参数的,也就是不能直接加文件名来读取文件的内容,printf
命令支持的是其他命令结果的输出,交给printf
命令来处理。所以说printf
命令很少单独使用,一般都放在AWK当中来使用,这样更加合理,否则就和上边一样,看起来很难受。
结果:
[root@localhost tmp]# printf '%s' $(cat student.txt)
IDNamePythonLinuxMySQLJava1Tangs88878685.552Sunwk99989796,663Zhubj77767574.444Shahs66656463.33[root@192 tmp]#
我们可以看到上面的结果非常的烂,他是把所有的内容一个字符紧接着一个字符的输出,中间没有空格或者回车。
这就是printf
命令,如果不指定输出的格式,则会把所有输出内容连在一起输出。其实文本的输出本身就是这样的,cat
等文本输出命令之所以可以按照漂亮的格式输出,那是因为cat
命令已经设定了输出格式。
那么为了让printf
输出合理的格式,就需要手动自定义自己需要的格式。
printf '%s\t %s\t %s\t %s\t %s\t %s\t \n' $(cat student.txt)
说明:就是输出一个字符串(
%s
),后边加上一个制表符(tab
键)隔开(\t
),这样一共有6列,写6个%s\t
,然后每一行最后加上一个回车(\n
)。
执行命令结果如下:
[root@localhost tmp]# printf '%s\t %s\t %s\t %s\t %s\t %s\t \n' $(cat student.txt)
ID Name Python Linux MySQL Java
1 Tangs 88 87 86 85.55
2 Sunwk 99 98 97 96.66
3 Zhubj 77 76 75 74.44
4 Shahs 66 65 64 63.33
注意:
'%s\t %s\t %s\t %s\t %s\t %s\t \n'
中的空格是没有意思的,写多少都行,只是方便自己看,printf
命令,只认\n
、\t
等输出格式。
如果不想把成绩当成字符串输出,而是按照整型和浮点型输出,执行如下命令:
[root@192 tmp]# printf '%i\t %s\t %i\t %i\t %i\t %8.2f\t \n' $(cat student.txt | grep -v "Name")
1 Tangs 88 87 86 85.55
2 Sunwk 99 98 97 96.66
3 Zhubj 77 76 75 74.44
4 Shahs 66 65 64 63.33
这个例子不是很好,但一定要把标题顾虑掉,否则会出现如下效果,标题都被变成了整型数据。
[root@localhost tmp]# printf '%i\t %s\t %i\t %i\t %i\t %8.2f\t \n' $(cat student.txt)
-bash: printf: ID: invalid number
-bash: printf: Python: invalid number
-bash: printf: Linux: invalid number
-bash: printf: MySQL: invalid number
-bash: printf: Java: invalid number
0 Name 0 0 0 0.00
1 Tangs 88 87 86 85.55
2 Sunwk 99 98 97 96.66
3 Zhubj 77 76 75 74.44
4 Shahs 66 65 64 63.33
2、AWK的基本使用
(1)AWK命令说明
[root@localhost ~]# awk '条件1{动作1} 条件2{动作2} ...' 文件名
条件(Pattern):
一般使用关系表达式作为条件。这些关系表达式非常多,具体看下面一点。
简单举例:
x>10:判断变量x是否大于10。
x==y:判断变量x是否等于变量y 。
A~B:判断字符串A中是否包含能匹配B表达式的子字符串。
A!~B:判断字符串A中是否不包含能匹配B表达式的子字符串。
动作(Action):
格式化输出。
流程控制语句。
提示:先判断条件是否成立,在进行对应动作。可以没有条件直接写动作,如果没有条件,则直接执行动作。
(2)AWK命令使用
1)基本使用
使用如下文本:
ID Name Python Linux MySQL Java
1 Tangs 88 87 86 85.55
2 Sunwk 99 98 97 96,66
3 Zhubj 77 76 75 74.44
4 Shahs 66 65 64 63.33
执行命令:awk '{printf $2 "\t" $3 "\t" $6 "\t" "\n"}' student.txt
结果:
[root@localhost tmp]# awk '{printf $2 "\t" $3 "\t" $6 "\t" "\n"}' student.txt
Name Python Java
Tangs 88 85.55
Sunwk 99 96.66
Zhubj 77 74.44
Shahs 66 63.33
说明:
- AWK的动作条件是需要用单引号括起来的,所以在动作条件中的
printf
命令中定义的输出格式时,单引号就需要改换成双引号了,这里要注意。- 没有条件就是每一行都处理。
- AWK的主要动作就是用
printf
命令来输出的。- AWK中可以直接添加文本文件,来获取文件中所需内容。
这里在补充一下print
命令和printf
命令用法差不多,print
命令自带换行符,但是Linux系统不支持print
命令。
# 使用`print`命令就不需要加上\n换行符了。
[root@localhost tmp]# awk '{print $2 "\t" $3 "\t" $6 "\t"}' student.txt
Name Python Java
Tangs 88 85.55
Sunwk 99 96.66
Zhubj 77 74.44
Shahs 66 63.33
2)处理分隔符是空格的情况
看磁盘情况的df
命令的结果中,数据之间的分隔符是空格,用cut
命令是处理不了的。
如下:
# 查看磁盘情况
[root@localhost tmp]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sda3 19G 2.1G 16G 12% /
tmpfs 491M 0 491M 0% /dev/shm
/dev/sda1 240M 34M 194M 15% /boot
# 获取第二列信息
[root@localhost tmp]# df -h | cut -f 2
Filesystem Size Used Avail Use% Mounted on
/dev/sda3 19G 2.1G 16G 12% /
tmpfs 491M 0 491M 0% /dev/shm
/dev/sda1 240M 34M 194M 15% /boot
使用AWK解决需求,获取磁盘情况的第1列和第5列的信息。
[root@localhost tmp]# df -h | awk '{printf $1 "\t" $5 "\t" "\n"}'
Filesystem Use%
/dev/sda3 12%
tmpfs 0%
/dev/sda1 15%
3)综合练习
获取下面信息中根分区的占有率12。
[root@localhost tmp]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sda3 19G 2.1G 16G 12% /
tmpfs 491M 0 491M 0% /dev/shm
/dev/sda1 240M 34M 194M 15% /boot
执行命令:
[root@localhost tmp]# df -h | grep "dev/sda3" | awk '{print $5}' | cut -d "%" -f 1
12