AWK简单使用方法
1. 命令格式
gawk [OPTIONS] 'program' FILES....
program:'PATTERN{ACTION}'
一条awk命令中,PATTERN和ACTION,至少存在一个才可执行;
缺少PATTERN,则对输入行内容全部执行ACTION;
缺少ACTION,则所有匹配上PATTERN的输入行都会被输出;
在awk中使用分号“;”来分割语句;
2. awk的执行过程
awk读取一行,进行模式匹配,匹配了就执行相应的动作,没有匹配就忽略,读取下一行,重复此动作.
3. 内置变量
FS:输入文件的field分隔符,默认是空白字符;
OFS:输出文件的field分隔符,默认是空白字符;
RS:输入文件record分隔符,默认是\n;
ORS:输入文件record分隔符,默认是\n;
NF:每行的field数量,{print NF}表示显示当前行的field数量,{print $NF}表示显示当前行的最后一个field;
NR:record数,对所有输入行进行统一排序;
FNR:record数,对每个文件的输入行进行分别排序;
FILENAME:输入文件的名字;
ARGC:命令行中的参数个数;
ARGV:数组,可以将当前命令行中的参数分别加入到ARGV这个数组中,从0开始;
$1、$2、$3...$n:代表当前行中对应的field
4. 常用OPTION
-F:指定输入分隔符;
-v:指定awk的变量;像FS、OSF、RS、ORS这些变量,就可以使用-v进行重新赋值;
5. 双引号的作用
定义一个变量superuser的值为root,但是打印的时候,发现打印出了一个空行,并没有实际内容
[root@centos7 ~]# awk 'BEGIN{superuser=root;print superuser}'
空行......
这是因为只有加上了双引号才会被awk认为是字符串,否则会被认为是变量。在上面这个例子中,想要为superuser赋值的是root字符串,但是因为没有加上双引号,被awk认为root也是一个变量,但是awk中又不存在这个变量,所以最终为superuser的变量内容就是空。
所以在awk中定义变量应该是这种情况:
[root@centos7 ~]# awk 'BEGIN{superuser="root";print superuser}'
root
使用-v参数就没有上面的限制
[root@centos7 ~]# awk -v superuser=root 'BEGIN{print superuser}'
root
6. ACTION
6.1 printf命令:按照指定的FORMAT进行格式化输出;
格式化输出:printf FORMAT, item1, item2, ...
FORMAT:FORMAT是一个字符串, 它包含按字面打印的文本, 中间散布着格式说明符, 格式说明符用于说明如何打印值. 一个格式说明符是一个%, 后面跟着几个字符, 这些字符控制一个value 的输出格式. 第一个格式说明符说明item1 的输出格式, 第二个格式说明符说明item2 的输出格式, 依次类推. 于是, 格式说明符的数量应该和被打印的item 一样多;
printf不会自动产生换行符,必须手动创建;
格式符
%s:显示字符串;
%i,%d:显示十进制整数;
修饰符
#[.#]:第一个#控制显示的宽度,第二个#表示小数点后的精度;
例如:%3.1f
-减号:左对齐(不加减号,默认为右对齐);
+加号:显示数值的符号;
实例
例如:使用printf打印/etc/passwd中的$1和$3
[Allen@centos7 ~]$ head /etc/passwd | awk -F: '{printf "Username: %-12sUID: %-8i\n",$1,$3}'
Username: root UID: 0
Username: bin UID: 1
Username: daemon UID: 2
Username: adm UID: 3
Username: lp UID: 4
Username: sync UID: 5
Username: shutdown UID: 6
Username: halt UID: 7
Username: mail UID: 8
Username: operator UID: 11
6.2 if-else
语法:'if(condition){statements}[else{statements}]'
使用场景:对awk取得的整行或某个字段做条件判断;
实例
例如:当$3大于等于1000时,打印$1;
[Allen@centos7 ~]$ awk -F: '{if($3>=1000) printf "%s\n",$1}' /etc/passwd
Allen
logstash
例如:当$3大于等于1000时,打印为CommonUser: $1;否则打印为Systemuser: $1;
[Allen@centos7 ~]$ awk -F: '{if($3>=1000) {printf "CommonUser: %-15s\n",$1} else {printf "SystemUser: %s\n",$1}}' /etc/passwd | head
SystemUser: root
SystemUser: bin
SystemUser: daemon
SystemUser: adm
SystemUser: lp
SystemUser: sync
SystemUser: shutdown
SystemUser: halt
SystemUser: mail
SystemUser: operator
6.3 while
语法:while(condition){statements}
使用场景:对一行内的多个字段逐一进行类似处理时使用;或对数组中的各元素逐一处理时使用;
实例
例如:以空格开头0次或多次,后跟linux16的行,以空格为分隔符,显示每行中各字段的长度;
[Allen@centos7 ~]$ sudo awk '/^[[:space:]]*linux16/{i=1;while(i<=NF) {printf "%-55s%i\n",$i,length($i); i++}}' /boot/grub2/grub.cfg
linux16 7
/vmlinuz-4.18.14-1.el7 22
root=UUID=2073d1d0-1eab-4a58-900e-b9bfd178278f 46
ro 2
rhgb 4
quiet 5
linux16 7
/vmlinuz-3.10.0-693.el7.x86_64 30
root=UUID=2073d1d0-1eab-4a58-900e-b9bfd178278f 46
ro 2
rhgb 4
quiet 5
例如:以空格开头0次或多次,后跟linux16的行,以空格为分隔符,只显示每行中字段的长度>=7的字段;
[Allen@centos7 ~]$ sudo awk '/^[[:space:]]*linux16/{i=1;while(i<=NF) {if(length($i)>=7) {printf "%-55s%i\n",$i,length($i)}; i++}}' /boot/grub2/grub.cfg
linux16 7
/vmlinuz-4.18.14-1.el7 22
root=UUID=2073d1d0-1eab-4a58-900e-b9bfd178278f 46
linux16 7
/vmlinuz-3.10.0-693.el7.x86_64 30
root=UUID=2073d1d0-1eab-4a58-900e-b9bfd178278f 46
6.4 for
语法:for(expr1;expr2;expr3) statement
特殊用法:for(var in arry) statements ##用于遍历数组中的元素
实例
例如:以空格开头0次或多次,后跟linux16的行,以空格为分隔符,显示每行中各字段的长度;
[Allen@centos7 ~]$ sudo awk '/^[[:space:]]*linux16/{for(i=1;i<=NF;i++) printf "%-55s%i\n",$i,length($i)}' /etc/grub2.cfg
linux16 7
/vmlinuz-4.18.14-1.el7 22
root=UUID=2073d1d0-1eab-4a58-900e-b9bfd178278f 46
ro 2
rhgb 4
quiet 5
linux16 7
/vmlinuz-3.10.0-693.el7.x86_64 30
root=UUID=2073d1d0-1eab-4a58-900e-b9bfd178278f 46
ro 2
rhgb 4
quiet 5
7. 描述awk函数示例(至少3例)
length([s]):统计s的字符数量;
sub(r,s):将当前行中最左边第一个能被r匹配的内容,替换成s;
sub(r,s,t):将t中最左边第一个能被r匹配的内容,替换成s;
gsub(r,s):将当前行中能被r匹配的内容,全部替换成s;
gsub(r,s,t ):将t中能被r匹配的内容,全部替换成s;
split(s,a):将s分割,然后分别加入到数组a中(awk命令中没有指定FS则使用默认的空格做为分隔符);
split(s,a,fs):使用fs将s分割,然后分别加入到数组a中;
sprintf(format,expr1,expr2,exprn):返回一个字符串(不打印),这个字符串按指定的format格式化expr1..exprn
genline:读取下一行,重新设定NF、NR、FNR;
实例
实例1:length函数
[root@centos7 ~]# awk 'BEGIN{superuser="root";print length(superuser)}'
4
实例2:sub和gsub函数
[root@centos7 ~]# echo "hello World" | awk '{sub("l",1);print $0}'
he1lo World
[root@centos7 ~]# echo "hello World" | awk '{sub("l",1,$1);print $0}'
he1lo World
[root@centos7 ~]# echo "hello World" | awk '{gsub("l",1);print $0}'
he11o Wor1d
[root@centos7 ~]# echo "hello World" | awk '{gsub("l",1,$1);print $0}'
he11o World
实例3:split函数
数组下标从1开始
[root@centos7 ~]# awk -F/ 'BEGIN{i="China/America/Britain";split(i,countrys);for(c=1;c<=3;c++)print countrys[c]}'
China
America
Britain
[root@centos7 ~]# awk 'BEGIN{i="China/America/Britain";split(i,countrys,"/");for(c=1;c<=3;c++)print countrys[c]}'
China
America
Britain
实例4:sprintf函数
[root@centos7 ~]# awk -F: 'NR>=1&&NR<=5{x=sprintf("%-10s%-5d",$1,$3);print x}' /etc/passwd
root 0
bin 1
daemon 2
adm 3
lp 4
实例5:getline函数
打印出从1到10之间的偶数
awk首先读取到了第一行,就是1,然后getline,就得到了1下面的第二行,就是2,因为getline之后,awk会改变对应的NF,NR,FNR和$0等内部变量,所以此时的$0的值就不再是1,而是2了,然后将它打印出来。以此类推,就可以得到下面的结果。
[Allen@centos7 ~]$ seq 10 | awk '{getline; print $0}'
2
4
6
8
10
打印出从1到10之间的奇数
因为getline在print $0之后,此时的$0仍然是第一行。然后getline,$0变成了下一行2。依次类推,就打印出了奇数行。
[Allen@centos7 ~]$ seq 10 | awk '{print $0; getline}'
1
3
5
7
9