linux三剑客之awk 文本分析工具
linux三剑客之awk
定义 :主要用来格式化文本。
语法格式 : awk [参数] [处理规则] [操作对象]
参数 : -F : 指定文本分隔符(默认是以空格作为分隔符的)
例 : 打印系统所有用户的解析器
awk -F: '{print $NF}' /etc/passwd
awk的生命周期
三剑客中: grep 、sed 、awk 都是读一个处理一行 ,直至处理完成
生命周期:
1、接受一行作为输入
2、把刚刚读入进来得到文本进行分解
3、使用处理规则处理文本
4、输入一行,赋值给$0,直至处理完成
5、把处理完成之后的所有的数据交给END{}来处理
awk中的预定变量
$0 : 代表当前行
例 : awk -F: '{print $0, "--"}' /etc/passwd #
$n : 代表第n列
例 :awk -F: '{print $1}' /etc/passwd # 这就打印为第一列的内容
NF :记录(统计)当前行的字段数 (常与 $ 配合使用)
例 : awk -F: '{print NF}' /etc/passwd # 以 : 作为分割符 则打印每一行有多少列
$NF :$ :取变量里的值 NF相当于统计字段数
$NF :就相当于取每一行的最后一个字段(最后一列)的内容
NR :用来记录行号
FS :指定文本分隔符 (默认为空格) # 相当于参数 -F 但是优先级大于参数 -F
[root@localhost ~]# awk 'BEGIN{FS=":"}{print $1, $NF}' /etc/passwd
相当于:
[root@localhost ~]# awk -F: '{print $1, $NF}' /etc/passwd
OFS :指定打印分隔符 (默认为空格)
[root@localhost ~]# awk -F: 'BEGIN{OFS=" >> "}{print $1, $NF}' /etc/passwd
awk处理规则的流程
# 处理流程至少有一个 所以开始必须为BEGIN()
BEGIN{} : 最开始处理
// : 正则
{} : 循环
END{} : 打印之前整体的处理
awk中的函数
print : 打印
printf : 格式化打印
%s : 字符串
%d : 数字
- : 左对齐
+ : 右对齐
数字 : 至少占用多少个字符
例题:
[root@localhost ~]# awk -F: 'BEGIN{OFS=" | "}{printf "|%-15s|%-15s|\n", $NF,$1}' /etc/passwd
解析 : awk 命令
-F: 指定分隔符为 :
BEGIN{OFS= " | "} : BEGIN处理流程第一步:指定打印分隔符为 |
{printf "|%-15s|%-15s|\n", $NF,$1} :printf 格式化打印
:"" 外边为单引号 内部则要用双引
:%-15s : 左对齐字符串至少占用15个字符
:\n 换行符
:$NF 取每一行的最后一段(最后一列)
:$1 取每一行的第一段(第一列)
/etc/passwd : 路径文件
awk中的定位
1、正则表达值:
例题:[root@localhost ~]# awk -F: '/root/{print $0}' /etc/passwd
解析:// 中间为正则表达式 则就是匹配正则为root的行
2、比较表达式
> : 大于
< : 小于
>= : 大于等于
<= : 大于等于
~ : 正则匹配
!~ : 正则匹配(取反)
案例:
1、要求打印属组ID大于属主ID的行
[root@localhost ~]# awk -F: '$4>$3{print $0}' /etc/passwd
解析: 属组ID在文本以: 分割在第4个字段 属主在第三个字段 所有比较这两个字段就可以
2、打印结尾包含bash
[root@localhost ~]# awk -F: '$NF ~ /bash/{print $0}' /etc/passwd
3、逻辑运算符
&& : 与
|| : 或
! : 非
例题:
1、打印出属主属组都大于0的用户
[root@localhost ~]# awk -F: '$4>0 && $3>0' /etc/passwd
2、打印出属主属组相加大于1000或者 属主属组相乘大于1000的用户
[root@localhost ~]# awk -F: '$4+$3>1000 || $4*$3>1000' /etc/passwd
3、打印出属主属组相加不大于
[root@localhost ~]# awk -F: '!($4+$3>1000 || $4*$3>1000)' /etc/passwd
4、算数表达式
+ 相加
- 相减
* 相乘
/ 相除
% 取余
案例:
1、要求打印出偶数行
[root@localhost ~]# awk -F: 'NR % 2 == 0{print $0}' /etc/passwd
解析 : NR统计行 行除以2取余 余数为0则为偶数
2、要求打印出计数行
[root@localhost ~]# awk -F: 'NR % 2 == 1{print $0}' /etc/passwd
5、条件表达式
==
>
<
>=
<=
# 其实比较表达式也相当于条件表达式
案例:
要求打印某一行内容:
[root@localhost ~]# awk -F: 'NR == 3{print $0}' /etc/passwd
# 运用 == NR == 3 则打印第三行内容
6、范围表达式
前一段 ,后一段 : 表示前一段至后一段的范围
案例:
打印出开头为root 到 开头为ftp 的内容
流程控制
只存在循环{}之中
作用相当于python中的但格式不一样。
if : 判断
for : 循环
while : 循环
if :
if(){}
if(){}else if(){}
if(){}else(){}
[root@localhost ~]# awk -F: '{if($3>$4){print "大于"}else{print "小于或等于"}}' /etc/passwd
for :
for(i="初始值";条件判断;游标){}
[root@localhost ~]# awk -F: '{for(i=5;i>0;i--){print $0}}' /etc/passwd
# 每一行循环打印5遍
while:
while(条件判断){}
[root@localhost ~]# awk -F: '{i=1;while(i<10){print $0, i++}}' /etc/passwd
# 每一行循环打印10遍
案例:
1、每隔5行,打印一行横线
[root@localhost ~]# awk -F: '{if(NR%5==0){print"---------------"}print $0}' /etc/passwd