shell awk
grep
-c 只打印匹配模式的行编号记数
-I 在匹配文本时忽略大小写
-n 在每行前显示其行编号
-v 逆向输出,打印不匹配的行
-f file 要匹配的字符串列表在filezhong
grep ‘[Tt]his’ file1.txt 设置大小写
grep ‘^[^#]‘ file2.txt 不匹配行首
grep “s…n” file3.txt 匹配任意字符
sed 行编辑命令
s 替代
i 插入
a 附加
d 删除全部匹配的行
D 删除首次匹配的行
sed可以做什么(”行”为基础)
删除
改变
添加
插入
替换
示例
sed –n ’1,4p’ /etc/passwd p是打印 -n 不显示原文件 打印1-4行
sed ‘/80/D’ file.txt 首次出现80的行进行删除
sed ‘s/var/usr/g’ file.txt 将所有的var替换成usr g代表所有
sed ’50,$s/help/man/g’ file.txt 替换从50行到最后一行的help替换为man 前49不管
awk 可以处理列,也可以处理行,可以定位到第几行,第几列
awk [选项] ‘awk脚本’ 输入文件
-F fs 使用fs作为输入记录的字段分隔符 = sort –t
-f filename 从文件filename读取awk_script(awk脚本)
-v var=value 为awk_script 设置变量
awk的内置变量
变量 | 功能 | 默认 |
FS =大写F | 输入字段分隔符 | 空格或tab |
RS | 输入记录分隔符 | 换行 |
OFS =out FS | 输出字段分隔符 | 空格或tab |
ORS | 输出记录分隔符 | 换行 |
NF 常用 | 当前记录非空字段的编号 | |
NR 常用 | 从所有文件读入的记录号 |
示例
awk –F : ‘{print NR,$1,$2}’ /etc/passwd
awk –F : ‘{print NR,$1,$NF}’ /etc/passwd $NF 提取最后一行
awk –F : ‘NR%10==5{PRINT nr,$0}’ /etc/passwd NR= 当前处理的行数 除10求余=5打印当前的行数,进行输出 $0 整行输出,比如5、15、25 打印出来
awk –F : ‘NR==8,NR==13 {print NR,$0}’ /etc/passwd 指定8行和13行。
awk工作原理(工具)
$NF $NR $1 第一列 $2 第二列 $0 一整行
实际测试
awk –F: ‘{print $1,$3}’/etc/passwd
awk –F: ‘{print $1,$NF}’/etc/passwd
awk –F: ‘{print NR,$1,$NF}’/etc/passwd NR行号
awk –F: ‘NR==5,NR==8{print NR,$1,$NF}’/etc/passwd 指定5-8行
awk –F: ‘NR%10==5{print NR,$1,$NF}’/etc/passwd 除10求余
课程示例测试
1、grep –v “-” file.txt 去除所有带负号的数据 -v显示没有的 没有的话则显示只有-的
2、wc -l file.txt显示所有行数 grep –v “-” file.txt |wc –l 统计所有没有负数的
3、sort –n –r –k4 file.txt |sed –n ’1p’ 排序第四列 没有分隔符(即空格),-n数字 –r 从大到小 sed管道 显示第一行 sed –n不显示原文件
sort –n –r –k4 file.txt |head -1 读取第一个数据 head 第一行
4、awk ‘{if($NF>3){print $0}}’ file.txt NF 最后一列大于3 则打印一整行
5、awk ‘{if($4>0,&&$4<15){print $0}}’ file.txt 列出第四列 大于0小于15 输出整行
awk ‘{if($4>0,&&$4<15){print $0}}’ file.txt |wc –l 显示行数
练习:
- grep和awk
awk ‘{if($1>200801011){[print $0}}’file.txt
2、
处理命令回顾:
统计文本 wc
文本排序 sort
文本/目录对比 diff
在文件中查找关键行 grep / sed
在行文本中添、删、改 sed
在列文本中显示指定列 awk
在列文本中进行计算 awk
在列文本进行条件选择 awk