Linux高级命令 ==> find、grep、sed、awk

一、find

　　find命令用来在指定目录下查找文件。如果使用该命令时，不设置任何参数，则find命令将在当前目录下查找子目录与文件。并且将查找到的子目录和文件全部进行显示。

语法

find   path   -option   [   -print ]   [ -exec   -ok   command ]   {} \;

常用选项：

-name　　查找根目录及其子目录下所有以 log 结尾的文件，文件名区分大小写，例如：find / -name '*logf'

-iname      查找当前目录及其子目录下所有文件名为 test 的文件，文件名不区分大小写，例如：find . -name test

-user　　  查找文件所属用户为 mysql 的所有文件，例如：find . -user mysql

-group      查找文件所属组为 git 的所有文件，例如：find . -group git

-type　　  根据类型查找：如下

  • f　　 文件　　　　　　　　find . -type f
  • d　　目录　　　　　　　　find . -type d
  • c　　字符设备文件　　　　find . -type c
  • b　　块设备文件　　　　　find . -type b
  • l　　 链接文件　　　　　　find . -type l
  • p　　管道文件　　　　　　find . -type p

-size　   根据文件大小查询

  • -n　　小于 大小为 n 的文件
  • +n　　大于 大小为 n 的文件
  • 查找 /ect 目录下，小于 10000 字节的文件。 find /etc -size +10000c
  • 查找 /etc 目录下，大于 1M 的文件。find /etc -size -1M

-mtime   根据文件更改时间查找

  • -n　　 n 天以内修改的文件。
  • +n　　n 天以外修改的文件。
  • n　　  正好 n天 修改的文件
  • 查询 /etc 目录下，5天以内修改 且以 conf 结尾的文件。　             find /etc -mtime -5 -name '*.conf'
  • 查询 /etc 目录下，10天之前修改，且属于 yangyang 的文件。　　find /etc -mtime +10 -user yangyang

-mmin　　

  • -n　　n 分钟以内修改过的文件
  • +n　　n 分钟之前修改过的文件
  • 查询 /etc 目录下 30分钟 之前修改过的文件。 　　find /etc -mmin +30
  • 查询 /etc 目录下 30分钟 之前修改过的目录。 　　find /etc -mmin -30 -type d

-mindepth n　　从第 n 级目录开始搜索

  • 从 /etc 的第三级子目录开始搜索。  find /etc -mindepth 3

-maxdepth n　　表示至多搜索到第 n-1 级子目录。

  • 在 /etc 中搜索符合条件的文件，但最多搜索到 2级 子目录。　　find /etc -maxdepth 3 -name '*.conf'
  • find /etc -type f -name '*.conf' -size +10k -maxdepthc 2

操作查找到的文件：

-print　　打印输出。 默认的选项，即打印出找到的结果。

-exec　　对搜索到的文件执行特定的操作，固定的格式为：-exec 'commond' {} \;   注意：{} 表示查询的结果。

  • 搜索 /etc 目录下的文件（非目录），文件以 conf 结尾，且大于 10k，然后将其删除。
    • find /etc -type f -name '*.conf' -size +10k -exec rm -f {} \;
  • 将 /data/log/ 目录下以 .log 结尾的文件，且更改时间在 7 天以上的删除。
    • find /data/log -name '*.log' -mtime +7 -exec rm -f \;
  • 搜索条件同 例1 一样，但是不删除，只是将其复制到 /root/conf 目录下
    • find /etc -type f -name '*.conf' -size +10k -exec cp {} /root/conf/ \;

-ok　　    和 -exec 的功能一样，只是每次操作都会给用户提示。

逻辑运算符：

-a　　　　与  （默认情况查询条件之间都是 与 的关系）

-o　　　　或

-not | ！　 非 

二、grep

　　grep（global search regular expression(RE) and print out the line，全面搜索正则表达式并把行打印出来）是一种强大的文本搜索工具，它能使用正则表达式搜索文本，并把匹配的行打印出来。

语法：

grep [-abcEFGhHilLnqrsvVwxy][-A<显示列数>][-B<显示列数>][-C<显示列数>][-d<进行动作>][-e<范本样式>][-f<范本文件>][--help][范本样式][文件或目录...]

选项：

选项 描述
-a  不要忽略二进制数据
-A<显示列数> 除了显示符合范本样式的那一行之外，并显示该行之后的内容 
-b 在显示符合范本样式的那一行之外，并显示该行之前的内容 
-c 计算符合范本样式的列数 
-C<显示列数>或-<显示列数> 除了显示符合范本样式的那一列之外，并显示该列之前后的内容 
-d<进行动作> 当指定要查找的是目录而非文件时，必须使用这项参数，否则grep命令将回报信息并停止动作 
-e<范本样式> 指定字符串作为查找文件内容的范本样式 
-E 将范本样式为延伸的普通表示法来使用，意味着使用能使用扩展正则表达式 
-f<范本文件> 指定范本文件，其内容有一个或多个范本样式，让grep查找符合范本条件的文件内容，格式为每一列的范本样式 
-F 将范本样式视为固定字符串的列表 
-G 将范本样式视为普通的表示法来使用 
-h 在显示符合范本样式的那一列之前，不标示该列所属的文件名称 
-H 在显示符合范本样式的那一列之前，标示该列的文件名称 
-i 忽略字符大小写的差别 
-l 列出文件内容符合指定的范本样式的文件名称 
-L 列出文件内容不符合指定的范本样式的文件名称 
-n 在显示符合范本样式的那一列之前，标示出该列的编号 
-q 不显示任何信息 
-R/-r 此参数的效果和指定“-d recurse”参数相同 
-s 不显示错误信息 
-v 反转查找 
-w 只显示全字符合的列 
-x 只显示全列符合的列
-y 此参数效果跟“-i”相同
-o 只输出文件中匹配到的部分

示例：

# 在文件中搜索一个单词，命令会返回一个包含“match_pattern”的文本行：
grep match_pattern file_name    
grep "match_pattern" file_name

# 在多个文件中查找
grep "match_pattern" file_1 file_2 file_3 ...

# 输出除之外的所有行 -v 选项
grep -v "match_pattern" file_name

# 使用正则表达式 -E 选项
grep -E "[1-9]+"
egrep "[1-9]+"

# 只输出文件中匹配到的部分 -o 选项
grep -o "match_pattern" file_name

# 统计文件或者文本中包含匹配字符串的行数 -c 选项
grep -c "text" file_name

# 输出包含匹配字符串的行数 -n 选项
grep "text" -n file_name
cat file_name | grep "text" -n
grep "text" -n file_1 file_2

# 打印样式匹配所位于的字符或字节偏移
echo gun is not unix | grep -b -o "not"

# 搜索多个文件并查找匹配文本在哪些文件中
grep -l "text" file1 file2 file3...

# 在多级目录中对文本进行递归搜索
grep "text" . -r -n

# 忽略匹配样式中的字符大小写
echo "hello world" | grep -i "HELLO"

# 选项 -e 制动多个匹配样式
echo this is a text line | grep -e "is" -e "line" -o

#只在目录中所有的.php和.html文件中递归搜索字符"main()"
grep "main()" . -r --include *.{php,html}

#在搜索结果中排除所有README文件
grep "main()" . -r --exclude "README"

#在搜索结果中排除filelist文件列表里的文件
grep "main()" . -r --exclude-from filelist

#不会输出任何信息，如果命令运行成功返回0，失败则返回非0值。一般用于条件测试
grep -q "test" filename

#显示匹配某个结果之后的3行，使用 -A 选项：
seq 10 | grep "5" -A 3
5
6
7
8

#显示匹配某个结果之前的3行，使用 -B 选项：
seq 10 | grep "5" -B 3
2
3
4
5

#显示匹配某个结果的前三行和后三行，使用 -C 选项：
seq 10 | grep "5" -C 3
2
3
4
5
6
7
8

#如果匹配结果有多个，会用“--”作为各匹配结果之间的分隔符：
echo -e "a\nb\nc\na\nb\nc" | grep a -A 1
a
b
--
a
b
grep 示例

三、sed

sed 命令是利用脚本来处理文本文件。

sed 可依照脚本的指令来处理、编辑文本文件。

Sed 主要用来自动编辑一个或多个文件、简化对文件的反复操作、编写转换程序等。

语法：

sed [选项] [脚本命令] 文件名

选项与参数

  • -n ：使用安静(silent)模式。在一般 sed 的用法中，所有来自 STDIN 的数据一般都会被列出到终端上。但如果加上 -n 参数后，则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。
  • -e ：直接在命令列模式上进行 sed 的动作编辑；
  • -f ：直接将 sed 的动作写在一个文件内， -f filename 则可以运行 filename 内的 sed 动作；
  • -r ：sed 的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)
  • -i ：直接修改读取的文件内容，而不是输出到终端。

动作：

  • a ：新增行， a 的后面可以是字串，而这些字串会在新的一行出现(目前的下一行)
  • c ：取代行， c 的后面可以接字串，这些字串可以取代 n1,n2 之间的行
  • d ：删除行，因为是删除，所以 d 后面通常不接任何参数，直接删除地址表示的行；
  • i ：插入行， i 的后面可以接字串，而这些字串会在新的一行出现(目前的上一行)；
  • p ：列印，亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行
  • s ：替换，可以直接进行替换的工作,通常这个 s 的动作可以搭配正规表示法，例如 1,20s/old/new/g 一般是替换符合条件的字符串而不是整行

一般动作的前面会有一个地址的限制，例如 [地址]动作，表示我们的动作要操作的行。下面我们通过具体的例子直观的看看 sed 的使用方法。

删除行

// example.txt 内容如下
11 aa
22 bb
33 cc
23 dd
55 2e

sed '1,2d' example.txt

输出：
33 cc
23 dd
55 2e

　　其中1,2d中的d表示删除，而d前面的表示删除的行的地址，而1,2表示一个地址范围，也就是删除第1行和第2行。地址范围的表示一般是  m,n 表示对m和n行之间的所有行进行操作，也包含第m行和第n行。sed的地址寻址中可以使用$表示最后一行，例如 m,$ 表示对m行以及其后面的所有行进行操作，包括最后一样。m,$d就是删除m行以及其后面的所有行内容。当然我们还可以对某一行进行操作，例如2d表示仅仅删除第2行。除了使用数字范围 m,n 表示多行区间，以及m表示单行以外，我们还可以使用正则表达式选出符合条件的行，并对这些行进行操作，同样的是上面的文件：

sed '/2/d' example.txt

输出：
11 aa
33 cc

　　上面的命令中　/2/ 是一个正则表达式，在sed中正则表达式是写在 /.../ 两个斜杠中间的，这个正则的意思是寻找所有包含2的行，执行相应的操作，也就是删除所有包含2的行，如果我们只想删除以2开头的行呢，只需要修改一下正则表达式就可以了：

sed '/^2/d' example.txt

输出：
11 aa
33 cc
55 2e

新增行

sed '1a hello world' example.txt

输出：
11 aa
hello world
22 bb
33 cc
23 dd
55 2e

　　其中a命令表示在指定行的后面附加一行，1a则是在第一行的后面添加一行，添加的内容就是a后面的内容，如果a的前面没有地址限定则在所有行的后面都会添加指定的字符串

sed '1i hello world' example.txt

输出：
hello world
11 aa
22 bb
33 cc
23 dd
55 2e

命令i表示在指定的行的前面插入一行，插入的内容为其后面的字符串

替换行

sed '1c hello world' example.txt

输出：
hello world
22 bb
33 cc
23 dd
55 2e

　　命令c会替换指定的行的所有内容，替换成其后面的字符串，所有的新增，删除，替换行，这些命令前面的地址修饰都可以指定地址空间，也都可以使用正则表达式，命令会应用在选出的符合地址条件的所有行上面，例如：

sed '/^2/c hello world' example.txt

输出：
11 aa
hello world
33 cc
hello world
55 2e

替换以2开头的行，其内容是c命令后面的字符串 

替换部分字符串而不是整行

　　sed中除了上面的命令是针对整行进行操作的之外，还提供一个替换命令，该命令对某一行中的部分字符串进行操作，下面举一个简单的例子，还是同样的文本内容，执行下面的命令：

sed 's/aa/AA/' example.txt

输出：
11 AA
22 bb
33 cc
23 dd
55 2e

　　我们这里说的就是s命令，执行的结果是我们文件中的 aa 被替换成 AA ，我们看一下s命令后面接的是3个斜杠分隔的两串字符串，其含义是   s/待替换的字符串/新字符串/ 也就是说使用后面的 AA 替换文件中出现的前面的 aa 。实际上这里的替换仅仅替换每一行遇到的第一个aa，我们修改一下文件的内容：

// example.txt
11 aa
22 bb
33 cc
23 dd
55 2e
66 aaff ccaa
zz ggaa

sed 's/aa/AA/' example.txt

输出：
11 AA
22 bb
33 cc
23 dd
55 2e
66 AAff ccaa
zz ggAA

　　可以看到第6行的ccaa中的aa是没有被替换的，也就是说此时仅仅替换了每一行搜索到的第一个aa字符串进行操作，那么如果要对一行里面的所有的符合条件的字符串都做替换操作呢，我们可以使用参数g，例如修改命令如下：

sed 's/aa/AA/g' example.txt

输出：
11 AA
22 bb
33 cc
23 dd
55 2e
66 AAff ccAA
zz ggAA

　　在最后一个斜杠后面加上g选项之后，表示进行全局替换，也就是说一行中所有符合条件的旧字符串都会被替换成新字符串，而不仅仅是第一个。与其他针对行的操作一样，s命令也可以进行地址选择，其地址使用方法与我们之前的一样，也就是在s的前面加上地址空间限定，例如：

sed '1s/aa/AA/g' example.txt

输出：
11 AA
22 bb
33 cc
23 dd
55 2e
66 aaff ccaa
zz ggaa

可以看到仅仅对第一行进行了替换操作，其他的地址限定方法同样也是可以使用的，我们可以使用m,n的限定，例如：

sed '5,$s/aa/AA/g' example.txt

输出：
11 aa
22 bb
33 cc
23 dd
55 2e
66 AAff ccAA
zz ggAA

　　表示对第5行直到文件末尾的所有行进行搜索替换操作，同样s命令的地址限定也支持使用正则表达式限定符合条件的行，然后在这些行中进行字符串的搜索替换操作，例如：

sed '/^[0-9]/s/aa/AA/g' example.txt

输出：
11 AA
22 bb
33 cc
23 dd
55 2e
66 AAff ccAA
zz ggaa

我们在s命令前面添加了 /^[0-9]/ 这个修饰，该正则表达式表示对所有以数字开头的行，执行s操作

另外一个要说明的是  s/待替换的字符串/新字符串/ 这种格式中 / 作为分隔符并不是一定的，当使用s命令时候，我们可以使用别的分隔符，实际上s后面紧接着的字符就是分隔符，所以不一定是 / 符号。例如：

echo 'aabbccaadd' | sed s#aa#AA#g

输出：
AAbbccAAdd

这里s命令后面跟着的#符号被当作分隔符了

搜索并输出行内容

sed还提供一个p命令用于搜索符合条件的行，并输出该行的内容，而不做其他的任何修改，例如：

// example.txt
11 aa
22 bb
33 cc
23 dd

sed '2p' example.txt

输出：
11 aa
22 bb
22 bb
33 cc
23 dd

　　可以看到第二行被输出来了，但是sed好像将文件的所有内容输出了一遍，而第2行则多输出了一次，实际上sed默认情况下是会将所有标准输入的数据又重新输出到标准输出的，我们可以加上 -n 选项让sed仅仅是输出经过处理之后的那些行，而不是输出之前从标准输入中获取到的所有行内容，例如：

sed -n '2p' example.txt

输出：
22 bb

　　这样仅仅会输出p命令的处理结果了，-n 选项一般是与p命令联合使用的，其他的增加，删除，替换行的命令是不需要 -n 选项的

将修改应用到文件当中

我们之前做的所有实验，实际上都没有修改test.txt文件的内容，也就是说我们看到的修改结果仅仅输出到控制台上，而文件test.txt的内容是没有修改的，我们可以使用 -i 选项告诉sed直接修改文件的内容，而不是将修改结果输出到终端上，例如：

sed -i '2d' example.txt

命令运行之后，我们发现example.txt的第2行没有了

sed正则中的元字符

我们知道sed中的命令前面可以使用地址范围进行限制，表示对文件的某些符合条件的行执行相应的操作，其中我们可以使用正则表达式选出要操作的行，而sed中正则的语法可能与我们其他命令的正则语法有一些不同，这里我们有必要列出sed中常用的正则元字符：

$ 表示行尾
^ 表示行首
[a-z0-9]表示字符范围
[^]表示除了字符集中的字符以外的字符

sed的正则中  \(\)  和 \{m,n\} 需要转义 
. 表示任意字符 
* 表示零个或者多个 
\+ 一次或多次　　
\? 零次或一次    
\| 表示或语法

四、awk

https://www.cnblogs.com/wangqiguo/p/5863266.html （转） 

五、grep、sed、awk总结

  • grep：适合单纯的查找或匹配文本；
  • sed：适合对匹配到的文本进行编辑；
  • awk：适合对文本进行较复杂的格式化处理；

posted on 2019-11-06 18:43  破解孤独  阅读(2060)  评论(0)  编辑  收藏  举报

导航