Loading

grep正则使用

示例:查找nginx日志中访问PHP文件成功的请求

grep -E 'php(.*){50,150}HTTP/1.1" 200' ./my_access.log

首先要记住的是: 正则表达式与通配符不一样,它们表示的含义并不相同!
正则表达式只是一种表示法,只要工具支持这种表示法, 那么该工具就可以处理正则表达式的字符串。vim、grep、awk 、sed 都支持正则表达式,也正是因为由于它们支持正则,才显得它们强大;

1基础正则表达式

grep 工具,以前介绍过。
grep -[acinv]   '搜索内容串'   filename
-a 以文本文件方式搜索
-c 计算找到的符合行的次数
-i 忽略大小写
-n 顺便输出行号
-v 反向选择,即显示不包含匹配文本的所有行

-h 查询多文件时不显示文件名。
-l 查询多文件时只输出包含匹配字符的文件名。
-s 不显示不存在或无匹配文本的错误信息。
grep命令加- E参数,这一扩展允许使用扩展模式匹配。

其中搜索串可以是正则表达式!

---
先用例子说明问题:
以下为整理的grep 正则表达式的大部分功能,详细参见man 
grep: 要用好grep这个工具,其实就是要写好正则表达式,所以这里不对grep的所有功能进行实例讲解,只列几个例子,讲解一个正则表达式的写法。 
<span id="MathJax-Span-2" class="noError">ls -l | grep '^a' 通过管道过滤ls -l输出的内容,只显示以a开头的行。<span class="MJX_Assistive_MathML">ls -l | grep '^a' 通过管道过滤ls -l输出的内容,只显示以a开头的行。 grep 'test' d* 显示所有以d开头的文件中包含test的行。 <br /><span class="MathJax_Preview"><span id="MathJax-Element-2-Frame" class="MathJax" data-mathml="<math xmlns="http://www.w3.org/1998/Math/MathML"><mi>g</mi><mi>r</mi><mi>e</mi><msup><mi>p</mi><mo>′</mo></msup><mi>t</mi><mi>e</mi><mi>s</mi><msup><mi>t</mi><mo>′</mo></msup><mi>a</mi><mi>a</mi><mi>b</mi><mi>b</mi><mi>c</mi><mi>c</mi><mrow class="MJX-TeXAtom-ORD"><mo>显</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>示</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>在</mo></mrow><mi>a</mi><mi>a</mi><mrow class="MJX-TeXAtom-ORD"><mo>,</mo></mrow><mi>b</mi><mi>b</mi><mrow class="MJX-TeXAtom-ORD"><mo>,</mo></mrow><mi>c</mi><mi>c</mi><mrow class="MJX-TeXAtom-ORD"><mo>文</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>件</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>中</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>匹</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>配</mo></mrow><mi>t</mi><mi>e</mi><mi>s</mi><mi>t</mi><mrow class="MJX-TeXAtom-ORD"><mo>的</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>行</mo></mrow><mrow class="MJX-TeXAtom-ORD"><mo>。</mo></mrow></math>"><span id="MathJax-Span-3" class="math"><span id="MathJax-Span-4" class="mrow"><span id="MathJax-Span-5" class="mi">g<span id="MathJax-Span-6" class="mi">r<span id="MathJax-Span-7" class="mi">e<span id="MathJax-Span-8" class="msup"><span id="MathJax-Span-9" class="mi">p<span id="MathJax-Span-10" class="mo">′<span id="MathJax-Span-11" class="mi">t<span id="MathJax-Span-12" class="mi">e<span id="MathJax-Span-13" class="mi">s<span id="MathJax-Span-14" class="msup"><span id="MathJax-Span-15" class="mi">t<span id="MathJax-Span-16" class="mo">′<span id="MathJax-Span-17" class="mi">a<span id="MathJax-Span-18" class="mi">a<span id="MathJax-Span-19" class="mi">b<span id="MathJax-Span-20" class="mi">b<span id="MathJax-Span-21" class="mi">c<span id="MathJax-Span-22" class="mi">c<span id="MathJax-Span-23" class="texatom"><span id="MathJax-Span-24" class="mrow"><span id="MathJax-Span-25" class="mo">显<span id="MathJax-Span-26" class="texatom"><span id="MathJax-Span-27" class="mrow"><span id="MathJax-Span-28" class="mo">示<span id="MathJax-Span-29" class="texatom"><span id="MathJax-Span-30" class="mrow"><span id="MathJax-Span-31" class="mo">在<span id="MathJax-Span-32" class="mi">a<span id="MathJax-Span-33" class="mi">a<span id="MathJax-Span-34" class="texatom"><span id="MathJax-Span-35" class="mrow"><span id="MathJax-Span-36" class="mo">,<span id="MathJax-Span-37" class="mi">b<span id="MathJax-Span-38" class="mi">b<span id="MathJax-Span-39" class="texatom"><span id="MathJax-Span-40" class="mrow"><span id="MathJax-Span-41" class="mo">,<span id="MathJax-Span-42" class="mi">c<span id="MathJax-Span-43" class="mi">c<span id="MathJax-Span-44" class="texatom"><span id="MathJax-Span-45" class="mrow"><span id="MathJax-Span-46" class="mo">文<span id="MathJax-Span-47" class="texatom"><span id="MathJax-Span-48" class="mrow"><span id="MathJax-Span-49" class="mo">件<span id="MathJax-Span-50" class="texatom"><span id="MathJax-Span-51" class="mrow"><span id="MathJax-Span-52" class="mo">中<span id="MathJax-Span-53" class="texatom"><span id="MathJax-Span-54" class="mrow"><span id="MathJax-Span-55" class="mo">匹<span id="MathJax-Span-56" class="texatom"><span id="MathJax-Span-57" class="mrow"><span id="MathJax-Span-58" class="mo">配<span id="MathJax-Span-59" class="mi">t<span id="MathJax-Span-60" class="mi">e<span id="MathJax-Span-61" class="mi">s<span id="MathJax-Span-62" class="mi">t<span id="MathJax-Span-63" class="texatom"><span id="MathJax-Span-64" class="mrow"><span id="MathJax-Span-65" class="mo">的<span id="MathJax-Span-66" class="texatom"><span id="MathJax-Span-67" class="mrow"><span id="MathJax-Span-68" class="mo">行<span id="MathJax-Span-69" class="texatom"><span id="MathJax-Span-70" class="mrow"><span id="MathJax-Span-71" class="mo">。<span class="MJX_Assistive_MathML">grep′test′aabbcc显示在aa,bb,cc文件中匹配test的行。 grep '[a-z]/{5/}' aa 显示所有包含每个字符串至少有5个连续小写字符的字符串的行。 <br />$ grep 'w/(es/)t.*/1' aa 如果west被匹配,则es就被存储到内存中,并标记为1,然后搜索任意个字符(.*),这些字符后面紧跟着另外一个es(/1),找到就显示该行。如果用egrep或grep -E,就不用"/"号进行转义,直接写成'w(es)t.*/1'就可以了。 <br /><br />grep正则表达式元字符集(基本集) <br />^ 锚定行的开始 如:'^grep'匹配所有以grep开头的行。 <br />$ 锚定行的结束 如:'grep$'匹配所有以grep结尾的行。 <br />. 匹配一个非换行符的字符 如:'gr.p'匹配gr后接一个任意字符,然后是p。 <br />* 匹配零个或多个先前字符 如:'*grep'匹配所有一个或多个空格后紧跟grep的行。 <br />.*一起用代表任意字符。 <br />[] 匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。 <br />[^] 匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。 <br />/(../) 标记匹配字符,如'/(love/)',love被标记为1。 <br />/< 锚定单词的开始,<br />/> 锚定单词的结束,如'grep/>'匹配包含以grep结尾的单词的行。 <br />x/{m/} 重复字符x,m次,如:'o/{5/}'匹配包含5个o的行。 x/{m,/} 重复字符x,至少m次,如:'o/{5,/}'匹配至少有5个o的行。 <br />x/{m,n/} 重复字符x,至少m次,不多于n次,如:'o/{5,10/}'匹配5--10个o的行。 <br />/w 匹配文字和数字字符,也就是[A-Za-z0-9_],如:'G/w*p'匹配以G后跟零个或多个文字或数字字符,然后是p。 <br />/W /w的反置形式,匹配一个或多个非单词字符,如点号句号等。 <br />/b 单词锁定符,如: '/bgrep/
b'只匹配grep。 

关于匹配的实例:
grep -c "48" test.txt 统计所有以“48”字符开头的行有多少
grep -i "May" test.txt 不区分大小写查找“May”所有的行)
grep -n "48" test.txt 显示行号;显示匹配字符“48”的行及行号,相同于 nl test.txt |grep 48)
grep -v "48" test.txt 显示输出没有字符“48”所有的行)
grep "471" test.txt 显示输出字符“471”所在的行)
grep "48;" test.txt 显示输出以字符“48”开头,并在字符“48”后是一个tab键所在的行
grep "48[34]" test.txt 显示输出以字符“48”开头,第三个字符是“3”或是“4”的所有的行)
grep "^[^48]" test.txt 显示输出行首不是字符“48”的行)
grep "[Mm]ay" test.txt 设置大小写查找:显示输出第一个字符以“M”或“m”开头,以字符“ay”结束的行)
grep "K…D" test.txt 显示输出第一个字符是“K”,第二、三、四是任意字符,第五个字符是“D”所在的行)
grep "[A-Z][9]D" test.txt 显示输出第一个字符的范围是“A-D”,第二个字符是“9”,第三个字符的是“D”的所有的行
grep "[35]..1998" test.txt 显示第一个字符是3或5,第二三个字符是任意,以1998结尾的所有行
grep "4/{2,/}" test.txt 模式出现几率查找:显示输出字符“4”至少重复出现两次的所有行
grep "9/{3,/}" test.txt 模式出现几率查找:显示输出字符“9”至少重复出现三次的所有行
grep "9/{2,3/}" test.txt 模式出现几率查找:显示输出字符“9”重复出现的次数在一定范围内,重复出现2次或3次所有行
grep -n "^$" test.txt 显示输出空行的行号
ls -l |grep "^d" 如果要查询目录列表中的目录 同:ls -d *
ls -l |grep "^d[d]" 在一个目录中查询不包含目录的所有文件
ls -l |grpe "^d…..x..x" 查询其他用户和用户组成员有可执行权限的目录集合

 

更多的例子:
1
搜索有the的行,并输出行号
$grep -n 'the' regular_express.txt
搜 索没有the的行,并输出行号
$grep -nv 'the' regular_express.txt

利 用[]搜索集合字符
[] 表示其中的某一个字符 ,例如[ade] 表示a或d或e
woody@xiaoc:~/tmp$ grep -n 't[ae]st' regular_express.txt 
8:I can't finish the test.
9:Oh! the soup taste good!

可以用^符号做[]内的前缀,表示除[]内的字符之外的字 符。
比如搜索oo前没有g的字符串所在的行. 使用 '[^g]oo' 作搜索字符串
woody@xiaoc:~/tmp$ grep -n '[^g]oo' regular_express.txt 
2:apple is my favorite food.
3:Football game is not use feet only.
18:google is the best tools for search keyword.
19:goooooogle yes!

[] 内可以用范围表示,比如[a-z] 表示小写字母,[0-9] 表示0~9的数字, [A-Z] 则是大写字母们。[a-zA-Z0-9]表示所有数字与英文字符。 当然也可以配合^来排除字符。
搜索包含数字的行
woody@xiaoc:~/tmp$ grep -n '[0-9]' regular_express.txt 
5:However ,this dress is about $ 3183 dollars.
15:You are the best is menu you are the no.1.

行首与行尾字符 ^ <span id="MathJax-Span-73" class="mrow"><span id="MathJax-Span-74" class="msubsup"><span id="MathJax-Span-75" class="mo">.<span id="MathJax-Span-76" class="texatom"><span id="MathJax-Span-77" class="mrow"><span id="MathJax-Span-78" class="mo">表<span id="MathJax-Span-79" class="texatom"><span id="MathJax-Span-80" class="mrow"><span id="MathJax-Span-81" class="mo">示<span id="MathJax-Span-82" class="texatom"><span id="MathJax-Span-83" class="mrow"><span id="MathJax-Span-84" class="mo">行<span id="MathJax-Span-85" class="texatom"><span id="MathJax-Span-86" class="mrow"><span id="MathJax-Span-87" class="mo">的<span id="MathJax-Span-88" class="texatom"><span id="MathJax-Span-89" class="mrow"><span id="MathJax-Span-90" class="mo">开<span id="MathJax-Span-91" class="texatom"><span id="MathJax-Span-92" class="mrow"><span id="MathJax-Span-93" class="mo">头<span id="MathJax-Span-94" class="texatom"><span id="MathJax-Span-95" class="mrow"><span id="MathJax-Span-96" class="mo">,<span class="MJX_Assistive_MathML">.表示行的开头,表示行的结尾( 不是字符,是位置)那么‘^$’ 就表示空行,因为只有<br />行首和行尾。
这里^与[]里面使用的^意义不同。它表示^后面的串是在行的开头。
比如搜索the在开头的行
woody@xiaoc:~/tmp$ grep -n '^the' regular_express.txt 
12:the symbol '*' is represented as star.

搜索以小写字母开头的行
woody@xiaoc:~/tmp$ grep -n '^[a-z]' regular_express.txt 
2:apple is my favorite food.
4:this dress doesn't fit me.
10:motorcycle is cheap than car.
12:the symbol '*' is represented as star.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Let's go.
woody@xiaoc:~/tmp$ 

搜索开头不是英文字母的行
woody@xiaoc:~/tmp$ grep -n '^[^a-zA-Z]' regular_express.txt 
1:"Open Source" is a good mechanism to develop programs.
21:#I am VBird
woody@xiaoc:~/tmp$ 

$表示它前面的串是在行的结尾,比如 '/.' 表示 . 在一行的结尾
搜索末尾是.的行
woody@xiaoc:~/tmp$ grep -n '/.$' regular_express.txt //. 是正则表达式的特殊符号,所以要用/转义
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
4:this dress doesn't fit me.
5:However ,this dress is about $ 3183 dollars.
6:GNU is free air not free beer.
.....

注意在MS的系统下生成的文本文件,换行会加上一个 ^M 字符。所以最后的字符会是隐藏的^M ,在处理Windows
下面的文本时要特别注意!
可以用cat dos_file | tr -d '/r' > unix_file 来删除^M符号。 ^M==/r

那么'^$' 就表示只有行首行尾的空行拉!
搜索空行
woody@xiaoc:~/tmp$ grep -n '^$' regular_express.txt 
22:
23:
woody@xiaoc:~/tmp$ 

搜索非空行
woody@xiaoc:~/tmp$ grep -vn '^$' regular_express.txt 
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
4:this dress doesn't fit me.

 

转:https://www.cnblogs.com/cyh-bky/p/16136016.html

posted @ 2023-05-06 17:24  王召波  阅读(180)  评论(0编辑  收藏  举报