sed 语法使用备忘

Sed语法

1.Sed 的基础格式

Sed的格式入下

sed [-nefri] [n1,n2] action

其中

-n:  是安静模式,只有经过sed处理的行才会显示,其他不显示

-e:  表示直接在命令行上执行。是默认选项不用填写。

-f:   将Sed的操作写在一个文件里面,用的时候-f filename 就可以按照内容进行Sed操作

-r:   表示支持正则表达式

-i:   直接在原文件上进行操作

n1,n2 代表的是行数

Sed的action (动作)支持如下参数

  a: 表示添加,后接的字符串,添加到当前行的下一行

  c:表示替换,后接的字符串,用它来替换N1到N2之间的行

  d:删除行

  i:表示插入,后接的字符串,添加到当前行的上一行;

  p: 表示打印和-n一起使用

  s: 表示搜索替换:如1,20 s/old/new/g 表示把1到20行的old换成new

    +g:   匹配从每一行行首开始匹配所有字符,直到正行结束,匹配成功的全部替换;
    不加g: 匹配从每一行的行首开始匹配,匹配到第一个符合的字段,就会结束,跳到下一行;

Sed实例如下所示

1)显示/etc/passwd的内容,然后把2-5行删除后显示

[root@Mserver sed]# cat -n passwd | sed  '2,5d'
     1  root:x:0:0:root:/root:/bin/bash
     6  sync:x:5:0:sync:/sbin:/bin/sync
     7  shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
     8  halt:x:7:0:halt:/sbin:/sbin/halt
     9  mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

2)在第2行上加上HELLOWORLD

  [root@Mserver sed]# cat -n passwd  | sed '2a Helloword!!!!'
     1  root:x:0:0:root:/root:/bin/bash
     2  bin:x:1:1:bin:/bin:/sbin/nologin
Helloword!!!!
     3  daemon:x:2:2:daemon:/sbin:/sbin/nologin
     4  adm:x:3:4:adm:/var/adm:/sbin/nologin
     5  lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
     6  sync:x:5:0:sync:/sbin:/bin/sync

3)在第2行后面加上两行字,例如:"This is first line!"和"This is second line!"
[root@Mserver sed]# cat passwd | sed '2a This is first line!! \
> This is second line'
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
This is first line!!
This is second line

4) 将2~5行的内容替换成"I am a man"

[root@Mserver sed]# cat -n passwd  | sed '2,5c "I am a man"'
     1  root:x:0:0:root:/root:/bin/bash
"I am a man"
     6  sync:x:5:0:sync:/sbin:/bin/sync
     7  shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
     8  halt:x:7:0:halt:/sbin:/sbin/halt

5)只显示2-5行的数据,注意-n和p的配合

[root@Mserver sed]# cat -n passwd  | sed -n '2,5p'
     2  bin:x:1:1:bin:/bin:/sbin/nologin
     3  daemon:x:2:2:daemon:/sbin:/sbin/nologin
     4  adm:x:3:4:adm:/var/adm:/sbin/nologin
     5  lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

6)获取IP地址

 [root@Mserver sed]# ifconfig eth0 | sed -n '2p' | sed 's/^.* addr://g' | sed 's/Bcast.*//g'
 192.168.0.2

 

===================== Sed 用法举例说明 ====================

1) 删除行首的空格

 sed 's/^[ ]* //g'  filename

 sed 's/^ * //g' filename

 sed 's/^[[:space:]]* //g' filename

 2)在行后和行前添加新行

行后命令 sed 's/pattern/& \n/g' filename

行前命令 sed 's/pattern/\n&/g' filename

3) 使用变量(使用双引号),代码如下

sed -e "s/$var1/$var2/g" filename

4)在第一行前插入文本

sed -i '1 i "插入的字符串" '  filename

5)在最后一行插入

sed -i '$a /pattern/ "插入字符串" ' filename

6) 在匹配行前插入

sed -i '/pattern/  i "插入字符" ' filename

7)在匹配行后插入

sed -i '/pattern/ a "插入字符" ' filename

8)删除文本中空行和空格组成的行及#号注释的行

grep -v ^# filename | sed /^[[ :space: ]]* $/d | sed /^$/d

9)要将目录/src下面所有的文件中的net都修改成network

sed -i 's/net/network/g'  `grep net -l -r1 /src`

或写一个脚本

for file in $1/*

do

sed -i s/$2/$3/g "$file"

done

10)正则表达式的贪婪匹配(.*)和非贪婪匹配(.*?)

 

正则引擎默认是贪婪的,当出现"*"时,它会尽量去匹配尽可能长的字符串,

一个用于修正以上问题的可能方案是用"*"的惰性代替贪婪性。你可以在"*"后面紧跟一个问号"?"来达到这一点,

这告诉正则引擎,尽可能少的重复上一个字符

11)正则表达式中需要转义的字符

Sed后面的表达式一般用单引号引起来('),当需要使用变量时就换用双引号(")。

关于单双引号的区别:

单引号:shell处理命令时,对其中的内容不做任何处理。即此时是引号内的内容是sed命令所定义的格式。

双引号:shell处理命令时,要对其中的内容进行算术扩展

shell转义符

有时候,我们想让通配符,或者元字符变成普通字符。那么这里我们就需要用到转义符了。 shell提供转义符有三种。 

shell转义字符
字符说明
'' 单引号,硬转义,其内部所有的shell元字符、通配符都会被关掉。注意,硬转义中不允许出现’(单引号)。
"" 双引号,软转义,其内部只允许出现特定的shell元字符($,`,\):$用于变量值替换、`用于命令替换、\用于转义单个字符
\ 反斜杠,转义,去除其后紧跟的元字符或通配符的特殊意义。

 

 

 

 

 

 

12) 实例记录:

将location_01目录下所有h开头的图片由原来1280x1024分辨率剪切为1200x960并存储至location_02目录

- 到location_01目录: ls * > do.sh

- 修改do.sh批处理文件: sed -i 's/\(h.*\.jpg\)/convert -crop 1200x960+40+32 location_01\\\1 location_02\\\1/g' do.sh

- 执行do.sh : ./do.sh

 13)-s 的组合使用

输入input.text内容如下:

1234
abcdedfg
ABCDEDFG hello, hello
this a demo, hello world!
good morning,

sed 's/hello/HELLO/' 1.text 

1234
abcdedfg
ABCDEDFG HELLO, hello
this a demo, HELLO world!
good morning,

sed 's/hello/HELLO/g' 1.text 

1234
abcdedfg
ABCDEDFG HELLO, HELLO
this a demo, HELLO world!
good morning,

sed -n 's/hello/HELLO/p' 1.text 

ABCDEDFG HELLO, hello
this a demo, HELLO world!

sed -n 's/hello/HELLO/gp' 1.text
ABCDEDFG HELLO, HELLO
this a demo, HELLO world!

14)正则表达式元字符
sed支持特殊元字符,来进行模式查找、替换。不同的是,sed使用的正则表达式是括在斜杠线"/"之间的模式。可以将"/"替换为#等
 
15) 替换匹配行指定内容
 sed "/02.jpg/s/TrX/TANGRUI/g" all_sed.pto > 1.pto
 
g可以去掉,即只替换第一次遇到的,加上全局,也可指定未数字。
 
 
 元字符  功能  示例
 ^  行首定位符  /^my/  匹配所有以my开头的行
 $  行尾定位符  /my$/  匹配所有以my结尾的行
 .  匹配除换行符以外的单个字符  /m..y/  匹配包含字母m,后跟两个任意字符,再跟字母y的行
 *  匹配零个或多个前导字符  /my*/  匹配包含字母m,后跟零个或多个y字母的行
 []  匹配指定字符组内的任一字符  /[Mm]y/  匹配包含My或my的行
 [^]  匹配不在指定字符组内的任一字符  /[^Mm]y/  匹配包含y,但y之前的那个字符不是M或m的行
 ..  保存已匹配的字符  1,20s/youself/\1r/  标记元字符之间的模式,并将其保存为标签1,之后可以使用\1来引用它。最多可以定义9个标签,从左边开始编号,最左边的是第一个。此例中,对第1到第20行进行处理,you被保存为标签1,如果发现youself,则替换为your。
 &  保存查找串以便在替换串中引用  s/my/**&**/  符号&代表查找串。my将被替换为**my**
 \<  词首定位符  /\<my/  匹配包含以my开头的单词的行
 \>  词尾定位符  /my\>/  匹配包含以my结尾的单词的行
 x\{m\}  连续m个x  /9\{5\}/ 匹配包含连续5个9的行
 x\{m,\}  至少m个x  /9\{5,\}/  匹配包含至少连续5个9的行
 x\{m,n\}  至少m个,但不超过n个x  /9\{5,7\}/  匹配包含连续5到7个9的行
 
 正则表达式所有元字符
字符 描述
\ 将下一个字符标记为一个特殊字符、或一个原义字符、或一个后向引用、或一个八进制转义符。例如,'n' 匹配字符 "n"。'\n' 匹配一个换行符。序列 '\\' 匹配 "\" 而 "\(" 则匹配 "("。
^ 匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,^ 也匹配 '\n' 或 '\r' 之后的位置。
$ 匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性,$ 也匹配 '\n' 或 '\r' 之前的位置。
* 匹配前面的子表达式零次或多次。例如,zo* 能匹配 "z" 以及 "zoo"。 * 等价于{0,}。
+ 匹配前面的子表达式一次或多次。例如,'zo+' 能匹配 "zo" 以及 "zoo",但不能匹配 "z"。+ 等价于 {1,}。
? 匹配前面的子表达式零次或一次。例如,"do(es)?" 可以匹配 "do" 或 "does" 中的"do" 。? 等价于 {0,1}。
{n} n 是一个非负整数。匹配确定的 n 次。例如,'o{2}' 不能匹配 "Bob" 中的 'o',但是能匹配 "food" 中的两个 o。
{n,} n 是一个非负整数。至少匹配n 次。例如,'o{2,}' 不能匹配 "Bob" 中的 'o',但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。
{n,m} m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。刘, "o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。
? 当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 "oooo",'o+?' 将匹配单个 "o",而 'o+' 将匹配所有 'o'。
. 匹配除 "\n" 之外的任何单个字符。要匹配包括 '\n' 在内的任何字符,请使用象 '[.\n]' 的模式。
(pattern) 匹配pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在Visual Basic Scripting Edition 中则使用 $0$9 属性。要匹配圆括号字符,请使用 '\(' 或 '\)'。
(?:pattern) 匹配 pattern 但不获取匹配结果,也就是说这是一个非获取匹配,不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如, 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。
(?=pattern) 正向预查,在任何匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如, 'Windows (?=95|98|NT|2000)' 能匹配 "Windows 2000" 中的 "Windows" ,但不能匹配 "Windows 3.1" 中的 "Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。
(?!pattern) 负向预查,在任何不匹配Negative lookahead matches the search string at any point where a string not matching pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如'Windows (?!95|98|NT|2000)' 能匹配 "Windows 3.1" 中的 "Windows",但不能匹配 "Windows 2000" 中的 "Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始
x|y 匹配 x 或 y。例如,'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。
[xyz] 字符集合。匹配所包含的任意一个字符。例如, '[abc]' 可以匹配 "plain" 中的 'a'。
[^xyz] 负值字符集合。匹配未包含的任意字符。例如, '[^abc]' 可以匹配 "plain" 中的'p'。
[a-z] 字符范围。匹配指定范围内的任意字符。例如,'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。
[^a-z] 负值字符范围。匹配任何不在指定范围内的任意字符。例如,'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。
\b 匹配一个单词边界,也就是指单词和空格间的位置。例如, 'er\b' 可以匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。
\B 匹配非单词边界。'er\B' 能匹配 "verb" 中的 'er',但不能匹配 "never" 中的 'er'。
\cx 匹配由x指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。 x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。
\d 匹配一个数字字符。等价于 [0-9]。
\D 匹配一个非数字字符。等价于 [^0-9]。
\f 匹配一个换页符。等价于 \x0c 和 \cL。
\n 匹配一个换行符。等价于 \x0a 和 \cJ。
\r 匹配一个回车符。等价于 \x0d 和 \cM。
\s 匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。
\S 匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。
\t 匹配一个制表符。等价于 \x09 和 \cI。
\v 匹配一个垂直制表符。等价于 \x0b 和 \cK。
\w 匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。
\W 匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。
\xn 匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如, '\x41' 匹配 "A"。'\x041' 则等价于 '\x04' & "1"。正则表达式中可以使用 ASCII 编码。.
\num 匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。例如,'(.)\1' 匹配两个连续的相同字符。
\n 标识一个八进制转义值或一个后向引用。如果 \n 之前至少 n 个获取的子表达式,则 n 为后向引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。
\nm 标识一个八进制转义值或一个后向引用。如果 \nm 之前至少有is preceded by at least nm 个获取得子表达式,则 nm 为后向引用。如果 \nm 之前至少有 n 个获取,则 n 为一个后跟文字 的后向引用。如果前面的条件都不满足,若  n 和 m 均为八进制数字 (0-7),则 \nm 将匹配八进制转义值 nm
\nml 如果 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。
\un 匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如, \u00A9 匹配版权符号 (?)。
 
posted @ 2016-09-09 17:59  Reboost  阅读(181)  评论(0)    收藏  举报