三剑客——sed

目录

• 一、sed简介
  • 1.1 sed是什么？
  • 1.2 sed如何处理文件？
• 二、sed使用介绍
  • 2.1 命令行格式
    • 1）语法格式
    • 2）举例说明
  • 2.2 脚本格式
    • 1）用法
    • 2）注意
    • 3）补充扩展总结

一、sed简介

1.1 sed是什么？

sed简称流编辑器：主要用于处理文件！

1.2 sed如何处理文件？

sed是一行一行读取文件内容按照要求进行处理，并把处理后的结果输出到屏幕！

sed处理文件的流程：
1）首先sed读取文件的一行内容，将其保存在一个临时缓冲区中（也成为模式空间）；
2）然后根据需求处理临时缓冲器中的行，完成后把该行发送到屏幕上；

---

总结
1）由于sed把每一个行都存在临时缓冲区中，对这个副本进行编辑，所以不会直接修改原文件；
2）sed主要用来自动编辑一个或多个文件、简化对文件的反复操作、对文件进行过滤和转换操作；

二、sed使用介绍

2.1 命令行格式

1）语法格式

sed [options] '处理动作' 文件名

• 常见选项

选项	说明	备注
-e	进行多项(多次)编辑
-n	取消默认输出	不自动打印模式空间
-r	使用扩展正则表达式
-i	原地编辑（修改源文件）
-f	指定sed脚本的文件名

• 常见处理动作

动作	说明	备注
'p'	打印
'i'	在指定行之前插入内容	类似vim里的大写O
'a'	在指定行之后插入内容	类似vim里的小写o
'c'	替换指定行所有内容
'd'	删除指定行

注意：以上常见处理动作都要在单引号中！

2）举例说明

• 文件准备

cat a.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
298374837483
172.16.0.254
10.1.1.1

①对文件进行增、删、改、查操作

语法：sed 选项 '定位+命令' 需要处理的文件

• 1）打印文件内容

# sed '' a.txt       //对文件不进行任何操作
# sed -n 'p' a.txt     //打印每一行，并取消默认输出
# sed -n '1p' a.txt    //打印第1行
# sed -n '2p' a.txt    //打印第2行
# sed -n '1,5p' a.txt   //打印1~5行
# sed -n '$p' a.txt    //打印最后一行

• 2）增加文件内容

i：表示定位的上面插入；
a：表示定位的下面插入；

# sed '$a99999' a.txt     //文件最后一行添加内容
# sed 'a99999' a.txt     //文件每行下面增加内容
# sed '5a99999' a.txt     //文件第5行下面增加内容
# sed '$i99999' a.txt     //文件最后一行上面增加内容
# sed 'i99999' a.txt      //文件每行上一行增加内容
# sed '6i99999' a.txt     //文件第6行上一行增加内容
# sed '/^uucp/ihello'     //以uucp开头行的上一行插入内容

• 3）修改文件内容

c：替换指定的整行内容！

# sed '5chello world' a.txt      //替换文件第5行内容
# sed 'chello world' a.txt       //替换文件所有内容
# sed '1,5chello world' a.txt    //替换文件1到5号内容为hello world
# sed '/^user01/c888888' a.txt   //替换以user01开头的行

• 4）删除文件内容

# sed '1d' a.txt       //删除文件第1行
# sed '1,5d' a.txt      //删除文件1到5行
# sed '$d' a.txt       //删除文件最后一行

②对文件进行搜索替换操作

语法：sed 选项 's/搜索的内容/替换的内容/动作' 需要处理的文件
其中，s表示search搜索；斜杠/表示分隔符，可以自己定义;动作一般是打印p和全局替换g！

# sed -n 's/root/ROOT/p' a.txt
//将文件中的第一个root替换为ROOT
# sed -n 's/root/ROOT/gp' a.txt 
//将文件中的所有root替换为ROOT
# sed -n 's/^#//gp' a.txt 
//将#号开头的行取消#号
# sed -n 's@/sbin/nologin@itcast@gp' a.txt
//将文件中的/sbin/nologin替换为itcast
# sed -n 's/\/sbin\/nologin/itcast/gp' a.txt
//同上效果一样（另一种写法）
# sed -n '10s#/sbin/nologin#itcast#p' a.txt 
//将文件中第10行的/sbin/nologin替换为itcast
# sed -n '1,5s/^/#/p' a.txt      
//注释掉文件的1-5行内容

③其他命令

命令	解释	备注
r	从另外文件中读取内容
w	内容另存为
&	保存查找串以便在替换串中引用	和\(\)相同
=	打印行号
！	对所选行以外的所有行应用命令，放到行数之后	'1,5!'
q	退出

举例：

r：从文件中读取输入行；
w：将所选的行写入文件；

# sed '3r /etc/hosts' a.txt 
//将/etc/hosts文件插入到文件的第3行
# sed '$r /etc/hosts' a.txt
///将/etc/hosts文件插入到文件的末尾
# sed -n '1,5w 11.txt' a.txt
//将文件中的1~5行另存为11.txt文件中
# sed '/root/w 2.txt' a.txt 
//将文件中包含/root/的行另存为2.txt

&：保存查找串以便在替换串中引用 ()；

# sed -n 's/^root/#&/p' passwd   
//注释掉以root开头的行
# sed -n -r 's/^root|^stu/#&/p' /etc/passwd 
//注释掉以root开头或者以stu开头的行
# sed -n '1,5s/^[a-z].*/#&/p' passwd  
//注释掉1~5行中以任意小写字母开头的行
# sed -n '1,5s/^/#/p' /etc/passwd  
//注释1~5行
 
或者
 
sed -n '1,5s/^/#/p' passwd 
//以空开头的加上#
sed -n '1,5s/^#//p' passwd 
//以#开头的替换成空（取消注释）

=：打印行号；

# sed -n '/bash$/=' /etc/passwd    
//打印以bash结尾的行的行号

④示例

过滤vsftpd.conf文件中以#开头和空行：
# grep -Ev '^#|^$' /etc/vsftpd/vsftpd.conf
# sed -e '/^#/d' -e '/^$/d' /etc/vsftpd/vsftpd.conf
# sed '/^#/d;/^$/d' /etc/vsftpd/vsftpd.conf
# sed -r '/^#|^$/d' /etc/vsftpd/vsftpd.conf
 
过滤smb.conf文件中生效的行：
# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/d' smb.conf
# sed -r '/^(#|$|;|\t#|\t$)/d' smb.conf 
# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/' smb.conf
 
过滤出文件中的IP地址：
# grep -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 1.txt 
# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 1.txt 
# grep -o -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 2.txt 
# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 2.txt
 
过滤出ifcfg-eth0文件中的IP、子网掩码、广播地址
# grep -Eo '([0-9]{1,3}\.){3}[0-9]{1,3}' ifcfg-eth0 
# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|cut -d'=' -f2
# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|sed -n 's/[A-Z=]//gp'
# ifconfig eth0|sed -n '2p'|sed -n 's/[:a-Z]//gp'|sed -n 's/ /\n/gp'|sed '/^$/d'
# ifconfig | sed -nr '/([0-9]{1,3}\.)[0-9]{1,3}/p' | head -1|sed -r 's/([a-z:]|[A-Z/t])//g'|sed 's/ /\n/g'|sed  '/^$/d'
# ifconfig eth0|sed -n '2p'|sed -n 's/.*addr:\(.*\) Bcast:\(.*\) Mask:\(.*\)/\1\n\2\n\3/p'
 
 
-i 选项  直接修改原文件
# sed -i 's/root/ROOT/;s/stu/STU/' 11.txt
# sed -i '17{s/YUNWEI/yunwei/;s#/bin/bash#/sbin/nologin#}' 1.txt
# sed -i '1,5s/^/#&/' a.txt
 
注意：
-ni  不要一起使用
p命令 不要再使用-i时使用

⑤sed结合正则使用

sed 选项 'sed命令 或者 正则表达式 或者 地址定位' 文件名

1.定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合；
2.如果没有指定地址，sed将处理输入文件的所有行；

正则	说明	备注
/key/	查询包含关键字的行	sed -n '/root/p' 1.txt
/key1/,/key2/	匹配包含两个关键字之间的行	sed -n '/^adm/,/^mysql/p' 1.txt
/key/,x	从匹配关键字的行开始到文件第x行之间的行（包含关键字所在行）	sed -n '/^ftp/,7p'
x,/key/	从文件的第x行开始到与关键字的匹配行之间的行
x,y!	不包含x到y行
/key/!	不包括关键字的行	sed -n '/bash$/!p' 1.txt

2.2 脚本格式

1）用法

# sed -f scripts.sh  file       //使用脚本处理文件
建议使用   ./sed.sh   file
 
脚本的第一行写上
#!/bin/sed -f
1,5d
s/root/hello/g
3i777
5i888
a999
p

2）注意

１）脚本文件是一个sed的命令行清单；
２）在每行的末尾不能有任何空格、制表符（tab）或其它文本；
３）如果在一行中有多个命令，应该用分号分隔；
４）不需要且不可用引号保护命令；
５）#号开头的行为注释；

# cat passwd
stu3:x:509:512::/home/user3:/bin/bash
stu4:x:510:513::/home/user4:/bin/bash
stu5:x:511:514::/home/user5:/bin/bash
# cat sed.sh 
#!/bin/sed -f
2a\
******************
2,$s/stu/user/
$a\
we inster new line
s/^[a-z].*/#&/
# cat 1.sed 
#!/bin/sed -f
3a**********************
$chelloworld
1,3s/^/#&/
# sed -f 1.sed -i 11.txt 
# cat 11.txt 
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
**********************
adm:x:3:4:adm:/var/adm:/sbin/nologin
helloworld

3）补充扩展总结

1、正则表达式必须以”/“前后规范间隔
例如：sed '/root/d' file
例如：sed '/^root/d' file
 
2、如果匹配的是扩展正则表达式，需要使用-r选来扩展sed
grep -E
sed -r
+ ? () {n,m} | \d
 
注意：         
在正则表达式中如果出现特殊字符(^$.*/[]),需要以前导 "\" 号做转义
 
3、逗号分隔符
例如：sed '5,7d' file                  删除5到7行
例如：sed '/root/,/ftp/d' file 
删除第一个匹配字符串"root"到第一个匹配字符串"ftp"的所有行本行不找 循环执行
 
4、组合方式
例如：sed '1,/foo/d' file          删除第一行到第一个匹配字符串"foo"的所有行
例如：sed '/foo/,+4d' file         删除从匹配字符串”foo“开始到其后四行为止的行
例如：sed '/foo/,~3d' file         删除从匹配字符串”foo“开始删除到3的倍数行（文件中）
例如：sed '1~5d' file              从第一行开始删每五行删除一行
例如：sed -nr '/foo|bar/p' file    显示配置字符串"foo"或"bar"的行
例如：sed -n '/foo/,/bar/p' file   显示匹配从foo到bar的行
例如：sed '1~2d'  file             删除奇数行
例如：sed '0-2d'   file                删除偶数行 sed '1~2!d'  file
 
5、特殊情况
例如：sed '$d' file                    删除最后一行
例如：sed '1d' file                    删除第一行
 
6、其他：
sed 's/.//' a.txt                       删除每一行中的第一个字符
sed 's/.//2' a.txt                  删除每一行中的第二个字符
sed 's/.//N' a.txt                  从文件中第N行开始，删除每行中第N个字符（N>2）
sed 's/.$//' a.txt                  删除每一行中的最后一个字符
 
[root@server ~]# cat 2.txt 
1 a
2 b
3 c
4 d
5 e
6 f
7 u
8 k
9 o
[root@server ~]# sed '/c/,~2d' 2.txt 
1 a
2 b
5 e
6 f
7 u
8 k
9 o