十一、sed文本处理

 

 

一、概述

 

 

sed编辑器逐行处理文件(或输入),并将结果发送到屏幕。具体过程如下:首先sed把当前正在处理的行保存在一个临时缓存区中(也称为模式空间),然后处理临时缓冲区中的行,完成后把该行发送到屏幕上。sed每处理完一行就将其从临时缓冲区删除,然后将下一行读入,进行处理和显示。处理完输入文件的最后一行后,sed便结束运行。sed把每一行都存在临时缓冲区中,对这个副本进行编辑,所以不会修改原文件。



 

 

 

二、Sed 执行流程

Sed 脚本执行遵从下面简单易记的顺序: Read,Execute,Print,Repeat(读取,执行,打印,重复),简称 REPR
分析脚本执行顺序:

读取一行到模式空间(sed 内部的一个临时缓存,用于存放读取到的内容)
在模式空间中执行命令。如果使用了{ } 或 –e 指定了多个命令, sed 将依次执行每个命令
打印模式空间的内容,然后清空模式空间
重复上述过程,直到文件结束

 

如图:

 

    sed编辑器逐行处理文件(或输入),并将结果发送到屏幕。具体过程如下:首先sed把当前正在处理的行保存在一个临时缓存区中(也称为模式空间),然后处理临时缓冲区中的行,完成后把该行发送到屏幕上。sed每处理完一行就将其从临时缓冲区删除,然后将下一行读入,进行处理和显示。处理完输入文件的最后一行后,sed便结束运行

   前面说到sed不会修改文件,那么现在我们可以知道是为什么了?是因为sed把每一行都存在临时缓冲区中,对这个副本进行编辑,所以不会修改原文件。

 

 

 

 三、sed使用方法介绍

 

 

sed常见的语法格式有两种,一种叫命令行模式,另一种叫脚本模式。

sed的命令格式: sed [option] 'sed command' filename

sed的脚本格式:sed [option] -f 'sed script' filename

 

1. 命令行格式

 

语法格式

 sed [options] '处理动作**'** 文件名

 sed [option]  'sed的命令|地址定位' filename

注意:处理动作即sed 命令

 
说明:引用shell script中的变量应使用双引号,而非通常使用的单引号

 

sed命令选项(option)

 

 


-e 直接在命令行模式上进行sed动作编辑,此为默认选项
-f 将sed的动作写在一个文件内,用–f filename 执行filename内的sed动作
-i 直接修改文件内容
-n 只打印模式匹配的行;取消默认的输出
-r 支持扩展正则表达式
-h --help 显示帮助
-v --version 显示版本信息

 

 

sed常用命令(sed command)或处理动作

 

注意:以下所有的动作都要在单引号

 



a\ 在当前行后添加一行或多行。多行时除最后一行外,每行末尾需用\续行
c\ 用此符号后的新文本替换当前行中的文本。多行时除最后一行外,每行末尾需用"\"续行
i\ 在当前行之前插入文本。多行时除最后一行外,每行末尾需用"\"续行
d 删除行;删除选择的行
D              删除模板块的第一行
s 用一个字符串替换另一个

h 把模式空间里的内容复制到暂存缓冲区;拷贝模板块的内容到内存中的缓冲区
H 把模式空间里的内容追加到暂存缓冲区;追加模板块的内容到内存中的缓冲区
g 把暂存缓冲区里的内容复制到模式空间,覆盖原有的内容;获得内存缓冲区的内容,并替代当前模板块中的文本
G 把暂存缓冲区的内容追加到模式空间里,追加在原有内容的后面;获得内存缓冲区的内容,并追加到当前模板块文本的后面


l 列出非打印字符;列表不能打印字符的清单
p 打印行;打印模板块的行
P              打印模板块的第一行
n 读入下一输入行,并从下一条命令而不是第一条命令开始对其的处理;读取下一个输入行,用下一个命令处理新的行而不是用第一个命令
N              追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码
q 结束或退出sed

r file 从文件中读取输入行;从file中读行
w file      将所选的行写入文件 ;写并追加模板块的第一行到file末尾
=              打印当前行号
#              把注释扩展到下一个换行符以前
! 对所选行以外的所有行应用命令;表示后面的命令对所有没有被选定的行发生作用

lable            分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾
t              label if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾
T              label 错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾

 

 

 sed替换标记

 

g     行内全局替换
p     打印行
w     把行写入一个文件
x     互换模板块中的文本和缓冲区中的文本 ; 交换暂存缓冲区与模式空间的内容
y     将字符替换为另一字符(不能对正则表达式使用y命令)
\1     子串匹配标记
&     已匹配字符串标记;保存查找串以便在替换串中引用

 

sed元字符集

 

与grep一样,sed也支持特殊元字符,来进行模式查找、替换。不同的是,sed使用的正则表达式是括在斜杠线"/"之间的模式。

如果要把正则表达式分隔符"/"改为另一个字符,比如o,只要在这个字符前加一个反斜线,在字符后跟上正则表达式,再跟上这个字符即可。例如:

sed -n '\o^Myop' datafile

 

具体如下:

 

^                锚点行首的符合条件的内容,用法格式"^pattern";例如/^my/ 匹配所有以my开头的
$                锚点行首的符合条件的内容,用法格式"pattern$";例如:/my$/ 匹配所有以my结尾的行
^$               空白行
.                匹配除换行符外的单个字符 ; /m..y/ 匹配包含字母m,后跟两个任意字符,再跟字母y的行*                匹配紧挨在前面的字符任意次(0,1,多次) ; 例如/my*/ 匹配包含字母m,后跟零个或多个y字母的行
.*               匹配任意长度的任意字符
\?              匹配紧挨在前面的字符0次或1次
x\{m,n\} 	 重复字符x,至少m次,不多于n次 	/0\{5,10\}/匹配5~10个0的行
x\{m,\} 	 重复字符x,至少m次 	/0\{5,\}/匹配至少有5个0的行
x\{m\}       重复字符x,m次  /0\{5\}/匹配包含5个0的行
/<         \<my/ 匹配包含以my开头的单词的行\> 	      词尾定位符 	/my\>/ 匹配包含以my结尾的单词的行
\<pattern\>        单词锚点

[]                匹配指定范围内的任意单个字符;/[Mm]y/ 匹配包含My或my的行
[^]                匹配指定范围外的任意单个字符;例如/[^A-RT-Z]ed/ 匹配非A-R和T-Z开头,紧跟ed的行\(..\)            保存已匹配的字符;s/I\(love\)\(you\)/\2\1me Iloveyou -> youloveme&          保存查找串以便在替换串中引用;s/love/**&**/,love -> **love**
[:digit:]        所有数字, 相当于0-9, [0-9]---> [[:digit:]]
[:lower:]        所有的小写字母
[:upper:]        所有的大写字母
[:alpha:]        所有的字母
[:alnum:]        相当于0-9a-zA-Z
[:space:]        空白字符
[:punct:]        所有标点符号

 

案例:

    #######sed的匹配模式支持正则表达式#####################  
    sed'5 q'/etc/passwd#打印前5行  
    sed-n '/r*t/p'/etc/passwd#打印匹配r有0个或者多个,后接一个t字符的行  
    sed-n '/.r.*/p'/etc/passwd#打印匹配有r的行并且r后面跟任意字符  
    sed-n '/o*/p'/etc/passwd#打印o字符重复任意次  
    sed-n '/o\{1,\}/p'/etc/passwd#打印o字重复出现一次以上  
    sed-n '/o\{1,3\}/p'/etc/passwd#打印o字重复出现一次到三次之间以上  

 

 

 

sed 定址

 

 

定址用于决定对哪些行进行处理。地址的形式可以是数字、正则表达式、或二者的结合。如果没有指定地址,sed将处理输入文件的所有行。

地址如果是一个数字,则表示某一行号;“$"符号表示最后一行。

地址如果由逗号分隔,则表示处理两行之间的范围(包括这两行在内)。

first~step    first 指起始匹配行, step 指步长,例如: sed -n 2~5p 含义:从第二行开始匹配,隔 5 行匹配一次,即 2,7,12…
$         $符表示匹配最后一行
/REGEXP/    表示匹配正则那一行,通过//之间的正则来匹配
\cREGEXPc    这个是表示匹配正则那一行,通过\c 和 c 之间的正则来匹配,c 可以是任一字符
addr1, add2    定址 addr1, add2 决定用于对哪些行进行编辑。地址的形式可以是数字、正则表达式或二者的结合。
         如果没有指定地址, sed 将处理输入文件中的所有行。如果定址是一个数字,则这个数字代表行号,如果是逗号分隔的两个行号,
         那么需要处理的定址就是两行之间的范围(包括两行在内)。范围可以是数字,正则或二者组合。 addr1,
+N 从 addr1 这行到往下 N 行匹配,总共匹配 N+1 行 addr1, ~N 将匹配addr1和addr1后面的行,直到输入行号为N的倍数的下一行


x x为具体的行号 x,y 表示行号从x到y /pattern 查询包含模式的行 /pattern /pattern 查询包含两个模式的行 pattern/,x 在给定行号上查询包含模式的行 x,/pattern/ 通过行号和模式查询匹配的行 x,y! 查询不包含指定行号x和y的行

 

图1:

 

图2:

 

图3:

 

 

 

 

举例说明

 

文件准备

# vim a.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
298374837483
172.16.0.254
10.1.1.1

 

1.对文件进行增、删、改、查操作

 

语法:sed 选项 '定位+命令' 需要处理的文件

 

1.打印文件内容

 

[root@server ~]# sed ''  a.txt                        对文件什么都不做
[root@server ~]# sed -n 'p'  a.txt                    打印每一行,并取消默认输出
[root@server ~]# sed -n '1p'  a.txt                    打印第1行
[root@server ~]# sed -n '2p'  a.txt                    打印第2行
[root@server ~]# sed -n '1,5p'  a.txt                打印1到5行
[root@server ~]# sed -n '$p' a.txt                     打印最后1行

 

 

2.增加文件内容

i 地址定位的上面插入

在当前行之前插入文本。多行时除最后一行外,每行末尾需用"\"续行  vim——>O

 

a 下面插入

在当前行后添加一行或多行。多行时除最后一行外,每行末尾需用“\”续行 vim——> o

 

[root@server ~]# sed '$a99999' a.txt                 文件最后一行下面增加内容
[root@server ~]# sed 'a99999' a.txt                 文件每行下面增加内容
[root@server ~]# sed '5a99999' a.txt                 文件第5行下面增加内容
[root@server ~]# sed '$i99999' a.txt                 文件最后一行上一行增加内容
[root@server ~]# sed 'i99999' a.txt                 文件每行上一行增加内容
[root@server ~]# sed '6i99999' a.txt                 文件第6行上一行增加内容
[root@server ~]# sed '/^uucp/ihello'                以uucp开头行的上一行插入内容

 

3.修改文件内容

c 替换指定的整行内容

用此符号后的新文本替换当前行中的文本。多行时除最后一行外,每行末尾需用"\"续行  整行替换

 

[root@server ~]# sed '5chello world' a.txt         替换文件第5行内容
[root@server ~]# sed 'chello world' a.txt         替换文件所有内容
[root@server ~]# sed '1,5chello world' a.txt     替换文件1到5号内容为hello world
[root@server ~]# sed '/^user01/c888888' a.txt    替换以user01开头的行

 

4.删除文件内容

 

[root@server ~]# sed '1d' a.txt                         删除文件第1行
[root@server ~]# sed '1,5d' a.txt                     删除文件1到5行
[root@server ~]# sed '$d' a.txt                        删除文件最后一行

 

2. 对文件进行搜索替换操作

语法:sed 选项 's/搜索的内容/替换的内容/动作' 需要处理的文件

其中,s表示search搜索;斜杠/表示分隔符,可以自己定义;动作一般是打印p和全局替换g

 

[root@server ~]# sed -n 's/root/ROOT/p' 1.txt 
[root@server ~]# sed -n 's/root/ROOT/gp' 1.txt 
[root@server ~]# sed -n 's/^#//gp' 1.txt 
[root@server ~]# sed -n 's@/sbin/nologin@itcast@gp' a.txt
[root@server ~]# sed -n 's/\/sbin\/nologin/itcast/gp' a.txt
[root@server ~]# sed -n '10s#/sbin/nologin#itcast#p' a.txt 
uucp:x:10:14:uucp:/var/spool/uucp:itcast
[root@server ~]# sed -n 's@/sbin/nologin@itcastheima@p' 2.txt 
注意:搜索替换中的分隔符可以自己指定

[root@server ~]# sed -n '1,5s/^/#/p' a.txt         注释掉文件的1-5行内容
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

 

 重点:sed命令实现对文件内容的替换(替换是在shell自动化脚本中用到最多的操作)

 


#================源文件里面的内容===============================  

 
[root@jie1 ~]# cat test  
anonymous_enable=YES  
write_enable=YES  
local_umask=022  
xferlog_enable=YES  
connect_from_port_20=YES  
root:x:0:0:root:/root:/bin/bash  
bin:x:1:1:bin:/bin:/sbin/nologin  
daemon:x:2:2:daemon:/sbin:/sbin/nologin  
adm:x:3:4:adm:/var/adm:/sbin/nologin  
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin  
DEVICE="eth0"  
BOOTPROTO="static"  
HWADDR="00:0C:29:90:79:78"  
ONBOOT="yes"  
IPADDR=172.16.22.1  
NETMASK=255.255.0.0  
 

 


#=====================执行的sed的命令=================================================  

 
[root@jie1 ~]# sed -i '/DEVICE/c\Ethernet' test   
        #匹配DEVICE的行,替换成Ethernet这行  
[root@jie1 ~]# sed -i 's/static/dhcp/' test       
        #把static替换成dhcp(/,@,#都是前面所说的地址定界符)  
[root@jie1 ~]# sed -i '/IPADDR/s@22\.1@10.12@' test  
        #匹配IPADDR的行,把22.1替换成10.12由于.号有特殊意义所有需要转义  
[root@jie1 ~]# sed -i '/connect/s#YES#NO#' test   
        #匹配connect的行,把YES替换成NO  
[root@jie1 ~]# sed -i 's/bin/tom/2g' test         
        #把所有匹配到bin的行中第二次及第二次之后出现bin替换成tom  
[root@jie1 ~]# sed -i 's/daemon/jerry/2p' test    
        #把所有匹配到bin的行中第二次出现的daemon替换成jerry,并在生产与匹配行同样的行  
[root@jie1 ~]# sed -i 's/adm/boss/2' test         
        #把所有匹配到adm的行中仅仅只是第二次出现的adm替换成boss  
[root@jie1 ~]# sed -i '/root/{s/bash/nologin/;s/0/1/g}' test  
        #匹配root的行,把bash替换成nologin,且把0替换成1  
[root@jie1 ~]# sed -i 's/root/(&)/g' test                   
        #把root用括号括起来,&表示引用前面匹配的字符  
[root@jie1 ~]# sed -i 's/BOOTPROTO/#BOOTPROTO/' test        
        #匹配BOOTPROTO替换成#BOOTPROTO,在配置文件中一般用于注释某行  
[root@jie1 ~]# sed -i 's/ONBOOT/#&/' test                   
        #匹配ONBOOT的行的前面添加#号,在配置文件中也表示注释某行  
[root@jie1 ~]# sed -i '/ONBOOT/s/#//' test                  
        #匹配ONBOOT的行,把#替换成空,即去掉#号,也一般用作去掉#注释  
 

 


#================执行以上sed命令之后文件显示的内容====================  

 
[root@jie1 ~]# cat test  
anonymous_enable=YES  
write_enable=YES  
local_umask=022  
xferlog_enable=YES  
connect_from_port_20=NO  
(root):x:1:1:(root):/(root):/bin/nologin  
bin:x:1:1:tom:/tom:/stom/nologin  
daemon:x:2:2:jerry:/sbin:/stom/nologin  
daemon:x:2:2:jerry:/sbin:/stom/nologin  
adm:x:3:4:boss:/var/adm:/sbin/nologin  
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin  
Ethernet  
#BOOTPROTO="dhcp"  
HWADDR="00:0C:29:90:79:78"  
ONBOOT="yes"  
IPADDR=172.16.10.12  
NETMASK=255.255.0.0  
 

 

 

 

3.其他命令

 

命令    解释    备注
r    从另外文件中读取内容     
w    内容另存为     
&    保存查找串以便在替换串中引用    和\(\)相同
=    打印行号     
!    对所选行以外的所有行应用命令,放到行数之后    '1,5!'
q    退出     

 

 

举例说明:

 

r    从文件中读取输入行
w    将所选的行写入文件
[root@server ~]# sed '3r /etc/hosts' 2.txt 
[root@server ~]# sed '$r /etc/hosts' 2.txt
[root@server ~]# sed '/root/w a.txt' 2.txt 
[root@server ~]# sed '/[0-9]{4}/w a.txt' 2.txt
[root@server ~]# sed  -r '/([0-9]{1,3}\.){3}[0-9]{1,3}/w b.txt' 2.txt

!    对所选行以外的所有行应用命令,放到行数之后
[root@server ~]# sed -n '1!p' 1.txt 
[root@server ~]# sed -n '4p' 1.txt 
[root@server ~]# sed -n '4!p' 1.txt 
[root@server ~]# cat -n 1.txt 
[root@server ~]# sed -n '1,17p' 1.txt 
[root@server ~]# sed -n '1,17!p' 1.txt 

&   保存查找串以便在替换串中引用   \(\)

[root@server ~]# sed -n '/root/p' a.txt 
root:x:0:0:root:/root:/bin/bash
[root@server ~]# sed -n 's/root/#&/p' a.txt 
#root:x:0:0:root:/root:/bin/bash

# sed -n 's/^root/#&/p' passwd   注释掉以root开头的行
# sed -n -r 's/^root|^stu/#&/p' /etc/passwd    注释掉以root开头或者以stu开头的行
# sed -n '1,5s/^[a-z].*/#&/p' passwd  注释掉1~5行中以任意小写字母开头的行
# sed -n '1,5s/^/#/p' /etc/passwd  注释1~5行
或者
sed -n '1,5s/^/#/p' passwd 以空开头的加上#
sed -n '1,5s/^#//p' passwd 以#开头的替换成空

[root@server ~]# sed -n '/^root/p' 1.txt 
[root@server ~]# sed -n 's/^root/#&/p' 1.txt 
[root@server ~]# sed -n 's/\(^root\)/#\1/p' 1.txt 
[root@server ~]# sed -nr '/^root|^stu/p' 1.txt 
[root@server ~]# sed -nr 's/^root|^stu/#&/p' 1.txt 


=     打印行号
# sed -n '/bash$/=' passwd    打印以bash结尾的行的行号
# sed -ne '/root/=' -ne '/root/p' passwd 
# sed -n '/nologin$/=;/nologin$/p' 1.txt
# sed -ne '/nologin$/=' -ne '/nologin$/p' 1.txt

q    退出
# sed '5q' 1.txt
# sed '/mail/q' 1.txt
# sed -r '/^yunwei|^mail/q' 1.txt
[root@server ~]# sed -n '/bash$/p;10q' 1.txt
ROOT:x:0:0:root:/root:/bin/bash


综合运用:
[root@server ~]# sed -n '1,5s/^/#&/p' 1.txt 
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

[root@server ~]# sed -n '1,5s/\(^\)/#\1/p' 1.txt 
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

 

 

4. 其他选项

 

-e 多项编辑
-r    扩展正则
-i 修改原文件

[root@server ~]# sed -ne '/root/p' 1.txt -ne '/root/='
root:x:0:0:root:/root:/bin/bash
1
[root@server ~]# sed -ne '/root/=' -ne '/root/p' 1.txt 
1
root:x:0:0:root:/root:/bin/bash

在1.txt文件中的第5行的前面插入“hello world”;在1.txt文件的第8行下面插入“哈哈哈哈”

[root@server ~]# sed -e '5ihello world' -e '8a哈哈哈哈哈' 1.txt  -e '5=;8='

sed -n '1,5p' 1.txt
sed -ne '1p' -ne '5p' 1.txt
sed -ne '1p;5p' 1.txt

过滤vsftpd.conf文件中以#开头和空行:
[root@server ~]# grep -Ev '^#|^$' /etc/vsftpd/vsftpd.conf
[root@server ~]# sed -e '/^#/d' -e '/^$/d' /etc/vsftpd/vsftpd.conf
[root@server ~]# sed '/^#/d;/^$/d' /etc/vsftpd/vsftpd.conf
[root@server ~]# sed -r '/^#|^$/d' /etc/vsftpd/vsftpd.conf

过滤smb.conf文件中生效的行:
# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/d' smb.conf
# sed -r '/^(#|$|;|\t#|\t$)/d' smb.conf 

# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/' smb.conf


[root@server ~]# grep '^[^a-z]' 1.txt

[root@server ~]# sed -n '/^[^a-z]/p' 1.txt

过滤出文件中的IP地址:
[root@server ~]# grep -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 1.txt 
192.168.0.254
[root@server ~]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 1.txt 
192.168.0.254

[root@server ~]# grep -o -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 2.txt 
10.1.1.1
10.1.1.255
255.255.255.0

[root@server ~]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 2.txt
10.1.1.1
10.1.1.255
255.255.255.0
过滤出ifcfg-eth0文件中的IP、子网掩码、广播地址
[root@server shell06]# grep -Eo '([0-9]{1,3}\.){3}[0-9]{1,3}' ifcfg-eth0 
10.1.1.1
255.255.255.0
10.1.1.254
[root@server shell06]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|cut -d'=' -f2
10.1.1.1
255.255.255.0
10.1.1.254
[root@server shell06]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|sed -n 's/[A-Z=]//gp'
10.1.1.1
255.255.255.0
10.1.1.254

[root@server shell06]# ifconfig eth0|sed -n '2p'|sed -n 's/[:a-Z]//gp'|sed -n 's/ /\n/gp'|sed '/^$/d'
10.1.1.1
10.1.1.255
255.255.255.0
[root@server shell06]# ifconfig | sed -nr '/([0-9]{1,3}\.)[0-9]{1,3}/p' | head -1|sed -r 's/([a-z:]|[A-Z/t])//g'|sed 's/ /\n/g'|sed  '/^$/d'

[root@server shell06]# ifconfig eth0|sed -n '2p'|sed -n 's/.*addr:\(.*\) Bcast:\(.*\) Mask:\(.*\)/\1\n\2\n\3/p'
10.1.1.1 
10.1.1.255 
255.255.255.0

-i 选项  直接修改原文件
# sed -i 's/root/ROOT/;s/stu/STU/' 11.txt
# sed -i '17{s/YUNWEI/yunwei/;s#/bin/bash#/sbin/nologin#}' 1.txt
# sed -i '1,5s/^/#&/' a.txt
注意:
-ni  不要一起使用
p命令 不要再使用-i时使用

 

 

5.sed结合正则使用

 

sed 选项 'sed命令或者正则表达式或者地址定位=='== 文件名

 

1.定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。

2.如果没有指定地址,sed将处理输入文件的所有行。

 

x                   指定x行号                         sed -n '5p' 1.txt
x,y                 指定x到y行号                     sed -n '1,5p' 1.txt
/key/             查询包含关键字的行        sed -n '/root/p' 1.txt
/key1/,/key2/    匹配包含两个关键字之间的行    sed -n '/^adm/,/^mysql/p' 1.txt
/key/,x          从匹配关键字的行开始到文件第x行之间的行(包含关键字所在行)sed -n '/^lp/,7p' 
x,/key/          从第x行开始到与关键字的匹配行之间的行
x,y!                 不包含x到y行

 

例如:

[root@server ~]# sed -n '/bash$/!p' 1.txt

注意:sed使用的正则表达式是括在斜杠线"/"之间的模式。

//以下命令是找出以lp开头或者以mail开头的行

 

其他命令讲解

y命令
该命令与UNIX/Linux中的tr命令类似,字符按照一对一的方式从左到右进行转换。
正则表达式元字符对y命令不起作用。与s命令的分隔符一样,斜线可以被替换成其它的字符。
s/xxx/xxx/
y/xxx/xxx/
# sed '39,41y/stu/STU/' /etc/passwd
# sed '39,41y/stu:x/STU@%/' /etc/passwd

q    退出
# sed '5q' 1.txt
# sed '/mail/q' 1.txt
# sed -r '/^yunwei|^mail/q' 1.txt
[root@server ~]# sed -n '/bash$/p;10q' 1.txt
ROOT:x:0:0:root:/root:/bin/bash

 

 

2. 脚本格式

 

1.用法

 

# sed -f scripts.sh  file        //使用脚本处理文件
建议使用   ./sed.sh   file

脚本的第一行写上
#!/bin/sed -f
1,5d
s/root/hello/g
3i777
5i888
a999
p

 

 

2.注意事项

 

) 脚本文件是一个sed的命令行清单。'commands'
) 在每行的末尾不能有任何空格、制表符(tab)或其它文本。
) 如果在一行中有多个命令,应该用分号分隔。
) 不需要且不可用引号保护命令
) #号开头的行为注释

 

3.举例说明

 

# cat passwd
stu3:x:509:512::/home/user3:/bin/bash
stu4:x:510:513::/home/user4:/bin/bash
stu5:x:511:514::/home/user5:/bin/bash

# cat sed.sh 
#!/bin/sed -f
2a\
******************
2,$s/stu/user/
$a\
we inster new line
s/^[a-z].*/#&/

[root@server ~]# cat 1.sed 
#!/bin/sed -f
3a**********************
$chelloworld
1,3s/^/#&/

[root@server ~]# sed -f 1.sed -i 11.txt 
[root@server ~]# cat 11.txt 
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
**********************
adm:x:3:4:adm:/var/adm:/sbin/nologin
helloworld

 

3. 补充扩展总结

 

1、正则表达式必须以”/“前后规范间隔
例如:sed '/root/d' file
例如:sed '/^root/d' file

2、如果匹配的是扩展正则表达式,需要使用-r选来扩展sed
grep -E
sed -r
+ ? () {n,m} | \d

注意:         
在正则表达式中如果出现特殊字符(^$.*/[]),需要以前导 "\" 号做转义
eg:sed '/\$foo/p' file

3、逗号分隔符
例如:sed '5,7d' file                  删除5到7行
例如:sed '/root/,/ftp/d' file    
删除第一个匹配字符串"root"到第一个匹配字符串"ftp"的所有行本行不找 循环执行
       
4、组合方式
例如:sed '1,/foo/d' file            删除第一行到第一个匹配字符串"foo"的所有行
例如:sed '/foo/,+4d' file            删除从匹配字符串”foo“开始到其后四行为止的行
例如:sed '/foo/,~3d' file            删除从匹配字符串”foo“开始删除到3的倍数行(文件中)
例如:sed '1~5d' file                从第一行开始删每五行删除一行
例如:sed -nr '/foo|bar/p' file    显示配置字符串"foo""bar"的行
例如:sed -n '/foo/,/bar/p' file    显示匹配从foo到bar的行
例如:sed '1~2d'  file                删除奇数行
例如:sed '0-2d'   file                删除偶数行 sed '1~2!d'  file

5、特殊情况
例如:sed '$d' file                    删除最后一行
例如:sed '1d' file                    删除第一行
    
6、其他:
sed 's/.//' a.txt                        删除每一行中的第一个字符
sed 's/.//2' a.txt                    删除每一行中的第二个字符
sed 's/.//N' a.txt                    从文件中第N行开始,删除每行中第N个字符(N>2)
sed 's/.$//' a.txt                    删除每一行中的最后一个字符


[root@server ~]# cat 2.txt 
1 a
2 b
3 c
4 d
5 e
6 f
7 u
8 k
9 o
[root@server ~]# sed '/c/,~2d' 2.txt 
1 a
2 b
5 e
6 f
7 u
8 k
9 o

 

 

4.课堂练习

练习1:

    将任意数字替换成空或者制表符
    去掉文件1-5行中的数字、冒号、斜杠
    匹配root关键字替换成hello itcast,并保存到test.txt文件中
    删除vsftpd.conf、smb.conf、main.cf配置文件里所有注释的行及空行(不要直接修改原文件)
    使用sed命令截取自己的ip地址
    使用sed命令一次性截取ip地址、广播地址、子网掩码
    注释掉文件的2-3行和匹配到以root开头或者以ftp开头的行

答案:

1、将文件中任意数字替换成空或者制表符
2、去掉文件1-5行中的数字、冒号、斜杠
3、匹配root关键字的行替换成hello itcast,并保存到test.txt文件中
4、删除vsftpd.conf、smb.conf、main.cf配置文件里所有注释的行及空行(不要直接修改原文件)
5、使用sed命令截取自己的ip地址
# ifconfig eth0|sed -n '2p'|sed -n 's/.*addr://pg'|sed -n 's/Bcast.*//gp'
10.1.1.1  
# ifconfig eth0|sed -n '2p'|sed 's/.*addr://g'|sed 's/ Bcast:.*//g'
6、使用sed命令一次性截取ip地址、广播地址、子网掩码
# ifconfig eth0|sed -n '2p'|sed -n 's#.*addr:\(.*\) Bcast:\(.*\) Mask:\(.*\)#\1\n\2\n\3#p'
10.1.1.1 
10.1.1.255 
255.255.255.0

7、注释掉文件的2-3行和匹配到以root开头或者以ftp开头的行
# sed -nr '2,3s/^/#&/p;s/^ROOT|^ftp/#&/p' 1.txt
#ROOT:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#3daemon:x:2:2:daemon:/sbin:/sbin/nologin

# sed -ne '1,2s/^/#&/gp' a.txt -nre 's/^lp|^mail/#&/gp'
# sed -nr '1,2s/^/#&/gp;s/^lp|^mail/#&/gp' a.txt

 

 

5.课后实战

1、写一个初始化系统的脚本 1)自动修改主机名(如:ip是192.168.0.88,则主机名改为server88.itcast.cc

a. 更改文件非交互式 sed

/etc/sysconfig/network

b.将本主机的IP截取出来赋值给一个变量ip;再然后将ip变量里以.分割的最后一位赋值给另一个变量ip1

2)自动配置可用的yum源

3)自动关闭防火墙和selinux

2、写一个搭建ftp服务的脚本,要求如下: 1)不支持本地用户登录 local_enable=NO 2) 匿名用户可以上传 新建 删除 anon_upload_enable=YES anon_mkdir_write_enable=YES 3) 匿名用户限速500KBps anon_max_rate=500000

 

仅供参考:
#!/bin/bash
ipaddr=`ifconfig eth0|sed -n '2p'|sed -e 's/.*inet addr:\(.*\) Bcast.*/\1/g'`
iptail=`echo $ipaddr|cut -d'.' -f4`
ipremote=192.168.1.10
#修改主机名
hostname server$iptail.itcast.com
sed -i "/HOSTNAME/cHOSTNAME=server$iptail.itcast.com" /etc/sysconfig/network
echo "$ipaddr server$iptail.itcast.cc" >>/etc/hosts
#关闭防火墙和selinux
service iptables stop
setenforce 0 >/dev/null 2>&1
sed -i '/^SELINUX=/cSELINUX=disabled' /etc/selinux/config
#配置yum源(一般是内网源)
#test network
ping -c 1 $ipremote > /dev/null 2>&1
if [ $? -ne 0 ];then
    echo "你的网络不通,请先检查你的网络"
    exit 1
else
    echo "网络ok."
fi
cat > /etc/yum.repos.d/server.repo << end
[server]
name=server
baseurl=ftp://$ipremote
enabled=1
gpgcheck=0
end

#安装软件
read -p "请输入需要安装的软件,多个用空格隔开:" soft
yum -y install $soft &>/dev/null

#备份配置文件
conf=/etc/vsftpd/vsftpd.conf
\cp $conf $conf.default
#根据需求修改配置文件
sed -ir '/^#|^$/d' $conf
sed -i '/local_enable/c\local_enable=NO' $conf
sed -i '$a anon_upload_enable=YES' $conf
sed -i '$a anon_mkdir_write_enable=YES' $conf
sed -i '$a anon_other_write_enable=YES' $conf
sed -i '$a anon_max_rate=512000' $conf
#启动服务
service vsftpd restart &>/dev/null && echo"vsftpd服务启动成功"

#测试验证
chmod 777 /var/ftp/pub
cp /etc/hosts /var/ftp/pub
#测试下载
cd /tmp
lftp $ipaddr <<end
cd pub
get hosts
exit
end

if [ -f /tmp/hosts ];then
    echo "匿名用户下载成功"
    rm -f /tmp/hosts
else
    echo "匿名用户下载失败"
fi
#测试上传、创建目录、删除目录等
cd /tmp
lftp $ipaddr << end
cd pub
mkdir test1
mkdir test2
put /etc/group
rmdir test2
exit
end

if [ -d /var/ftp/pub/test1 ];then
    echo "创建目录成功"
    if [ ! -d /var/ftp/pub/test2 ];then
        echo "文件删除成功"
        fi
else
    if [ -f /var/ftp/pub/group ];then
    echo "文件上传成功"
        else
        echo "上传、创建目录删除目录部ok"
        fi 
fi   
[ -f /var/ftp/pub/group ] && echo "上传文件成功"

 

 

练习

 

1,删除文件每行的第一个字符。

    sed -n 's/^.//gp' /etc/passwd  
    sed -nr 's/(.)(.*)/\2/p' /etc/passwd  

2,删除文件每行的第二个字符。

    sed -nr 's/(.)(.)(.*)/\1\3/p' /etc/passwd  

3,删除文件每行的最后一个字符。

    sed -nr 's/.$//p' /etc/passwd  
    sed -nr 's/(.*)(.)/\1/p' /etc/passwd  

4,删除文件每行的倒数第二个字符。

    sed -nr 's/(.*)(.)(.)/\1\3/p' /etc/passwd  

5,删除文件每行的第二个单词。

    sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/\1\2\3\5/p' /etc/passwd  

6,删除文件每行的倒数第二个单词。

    sed -nr 's/(.*)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]*)/\1\2\4\5\6/p' /etc/samba/smb.conf  

7,删除文件每行的最后一个单词。

    sed -nr 's/(.*)([^a-Z]+)([a-Z]+)([^a-Z]*)/\1\2\4/p' /etc/samba/smb.conf  

8,交换每行的第一个字符和第二个字符。

    sed -nr 's/(.)(.)(.*)/\2\1\3/p' /etc/passwd  

9,交换每行的第一个单词和第二个单词。

    sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/\1\4\3\2\5/p' /etc/samba/smb.conf  

10,交换每行的第一个单词和最后一个单词。

    sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/\1\4\3\2\5/p' /etc/passwd  

11,删除一个文件中所有的数字。

    sed 's/[0-9]*//g' /etc/passwd  

12,删除每行开头的所有空格。

    sed -n 's/^\ *//p' /etc/samba/smb.conf   
    sed -nr 's/( *)(.*)/\2/p' testp  

13,用制表符替换文件中出现的所有空格。

    sed -n 's/\ /\t/gp' pass   

14,把所有大写字母用括号()括起来。

    sed -nr 's/([A-Z])/(&)/gp' testp   
    sed -n 's/[A-Z]/(&)/gp' testp  

15,打印每行3次。

    sed 'p;p' pass  

16,隔行删除。

    sed -n '1~2p' pass  

17,把文件从第22行到第33行复制到第44行后面。

    sed '1,21h;22h;23,33H;44G' pass  

18,把文件从第22行到第33行移动到第44行后面。

    sed '22{h;d};23,33{H;d};44G' pass  

19,只显示每行的第一个单词。

    sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)(.*)/\2/p' /etc/passwd  

20,打印每行的第一个单词和第三个单词。

    sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/\2--\4/p' /etc/passwd  

21,将格式为    mm/yy/dd    的日期格式换成   mm;yy;dd

    date +%m/%Y/%d |sed -n 's#/#;#gp'  

 

 

 

sed练习:

1、删除/etc/grub.conf文件中行首的空白符;
sed -r 's@^[[:spapce:]]+@@g' /etc/grub.conf
2、替换/etc/inittab文件中"id:3:initdefault:"一行中的数字为5;
sed 's@\(id:\)[0-9]\(:initdefault:\)@\15\2@g' /etc/inittab
3、删除/etc/inittab文件中的空白行;
sed '/^$/d' /etc/inittab
4、删除/etc/inittab文件中开头的#号;
sed 's@^#@@g' /etc/inittab
5、删除某文件中开头的#号及后面的空白字符,但要求#号后面必须有空白字符;
sed -r 's@^#[[:space:]]+@@g' /etc/inittab
6、删除某文件中以空白字符后面跟#类的行中的开头的空白字符及#
sed -r 's@^[[:space:]]+#@@g' /etc/inittab
7、取出一个文件路径的目录名称;
echo "/etc/rc.d/" | sed -r 's@^(/.*/)[^/]+/?@\1@g'    
基名:
echo "/etc/rc.d/" | sed -r 's@^/.*/([^/]+)/?@\1@g'    

 

 

参考:

https://www.cnblogs.com/ctaixw/p/5860221.html

https://www.cnblogs.com/wangcp-2014/p/6756377.html

 http://events.jianshu.io/p/e8d8d52fd62c

sed 编辑器逐行处理文件(或输入),并将输出结果发送到屏幕。 sed 的命令就是在 vied/ex 编辑器中见到的那些。 sed 把当前正在处理的行保存在一个临时缓存区中,这个缓存区称为模式空间或临时缓冲。sed 处理完模式空间中的行后(即在该行上执行 sed 命令后),就把改行发送到屏幕上(除非之前有命令删除这一行或取消打印操作)。 sed 每处理完输入文件的最后一行后, sed 便结束运行。 sed 把每一行都存在临时缓存区中,对这个副本进行编辑,所以不会修改或破坏源文件。
posted @ 2018-05-05 20:18  钟桂耀  阅读(2120)  评论(0编辑  收藏  举报