文本处理三剑客之 Sed ——一般编辑命令
sed简介
sed (stream editor for filtering and transforming text) 是Linux上的文本处理三剑客之一,另外两个是grep和awk.
sed又称行编辑器,每次读取并处理一行文本.
工作原理
1.sed命令开始执行后
2.先从文本中读取第一行,放在模式空间 (pattern space)中
3.判断这行文本是否符合指定模式,符合则进行编辑,然后把结果输出到标准输出.
4.不符合的话默认也会输出到标准输出.除非特别指定不输出不符合的结果行.
5.继续读取下一行,以此类推.
- sed默认会对文件的每一行做处理.
- 可以指定sed仅处理匹配到的行
- 默认不对原文件进行编辑,只输出处理结果
- 在sed的高级用法中会用到sed的另一个空间:保持空间(hold space).
- 模式空间读进来的数据可以放进保持空间等待后续操作,两个空间的数据可以自由移动,互相覆盖或追加.
sed原理简图
命令格式
sed [option]... 'script' inputfile..
script:
sed处理文本所应用的脚本,如地址定界,编辑操作
sed的选项(options)
-n：不自动输出模式空间的内容到屏幕
-e script, --expression=script：实现多点编辑,
如：
# sed -e 's@^#[[:space:]]*@@' -e '/^UUID/d' /etc/fstab
-f：/PATH/SCRIPT_FILE: 从指定文件中读取编辑脚本
-r , --regexp-extended: 支持使用扩展正则表达式
-i[SUFFIX], --in-place[=SUFFIX]:对原文件进行编辑
-i.bak: 编辑原文件前会先创建一个 原文件名+.bak后缀的备份
地址定界：
(1) 不给地址：对全文进行处理
(2) 单地址：
#: 指定的行
/pattern/：被此处模式所能够匹配到的每一行
(3) 地址范围
#，#：从第#行开始到第#行结束
#，+#：从第#行开始，加#行
#，/pat1/：从第#行开始，到第一次被模式匹配的行结束
/pat1/,/pat2/：从被模式1匹配到的第一行开始，到被模式2匹配到的第一行结束；
$：最后一行
(4)步进：~
1~2：表示从1开始，步进2行，如3,5,7行即所有奇数行
2~2：表示所有偶数行
示例:
文件text内容如下:
$ cat text 1a 2b 3c 4d 5e 6f 7g 8h 9i $ sed -n '2p' /etc/issue #显示第二行 2b $ sed -n '/e$/p' text #显示e结尾的行 5e $ sed -n '4,8p' text #显示第4到第8行 4d 5e 6f 7g 8h $ sed -n '4,+3p' text #显示第4行以及后面的3行 4d 5e 6f 7g $ sed -n '/c$/,/^7/p' text #显示c结尾的行开始到7开头的行中的所有行 3c 4d 5e 6f 7g $ sed -n '5,/^7/p' text #显示第五行开始到7开头的行中的所有行 5e 6f 7g $ sed -n '2~3p' text #从第2行开始,每隔3行显示一行 2b 5e 8h $ sed -n '1~2p' text #显示奇数行 1a 3c 5e 7g 9i
常用一般编辑命令
d: 删除模式空间匹配的行，并立即进入下一轮循环
p：打印当前模式空间内容，追加到默认输出之后
a [\]text：在指定行后面追加文本,支持使用\n实现多行追加
i [\]text：在行前面插入文本
c [\]text：把匹配到的行替换为单行或多行文本
w /path/somefile: 保存模式匹配的行至指定文件
r /path/somefile：读取指定文件的文本至模式空间中匹配到的行后
=: 为模式空间中的行打印行号
!:模式空间中匹配行取反处理
示例:
$ cat /etc/passwd -n | sed '2,51d' #删除2-51行 1 root:x:0:0:root:/root:/bin/bash 52 apache:x:48:48:Apache:/usr/share/httpd:/sbin/nologin 53 named:x:25:25:Named:/var/named:/sbin/nologin $ sed '2~2d' text #删除偶数行,显示奇数行 1a 3c 5e 7g 9i $ df | sed -n '/^\/dev\/sd/p' #过滤出dev/sd开头的行 /dev/sda2 52403200 3932216 48470984 8% / /dev/sda5 20961280 142872 20818408 1% /app /dev/sda1 1038336 161556 876780 16% /boot $ sed '2,4a\ = = =' text #在2-4行后面分别追加自定义字符,斜线\表示之后出现的所有字符都算内容. 1a 2b = = = 3c = = = 4d = = = 5e 6f 7g 8h 9i $ sed '4i\ = = =' text #在第4行上方加入字符 1a 2b 3c = = = 4d 5e 6f 7g 8h 9i $ sed '/^6/c\6666' text #把第6行替换为6666 1a 2b 3c 4d 5e 6666 7g 8h 9i $ sed -n '/^alias/w /app/alias.txt' ~/.bashrc #把.bashrc文件中的alias开头的行保存到/app/alias.txt中
$ cat alias.txt alias rm='rm -i' alias cp='cp -i' alias mv='mv -i' $ sed '/^alias/r /etc/centos-release' ~/.bashrc #把/etc/centos-release中的内容插入到.bashrc中被模式匹配到的行之后 # .bashrc # User specific aliases and functions alias rm='rm -i' CentOS Linux release 7.4.1708 (Core) alias cp='cp -i' CentOS Linux release 7.4.1708 (Core) alias mv='mv -i' CentOS Linux release 7.4.1708 (Core) # Source global definitions if [ -f /etc/bashrc ]; then . /etc/bashrc fi $ sed '/^alias/=' ~/.bashrc #在匹配到的行只上添加行号 # .bashrc # User specific aliases and functions 5 alias rm='rm -i' 6 alias cp='cp -i' 7 alias mv='mv -i' # Source global definitions if [ -f /etc/bashrc ]; then . /etc/bashrc fi $ sed -n '/^alias/!p' ~/.bashrc #显示没有被匹配到的行(结果取反) # .bashrc # User specific aliases and functions # Source global definitions if [ -f /etc/bashrc ]; then . /etc/bashrc fi $ sed -n '/e$/!p' text #显示除了e结尾的行的所有行 1a 2b 3c 4d 6f 7g 8h 9i
查找替换:
s///,支持使用其它分隔符，如 s@@@，s### ,s___
替换标记：
g: 行内全局替换
p: 显示替换成功的行
w /PATH/TO/SOMEFILE：将替换成功的行保存至文件中
示例:
$ sed -rn 's@^[0-9]+@@p' text #删除所有数字开头行的数字 a b c d e f g h i $ sed 's@.*@#&@' text #给text文件中每一行前面加#号 #1a #2b #3c #4d #5e #6f #7g #8h #9i # 删除文件中以#号开头后跟一个空白字符的行的开头的#和空白字符 $ cat text2 this is 1 # this is 2 #this is 3 # this is 4 this is 5 $ sed 's@^#[[:space:]]@@' text2 this is 1 this is 2 #this is 3 this is 4 this is 5 # 给text2文件中不以#开头的行的行首加#号 $ cat text2 this is 1 # this is 2 #this is 3 # this is 4 this is 5 $ sed 's@^[^#].*@#&@' text2 #this is 1 # this is 2 #this is 3 # this is 4 #this is 5 $ echo /app/testdir/rootdir/motd/ | sed -r 's@(^/.*/)(.+)/?@\1@' #取目录名 /app/testdir/rootdir/ $ echo /app/testdir/rootdir/motd/ | sed -r 's@(^/.*/)(.+)/?@\2@' #取基名 motd/ $ ifconfig ens33| sed -rn 's@.*inet (.*) netmask.*@\1@p' # 取出 ifconfig ens33命令中的ipv4地址 192.168.5.137
