测试必会之 Linux 三剑客之 sed
1. sed简介
sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。
2. 定址
可以通过定址来定位你所希望编辑的行,该地址用数字构成,用逗号分隔的两个行数表示以这两行为起止的行的范围(包括行数表示的那两行)。如1,3表示1,2,3行,美元符号($)表示最后一行。范围可以通过数据,正则表达式或者二者结合的方式确定 。
3. sed命令
sed [-nefri] [动作]
参数:
- -n :使用安静(slient)模式。只有经过sed特殊处理的那一行(或者操作)才会被列出来。一般与p配合使用
- -e :多点编辑
- -f :直接将sed动作写在一个文件内,-f filename则可以执行filename 内的sed动作。
- -r :sed的动作支持的是拓展正则表达式的语法(默认是基础正则表达式的语法)
- -i :直接修改读取的文件内容,而不是由屏幕输出
- -V或--version: 显示版本信息
动作说明:[[n1],[n2]]function
n1,n2 :不见得会存在,一般代表选择进行动作的行数,举例来说,如果我的动作是需要在10到20之间进行的,则"10,20[动作行为]"
function有下面这些参数:
- a :新增,在当前行下一行
- d :删除 (比较重要,测试工作中对数据处理时可快速去除无用信息,比如注释行,空白行等)
- i :插入,在当前行上一行
- p :打印 (一般与-n配合使用)
- s :替换(重中之重!!!,s参数可以说是日常测试工作中对数据用sed清理过滤时使用率最高的了)
- c :取代, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!
sed 修改表达式: sed 's/待修改/修改结果/'
注意说明:
表达式单引号中的s表示修改,/ 符号表示分隔,实际上将/换成其他符号也可以,只要能起到分隔作用就OK
chenshifengdeMacBook-Pro:~ chenshifeng$ echo "aaa|bbb}|cccbbb" | sed 's/bbb/BBB/'
aaa|BBB}|cccbbb
chenshifengdeMacBook-Pro:~ chenshifeng$ echo "aaa|bbb}|cccbbb" | sed 's#bbb#BBB#'
aaa|BBB}|cccbbb
若想将目标中所有的字段都替换,需要在命令最后加上g:
chenshifengdeMacBook-Pro:~ chenshifeng$ echo "aaa|bbb}|cccbbb" | sed 's/bbb/BBB/g'
aaa|BBB}|cccBBB
sed还可以修改文件中的内容,现在有文件text.txt,内容如下:
chenshifengdeMacBook-Pro:~ chenshifeng$ cat text.txt
hello bash world
hi~ tester
go go go go!
用 sed 's/hello/HELLO/' text.txt 命令将文件中的 hello 替换成 HELLO :
chenshifengdeMacBook-Pro:~ chenshifeng$ sed 's/hello/HELLO/' text.txt
HELLO bash world
hi~ tester
go go go go!
但是此时我们打开源text.txt文件发下源文件内容并未改变:
chenshifengdeMacBook-Pro:~ chenshifeng$ cat text.txt
hello bash world
hi~ tester
go go go go!
注意说明:
sed 在修改文件内容时,是另外开辟了一块模式空间,将修改后的内容放入并输出,源文件并未修改;
这时如果想要修改源文件就需要借助 -i 命令,另外为了防止误操作修改文件,一般可以采取这种写法: sed -i.bak 's/hello/HELLO/' text.txt
,这种写法在修改源文件的同时还会生成一份以.bak结尾的备份文件,相较安全。
chenshifengdeMacBook-Pro:~ chenshifeng$ sed -i.bak 's/hello/HELLO/' text.txt
chenshifengdeMacBook-Pro:~ chenshifeng$ ls
Applications Library Pictures text.txt
Desktop Movies Public text.txt.bak
Documents Music html
Downloads MyCode iCloud 云盘(归档)
chenshifengdeMacBook-Pro:~ chenshifeng$ cat text.txt
HELLO bash world
hi~ tester
go go go go!
chenshifengdeMacBook-Pro:~ chenshifeng$ cat text.txt.bak
hello bash world
hi~ tester
go go go go!
sed -e 命令表示多点编辑,可以同时使用多条指令,来看一个实例:
需求: 现有一个1.txt的文本,内容如下:
a:
b:
c:
d:
要将其中每行末尾的 :
都替换成@
,将 a
替换成A
,并在文本末尾加上" Sed Test "
命令:
sed -i -e 's/:/@/g' \
-i -e 's/a/A/' \
-i -e '$a Sed Test' 1.txt
$a
:$
:最后一行,a
:新增
实例演示:
[chenshifengdeMacBook-Pro:~ chenshifeng]$ sed -i -e 's/:/@/g' -i -e 's/a/A/' -i -e '$a Sed Test' 1.txt
[cchenshifengdeMacBook-Pro:~ chenshifeng]$ cat 1.txt
A@
b@
c@
d@
Sed Test
以行为单位的替换与显示
将第2-5行的内容取代成为『No 2-5 number』
[chenshifengdeMacBook-Pro:~ chenshifeng ~]$ nl /etc/passwd | sed '2,5c No 2-5 number'
1 root:x:0:0:root:/root:/bin/bash
No 2-5 number
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
...........
4. 实例
删除:d命令
$ sed '2d' example //删除example文件的第二行。
$ sed '2,$d' example //删除example文件的第二行到末尾所有行。
$ sed '$d' example //删除example文件的最后一行。
$ sed '/test/'d example //删除example文件所有包含test的行。
替换:s命令
$ sed 's/test/mytest/g' example //在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。
$ sed -n 's/^test/mytest/p' example //(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。
$ sed 's/^192.168.0.1/&localhost/' example //&符号表示替换换字符串中被找到的部份,但不删除原字符。所有以192.168.0.1开头的行末尾都是加上 localhost,变成192.168.0.1localhost。
$ sed -n 's/\(love\)able/\1rs/p' example //love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。
$ sed 's#10#100#g' example //不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。
选定行的范围:逗号
$ sed -n '/test/,/check/p' example //所有在模板test和check所确定的范围内的行都被打印。
$ sed -n '5,/^test/p' example //打印从第五行开始到第一个包含以test开始的行之间的所有行。
$ sed '/test/,/check/s/$/sed test/' example //对于模板test和west之间的行,每行的末尾用字符串sed test替换。
多点编辑:e命令
$ sed -e '1,5d' -e 's/test/check/' example //(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。
$ sed --expression='s/test/check/' --expression='/love/d' example //一个比-e更好的命令是--expression。它能给sed表达式赋值。
从文件读入:r命令
$ sed '/test/r file' example //file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。
写入文件:w命令
$ sed -n '/test/w file' example //在example中所有包含test的行都被写入file里。
追加命令:a命令
$ sed '/^test/a\\--->this is a example' example //'this is a example'被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。
插入:i命令
$ sed '/test/i\\
new line
-------------------------' example //如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。
下一个:n命令
$ sed '/test/{ n; s/aa/bb/; }' example //如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。
变形:y命令
$ sed '1,10y/abcde/ABCDE/' example //把1--10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。
退出:q命令
$ sed '10q' example //打印完第10行后,退出sed。
保持和获取:h命令和G命令
$ sed -e '/test/h' -e '$G' example-----
在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。
保持和互换:h命令和x命令
$ sed -e '/test/h' -e '/check/x' example -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。
5. 脚本
Sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。
6. 小技巧
在sed的命令行中引用shell变量时要使用双引号,而不是通常所用的单引号。下面是一个根据name变量的内容来删除named.conf文件中zone段的脚本:name='zone\ "localhost"'
sed "/$name/,/};/d" named.conf