sed命令

sed命令

以下内容参考至：https://wangchujiang.com/linux-command/c/sed.html
https://www.yanbinghu.com/2018/05/27/19567.html
https://cloud.tencent.com/developer/article/1150279
https://blog.csdn.net/wangcg123/article/details/50667883

sed

功能强大的流式文本编辑器

补充说明

sed 是一种流编辑器，它是文本处理中非常重要的工具，能够完美的配合正则表达式使用，功能不同凡响。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有 改变，除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。

sed的选项、命令、替换标记

命令格式

sed [options] 'command' file(s)
sed [options] -f scriptfile file(s)

选项

-e<script>或--expression=<script>：以选项中的指定的script来处理输入的文本文件；
-f<script文件>或--file=<script文件>：以选项中指定的script文件来处理输入的文本文件；
-h或--help：显示帮助；
-n或--quiet或——silent：仅显示script处理后的结果；
-V或--version：显示版本信息。

参数

文件：指定待处理的文本文件列表。

sed命令

a\ # 在当前行下面插入文本。
i\ # 在当前行上面插入文本。
c\ # 把选定的行改为新的文本。
d # 删除，删除选择的行。
D # 删除模板块的第一行。
s # 替换指定字符
h # 拷贝模板块的内容到内存中的缓冲区。
H # 追加模板块的内容到内存中的缓冲区。
g # 获得内存缓冲区的内容，并替代当前模板块中的文本。
G # 获得内存缓冲区的内容，并追加到当前模板块文本的后面。
l # 列表不能打印字符的清单。
n # 读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。
N # 追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。
p # 打印模板块的行。
P # (大写) 打印模板块的第一行。
q # 退出Sed。
b lable # 分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。
r file # 从file中读行。
t label # if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
T label # 错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
w file # 写并追加模板块到file末尾。  
W file # 写并追加模板块的第一行到file末尾。  
! # 表示后面的命令对所有没有被选定的行发生作用。  
= # 打印当前行号码。  
# # 把注释扩展到下一个换行符以前。  

sed替换标记

g # 表示行内全面替换。  
p # 表示打印行。  
w # 表示把行写入一个文件。  
x # 表示互换模板块中的文本和缓冲区中的文本。  
y # 表示把一个字符翻译为另外的字符（但是不用于正则表达式）
\1 # 子串匹配标记
& # 已匹配字符串标记

sed元字符集

^ # 匹配行开始，如：/^sed/匹配所有以sed开头的行。
$ # 匹配行结束，如：/sed$/匹配所有以sed结尾的行。
. # 匹配一个非换行符的任意字符，如：/s.d/匹配s后接一个任意字符，最后是d。
* # 匹配0个或多个字符，如：/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。
[] # 匹配一个指定范围内的字符，如/[ss]ed/匹配sed和Sed。  
[^] # 匹配一个不在指定范围内的字符，如：/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行。
\(..\) # 匹配子串，保存匹配的字符，如s/\(love\)able/\1rs，loveable被替换成lovers。
& # 保存搜索字符用来替换其他字符，如s/love/ **&** /，love这成 **love** 。
\< # 匹配单词的开始，如:/\<love/匹配包含以love开头的单词的行。
\> # 匹配单词的结束，如/love\>/匹配包含以love结尾的单词的行。
x\{m\} # 重复字符x，m次，如：/0\{5\}/匹配包含5个0的行。
x\{m,\} # 重复字符x，至少m次，如：/0\{5,\}/匹配至少有5个0的行。
x\{m,n\} # 重复字符x，至少m次，不多于n次，如：/0\{5,10\}/匹配5~10个0的行。  

sed用法实例

替换操作：s命令

替换文本中的字符串：

sed 's/book/books/' file

-n选项 和 p命令 一起使用表示只打印那些发生替换的行：

sed -n 's/test/TEST/p' file

直接编辑文件 选项-i ，会匹配file文件中每一行的所有book替换为books：

sed -i 's/book/books/g' file

全面替换标记g

使用后缀 /g 标记会替换每一行中的所有匹配：

sed 's/book/books/g' file

当需要从第N处匹配开始替换时，可以使用 /Ng：

echo sksksksksksk | sed 's/sk/SK/2g'
skSKSKSKSKSK
echo sksksksksksk | sed 's/sk/SK/3g'

skskSKSKSKSK
echo sksksksksksk | sed 's/sk/SK/4g'

skskskSKSKSK

定界符

以上命令中字符 / 在sed中作为定界符使用，也可以使用任意的定界符：

sed 's:test:TEXT:g'
sed 's|test|TEXT|g'

定界符出现在样式内部时，需要进行转义：

sed 's/\/bin/\/usr\/local\/bin/g'

删除操作：d命令

删除空白行：

sed '/^$/d' file

删除文件的第2行：

sed '2d' file

删除文件的第2行到末尾所有行：

sed '2,$d' file

删除文件最后一行：

sed '$d' file

删除文件中所有开头是test的行：

sed '/^test/'d file

已匹配字符串标记&

正则表达式 \w+ 匹配每一个单词，使用 [&] 替换它，& 对应于之前所匹配到的单词：

echo this is a test line | sed 's/\w\+/[&]/g'
[this] [is] [a] [test] [line]

所有以192.168.0.1开头的行都会被替换成它自已加localhost：

sed 's/^192.168.0.1/&localhost/' file
192.168.0.1localhost

子串匹配标记\1

匹配给定样式的其中一部分：

echo this is digit 7 in a number | sed 's/digit \([0-9]\)/\1/'
this is 7 in a number

命令中 digit 7，被替换成了 7。样式匹配到的子串是 7，(..) 用于匹配子串，对于匹配到的第一个子串就标记为 \1 ，依此类推匹配到的第二个结果就是 \2 ，例如：

echo aaa BBB | sed 's/\([a-z]\+\) \([A-Z]\+\)/\2 \1/'
BBB aaa

love被标记为1，所有loveable会被替换成lovers，并打印出来：

sed -n 's/\(love\)able/\1rs/p' file

组合多个表达式

sed '表达式' | sed '表达式'
等价于：
sed '表达式; 表达式'

引用

sed表达式可以使用单引号来引用，但是如果表达式内部包含变量字符串，就需要使用双引号。

test=hello
echo hello WORLD | sed "s/$test/HELLO"
HELLO WORLD

选定行的范围：,（逗号）

所有在模板test和check所确定的范围内的行都被打印：

sed -n '/test/,/check/p' file

打印从第5行开始到第一个包含以test开始的行之间的所有行：

sed -n '5,/^test/p' file

对于模板test和west之间的行，每行的末尾用字符串aaa bbb替换：

sed '/test/,/west/s/$/aaa bbb/' file

多点编辑：e命令

-e选项允许在同一行里执行多条命令：

sed -e '1,5d' -e 's/test/check/' file

上面sed表达式的第一条命令删除1至5行，第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。

和 -e 等价的命令是 --expression：

sed --expression='s/test/check/' --expression='/love/d' file

从文件读入：r命令

file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面：

sed '/test/r file' filename

写入文件：w命令

在example中所有包含test的行都被写入file里：

sed -n '/test/w file' example

追加（行下）：a\命令

将 this is a test line 追加到 以test 开头的行后面：

sed '/^test/a\this is a test line' file

在 test.conf 文件第2行之后插入 this is a test line：

sed -i '2a\this is a test line' test.conf

插入（行上）：i\命令

将 this is a test line 追加到以test开头的行前面：

sed '/^test/i\this is a test line' file

在test.conf文件第5行之前插入this is a test line：

sed -i '5i\this is a test line' test.conf

下一个：n命令

如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续：

sed '/test/{ n; s/aa/bb/; }' file

变形：y命令

把1~10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令：

sed '1,10y/abcde/ABCDE/' file

退出：q命令

打印完第10行后，退出sed

sed '10q' file

保持和获取：h命令和G命令

在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。

sed -e '/test/h' -e '$G' file

在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾。

保持和互换：h命令和x命令

互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换：

sed -e '/test/h' -e '/check/x' file

脚本scriptfile

sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行。

sed [options] -f scriptfile file(s)

打印奇数行或偶数行

方法1：

sed -n 'p;n' test.txt  #奇数行
sed -n 'n;p' test.txt  #偶数行

方法2：

sed -n '1~2p' test.txt  #奇数行
sed -n '2~2p' test.txt  #偶数行

打印匹配字符串的下一行

grep -A 1 SCC URFILE
sed -n '/SCC/{n;p}' URFILE
awk '/SCC/{getline; print}' URFILE

实例

文本查找

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

sed ‘2p’ filename #打印第二行（第二行会打印两遍），并且会打印文本全部内容 sed -n ‘2p’ filename #只打印第二行 sed -n '3.5p' filename #打印3到5行 sed -n '/findstr/p' filename #打印匹配到findstr的行 sed -n '/findstr1/,findstr2/p' #打印匹配分的findstr1和findstr2的行 sed -n '3,5{=;p}' filaname #打印3到5行，并且打印行号 sed -n '3.5!(=;p)' filename #打印除了3到5行的其他行 !表示对条件取反，其他情况也适用。 sed -n '/pattern/p' filename #打印符合正则表达式pattern的行，正则表达式不在此介绍

文本删除

1	sed -e '1d' filename #删除第一行，但是不修改原文件。实际上把查找中的p换成d,即由打印变成删除动作。而-e 选项更换为-i选项，表明直接修改原文件

文本编辑

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23

# -i表明直接修改源文件，注意。 sed -i '/str1/s/^/str2/' filename #在有str1的行首增加str2字符 sed -i 's/str1/str2&/' filename #在str1前增加str2字符串 sed -i 's/str1/&str2/' filename #在str1后增加str2字符串 sed -i '/str1/s/$/str2/' filename #在有str1的行尾加上str2字符串 sed -i '/str1/i\str2/' filename #在有str1的前一行增加一行，内容为str2 sed -i '/str1/a\str2/' filename #在有str1的后一行增加一行，内容为str2，如果要添加多行，需要添加\n转义符，例如 '/str1/astr2\nstr3' sed -i 's/^/str/' filename #每行开头添加str字符串 sed -i 's/$/str/' filename #每行结尾添加str字符串 sed -i '1,3s/^/str/' filename #1到3行行首添加str字符串 sed -i '/str1/s@/str2@str3@' filename #将有str1的行中的str2替换为str3，但是只修改一次 sed -i '/str1/s@/str2@str3@/ng' filename #与上一条作用类似，但是是修改n次，如果不带n，则表示修改全文

文本:

aa
88
bb
88
88
cc
88
88

替换第一个88为--：

sed '0,/88/s//--/' file

sed ':a;N;$!ba;s/88/--/' file

[解析]
这有两种方法，第一个是只匹配到第一个88为止，然后替换那个88为--。
第二个句子是通过循环把文本全部读进pattern space 然后只替换第一个。

替换第N[3]个88为--：

sed '/88/{x;s/^/./;/.{3}$/{x;s/.*/--/;x};x;}' file

sed ':a;N;$!ba;s/88/--/3' file

[解析]
第一个命令叫打点记数法，因为sed没有 var++ 之类的操作来记数。
第二个命令和上面第一个其实是一样的原理，全部读入文本后统一替换第3个匹配的内容。

替换最后一个匹配的88为--：

sed ':a;/\n88/!{$s/88/--/;N;ba};P;D' file

sed ':a;N;$!ba;s/(.*)88/\1--/' file

[解析]
第一个命令，没匹配到 /\n88/ 的内容就读取下一行，然后 ba 跳转去开始处，如果读取到88的行呢，就执行后面的 P;D 组合，D也有循环功能，一直把匹配 \n88 内容的第一行打印，删除，直到不匹配/\n88/（因为换行符已经被打印出去了，所以不再会匹配到 \n88），这时候才继续往下读，如果又读到88的行，那么又执行P;D循环，同上操作。一直到匹配到最后一个88的行，继续读取到末行时执行替换，N 因为没有下一行可读，所以会自动中止命令，因为没有 -n 参数会打印 pattern space 里的内容到屏幕，所以就不会再执行后面的 ba 避免了死循环，这样的用法只存在于 GNU sed ，大家注意。所以这整个流程只会替换最后一个88。
第二个命令其实和上面的都一样，也是全部读进 pattern space 里，最后利用正则的贪婪替换掉最后一个88。

sed替换的基本语法为:
----s后面跟的是分隔符，原字符串可使用.*这种正则表达式进行整行替换

复制代码

代码如下:

sed 's/原字符串/替换字符串/'

单引号里面,s表示替换,三根斜线中间是替换的样式,特殊字符需要使用反斜线”\”进行转义,但是单引号”‘”是没有办法用反斜线”\”转义的,这时候只要把命令中的单引号改为双引号就行了,例如:

复制代码

代码如下:

sed "s/原字符串包含'/替换字符串包含'/" //要处理的字符包含单引号

命令中的三根斜线分隔符可以换成别的符号,这在要替换的内容有较多斜线是较为方便,只需要紧跟s定义即可,例如换成问号”?”:

复制代码

代码如下:

sed 's?原字符串?替换字符串?' //自定义分隔符为问号

可以在末尾加g替换每一个匹配的关键字,否则只替换每行的第一个,例如:

复制代码

代码如下:

sed 's/原字符串/替换字符串/' //替换所有匹配关键字

上箭头”^”表示行首,美元”$”符号如果在引号中表示行尾,但是在引号外却表示末行(最后一行),这里犯二了,搜了半天哪个符号表示首行,半天才想起来,首行就是数字”1″啊.那么在行首和行尾添加字符串就是把行尾和行首替换,例如:

复制代码

代码如下:

sed 's/^/添加的头部&/g' //在所有行首添加
sed 's/$/&添加的尾部/g' //在所有行末添加
sed '2s/原字符串/替换字符串/g' //替换第2行
sed '$s/原字符串/替换字符串/g' //替换最后一行
sed '2,5s/原字符串/替换字符串/g' //替换2到5行
sed '2,$s/原字符串/替换字符串/g' //替换2到最后一行

替换样式可以多个在同一条命令中执行,用分号”;”分隔,例如:

复制代码

代码如下:

sed 's/^/添加的头部&/g；s/$/&添加的尾部/g' //同时执行两个替换规则

sed处理过的输出是直接输出到屏幕上的,要保存可以将输出重定向,或者使用参数”i”直接在文件中替换:

复制代码

代码如下:

sed -i 's/原字符串/替换字符串/g' filename //替换文件中的所有匹配项

复制代码

代码如下:

sed -i 's/原字符串/替换字符串/g' filename //替换文件中的所有匹配项

+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++

+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++

首先是Sed里使用变量的问题

网上有人总结了四种方案：

1. eval sed 's/$a/$b/' filename

2. sed "s/$a/$b/" filename

3. .sed 's/'$a'/'$b'/' filename

4. .sed s/$a/$b/ filename

我比较喜欢第二种，也就是：Sed后面的表达式一般用单引号引起来（'），当需要使用变量时就换用双引号（"）。

关于单双引号的区别：

单引号：shell处理命令时，对其中的内容不做任何处理。即此时是引号内的内容是sed命令所定义的格式。

双引号：shell处理命令时，要对其中的内容进行算术扩展。如果想让shell扩展后得到sed命令所要的格式，使用命令：sed -n "/\\\\$/p" haha,扩展后得到的结果即\\$.

因此对于语句类似：

$Comfilename="/home/evan/sandbox/Main/"

1. echo $Comfilename | sed 's#\/#\\\/#g'

2. echo $Comfilename | sed "s#\/#\\\/#g"

第一个的结果是：\/home\/evan\/sandbox\/Main\/

而第二个还是：/home/evan/sandbox/Main/ 因为双引号会将“\/“解释为”/“，所以sed "s#\/#\\\/#g"被Shell解释成了sed s#/#\/#g 到sed里执行时又把”\/“转义为”/“了，这样相当于进行了了两次解释，就得不到想要的结果了。

这个例子告诉我当没必要用双引号的的时候就不要用，要不然说不定什么时候你就会很郁闷。当然单引号效率要比双引号高也是不要滥用双引号的原因之一。

言归正传，如何在sed的变量里使用那些特殊的需要转义的字符呢？

网上提出的一种方法是将sed里表示替换用的s后面的表示分隔用的字符换成别的变量里没有的字符这样就相当于变量里没有要转义的字符了。

如：

sed –i "s# $Comfilename#/Root/#" filename.list

这是一个好办法。但很不幸我需要的是删除“d”不是替换“s“。当我把同样的方法用于删除时似乎没有起到作用：sed –i "# $Comfilename#d" filename.list

于是只能自己手工先改写变量

$Comfilename="/home/evan/sandbox/Main/"

Tempname=` echo $Comfilename | sed 's#\/#\\\/#g'` （这里把反单引号执行的结果给临时变量，同样的方法可以改写其他需要转义的符号。）

sed –i "# $ Tempname #d" filename.list

再次感谢原作者的无私奉献。

个人笔记