Linux三剑客之sed
工作原理
sed是Stream Editor（流编辑器）的缩写，简称（行）流编辑器；用来处理文件的。
- 首先sed读取文件中的一行内容，把其保存在一个临时内存空间中（也称为模式空间）；
- 然后根据需求处理临时缓冲区中的行，完成后把该行发送到屏幕上；
- 默认不编辑源文件，只对模式空间做处理。（由于sed把每一行都存在临时缓冲区中，对这个副本进行编辑，所以不会直接修改源文件）
格式
sed [options] 'AddressCommand' file …
选项(options)
用来指定sed的行为方式，如是否显示未修改的行等。
| 参数 | 含义 |
|---|---|
| -e | 以选项中指定的script来处理输入的文本文件。 |
| -f | 以选项中指定的script文件来处理输入的文本文件。 |
| -h | 显示帮助。 |
| -n | 仅显示符合条件的行，静默模式。 默认不符和条件的也会打印出来 |
| -V | 显示版本信息。 |
| -r | 使用扩展正则表达式 |
| -i | 修改源文件 |
| -f FILE | 指定sed脚本的文件名 |
| -e | 可以执行多个脚本 |
指令（Address+Command）：
这是sed命令的核心，用于定义要执行的操作。
指令通常包含以下元素：
- 地址（Address）：指定要应用指令的行。可以是行号、正则表达式或$（表示最后一行）。
- 动作（Command）：对选定的行执行的操作，如s（替换）、d（删除）、a（添加）、i（在行前插入）等。
地址和动作
地址（Address）
- Startline,endline
1，100
$：表示最后一行 - 正则表达式指定的模式定义,模式匹配需要双斜线。
/^root/
/模式1/,/模式2/ - 指定的行
startline, +N
从startline开始，向后的N行。
动作（Command）
| 参数 | 含义 |
|---|---|
| a | 新增， 在指定的行后追加新的行(目前的下一行) |
| c | 取代， 的后面可以接字串，这些字串可以取代 n1,n2 之间的行！ |
| d | 删除符合条件的行 |
| i | 插入，在指定的行前面添加新的行(目前的上一行)； |
| p | 打印，显示符合条件的行。通常p会与参数sed -n 一起运行 |
| s | 取代，查找并替换，可使用正则表达式。/查找内容/替换成的内容/ |
| r FILE | 将指定文件的内容追加至符合条件的行处 |
| w FILE | 将指定范围内的内容另存至指定的文件中 |
用法
- sed替换标记
s：表示search搜索；
\n：换行符
\：转译符
g：表示全局替换，每一行中的所有匹配字符串进行替换（修饰符）
p：表示打印行。
w：表示把行写入一个文件。
x：表示互换模板块中的文本和缓冲区中的文本。
y：表示把一个字符翻译为另外的字符（但是不用于正则表达式）
\1：子串匹配标记
&：已匹配字符串标记
- sed元字符集
在 sed 流编辑器中，元字符集（也称为字符类或字符集）是一种特殊的正则表达式构造，用于匹配一组特定的字符。
.（点）：匹配任意单个字符（换行符除外）。如：/s.d/匹配s后接一个任意字符，最后是d。
^：匹配输入字符串的开始位置。当在字符类中使用时，它表示不接受该字符集中的任何字符。如：/^sed/匹配所有以sed开头的行。
$：匹配输入字符串的结束位置。如：/sed$/匹配所有以sed结尾的行。
[]（方括号）：匹配方括号内的任意字符。例如，[abc] 匹配 "a"、"b" 或 "c"。
[^] 或 [!]：匹配除了方括号内字符集中的字符之外的任意字符。
()（圆括号）：在扩展正则表达式（ERE）中，用于分组。在基本正则表达式（BRE）中，sed 不支持圆括号分组，但可以通过 -E 选项启用ERE。
|（竖线）：在ERE中，用作选择操作符，表示逻辑“或”。在BRE中，需要使用 \|。
*（星号）：在BRE中，表示前面的字符可以出现零次或多次。在ERE中，* 有懒惰匹配的特性，匹配尽可能少的字符。
+（加号）：在ERE中，表示前面的字符至少出现一次。在BRE中，需要使用 \+。
?（问号）：在ERE中，表示前面的字符出现零次或一次。在BRE中，需要使用 \?。
{n}：在ERE中，表示前面的字符恰好出现 n 次。在BRE中不支持。
{n,}：在ERE中，表示前面的字符至少出现 n 次。
{n,m}：在ERE中，表示前面的字符至少出现 n 次，但不超过 m 次。在BRE中不支持。
\(..\)： 匹配子串，保存匹配的字符，如s/\(love\)able/\1rs，loveable被替换成lovers。
&： 保存搜索字符用来替换其他字符，如s/love/**&**/，love这成**love**。
\< ：匹配单词的开始，如:/\<love/匹配包含以love开头的单词的行。
\> ：匹配单词的结束，如/love\>/匹配包含以love结尾的单词的行。
x\{m\} ：重复字符x，m次，如：/0\{5\}/匹配包含5个0的行。
x\{m,\} ：重复字符x，至少m次，如：/0\{5,\}/匹配至少有5个0的行。
x\{m,n\} ：重复字符x，至少m次，不多于n次，如：/0\{5,10\}/匹配5~10个0的行。
1、搜索替换操作 （ S ）
sed 选项 's/搜索的内容/替换的内容/动作' filename
注意：
- 正则表达式必须以"/"前后规范间隔
s后边以/、#、@作为分隔符
s///
s@@@
s###
- 在正则表达式中如果出现特殊字符(^$.*/[]),需要反斜杠做转义
- -ni选项不要一起使用
- p命令不要再使用-i时使用
案例
- 替换操作
替换文本中的字符串：
sed 's/book/books/' file
-n选项和p命令一起使用表示只打印那些发生替换的行
sed -n 's/test/TEST/p' file
直接编辑文件选项-i，匹配每一行的所有book进行替换
sed -i 's/book/books/g' file
直接编辑文件选项-i，会匹配file文件中每一行的第一个book替换为books：
sed -i 's/book/books/' file
sed -i 's/#PermitRootLogin prohibit-password/PermitRootLogin yes/' /usr/etc/sshd_config
- 定界符
以上命令中字符 / 在sed中作为定界符使用，也可以使用任意的定界符：
sed 's:test:TEXT:g'
sed 's|test|TEXT|g'
定界符出现在样式内部时，需要进行转义：
sed 's/\/bin/\/usr\/local\/bin/g'
- 删除操作
删除空白行：
sed '/^$/d' file
删除文件的第2行：
sed '2d' file
删除文件的第2行到末尾所有行：
sed '2,$d' file
删除文件最后一行：
sed '$d' file
删除文件第1行
sed '1d' a.txt
删除文件中所有开头是test的行：
sed '/^test/'d file
- 增加
i 地址定位的上面插入
a 下面插入
sed '$a99999' a.txt 文件最后一行下面增加内容
sed 'a99999' a.txt 文件每行下面增加内容
sed '5a99999' a.txt 文件第5行下面增加内容
sed '$i99999' a.txt 文件最后一行上一行增加内容
sed 'i99999' a.txt 文件每行上一行增加内容
sed '6i99999' a.txt 文件第6行上一行增加内容
sed '/^uucp/ihello' 以uucp开头行的上一行插入内容
- 从文件读入：r命令
file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面：
sed '/test/r file' filename
- 写入文件：w命令
在example中所有包含test的行都被写入file里：
sed -n '/test/w file' example
- 追加（行下）：a\命令
将 this is a test line 追加到 以test 开头的行后面：
sed '/^test/a\this is a test line' file
在 test.conf 文件第2行之后插入 this is a test line：
sed -i '2a\this is a test line' test.conf
- 插入（行上）：i\命令
将 this is a test line 追加到以test开头的行前面：
sed '/^test/i\this is a test line' file
在test.conf文件第5行之前插入this is a test line：
sed -i '5i\this is a test line' test.conf
- 已匹配字符串标记&
正则表达式 \w\+ 匹配每一个单词，使用 [&] 替换它，& 对应于之前所匹配到的单词：
echo this is a test line | sed 's/\w\+/[&]/g'
[this] [is] [a] [test] [line]
所有以192.168.0.1开头的行都会被替换成它自已加localhost：
sed 's/^192.168.0.1/&localhost/' file
192.168.0.1localhost
- 子串匹配标记\1
匹配给定样式的其中一部分：
echo this is digit 7 in a number | sed 's/digit \([0-9]\)/\1/'
this is 7 in a number
命令中 digit 7，被替换成了 7。样式匹配到的子串是 7，\(..\) 用于匹配子串，对于匹配到的第一个子串就标记为 \1，依此类推匹配到的第二个结果就是 \2，例如：
echo aaa BBB | sed 's/\([a-z]\+\) \([A-Z]\+\)/\2 \1/'
BBB aaa
love被标记为1，所有loveable会被替换成lovers，并打印出来：
sed -n 's/\(love\)able/\1rs/p' file
- 组合多个表达式
sed '表达式' | sed '表达式'
等价于：
sed '表达式; 表达式'
- 引用
sed表达式可以使用单引号来引用，但是如果表达式内部包含变量字符串，就需要使用双引号。
test=hello
echo hello WORLD | sed "s/$test/HELLO"
HELLO WORLD
- 选定行的范围：,（逗号）
所有在模板test和check所确定的范围内的行都被打印：
sed -n '/test/,/check/p' file
打印从第5行开始到第一个包含以test开始的行之间的所有行：
sed -n '5,/^test/p' file
对于模板test和west之间的行，每行的末尾用字符串aaa bbb替换：
sed '/test/,/west/s/$/aaa bbb/' file
- 多点编辑：e命令
-e选项允许在同一行里执行多条命令：
sed -e '1,5d' -e 's/test/check/' file
上面sed表达式的第一条命令删除1至5行，第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。
和 -e 等价的命令是 --expression：
sed --expression='s/test/check/' --expression='/love/d' file
- 下一个：n命令
如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续：
sed '/test/{ n; s/aa/bb/; }' file
- 变形：y命令
把1~10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令：
sed '1,10y/abcde/ABCDE/' file
- 退出：q命令
打印完第10行后，退出sed
sed '10q' file
- 保持和获取：h命令和G命令
在sed处理文件的时候，每一行都被保存在一个叫模式空间的临时缓冲区中，除非行被删除或者输出被取消，否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空，并存入新的一行等待处理。
sed -e '/test/h' -e '$G' file
在这个例子里，匹配test的行被找到后，将存入模式空间，h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是，当到达最后一行后，G命令取出保持缓冲区的行，然后把它放回模式空间中，且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说，任何包含test的行都被复制并追加到该文件的末尾。
- 保持和互换：h命令和x命令
互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换：
sed -e '/test/h' -e '/check/x' file
- 脚本scriptfile
sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行。
sed [options] -f scriptfile file(s)
- 打印奇数行或偶数行
方法1：
sed -n 'p;n' test.txt #奇数行
sed -n 'n;p' test.txt #偶数行
方法2：
sed -n '1~2p' test.txt #奇数行
sed -n '2~2p' test.txt #偶数行
- 打印匹配字符串的下一行
grep -A 1 SCC URFILE
sed -n '/SCC/{n;p}' URFILE
awk '/SCC/{getline; print}' URFILE
参考
