处理文本的一些小的技巧
grep 精准过滤
[root@t0 test]# cat grep.txt
192.168.1.20
test01
192.168.1.2
test02
192.168.1.201
test03
有如上面的文件,我们准备过滤192.168.1.2这个字符串
[root@t0 test]# grep 192.168.1.2 grep.txt 192.168.1.20 192.168.1.2 192.168.1.201
匹配出来的结果并不精确,那么如果我们想精确匹配的话
[root@t0 test]# grep -w 192.168.1.2 grep.txt 192.168.1.2
合并文本中的行
第一种:隔行合并
[root@t0 test]# cat grep.txt 192.168.1.20 test01 192.168.1.2 test02 192.168.1.201 test03
要求将文本内容处理为:
[root@t0 test]# cat grep.txt 192.168.1.20 test01 192.168.1.2 test02 192.168.1.201 test03
(中间以制表符分隔)
方法一:
[root@t0 test]# sed -n '{N;s/\n/\t/p}' grep.txt 192.168.1.20 test01 192.168.1.2 test02 192.168.1.201 test03
方法二:
[root@t0 test]# awk '{tmp=$0;getline;print tmp"\t"$0}' grep.txt 192.168.1.20 test01 192.168.1.2 test02 192.168.1.201 test03
方法三: 借用一下宏录制功能, normal状态下 qaJjq 实现录制, 然后在合适的区域重复执行n遍,这里2遍即可,normal状态下2@a
方法四:命令状态下 :1,4g/^/ join 增加了g过滤后,合并变成了隔行处理
替换所有的话就是 %g/^/ join
第二种:
多行合并成一行,即:
AAAAA
BBBBB
CCCCC
合并为:
AAAAA BBBBB CCCCC
方法1: normal状态下 3J 其中的3是范围,可以是书签或者搜索位置等方式实现,J为合并
注: 如果改为3gJ的话,则合并时各行没有空白AAAAABBBBBCCCCC, 下面方法类似,不再重复这两种合并方式的区别.
方法2: 命令状态下 :1,3 join 或 :1,3 j
方法3: 传统一点的,替换换行符的方式,为避免最后一行也被换掉,范围缩小了,命令状态下 :1,2s/\n/ /
sed在行首或者行尾添加内容
用sed命令在行首或行尾添加字符的命令有以下几种:
假设处理的文本为test.file
在每行的头添加字符,比如"HEAD",命令如下:
sed 's/^/HEAD&/g' test.file
在每行的行尾添加字符,比如“TAIL”,命令如下:
sed 's/$/&TAIL/g' test.file
运行结果如下图:
几点说明:
1."^"代表行首,"$"代表行尾
2.'s/$/&TAIL/g'中的字符g代表每行出现的字符全部替换,如果想在特定字符处添加,g就有用了,否则只会替换每行第一个,而不继续往后找了
例:
3.如果想导出文件,在命令末尾加"> outfile_name";如果想在原文件上更改,添加选项"-i",如
4.也可以把两条命令和在一起,在test.file的每一行的行头和行尾分别添加字符"HEAD"、“TAIL”,命令:sed '/./{s/^/HEAD&/;s/$/&TAIL/}' test.file
以上其实都还OK,昨天花太多时间,主要因为被处理的文件是用mysql从数据库提取的结果导出来的,别人给我之后我就直接处理,太脑残了= -我一直有点怀疑之所以结果不对,有可能是windows和linux换行的问题,可是因为对sed不熟,就一直在搞sed。。。。。。。
众所周知(= -),window和linux的回车换行之云云,如果你知道了,跳过这一段,不知道,读一下呗:
Unix系统里,每行结尾只有“<换行>”,即“\n”;Windows系统里面,每行结尾是“<换行><回 车>”,即“\n\r”。一个直接后果是,Unix系统下的文件在Windows里打开的话,所有文字会变成一行;而Windows里的文件在Unix下打开的话,在每行的结尾可能会多出一个^M符号。
好了,所以我的问题就出在被处理的文件的每行末尾都有^M符号,而这通常是看不出来的。可以用"cat -A test.file"命令查看。因此当我想在行尾添加字符的时候,它总是添加在行首且会覆盖掉原来行首的字符。
要把文件转换一下,有两种方法:
1.命令dos2unix test.file
2.去掉"\r" ,用命令sed -i 's/\r//' test.file
好了,这样处理完,就OK啦!!!
2、打印第几行到第几行之间
cat 1 | awk 'NR==2,NR==4{print}'
linux vim 查找或替换空格
1. 匹配1到多个空格
/\s\+
2. 替换一个或多个空格,替换为逗号,
:%s/\s\+/,/g
3. 替换一个或多个空格,替换为换行符
:%s/\s\+/\r/g
简单解释一下:
%s :在整个文件范围查找替换(或者使用1,$s 也是整个文件范围查找)
/ :分隔符
+ : +表示重复1次或多次,加在一起表示一个或多个空格。
\r :换行符
/g :全局替换
4. 删除文章中的空行
:g/^s*$/d
简单解释一下:
g :全区命令
/ :分隔符
^s*$ :匹配空行,其中^表示行首,s表示空字符,包括空格和制表符,*重复0到n个前面的字符,$表示行尾。连起来就是匹配只有空字符的行,也就是空行。
/d :删除该行
sed
-i
'/aaa/{:a;n;s/123/xyz/g;/eee/!ba}'
yourfile
如题:
aaa
123
123
123
123
123
eee
怎么匹配aaa~eee(开始结束字符串确定),然后替换123这样的
先匹配aaa,匹配到后执行大括号里的语句。
n 读取下一行
s/123/xyz/g 将123替换为xyz,全局替换,同一行中出现几次替换几次
:a 设定跳转标签a
/eee/!ba 若当前行匹配不上eee,则跳转到标签a处继续执行,构成一个循环。若匹配到eee,则退出循环,sed重新对读入的每行匹配aaa。
由于sed没有加-n静默选项,所以默认对每行数据处理后都打印。
其中:a和!ba中的a是可以随意改变的,其中的b是不可改变的.
linux很多命令行的快捷方式可以更快捷的输入指令,以及一些小技巧
table 可以补全命令
ctrl+p/上箭头 命令向上翻滚
ctrl+n/下箭头 命令向下翻滚
ctrl+a 光标跳到开头
ctrl+e 光标跳到结尾
ctrl+u 删除光标前面的
ctrl+k 删除光标后面的
ctrl+r 搜索命令,非常实用,若有多个匹配,再按ctrl+r会匹配前一个
ctrl+l 清屏
ctrl+w 清除当前行
ctrl+左右箭头 向左/右移动一个单词
^abc 删除上一条命令中的abc。
^foo^bar 将上一条命令中的 foo 替换为 bar
secureCRT会将你原来的文本原封不动的按照字符串的样式发送给服务器。所以当你的服务器上的vim设置为autoindent的话,在i模式下,那么它会将secureCRT传输而来的这些字符串再进行一下缩进。若你拷贝的文本中已经有表示缩进的空格或者制表符的话,它们也会被当成字符串,而被缩进。
解决办法:
1. 在拷贝前输入:set paste (这样的话,vim就不会启动自动缩进,而只是纯拷贝粘贴)
2. 拷贝完成之后,输入:set nopaste (关闭paste)
附 paste 知识
'paste' 布尔型 (缺省关闭)
全局 {Vi 无此功能}
将 Vim 切换到粘贴模式。可用于从一个窗口剪切或复制文本并粘贴到 Vim。它的使用会避免一些意想不到的效果。设置此选项可用于终端上运行的 Vim,因为那里 Vim 没法区别输入和粘贴的文本。在 GUI 里,Vim 知道何者来自粘贴,即使不打开 'paste' 也基本上不会做错。对 Vim 能自己处理鼠标点击的终端也是如此。
启动 GUI 时复位本选项。所以如果你在 .vimrc 里置位它,可以使它在终端里工作,但不是在 GUI 里。在 GUI 里置位 'paste' 有副作用: 例如,Paste 工具栏按钮在插入模式下不能工作,因为它使用了映射。
打开 'paste' 选项时 (包括它本来就是打开的也会如此):
- 屏蔽插入模式和命令行模式的映射
- 屏蔽缩写
- 'textwidth' 设为 0
- 'wrapmargin' 设为 0
- 'autoindent' 被复位
- 'smartindent' 被复位
- 'softtabstop' 设为 0
- 'revins' 被复位
- 'ruler' 被复位
- 'showmatch' 被复位
- 'formatoptions' 的使用方式就像它为空一样
下面这些选项保持原来的值,但没有实际的效果:
- 'lisp'
- 'indentexpr'
- 'cindent'
注意: 打开 'paste' 选项时如果你开始编辑别的文件,模式行或者自动命令可能会再次改变这些设置,从而在粘贴文本时造成麻烦。这时,你可能需要再次置位 'paste' 选项。
'paste' 选项复位时,上面提到的选项被复原为上次 'paste' 从关到开时的设置。置位 'paste' 之前复位 'paste' 没有任何效果。因为 'paste' 激活时不能用映射,'pastetoggle' 选项可以用来指定切换 'paste' 选项的热键。