Centos文件切割利器_split命令及cat命令合并文件

有个文件要处理,因为很大,所以想把它切成若干份,每份N行,以便并行处理。split命令可以将一个大文件分割成很多个小文件,有时需要将文件分割成更小的片段,为提高可读性,生成日志等

命令格式

  • -b:值为每一输出档案的大小,单位为 byte。
  • -C:每一输出档中,单行的最大 byte 数。
  • -d:使用数字作为后缀。
  • -l:值为每一输出档的列数大小。

测试

环境:Centos 6.5  测试文件:test.txt(大小493257字节,行数4545行)

①按行数分割

# split -l 1000 test.txt new_test.txt  //文件一共4545行,按每个文件1000行分割,那么生成5个文件
# ls
new_test.txtaa  new_test.txtab  new_test.txtac  new_test.txtad  new_test.txtae  test.txt       //分别以a、b、c、d、e结尾

加上-d,使用数字后缀;加上--verbose,显示分割进度(可有可无)

# split -l 1000 -d test.txt new_test.txt --verbose
creating file `new_test.txt00'
creating file `new_test.txt01'
creating file `new_test.txt02'
creating file `new_test.txt03'
creating file `new_test.txt04'
# ls
new_test.txt00  new_test.txt01  new_test.txt02  new_test.txt03  new_test.txt04  test.txt  //结尾分别00、01、02、03、04

② 按字节大小分割

# split -b 100k -d test.txt new_test.txt  //文件一共400多K,每个100K,所以分割五份

 

 

cat命令合并以上分割文件

# cat new_test.txt* > merge_file.txt

执行完毕,查看文件大小,与源文件大小一致。

 

posted @ 2018-02-05 10:24  温柔的风  阅读(2294)  评论(0编辑  收藏  举报