split拆分大文件

最近有一个比较大的文件总行数3.5亿行,数据内容要规律,需要导入到mysql中

1
2
[t1@test01 tmp]# wc -l  winter1224.txt
356336714 winter1224.txt

 如果直接导入,有搞垮数据库的风险,现通过split将其拆分为10个不同的文件

具体命令

1
split -l 30000000 -d winter1224.txt winter1224_

  

1
2
3
说明: -l 代表行数
 
           -d 代表以数字做为后缀

 

执行后结果如下:

1
2
3
[t1@test01 tmp]$ ls
winter1224_01  winter1224_03  winter1224_05  winter1224_07  winter1224_09  winter1224_11
winter1224_00     winter1224_02  winter1224_04  winter1224_06  winter1224_08  winter1224_10  winter1224.txt

  

验证结果:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
[t1@test01 tmp]$ wc -l winter1224_*
   30000000 winter1224_00
   30000000 winter1224_01
   30000000 winter1224_02
   30000000 winter1224_03
   30000000 winter1224_04
   30000000 winter1224_05
   30000000 winter1224_06
   30000000 winter1224_07
   30000000 winter1224_08
   30000000 winter1224_09
   30000000 winter1224_10
   26336714 winter1224_11
  356336714 total
[t1@test01 tmp]$ wc -l winter1224.txt
356336714 winter1224.txt

 文件行数一致。完成ok。

 

posted @   MR__Wang  阅读(182)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
阅读排行:
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 零经验选手,Compose 一天开发一款小游戏!
· 因为Apifox不支持离线,我果断选择了Apipost!
· 通过 API 将Deepseek响应流式内容输出到前端
历史上的今天:
2019-12-26 redis集群配置与管理
2018-12-26 npm太慢, 淘宝npm镜像使用方法
点击右上角即可分享
微信分享提示