split拆分大文件
最近有一个比较大的文件总行数3.5亿行,数据内容要规律,需要导入到mysql中
1 2 | [t1@test01 tmp]# wc -l winter1224.txt 356336714 winter1224.txt |
如果直接导入,有搞垮数据库的风险,现通过split将其拆分为10个不同的文件
具体命令
1 | split -l 30000000 -d winter1224.txt winter1224_ |
1 2 3 | 说明: -l 代表行数 -d 代表以数字做为后缀 |
执行后结果如下:
1 2 3 | [t1@test01 tmp]$ ls winter1224_01 winter1224_03 winter1224_05 winter1224_07 winter1224_09 winter1224_11 winter1224_00 winter1224_02 winter1224_04 winter1224_06 winter1224_08 winter1224_10 winter1224.txt |
验证结果:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 | [t1@test01 tmp]$ wc -l winter1224_* 30000000 winter1224_00 30000000 winter1224_01 30000000 winter1224_02 30000000 winter1224_03 30000000 winter1224_04 30000000 winter1224_05 30000000 winter1224_06 30000000 winter1224_07 30000000 winter1224_08 30000000 winter1224_09 30000000 winter1224_10 26336714 winter1224_11 356336714 total [t1@test01 tmp]$ wc -l winter1224.txt 356336714 winter1224.txt |
文件行数一致。完成ok。
分类:
linux shell
, linux
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 零经验选手,Compose 一天开发一款小游戏!
· 因为Apifox不支持离线,我果断选择了Apipost!
· 通过 API 将Deepseek响应流式内容输出到前端
2019-12-26 redis集群配置与管理
2018-12-26 npm太慢, 淘宝npm镜像使用方法