tidb通过dumpling导出csv load导入
环境:centos7、tidb3.0
1、下载dumpling 工具
1 2 | 链接: https: //pan.baidu.com/s/1u-UV3MSPGBE2JXnExiKAaQ 提取码: c2jk tar -xvf dumpling-nightly-linux-amd64.tar.gz |
2、使用dumpling导出sql查询为csv格式
1 2 3 4 5 6 7 8 9 10 | ./dumpling -h 172.21.136.198 -P 4000 -u root -p "passwd" -o /tmp/test --filetype csv --sql 'select * from rkw_ezc_prod.wpt_dzxx_dzsxb limit 2' --参数解析 -u root \ --指定用户 -P 4000 \ --指定端口 -h 127.0.0.1 \ --指定ip -o /tmp/test \ -- 用于选择存储导出文件的目录 -r 1000 -- 选项用于指定单个文件的最大记录数(或者说,数据库中的行数) --filetype csv \ -- 导出格式还可以为filetype sql -F $(( 1024 * 1024 * 256 )) --选项用于指定单个文件的最大大小(和 MyDumper 不同,这里的单位是字节) --sql 'select * from `test`.`sbtest1` where id < 100' |
3、导出文件在目录/tmp/test
1 2 3 4 5 6 7 8 9 10 | [root@tidb-22 test]# ll --总共两个文件 total 662172 -rwxr-xr-x 1 root root 140 Aug 18 16:10 metadata -rwxr-xr-x 1 root root 678058615 Aug 18 16:10 result.0.csv [root@tidb-22 test]# more metadata --导出数据信息 Started dump at: 2020-08-18 16:09:43 SHOW MASTER STATUS: Log: tidb-binlog Pos: 418837478338461699 Finished dump at: 2020-08-18 16:10:28 |
4、删除首行的标题行
1 2 3 | [root@tidb-22 test]# head -n 1 result.0.csv --首行为标题头进行删除 "DZMC" , "MLDZID" , "MPZBX" , "MPZBY" , "SFSCFW" , "XQID" , "XQMC" , "JLXDM" , "JLXMC" , "ZRQDM" , "PCSDM" , "XT_ZXBZ" , "XT_TIMESTAMP" [root@tidb-22 test]# sed -i '1d' result.0.csv |
5、确定csv是否是需要的导入文件,并使用load导入
1 2 3 | 1、登录数据库 2、导入csv LOAD DATA local infile 'result.0.csv' INTO TABLE rkw_ezc_prod.wpt_dzxx_dzsxb_20200817 FIELDS TERMINATED BY ',' ENCLOSED BY '"' LINES TERMINATED BY '\n' ; |
做一个决定,并不难,难的是付诸行动,并且坚持到底。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛(1)