sqoop将数据的导入和导出
1. 在mysql中创建表
2. 导入hdfs中
# 将表student导入hdfs中 sqoop import --connect jdbc:mysql://node1:3306/shixun?serverTimezone=UTC --username root --password Jsq123456... --table student --target-dir /student --delete-target-dir --num-mappers 1 --fields-terminated-by ","
3. 通过sql语句导入hdfs中
# 通过sql将数据导入hdfs中 sqoop import --connect jdbc:mysql://node1:3306/shixun?serverTimezone=UTC --username root --password Jsq123456... --query "select * from student where sname='zs' and \$CONDITIONS" --target-dir /student --delete-target-dir --num-mappers 1 --fields-terminated-by ","
4. 导入hive中
sqoop import --connect jdbc:mysql://node1:3306/shixun?serverTimezone=UTC --username root --password Jsq123456... --table student --num-mappers 1 --hive-import --fields-terminated-by "\t" --hive-overwrite --hive-table test.student;
5. 将HDFS、Hive中的数据 导出到MySQL数据库中
注意: 1. double对应的时候,不对应double,对应varchar 2. hive中的路径必须存在,数据必须存在 sqoop export --connect "jdbc:mysql://node1:3306/shixun?serverTimezone=UTC&useUnicode=true&characterEncoding=utf-8" --username root --password Jsq123456... --table dept --num-mappers 1 --export-dir "/user/hive/warehouse/test.db/dept" --input-fields-terminated-by ","
6. 通过命令 导文件中的命令
sqoop --options-file 文件名.opt
本文来自博客园,作者:jsqup,转载请注明原文链接:https://www.cnblogs.com/jsqup/p/16551582.html
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· 三行代码完成国际化适配,妙~啊~
· .NET Core 中如何实现缓存的预热?