CDH6.3.2升级Hive到4.0.0
升级目的:为上层开发,提供统一元数据服务并能通过hive操作kudu表,kylin可以通过hive对在kudu中的数据做分析
面临问题:hive4.0之前hive没有KuduStorageHandler机制,需要hive和kudu整合功能而升级,但是github上官方开源的代码看该模块代码没完成。所以需要自己提供实现或等官方发布,为了满足当下需求,羚羊选择了自己实现
1、备份原元数据
1 | mysqldump -uroot -pxxxxxx metastore > ./metastore.sql |
2、解压备好的hive安装包
1 2 | cd /opt/cloudera tar -xvf apache-hive-4.0.0-SNAPSHOT-bin.tar.gz |
3、原hive安装目录下创建lib400目录
1 2 | cd /opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/lib/hive mkdir lib400 |
4、拷贝hive新版本lib到lib400目录下(只替换hive开头的jar包,其他jar包不要替换,其中hive-exec-2.1.1-cdh6.3.2.jar不要换)
1 | cp -r /opt/cloudera/apache-hive-4.0.0-SNAPSHOT-bin/lib/* /opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/lib/hive/lib400 |
5、CM中停掉hive,及hive相关的服务
6、 修改hive启动文件,调用lib400的jar包
1 | vim /opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/lib/hive/bin/hive<br>/HIVE_LIB |
同步lib和hive脚本文件到所有节点
1 2 | scp -P41121 -r lib400/ hadoop@10.111.15.164:/opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/lib/hive/ scp -P41121 -r hive hadoop@10.111.15.164:/opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/lib/hive/bin |
7、各节点创建软链接
1 | ln -s /opt/cloudera/parcels/CDH/lib/hive/lib400/jline-2.14.6.jar /opt/cloudera/parcels/CDH/lib/hadoop-yarn/lib/jline-2.12.jar |
升级元数据库 metastore到hive4.0.0
1 2 3 4 5 6 | source /data/metastore-backup/mysql/upgrade-2.1.0-to-2.2.0.mysql.sql source /data/metastore-backup/mysql/upgrade-2.2.0-to-2.3.0.mysql.sql source /data/metastore-backup/mysql/upgrade-2.3.0-to-3.0.0.mysql.sql source /data/metastore-backup/mysql/upgrade-3.0.0-to-3.1.0.mysql.sql source /data/metastore-backup/mysql/upgrade-3.1.0-to-3.2.0.mysql.sql source /data/metastore-backup/mysql/upgrade-3.2.0-to-4.0.0.mysql.sql |
7、CM中再启动hive
8、查看hive版本
1 | hive -version |
需要源码的朋友可以私信
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火,是硬核还是营销?
· 一文读懂知识蒸馏
· 终于写完轮子一部分:tcp代理 了,记录一下