Hive集成Atlas增量导入元数据失效问题
一、Hive客户端报错内容
22/06/08 11:49:04 WARN clients.NetworkClient: [Producer clientId=producer-1] Bootstrap broker xxx.xxx.xx.xxx:9092 (id: -1 rack: null) disconnected
大致的原因就是Kafka连接不上
二、定位问题
找了半天,最后检查Kafka也是没有什么问题的,原因在于之前修改了atlas配置文件,添加了kafka的sasl验证,而Hive的lib目录下的atlas-hive-plugin-impl/atlas-intg-2.1.0.jar 包中保存的配置文件又是旧的,所以自然就会报错
三、解决
将最新的atlas-application.properties重新压至atlas-intg-2.1.0.jar包即可,压缩命令如下:
zip -u atlas/hook/hive/atlas-hive-plugin-impl/atlas-intg-2.1.0.jar atlas-application.properties
完成之后再将atlas/hook/hive/目录下的所有文件拷贝至Hive的lib目录
cp -r atlas/hook/hive/* /opt/cloudera/parcels/CDH/lib/hive/lib
四、最后测试,发现Kafka的ATLAS_HOOK出现数据,Atlas也能查询出增量导入的元数据
分类:
实时数仓报错日志分析
, Apache组件使用知识
标签:
Apache组件使用
, 实时数仓报错日志分析
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本