yarn的hive作业卡住

01/24晚业务侧反应有一个应该白天完成的作业一直跑到了十点多还没结束,立即检查了yarn监控页面,并未发现资源(包括vcore及队列资源等)不足的情况
查看作业的详细日志,发现作业卡在三点多一直并未更新
 
查看作业ApplicationMaster,发现mapreduce已经成功跑完,怀疑表有锁
经查看,这个作业插入数据的表有锁, 使用unlock table tablename对表解锁后,该作业仍然卡住
查看主机,将作业相对应的am kill掉,该作业消失,该业务又重新跑了新的作业并顺利完成所有作业,最终该表内插入数据七十多万条,但不清楚是接着跑了还是重新跑,当日数据可能有重复部分,已跟业务建议当天作业重新跑
 
锁表原因多为操作冲突造成,Hive的锁有两个Lock方式,一个是Shared (S) 共享表,另一个是Exclusive (X) 独享表、排他表,目前正与业务侧排查锁表原因
posted @ 2022-02-23 13:48  Harda  阅读(377)  评论(0编辑  收藏  举报