Hive任务执行报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
报错内容如下
com.cloudera.hiveserver2.support.exceptions.GeneralException: [Cloudera][HiveJDBCDriver](500051) ERROR processing query/statement. Error Code: 2, SQL state: Error while processing statement: FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask, Query: select count(*) from (select msisdn, row_number() over (partition by msisdn) rn from (select msisdn from (select msisdn_a msisdn from db_der.zb_m_cbesim010 ...
这个错误是 map 内存不足导致的,在执行一些hivesql 的时候建议还是设置一些内存参数
set mapreduce.map.memory.mb=4096; --设置map内存 set yarn.scheduler.minimum-allocation-mb=4096; --设置yarn容器最小内存 set mapreduce.map.java.opts=-Xmx3600m; --如果有gc异常可以设置该参数
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· 一文读懂知识蒸馏
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
2020-10-12 Hadoop 学习笔记(八)HDFS 数据的读写
2020-10-12 Hadoop 学习笔记(七)HDFS 客户端操作(下)