Hive on spark 配置 & 踩坑记录 org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create spark client.)

Hive on Spark配置

 

兼容性说明

 

注意：官网下载的 Hive3.1.2 和 Spark3.0.0 默认是不兼容的。

因为 Hive3.1.2 支持的 Spark 版本是2.4.5，所以需要我们重新编译Hive3.1.2版本。

 

编译步骤：官网下载Hive3.1.2源码，修改pom文件中引用的Spark版本为3.0.0，如果编译通过，直接打包获取jar包。如果报错，就根据提示，修改相关方法，直到不报错，打包获取jar包。

 

在Hive所在节点部署Spark

 

如果之前已经部署了Spark，则该步骤可以跳过，但要检查 SPARK_HOME 的环境变量配置是否正确。

 

（1）Spark官网下载jar包地址：

 

http://spark.apache.org/downloads.html

 

（2）上传并解压解压spark-3.0.0-bin-hadoop3.2.tgz

 

[root@hadoop102 software]# tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module/

 

[root@hadoop102 software]#  mv /opt/module/spark-3.0.0-bin-hadoop3.2 /opt/module/spark

（3）配置SPARK_HOME环境变量

[root@hadoop102 software]# vim /etc/profile.d/my_env.sh

添加如下内容

# SPARK_HOME

export SPARK_HOME=/opt/module/spark

export PATH=$PATH:$SPARK_HOME/bin

source 使其生效

[root@hadoop102 software]#  source /etc/profile.d/my_env.sh

在hive中创建spark配置文件

[root@hadoop102 software]# vim /opt/module/hive/conf/spark-defaults.conf

添加如下内容（在执行任务时，会根据如下参数执行）

spark.master                               yarn
spark.eventLog.enabled                   true
spark.eventLog.dir                        hdfs://hadoop102:8020/spark-history
#1g 过大 300m 过小 600m √
spark.executor.memory    1g
#1g 过大 300m 过小 600m √
spark.driver.memory    1g

在HDFS创建如下路径，用于存储历史日志

[root@hadoop102 software]# hadoop fs -mkdir /spark-history

向HDFS上传Spark纯净版jar包

说明1：由于Spark3.0.0非纯净版默认支持的是hive2.3.7版本，直接使用会和安装的Hive3.1.2出现兼容性问题。所以采用Spark纯净版jar包，不包含hadoop和hive相关依赖，避免冲突。

说明2：Hive任务最终由Spark来执行，Spark任务资源分配由Yarn来调度，该任务有可能被分配到集群的任何一个节点。所以需要将Spark的依赖上传到HDFS集群路径，这样集群中任何一个节点都能获取到。

（1）上传并解压spark-3.0.0-bin-without-hadoop.tgz

[root@hadoop102 software]# tar -zxvf /opt/software/spark-3.0.0-bin-without-hadoop.tgz

（2）上传Spark纯净版jar包到HDFS

[root@hadoop102 software]# hadoop fs -mkdir /spark-jars

[root@hadoop102 software]# hadoop fs -put spark-3.0.0-bin-without-hadoop/jars/* /spark-jars

修改hive-site.xml文件

[root@hadoop102 ~]# vim /opt/module/hive/conf/hive-site.xml

添加如下内容

 

<!--Spark依赖位置
（注意：端口号8020必须和namenode的端口号一致）-->
<property>
    <name>spark.yarn.jars</name>
    <value>hdfs://hadoop106:8020/spark-jars/*</value>
</property>

<!--Hive执行引擎-->
<property>
    <name>hive.execution.engine</name>
    <value>spark</value>
</property>

<!--Hive和Spark连接超时时间-->
<property>
    <name>hive.spark.client.connect.timeout</name>
    <value>100000ms</value>
</property>

注意：hive.spark.client.connect.timeout的默认值是1000ms，如果执行hive的insert语句时，抛如下异常，可以调大该参数到10000ms

 

坑一 

Failed to execute spark task, with exception 'org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create spark client.)'
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.spark.SparkTask

yarn 配置的最大内存小于 spark 配置的内存

vim /opt/module/hadoop/etc/hadoop/yarn-site.xml

<!--Hive查询时，报错java.lang.OutOfMemoryError: Java heap space-这种情况属于 JVM 堆内存溢出了，在y arn-site.xml 文件中添加如下代码-->
<property>
<name>yarn.scheduler.maximum-allocation-mb</name>
<value>20480</value> 
<!-- 2g -> 20g -->
</property>

vim /opt/module/hive/conf/spark-defaults.conf 

spark.executor.memory    1g ×
spark.executor.memory    600m √

xsync /opt/module/hive/conf/spark-defaults.conf 

坑二

ERROR [cd09b5ce-a108-4b6c-963b-2f993728ec9b main] spark.SparkTask: Failed to execute spark task, with exception 'java.lang.Exception(Failed to submit Spark work, please retry later)'

 java.lang.IllegalStateException: RPC channel is closed.

spark.executor.memory    300m ×

spark.executor.memory    600m √
xsync /opt/module/hive/conf/spark-defaults.conf 

坑三

FAILED: SemanticException Failed to get a spark session: org.apache.hadoop.hive.ql.metadata.HiveException: Failed to create Spark client for Spark session d9e0224c-3d14-4bf4-95bc-ee3ec56df48e

vim  /opt/module/spark-yarn/conf/spark-env.sh

export SPARK_DIST_CLASSPATH=$(hadoop classpath);

坑四

Failed to execute spark task, with exception 'org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create Spark client for Spark session 348a2e06-5dfc-4956-a243-9e6d2da3fa11)'
FAILED: Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask. Failed to create Spark client for Spark session 348a2e06-5dfc-4956-a243-9e6d2da3fa11

1.Spark没有启动；
需在/opt/module/spark路径下输入以下内容启动spark：
[root@hadoop102 spark]# ./sbin/start-all.sh
2.Spark和hive版本不匹配，我的是匹配的；

3.内存资源不足，导致hive连接spark客户端超时。
原文链接：https://blog.csdn.net/FunnyPrince_/article/details/120616109