摘要:
基于ZooKeeper搭建Spark高可用集群 一、集群规划 二、前置条件 三、Spark集群搭建 3.1 下载解压 3.2 配置环境变量 3.3 集群配置 3.4 安装包分发 四、启动集群 4.1 启动ZooKeeper集群 4.2 启动Hadoop集群 4.3 启动Spark集群 4.4 查看服 阅读全文
摘要:
Spark 源码解读 1. Spark调度模式-FIFO和FAIR https://blog.csdn.net/dabokele/article/details/51526048 如果不加设置,jobs会提交到default调度池中。由于调度池的使用是Thread级别的,只能通过具体的SparkCo 阅读全文
摘要:
spark 技术文档 spark常见错误 1.1 ExecutorLostFailure Exception in thread "main" org.apache.spark.SparkException: Job aborted due to stage failure: Task 0 in s 阅读全文