上一页 1 2 3 4 5 6 7 8 9 ··· 12 下一页
摘要: receive 方法其实是大量的case,分别对应处理不同的场景 一.case msg: RegisterWorkerResponse 二.case SendHeartbeat 三.case WorkDirCleanup 四.case MasterChanged 五.case ReconnectWo 阅读全文
posted @ 2022-09-12 22:50 Kotlin 阅读(30) 评论(0) 推荐(0) 编辑
摘要: 一.main函数详解 def main(argStrings: Array[String]): Unit = { Thread.setDefaultUncaughtExceptionHandler(new SparkUncaughtExceptionHandler( exitOnUncaughtEx 阅读全文
posted @ 2022-09-12 22:45 Kotlin 阅读(66) 评论(0) 推荐(0) 编辑
摘要: 一.Master recive方法总结 1.1 公共方法介绍及发送的消息介绍 schedule():方法很重要,基本上所有的方法都会调用这个 launchDriver() launchExecutor() all: worker.send(LaunchDriver) worker.send(Laun 阅读全文
posted @ 2022-09-12 09:45 Kotlin 阅读(27) 评论(0) 推荐(0) 编辑
摘要: Master recive全部方法 一.case ElectedLeader => ...... 二.case CompleteRecovery => ...... 三.case RevokedLeadership => ...... 四.case WorkerDecommissioning =>  阅读全文
posted @ 2022-09-12 09:39 Kotlin 阅读(18) 评论(0) 推荐(0) 编辑
摘要: Master recive全部方法 一.case ElectedLeader => ...... 二.case CompleteRecovery => ...... 三.case RevokedLeadership => ...... 四.case WorkerDecommissioning =>  阅读全文
posted @ 2022-09-12 09:32 Kotlin 阅读(33) 评论(0) 推荐(0) 编辑
摘要: Master recive全部方法 一.case ElectedLeader => ...... 二.case CompleteRecovery => ...... 三.case RevokedLeadership => ...... 四.case WorkerDecommissioning =>  阅读全文
posted @ 2022-09-12 09:22 Kotlin 阅读(15) 评论(0) 推荐(0) 编辑
摘要: 源码地址:"https://mirrors.tuna.tsinghua.edu.cn/apache/spark/spark-3.1.3/spark-3.1.3.tgz" 一.spark源码中基础概念的介绍: 1、RpcEnv:RPC包装对象类似于sparkcontext对象2、RpcEndpoint 阅读全文
posted @ 2022-09-12 09:09 Kotlin 阅读(156) 评论(0) 推荐(0) 编辑
摘要: 最近把spark文档里面配置那一页看了一下,在这记录一些可用的配置,免得后续再去查文档地址:https://spark.apache.org/docs/3.0.1/configuration.html Spark文档 运行环境 名称默认值配置解释 spark.executor.extraJavaOp 阅读全文
posted @ 2022-08-31 17:38 Kotlin 阅读(732) 评论(0) 推荐(0) 编辑
摘要: 数学函数 函数简介用法 acosh 反双曲余弦值 SELECT acosh(0.5);0.9624236501192069 SELECT acosh(3.5);1.9248473002384139 asinh 反双曲正弦 SELECT asinh(1.45);1.1667043308708802 a 阅读全文
posted @ 2022-08-27 15:42 Kotlin 阅读(2803) 评论(0) 推荐(0) 编辑
摘要: sparkcore 优化 数据倾斜处理 1.etl处理 2.并行度 3.过滤倾斜key(需要null,聚合需求(随机分区预聚合,最终hash散列聚合) 拆分(单独拿出来处理,最终union起来)) 4.reduce join 转mapjoin 5.两阶段聚合 6.无前缀聚合(随机前缀:大表加随机前缀 阅读全文
posted @ 2022-08-26 19:10 Kotlin 阅读(64) 评论(0) 推荐(0) 编辑
上一页 1 2 3 4 5 6 7 8 9 ··· 12 下一页
Live2D