摘要: addJar方法是做什么的呢?它用于将Jar文件添加到Driver的RPC环境中。 通过addJar和addFile可以将各种任务执行所依赖的文件添加到Driver的RPC环境中, •小结 伴生对象是Scala语言的语法特性。Scala中的伴生对象可以提供类似于Java中的静态方法、静态属性等的定义 阅读全文
posted @ 2018-05-18 19:08 山清水秀ysu 阅读(148) 评论(0) 推荐(0) 编辑
摘要: 实现的HttpFileServer,但在Spark 2.0.0版本中它也被废弃了,现在使用的是基于Spark内置RPC框架的NettyStreamManager。节点间的Shuffle过程和Block数的复制与备份这两个部分在Spark 2.0.0版本中依然沿用了Netty,通过对接口和程序进行重新 阅读全文
posted @ 2018-05-18 15:45 山清水秀ysu 阅读(315) 评论(0) 推荐(0) 编辑