摘要: 1.Master和Worker之间的消息传递示意图 2.Master和Client之间的消息传递示意图 这几天主要都是基于Standalone分析的,最后以两张图完美收工,并附上系列文章。 3.系列文章 Spark Rpc通信源码分析 http://www.cnblogs.com/yourarebe 阅读全文
posted @ 2016-03-23 21:00 一路向前走 阅读(1818) 评论(0) 推荐(0) 编辑
摘要: 继续前一篇的内容。前一篇内容为: Spark中Client源码分析(一)http://www.cnblogs.com/yourarebest/p/5313006.html DriverClient中的代码比较简单,它只有一个main函数,同时,和AppClient一样,它也有一个ClientEndp 阅读全文
posted @ 2016-03-23 20:49 一路向前走 阅读(395) 评论(0) 推荐(0) 编辑
摘要: 在Spark Standalone中我们所谓的Client,它的任务其实是由AppClient和DriverClient共同完成的。AppClient是一个允许app(Client)和Spark集群通信的中间人,接受master URL、app的信息、一个集群事件的监听器以及事件监听的回调函数,主要 阅读全文
posted @ 2016-03-23 20:47 一路向前走 阅读(771) 评论(0) 推荐(0) 编辑
摘要: 继续上一篇的内容。上一篇的内容为: Spark中Master源码分析(一) http://www.cnblogs.com/yourarebest/p/5312965.html 4.receive方法,receive方法中消息类型主要分为以下12种情况: (1)重新选择了新Leader,进行数据的恢复 阅读全文
posted @ 2016-03-23 20:40 一路向前走 阅读(782) 评论(0) 推荐(0) 编辑
摘要: Master作为集群的Manager,对于集群的健壮运行发挥着十分重要的作用。下面,我们一起了解一下Master是听从Client(Leader)的号召,如何管理好Worker的吧。 1.家当(静态属性) 1.设置一个守护单线程的消息发送器, private val forwardMessageTh 阅读全文
posted @ 2016-03-23 20:37 一路向前走 阅读(909) 评论(0) 推荐(0) 编辑