spark任务运行完成后在driver端的处理逻辑

摘要: 回顾 上一篇,我们分析了了任务在executor端的运行流程,任务运行结束后,在Executor.launchTask方法最后,通过调用execBackend.statusUpdate方法将任务结果以及任务状态发送给driver。回到driver端,我们在driver的rpc服务端DriverEnd 阅读全文
posted @ 2019-06-06 00:03 _朱葛 阅读(2730) 评论(0) 推荐(0) 编辑

spark任务在executor端的运行过程分析

摘要: CoarseGrainedExecutorBackend 上一篇,我们主要分析了一次作业的提交过程,严格说是在driver端的过程,作业提交之后经过DAGScheduler根据shuffle依赖关系划分成多个stage,依次提交每个stage,将每个stage创建于分区数相同数量的Task,并包装成 阅读全文
posted @ 2019-06-04 00:48 _朱葛 阅读(5152) 评论(0) 推荐(0) 编辑

spark任务分配----TaskSchedulerImpl源码解析

摘要: TaskSchedulerImpl 上一篇讲到DAGScheduler根据shuffle依赖对作业的整个计算链划分成多个stage之后,就开始提交最后一个ResultStage,而由于stage之间的依赖关系,实际上最终是循着计算链从上到下依次提交stage的。每提交一个stage,就会将这个sta 阅读全文
posted @ 2019-06-03 00:25 _朱葛 阅读(1027) 评论(0) 推荐(0) 编辑

spark作业运行过程之--DAGScheduler

摘要: DAGScheduler stage划分和创建以及stage的提交 本篇,我会从一次spark作业的运行为切入点,将spark运行过程中涉及到的各个步骤,包括DAG图的划分,任务集的创建,资源分配,任务序列化,任务分发到各个executor,任务执行,任务结果回传driver等等各个环节串联起来,以 阅读全文
posted @ 2019-06-02 01:26 _朱葛 阅读(513) 评论(0) 推荐(0) 编辑

链表元素按奇偶聚集

摘要: leetcode地址: https://leetcode.com/problems/odd-even-linked-list/description/ 描述: Given a singly linked list, group all odd nodes together followed by t 阅读全文
posted @ 2019-05-26 20:10 _朱葛 阅读(283) 评论(0) 推荐(0) 编辑

回文链表

摘要: leetcode地址:https://leetcode.com/problems/palindrome-linked-list/description/ 描述: Given a singly linked list, determine if it is a palindrome. Example 阅读全文
posted @ 2019-05-26 19:53 _朱葛 阅读(126) 评论(0) 推荐(0) 编辑

链表求和

摘要: leetCode: https://leetcode.com/problems/add-two-numbers-ii/description/ 描述: You are given two non-empty linked lists representing two non-negative int 阅读全文
posted @ 2019-05-26 17:54 _朱葛 阅读(558) 评论(0) 推荐(0) 编辑

交换链表中的相邻结点

摘要: leetcode地址: https://leetcode.com/problems/swap-nodes-in-pairs/description/ 这题查看不难,但是实际上难度是中等,这题的难度在于边界条件比较难处理,初始情况不太好办 这里我使用一个虚拟的头结点来处理初始情况,这样初始情况就变得统 阅读全文
posted @ 2019-05-26 16:58 _朱葛 阅读(1040) 评论(0) 推荐(0) 编辑

删除链表的倒数第 n 个节点

摘要: 难度: 中等 leetcode地址: https://leetcode.com/problems/remove-nth-node-from-end-of-list/description/ 分析: 1. 这题解题思路也不难,两个指针fast, slow,fast先走n步,然后两个一起走,fast走到 阅读全文
posted @ 2019-05-26 16:39 _朱葛 阅读(157) 评论(0) 推荐(0) 编辑

从有序链表中删除重复节点

摘要: leetcode地址: https://leetcode.com/problems/remove-duplicates-from-sorted-list/description/ 这题很简单,但是有一点容易出错,就是处理到链表最后,很容易忘记把pre指针的next置为空。 跳出循环后,p指针和pre 阅读全文
posted @ 2019-05-26 16:05 _朱葛 阅读(485) 评论(0) 推荐(0) 编辑