摘要: 阅读全文
posted @ 2020-12-06 10:07 今天天蓝蓝 阅读(57) 评论(0) 推荐(0) 编辑
摘要: 实验用到的版本是ndnSIM2.7。 添加标签的主要步骤有三个:添加标签定义、在处理包时加入标签处理、在需要的地方插入标签。前面两处的代码修改是固定的,而最后一个“在需要的地方插入标签”的实现则很灵活。 1、添加标签(Tag)的定义 需要修改../src/ndnSIM/ndn-cxx/ndn-cxx 阅读全文
posted @ 2019-05-17 19:15 今天天蓝蓝 阅读(1267) 评论(0) 推荐(0) 编辑
摘要: 总结了AM起来后注册、申请资源的过程。客户端实现的ApplicationMaster使用AMRMClientAsync交互,AMRMClientAsync使用AMRMClient与RM交互,AMRMClient中使用ApplicationMasterProtocol与RM交互。 1、AM运行起来后, 阅读全文
posted @ 2019-03-26 15:11 今天天蓝蓝 阅读(506) 评论(0) 推荐(0) 编辑
摘要: PAI 在frameworkLauncher中对节点的分配做了进一步优化,可以为任务选择node的host。hadoop在2.6之后增加了对NodeLabel的支持,在配置NodeManager时可以给它打上标签,然后请求container的时候也可以加上label,这样就会分配到有该lable的n 阅读全文
posted @ 2018-09-04 15:12 今天天蓝蓝 阅读(370) 评论(0) 推荐(0) 编辑
摘要: retry policy 作用是规定当任务失败的时候要不要重试。适用于framework 和 task两类任务。 1、两种retry policy:FancyRetry Policy + NormalRetry Policy 结合退出原因分类处理: FancyRetry: 暂时失败(transien 阅读全文
posted @ 2018-08-20 16:04 今天天蓝蓝 阅读(480) 评论(0) 推荐(0) 编辑
摘要: 因为AM被设计成只负责一个framework,所以一个AM的生命周期其实就是一个framework的生命周期。下面总结的流程是一个framework从开始到结束的过程,不包含task 失败的情况,假设是一个健健康康的framework。 一、涉及到的AM subService简介 主要是reques 阅读全文
posted @ 2018-08-14 15:40 今天天蓝蓝 阅读(347) 评论(0) 推荐(0) 编辑
摘要: 一、ApplicationMaster简介 这里的ApplicationMaster只负责管理一个Framework。因此它也被设计成一个micro kernel来连接所有的subservice,这些subservice有: ZookeeperStore、hdfsStore YarnClient、L 阅读全文
posted @ 2018-08-13 16:03 今天天蓝蓝 阅读(384) 评论(0) 推荐(0) 编辑
摘要: 在yarn资源调度系统中,Client端负责为ApplicationMaster申请资源,并提交ApplicationMaster给ResourceManager。下面讲述了client端的处理过程,从framework request 到对应的ApplicationMaster运行起来。 1. 起 阅读全文
posted @ 2018-07-28 21:41 今天天蓝蓝 阅读(661) 评论(0) 推荐(0) 编辑
摘要: 一、ApplicationMaster与RM、NM的交互过程: 具体运行任务时,会由ApplicationMaster和ResourceManager和NamenodeManger打交道。 ApplicationMaster与RM交互: 1、向RM注册,RM返回注册响应。 2、通过AllocateR 阅读全文
posted @ 2018-07-27 16:03 今天天蓝蓝 阅读(953) 评论(0) 推荐(0) 编辑
摘要: 一、Client只与ResourceManager交互,主要有以下步骤: 1、向ResourceManager注册自己,并获得ResourceMangaer的响应,RM在响应中会报告集群资源(maximumResourceCapability),其中有最大可用VCores数量和最大可用内存。 2、c 阅读全文
posted @ 2018-07-26 20:42 今天天蓝蓝 阅读(1156) 评论(0) 推荐(0) 编辑