会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
今天天蓝蓝
博客园
首页
新随笔
联系
订阅
管理
2020年12月6日
typescript语法
摘要:
阅读全文
posted @ 2020-12-06 10:07 今天天蓝蓝
阅读(57)
评论(0)
推荐(0)
编辑
2019年5月17日
ndnSIM实验(1)--给包添加标签
摘要: 实验用到的版本是ndnSIM2.7。 添加标签的主要步骤有三个:添加标签定义、在处理包时加入标签处理、在需要的地方插入标签。前面两处的代码修改是固定的,而最后一个“在需要的地方插入标签”的实现则很灵活。 1、添加标签(Tag)的定义 需要修改../src/ndnSIM/ndn-cxx/ndn-cxx
阅读全文
posted @ 2019-05-17 19:15 今天天蓝蓝
阅读(1267)
评论(0)
推荐(0)
编辑
2019年3月26日
yarn Capacity Schedulery的实现(2)--AM提交资源申请的过程
摘要: 总结了AM起来后注册、申请资源的过程。客户端实现的ApplicationMaster使用AMRMClientAsync交互,AMRMClientAsync使用AMRMClient与RM交互,AMRMClient中使用ApplicationMasterProtocol与RM交互。 1、AM运行起来后,
阅读全文
posted @ 2019-03-26 15:11 今天天蓝蓝
阅读(506)
评论(0)
推荐(0)
编辑
2018年9月4日
PAI FrameworkLauncher(5)--节点选择SelectionManager
摘要: PAI 在frameworkLauncher中对节点的分配做了进一步优化,可以为任务选择node的host。hadoop在2.6之后增加了对NodeLabel的支持,在配置NodeManager时可以给它打上标签,然后请求container的时候也可以加上label,这样就会分配到有该lable的n
阅读全文
posted @ 2018-09-04 15:12 今天天蓝蓝
阅读(370)
评论(0)
推荐(0)
编辑
2018年8月20日
PAI FrameworkLauncher(4) -- retry policy 了解一下
摘要: retry policy 作用是规定当任务失败的时候要不要重试。适用于framework 和 task两类任务。 1、两种retry policy:FancyRetry Policy + NormalRetry Policy 结合退出原因分类处理: FancyRetry: 暂时失败(transien
阅读全文
posted @ 2018-08-20 16:04 今天天蓝蓝
阅读(480)
评论(0)
推荐(0)
编辑
2018年8月14日
PAI FrameworkLauncher(3) 一个AM的生命周期
摘要: 因为AM被设计成只负责一个framework,所以一个AM的生命周期其实就是一个framework的生命周期。下面总结的流程是一个framework从开始到结束的过程,不包含task 失败的情况,假设是一个健健康康的framework。 一、涉及到的AM subService简介 主要是reques
阅读全文
posted @ 2018-08-14 15:40 今天天蓝蓝
阅读(347)
评论(0)
推荐(0)
编辑
2018年8月13日
PAI FrameworkLauncher(2) -- AM简介 + container分配下来后,AM做了什么?
摘要: 一、ApplicationMaster简介 这里的ApplicationMaster只负责管理一个Framework。因此它也被设计成一个micro kernel来连接所有的subservice,这些subservice有: ZookeeperStore、hdfsStore YarnClient、L
阅读全文
posted @ 2018-08-13 16:03 今天天蓝蓝
阅读(384)
评论(0)
推荐(0)
编辑
2018年7月28日
PAI FrameworkLauncher(1) -- Client端的实现
摘要: 在yarn资源调度系统中,Client端负责为ApplicationMaster申请资源,并提交ApplicationMaster给ResourceManager。下面讲述了client端的处理过程,从framework request 到对应的ApplicationMaster运行起来。 1. 起
阅读全文
posted @ 2018-07-28 21:41 今天天蓝蓝
阅读(661)
评论(0)
推荐(0)
编辑
2018年7月27日
yarn 简单的applicationMaster端实现
摘要: 一、ApplicationMaster与RM、NM的交互过程: 具体运行任务时,会由ApplicationMaster和ResourceManager和NamenodeManger打交道。 ApplicationMaster与RM交互: 1、向RM注册,RM返回注册响应。 2、通过AllocateR
阅读全文
posted @ 2018-07-27 16:03 今天天蓝蓝
阅读(953)
评论(0)
推荐(0)
编辑
2018年7月26日
yarn 简单的client客户端实现
摘要: 一、Client只与ResourceManager交互,主要有以下步骤: 1、向ResourceManager注册自己,并获得ResourceMangaer的响应,RM在响应中会报告集群资源(maximumResourceCapability),其中有最大可用VCores数量和最大可用内存。 2、c
阅读全文
posted @ 2018-07-26 20:42 今天天蓝蓝
阅读(1156)
评论(0)
推荐(0)
编辑