航天云网大数据调度平台使用感受

小插曲: 上传JAR包到大数据平台,不小心出现上传错误,删除方法如下:

ls -i   

 

 

 

正文:

1  配置worker

 

 

 

 

 

2  航天云网平台的Task ( SHELL  和 JAR ) 需要上传到Worker 任意一台服务器上。(

有的调度平台是把任务直接上传到HDFS上面,任务日志也是在HDFS上面,多台WORK 根据YARN 调度算法(比如公平调度器),自动分配任务。
猜想有多个Worker ,可能会出现 调度的机器没有 task (SHELL  和 JAR),会从源自动分发。(涉及任务版本问题)

所以这点感觉不合理

 

 

posted @ 2022-09-16 11:18  163博客  阅读(28)  评论(0)    收藏  举报