航天云网大数据调度平台使用感受

小插曲: 上传JAR包到大数据平台,不小心出现上传错误,删除方法如下:

ls -i   

 

 

 

正文:

1  配置worker

 

 

 

 

 

2  航天云网平台的Task ( SHELL  和 JAR ) 需要上传到Worker 任意一台服务器上。(

有的调度平台是把任务直接上传到HDFS上面,任务日志也是在HDFS上面,多台WORK 根据YARN 调度算法(比如公平调度器),自动分配任务。
猜想有多个Worker ,可能会出现 调度的机器没有 task (SHELL  和 JAR),会从源自动分发。(涉及任务版本问题)

所以这点感觉不合理

 

 

posted @   163博客  阅读(27)  评论(0编辑  收藏  举报
(评论功能已被禁用)
相关博文:
阅读排行:
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 零经验选手,Compose 一天开发一款小游戏!
· 一起来玩mcp_server_sqlite,让AI帮你做增删改查!!
点击右上角即可分享
微信分享提示