航天云网大数据调度平台使用感受
小插曲: 上传JAR包到大数据平台,不小心出现上传错误,删除方法如下:
ls -i
正文:
1 配置worker
2 航天云网平台的Task ( SHELL 和 JAR ) 需要上传到Worker 任意一台服务器上。(
有的调度平台是把任务直接上传到HDFS上面,任务日志也是在HDFS上面,多台WORK 根据YARN 调度算法(比如公平调度器),自动分配任务。
猜想有多个Worker ,可能会出现 调度的机器没有 task (SHELL 和 JAR),会从源自动分发。(涉及任务版本问题)
所以这点感觉不合理
)
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 零经验选手,Compose 一天开发一款小游戏!
· 一起来玩mcp_server_sqlite,让AI帮你做增删改查!!