Spark的四种部署方式并对应四种提交方式

1 Local模式  
 
本地模式  local模式 一台机器即可,开箱即用
不指定master,或者 --master  local  local[N]  local[*]
local模式下,使用多少个cores
2 standalone集群模式  
 
spark自带的集群模式  Master  Worker
    --master spark://host:port   指定master的地址
3 spark on yarn
 
把spark的程序提交到yarn集群中去运行
--master yarn
 
4 spark on mesos
mesos  也是一个资源调度平台
--master mesos://host:port
4种不同的部署模式,指定不同的master即可。 
 
 
 
 
 
posted @   Questions张  阅读(1260)  评论(0编辑  收藏  举报
编辑推荐:
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 没有源码,如何修改代码逻辑?
· 一个奇形怪状的面试题:Bean中的CHM要不要加volatile?
· [.NET]调用本地 Deepseek 模型
阅读排行:
· Blazor Hybrid适配到HarmonyOS系统
· Obsidian + DeepSeek:免费 AI 助力你的知识管理,让你的笔记飞起来!
· 解决跨域问题的这6种方案,真香!
· 一套基于 Material Design 规范实现的 Blazor 和 Razor 通用组件库
· 分享4款.NET开源、免费、实用的商城系统
点击右上角即可分享
微信分享提示