会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
yy
基础才是编程人员应该深入研究的问题,警告自己问题解决不了时,多从运行原理底层研究后再考虑方案。
博客园
首页
新随笔
联系
管理
订阅
2016年12月9日
Spark on Yarn:任务提交参数配置
摘要: 当在YARN上运行Spark作业,每个Spark executor作为一个YARN容器运行。Spark可以使得多个Tasks在同一个容器里面运行。 以下参数配置为例子: spark-submit --master yarn-cluster #使用集群调度模式(一般使用这个参数) --num-exec
阅读全文
posted @ 2016-12-09 02:40 cctext
阅读(5137)
评论(0)
推荐(0)
编辑
公告