4-4日报

 Spark运行模式

运行环境

模式

描述

Local

本地模式

常用于本地开发测试,本地还分为local单线程和local-cluster多线程;

Standalone

集群模式

典型的Mater/slave模式,不过也能看出Master是有单点故障的;Spark支持 ZooKeeper来实现HA

On yarn

集群模式

运行在yarn资源管理器框架之上,由yarn负责资源管理,Spark负责任务调度和计算

On mesos

集群模式

运行在mesos资源管理器框架之上,由mesos负责资源管理,Spark负责任务调度和计算

On cloud

集群模式

比如AWS的EC2,使用这个模式能很方便的访问Amazon的S3;

Spark支持多种分布式存储系统:HDFS和S3

posted @ 2022-04-04 14:26  软工新人  阅读(18)  评论(0编辑  收藏  举报