spark生态体系了解学习(二)
Spark的处理速度要比Hadoop快100倍以上。
Spark在批处理和流式处理上都具有极佳的性能。这是因为Spark使用了一种叫DAG的最佳调度,以及查询优化和物理执行引擎。
可以使用Java,Scala,Python,R,SQL快速写一个Spark应用。
Spark提供了超过80中操作使它更容易生成平行化的应用。它也可以使用Scala,Python,R,SQL shell 进行交互操作。
结合SQL,流处理,复杂的分析。
Spark提供了一栈式集应用:SQL,数据框架,机器学习框架,Graphx图像处理以及Spark流处理。你可以结合这些应用无缝地在同一个应用上使用。
Spark可以运行在Hadoop,Mesos,Kubernets,standalone或者云上。它可以畜栏里多种数据源。
Map Reduce有以下缺点:
代码繁琐;
只能够支持map和reduce方法;
执行效率低下;
不适合迭代多次、交互式、流式的处理
而Spark的优点正好弥补了MapReduce的缺点:
批处理(离线):MapReduce、Hive、Pig
流式处理(实时): Storm、JStorm
交互式计算:Impala