(一)Spark 特点

Spark的特性主要有以下四点:

快速

  • 与 Hadoop 的 MapReduce 相比, Spark 基于内存的运算是 MapReduce 的 100 倍.基于硬盘的运算也要快 10 倍以上.
  • Spark 实现了高效的 DAG 执行引擎, 可以通过基于内存来高效处理数据流

易用

  • Spark 支持 Scala, Java, Python, R 和 SQL 脚本, 并提供了超过 80 种高性能的算法, 非常容易创建并行 App
  • 而且 Spark 支持交互式的 Python 和 Scala 的 shell, 这意味着可以非常方便地在这些 shell 中使用 Spark 集群来验证解决问题的方法, 而不是像以前一样 需要打包, 上传集群, 验证等. 这对于原型开发非常重要.

通用

  • Spark 结合了SQL, Streaming和复杂分析.
  • Spark 提供了大量的类库, 包括 SQL 和 DataFrames, 机器学习(MLlib), 图计算(GraphicX), 实时流处理(Spark Streaming) .
  • 可以把这些类库无缝的柔和在一个 App 中.
  • 减少了开发和维护的人力成本以及部署平台的物力成本.

易融合性

  • Spark 可以非常方便的与其他开源产品进行融合,比如, Spark 可以使用 Hadoop 的 YARN 和 Appache Mesos 作为它的资源管理和调度器, 并且可以处理所有 Hadoop 支持的数据, 包括 HDFS, HBase等.
posted @ 2021-01-13 08:49  Leo-Wong  阅读(1591)  评论(0编辑  收藏  举报