1. Spark Streaming的工作机制

     Spark Streaming 是Spark核心API的一个扩展,可以实现高吞吐量的、具备容错机制的实时流数据的处理。

     支持从多种数据源获取数据,包括Kafk、Flume、Twitter、ZeroMQ、Kinesis 以及TCP sockets,

     从数据源获取数据之后,可以使用诸如map、reduce、join和window等高级函数进行复杂算法的处理。

     最后还可以将处理结果存储到文件系统,数据库和现场仪表盘。

 

2.编写Spark Streaming程序的基本步骤:

 

     

      

 

posted on 2018-10-14 10:20  seven_yang  阅读(408)  评论(0编辑  收藏  举报