2016年5月8日

摘要: 1 解密Spark Streaming运行机制 上节课我们谈到了技术界的寻龙点穴。这就像过去的风水一样,每个领域都有自己的龙脉,Spark就是龙脉之所在,它的龙穴或者关键点就是SparkStreaming。这是上一节课我们非常清晰知道的结论之一。而且上一节课,我们采用了降维的方式。所谓降维的方式,是 阅读全文
posted @ 2016-05-08 20:59 听风居士 阅读(1920) 评论(0) 推荐(0) 编辑
摘要: 1 Spark源码定制选择从Spark Streaming入手 我们从第一课就选择Spark子框架中的SparkStreaming。 那么,我们为什么要选择从SparkStreaming入手开始我们的Spark源码版本定制之路? 有下面几个方面的理由: 1)Spark大背景 Spark 最开始没有我 阅读全文
posted @ 2016-05-08 20:40 听风居士 阅读(1186) 评论(0) 推荐(0) 编辑
摘要: 一.Spark streaming Job 架构 SparkStreaming框架会自动启动Job并每隔BatchDuration时间会自动触发Job的调用。 Spark Streaming的Job 分为两大类: 每隔BatchInterval时间片就会产生的一个个Job,这里的Job并不是Spar 阅读全文
posted @ 2016-05-08 18:37 听风居士 阅读(914) 评论(0) 推荐(0) 编辑

导航