打赏

作业提交过程分析(源码)

  

sc.textFile("README.md").flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey(_ + _).collect

sc.textFile("README.md").flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey((a,b) => a + b).collect

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

总结:

第一个stage :

           HadoopRDD  ->   MapPartitionRDD  ->   MapPartitionsRDD  ->  MapPartitionsRDD  ->  MapPartitionsRDD

 

第二个stage :   

    Stage shuffledRDD   ->  MapPartitionsRDD

 

 

 

 

 

 

 

posted @ 2016-09-25 16:28  大数据和AI躺过的坑  阅读(516)  评论(0编辑  收藏  举报