spark 的RDD各种转换和动作

今天先把spark的各种基本转换和动作总结下,以后有时间把各种用法放上去。

1 RDD基本转换操作   

 
    map、flagMap、distinct
    
    coalesce、repartition
    
    coalesce、repartition
    
    randomSplit、glom
    
    union、intersection、subtract
    
    mapPartitions、mapPartitionsWithIndex
    
    mapPartitions、mapPartitionsWithIndex
    
    zip、zipPartitions
    
    zipWithIndex、zipWithUniqueId
    
    partitionBy、mapValues、flatMapValues
    
    combineByKey、foldByKey 
    
    groupByKey、reduceByKey、reduceByKeyLocally
    
    cogroup、join
    
    leftOuterJoin、rightOuterJoin、subtractByKey

 

 2 RDD行动Action操作

 first、count、reduce、collect

 take、top、takeOrdered

 aggregate、fold、lookup

 countByKey、foreach、foreachPartition、sortBy

 saveAsTextFile、saveAsSequenceFile、saveAsObjectFile

 saveAsHadoopFile、saveAsHadoopDataset

 saveAsNewAPIHadoopFile、saveAsNewAPIHadoopDataset

 

  

posted @ 2015-12-09 15:55  R星月  阅读(1781)  评论(0编辑  收藏  举报
作者:lishaoying 出处:http://www.cnblogs.com/rxingyue 说明:本文是自己学习编程的一个历程,版权归作者和博客园共有,欢迎转载,请标明原文连接,如有问题联系我 Email:983068303@qq.com,非常感谢。

作者:lishaoying
出处:http://www.cnblogs.com/rxingyue
说明:本文是自己学习编程的一个历程,版权归作者和博客园共有,欢迎转载,请标明原文连接,如有问题联系我,非常感谢。