Spark RDD Union

示例
 
Spark多个RDD(数据格式相同)“组合”为一个RDD
 
代码
 
from pyspark import SparkConf, SparkContext
 
conf = SparkConf().setAppName("spark_app_union")
 
sc = SparkContext(conf=conf)
 
rdd1 = sc.parallelize(["line1", "line2", "line3"])
 
rdd2 = sc.parallelize(["line4", "line5"])
 
datas = rdd1.union(rdd2).collect()
 
sc.stop()
 
# ['line1', 'line2', 'line3', 'line4', 'line5']
print datas

 

posted on 2015-10-19 16:24  非著名野生程序员  阅读(1284)  评论(0编辑  收藏  举报