寒假生活指导01

今天看了spark的安装视频,进行了spark的基础学习。

rdd:

复制代码
map计算
rdd = sc.parallelize([1,2,3,4,5])
def func(date):
    return date*10
rdds=rdd.map(func)
#flatMap解除嵌套
rdd = sc.parallelize(["dwad wad wdas","dwadw dfgawdfw dwad","dwadwad"])
rdds=rdd.flatMap(lambda x : x.split(" "))
#reduceByKey分组两两计算
rdd=sc.parallelize([('',99),('',99),('',99),('',99),('',99),('',99)])
rdds = rdd.reduceByKey(lambda a, b: a+b)
print(rdds.collect())
复制代码

 

 

 

posted @   一个小虎牙  阅读(5)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
点击右上角即可分享
微信分享提示