6. RDD综合练习:更丰富的操作
一、集合运算练习
union(), intersection(),subtract(), cartesian()
二、内连接与外连接
join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin()
多个考勤文件,签到日期汇总,出勤次数统计
三、综合练习:学生课程分数
网盘下载sc.txt文件,通过RDD操作实现以下数据分析:
持久化 scm.cache
总共有多少学生?map() , distinct() , count()
开设了多少门课程?
生成(姓名,课程分数)键值对RDD,观察keys() , values()
每个学生选修了多少门课?map(),countBykey()
每个课程有多少个学生选?map(),countByValue()
有多少个100分?
Tom选修了几门课?每门课多少分?filter(),map()RDD
Tom选修了几门课?每门课多少分?map(),lookup() list
Tom的成绩按分数大小排序。filter(), map(), sortBy()
>>> scm.filter(lambda a:a[0]=='Tom').sortBy(lambda line:line[2]).collect()
Tom的平均分。map(),lookup(),mean()
>>>import numpy as np >>> np.mean(scm.filter(lambda a:a[0]=='Tom').map(lambda a:a[2]).collect())
生成(姓名课程,分数)RDD,观察keys(),values()
每个分数+5分。mapValues(func)
combineByKey(),map(),round()实现,确到2位小数
使用reduceByKey实现
比较几种方法的异同