RDD综合练习：更丰富的操作

集合运算练习

union()， intersection()，subtract(), cartesian()

rdd1=sc.parallelize('abcd')
rdd2=sc.parallelize('bcde')
rdd1.collect()
rdd2.collect()
rdd1.union(rdd2).collect()
rdd1.intersection(rdd2).collect()
rdd1.subtract(rdd2).collect()
rdd1.cartesian(rdd2).collect()

内连接与外连接

join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin()

多个考勤文件，签到日期汇总，出勤次数统计

rdd3=sc.textFile('file:///home/hjq/data/day1.txt').map(lambda line:(line,'01'))
rdd4=sc.textFile('file:///home/hjq/data/day2.txt').map(lambda line:(line,'02'))
rdd3.collect()
rdd4.collect()
rdd3.join(rdd4).collect()
rdd3.leftOuterJoin(rdd4).collect()
rdd3.rightOuterJoin(rdd4).collect()
rdd3.fullOuterJoin(rdd4).collect()

综合练习：学生课程分数

网盘下载sc.txt文件，通过RDD操作实现以下数据分析:

导入数据

scm = sc.textFile("file:///home/hjq/data/sc.txt").map(lambda line:line.split(',')).map(lambda line:[line[0],line[1],int(line[2])])
scm.collect()

数据分析

• 持久化 scm.cache()

• 总共有多少学生？map(), distinct(), count()

scm.map(lambda line:line[0]).distinct().count()

• 开设了多少门课程？

scm.map(lambda line:line[1]).distinct().count()

• 生成（姓名，课程分数）键值对RDD，观察keys(),values()

name=scm.map(lambda line:(line[0],(line[1],line[2])))
name.take(3)
name.keys().take(3)
name.values().take(3)

• 每个学生选修了多少门课？map(), countByKey()

name.countByKey()

• 每门课程有多少个学生选？map(), countByValue()

name.values().countByKey()

• 有多少个100分？

name.values().values().countByValue()[100]

• Tom选修了几门课？每门课多少分？filter(), map() RDD

tom_c=scm.filter(lambda line:line[0]=='Tom')
tom_c.collect()
tom_c.count()
tom_c.map(lambda a:[a[1],a[2]]).collect()

• Tom选修了几门课？每门课多少分？map(),lookup() list

len(name.lookup('Tom'))
name.lookup('Tom')

• Tom的成绩按分数大小排序。filter(), map(), sortBy()

tom_c=scm.filter(lambda line:line[0]=='Tom')
tom_c.map(lambda a:a[2]).sortBy(lambda a:a,False).collect()
tom_c.map(lambda a:a[2]).sortBy(lambda a:a,True).collect()

• Tom的平均分。map(),lookup(),mean()

name_sc=scm.map(lambda line:(line[0],line[2]))
import numpy as np
np.mean(list(map(int,name_sc.lookup('Tom'))))

• 生成（姓名课程，分数）RDD，观察keys(),values()

score=scm.map(lambda line:(line[0],line[2]))
score.take(3)
score.keys().take(3)
score.values().take(3)

• 每个分数+20平时分。
  分别用mapValues(func)和 map(func)实现。并查看不及格人数的变化。

​ mapValues(func)

scm.map(lambda line:((line[0],line[1]),line[2])).take(6)
scm.map(lambda line:((line[0],line[1]),line[2])).mapValues(lambda v:v+20).take(6)

​ map(func)

scm.map(lambda line:((line[0],line[1]),line[2])).take(6)
scm.map(lambda line:((line[0],line[1]),line[2]+20)).take(6)

​ 查看不及格人数的变化

scm.filter(lambda line:line[2]<60).count()
scm.map(lambda line:((line[0],line[1]),line[2])).mapValues(lambda v:v+20).filter(lambda a:a[1]<60).count()

• 求每门课的选修人数及平均分

• reduceByKey()和collectAsMap()实现

course = scm.map(lambda line:(line[1],(line[2],1)))
result = course.reduceByKey(lambda x,y:(x[0]+y[0],x[1]+y[1])).map(lambda a:(a[0],a[1][1],round(a[1][0]/a[1][1], 2))).collect()
result

• combineByKey()，map()，round()实现，确到2位小数

  combineByKey()实现

course = scm.map(lambda line:(line[1],line[2]))
courseC = course.combineByKey(
	lambda v:(int(v),1),
    lambda c,v:(c[0]+int(v),c[1]+1),
    lambda c1,c2:(c1[0]+c2[0],c1[1]+c2[1]))
courseC.collect()

​ map()，round()实现

courseC.map(lambda x:(x[0],x[1][1],round(x[1][0]/x[1][1], 2))).collect()