作业八：SparkSQL综合作业

综合练习：学生课程分数

网盘下载sc.txt文件，分别用RDD操作、DataFrame操作和spark.sql执行SQL语句实现以下数据分析:

1. 网盘下载sc.txt文件，创建RDD，并转换得到DataFrame

   

    

    

    

    

    

    

   一、DataFrame操作

   1.总共有多少学生？

   

    

    

   2.总共开设了多少门课程？

   

    

    

   3.每个学生选修了多少门课？

   

    

    

   4.每门课程有多少个学生选？

   

    

    

   5.每门课程>95分的学生人数

   

    

    

   6.课程'Python'有多少个100分？

   

    

    

   7.Tom选修了几门课？每门课多少分？

   

    

    

   8.Tom的成绩按分数大小排序。

   

    

    

   9.Tom选修了哪几门课？

   

    

    

   10.Tom的平均分

   

    

    

   11.'OperatingSystem'不及格人数

   

    

    

   12.'OperatingSystem'平均分

   

    

    

   13.'OperatingSystem'90分以上人数

   

    

    

   14.'OperatingSystem'前3名

   

    

    

   15.每个分数按比例+20平时分。

   

    

    

   16.求每门课的平均分

   

    

    

    

   二、spark.sql操作

   1.总共有多少学生？

    

    

    

   2.总共开设了多少门课程？

   

    

    

   3.每个学生选修了多少门课？

   

    

    

   4.每门课程有多少个学生选？

   

    

    

   5.每门课程>95分的学生人数

   

    

    

   6.课程'Python'有多少个100分？

   

    

    

   7.Tom选修了几门课？每门课多少分？

   

    

    

   8.Tom的成绩按分数大小排序。

   

    

    

   9.Tom选修了哪几门课？

   

    

    

   10.Tom的平均分

   

    

    

   11.'OperatingSystem'不及格人数

   

    

    

   12.'OperatingSystem'平均分

   

    

    

   13.'OperatingSystem'90分以上人数

   

    

    

   14.'OperatingSystem'前3名

   

    

    

   15.每个分数按比例+20平时分。

   

    

    

   16.求每门课的平均分

   

2. 选修了7门课的有多少个学生？

3. 每门课大于95分的学生数

4. 每门课的选修人数、平均分、不及格人数、通过率
5. 优秀、良好、通过和不合格各有多少人？
6. 同时选修了DataStructure和 DataBase 的学生
7. 选修了DataStructure 但没有选修 DataBase 的学生
8. 选修课程数少于3门的同学
9. 选修6门及以上课程数的同学
10. 查询平均成绩大于等于60分的姓名和平均成绩
11. 找出平均分最高的10位同学

 

选做：对数据分析结果进行可视化

    选择几个有作图意义的问题，将结果转换为Pandas，进行可视化

 资源链接：https://pan.baidu.com/s/1Hc9SxMLcsP9HVQLZ7eSVYA 提取码：tefr

此作业需按要求与模板完成文档提交。