大数据应用期末总评

作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339

1.将爬虫大作业产生的csv文件上传到HDFS

 

2.对CSV文件进行预处理生成无标题文本文件

 

3.打开数据仓库Hive

 

4.把hdfs中的文本文件最终导入到数据仓库Hive中

 

5.在Hive中查看并分析数据

查看用户名:

 

查看用户是否观看过电影:

 

查看从热到冷的评论的用户名及查看人数:

 

查看用户对这部电影的态度:

 

查看评论热度大于1000的用户名及人数:

 

查看表格的用户个数:

 

查看看过电影的用户人数:

 

查看热度超过1000的评论:

 

查看热度低于10的评论的条数:

 

查看热度为1的评论的条数:

 

6.分析过程。

下图为书写评论的人中看没看过电影的人数的扇形图,如图显示虽然大部分人都是看过电影的,但是还是有相当一部分人是在没有看过电影的情况下胡说八道的。

 

下图为热度低于10的评论条数占评论总数的扇形图,从评论中可以看出,热度低于10也就是只有极少数人认同的评论占据了评论的绝大多数。

 

下图为热度等于1的评论条数占评论总数的扇形图,从评论中可以看出,热度等于1也就是几乎没人认同的评论占据了评论的一个不小的比例。

 

下图为热度等于1的评论条数占热度小于10的评论条数数的扇形图,从评论中可以看出,热度等于1也就是只有几乎没人认同的评论占据了热度小于10的评论的绝大多数。

 

7.分析结果:

观看这部电影没有必要看评论,因为绝大多数评论是没有意义的,无人认同的评论占据了大多数。

posted on 2019-06-20 15:34  难留  阅读(129)  评论(0编辑  收藏  举报

导航