大数据应用期末总评

作业要求：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339

1.将爬虫大作业产生的csv文件上传到HDFS

 

2.对CSV文件进行预处理生成无标题文本文件

 

3.打开数据仓库Hive

 

4.把hdfs中的文本文件最终导入到数据仓库Hive中

 

5.在Hive中查看并分析数据

查看用户名：

 

查看用户是否观看过电影：

 

查看从热到冷的评论的用户名及查看人数：

 

查看用户对这部电影的态度：

 

查看评论热度大于1000的用户名及人数：

 

查看表格的用户个数：

 

查看看过电影的用户人数：

 

查看热度超过1000的评论：

 

查看热度低于10的评论的条数：

 

查看热度为1的评论的条数：

 

6.分析过程。

下图为书写评论的人中看没看过电影的人数的扇形图，如图显示虽然大部分人都是看过电影的，但是还是有相当一部分人是在没有看过电影的情况下胡说八道的。

 

下图为热度低于10的评论条数占评论总数的扇形图，从评论中可以看出，热度低于10也就是只有极少数人认同的评论占据了评论的绝大多数。

 

下图为热度等于1的评论条数占评论总数的扇形图，从评论中可以看出，热度等于1也就是几乎没人认同的评论占据了评论的一个不小的比例。

 

下图为热度等于1的评论条数占热度小于10的评论条数数的扇形图，从评论中可以看出，热度等于1也就是只有几乎没人认同的评论占据了热度小于10的评论的绝大多数。

 

7.分析结果：

观看这部电影没有必要看评论，因为绝大多数评论是没有意义的，无人认同的评论占据了大多数。