Hadoop综合大作业

 

 要求:

1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)进行词频统计。

下载长篇英语小说

 

上传到hdfs上

启动hive

 

将数据写入到study表

 

创建分析表统计 

查看分析统计结果

 

 

2.用Hive对爬虫大作业产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

 

首先在我之前的爬虫大作业上获取产生的数据。

将数据以csv格式上传到hdfs

 查看前10个数据

 启动hive

 创建表将csv数据导入到表中

 查看前100个数据

 

 

posted @ 2018-05-22 22:45  207钟程泰  阅读(96)  评论(0编辑  收藏  举报