Hadoop综合大作业 要求:

1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)进行词频统计。

 

我下载的是一篇英文长篇小说《教父》,字数为个,

 

将文章(godfather.txt)放在了wc文件中:

启动hadoop:

start-all.sh
jps

  

文件上传至hdfs

hdfs dfs -put ./godfather.txt /bigdatacase/dataset
hdfs dfs -ls /bigdatacase/dataset

  

启动hive

 hive

创建原始文档表

create table novel(long string);

  

导入文件内容到表novel

 
load data inpath '/bigdatacase/dataset/godfather.txt' overwrite into table novel;

  

进行词频统计并放入表novelcount表中

 
create table novelcount as select word,count(1) from (select(long,' ')) as word from novel) word group by word;

  

查看统计结果(前20个)

 
select * from novelcount limit 20