08 分布式计算MapReduce--词频统计
1.用你最熟悉的编程环境,编写非分布式的词频统计程序。
- 读文件
- 分词(text.split列表)
- 按单词统计(字典,key单词,value次数)
- 排序(list.sort列表)
- 输出
-
在Ubuntu中实现运行。
- 准备txt文件
-
- 编写py文件
-
- python3运行py文件分析txt文件。
2.用MapReduce实现词频统计
2.1编写Map函数
- 编写mapper.py
-
- 授予可运行权限
-
- 本地测试mapper.py
-
2.2编写Reduce函数
- 编写reducer.py
-
- 授予可运行权限
-
- 本地测试reducer.py
-
2.3分布式运行自带词频统计示例
- 启动HDFS与YARN
-
- 准备待处理文件,上传到HDFS上
-
- 运行hadoop-mapreduce-examples-2.7.1.jar
-
- 查看结果
-
2.4 分布式运行自写的词频统计
- 用Streaming提交MapReduce任务:
- 查看hadoop-streaming的jar文件位置:/usr/local/hadoop/share/hadoop/tools/lib/
- 配置stream环境变量
-
- 编写运行文件run.sh
-
- 运行run.sh运行
-
- 查看运行结果
-
- 停止HDFS与YARN
-
2.5提升(有能力的同学选做)
- 启动HDFS与YARN
- 找一篇喜欢的英文小说 www.gutenberg.org
- 下载wget
- 上传到hdfs上
- 完善mapper.py(分词,标点符号等特殊符号,去掉停用词,去掉冠介词连词等无意义词)
- reducer.py 不用改
- 用Streaming提交MapReduce任务
- 查看运行结果
- 停止HDFS与YARN