第八次作业

2.用MapReduce实现词频统计

2.1编写Map函数

  • 编写mapper.py
  •  

     

     

     

  • 授予可运行权限
  •  

     

     

     

  • 本地测试mapper.py
  •  

     

     

     

2.2编写Reduce函数

  • 编写reducer.py
  •  

     

     

     

  • 授予可运行权限
  •  

     

     

     

  • 本地测试reducer.py
  •  

     

     

     

2.3分布式运行自带词频统计示例

  • 启动HDFS与YARN
  •  

     

     

     

     

     

  • 准备待处理文件,上传到HDFS上
  •  

     

     

     

     

     

     

     

  • 运行hadoop-mapreduce-examples-2.7.1.jar
  •  

     

     

     

  • 查看结果
  •  

     

     

     

     

     

posted @ 2021-11-30 14:37  xibb  阅读(11)  评论(0编辑  收藏  举报