|NO.Z.00029|——————————|BigDataEnd|——|Hadoop&MapReduce.V02|——|Hadoop.v02|MapReduce编程规范|

一、MapReduce编程规范及示例编写
### --- Mapper类

~~~     用户自定义一个Mapper类继承Hadoop的Mapper类
~~~     Mapper的输入数据是KV对的形式(类型可以自定义)
~~~     Map阶段的业务逻辑定义在map()方法中
~~~     Mapper的输出数据是KV对的形式(类型可以自定义)
~~~     注意:map()方法是对输入的一个KV对调用一次!!
### --- Reducer类

~~~     用户自定义Reducer类要继承Hadoop的Reducer类
~~~     Reducer的输入数据类型对应Mapper的输出数据类型(KV对)
~~~     Reducer的业务逻辑写在reduce()方法中
~~~     Reduce()方法是对相同K的一组KV对调用执行一次
### --- Driver阶段

~~~     创建提交YARN集群运行的Job对象,
~~~     其中封装了MapReduce程序运行所需要的相关参数入输入数据路径,
~~~     输出数据路径等,也相当于是一个YARN集群的客户端,主要作用就是提交我们MapReduce程序运行。

 
 
 
 
 
 
 
 
 

Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
                                                                                                                                                   ——W.S.Landor

 

 

posted on   yanqi_vip  阅读(14)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

导航

统计

点击右上角即可分享
微信分享提示