|NO.Z.00029|——————————|BigDataEnd|——|Hadoop&MapReduce.V02|——|Hadoop.v02|MapReduce编程规范|
一、MapReduce编程规范及示例编写
### --- Mapper类
~~~ 用户自定义一个Mapper类继承Hadoop的Mapper类
~~~ Mapper的输入数据是KV对的形式(类型可以自定义)
~~~ Map阶段的业务逻辑定义在map()方法中
~~~ Mapper的输出数据是KV对的形式(类型可以自定义)
~~~ 注意:map()方法是对输入的一个KV对调用一次!!
### --- Reducer类
~~~ 用户自定义Reducer类要继承Hadoop的Reducer类
~~~ Reducer的输入数据类型对应Mapper的输出数据类型(KV对)
~~~ Reducer的业务逻辑写在reduce()方法中
~~~ Reduce()方法是对相同K的一组KV对调用执行一次
### --- Driver阶段
~~~ 创建提交YARN集群运行的Job对象,
~~~ 其中封装了MapReduce程序运行所需要的相关参数入输入数据路径,
~~~ 输出数据路径等,也相当于是一个YARN集群的客户端,主要作用就是提交我们MapReduce程序运行。

Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
——W.S.Landor
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通