|NO.Z.00031|——————————|BigDataEnd|——|Hadoop&MapReduce.V04|——|Hadoop.v04|WordCount案例之编写本地YARN运行.v02|
一、运行任务
### --- 本地模式
~~~ 直接运行会报错:因为没有设置传参
~~~ 直接Idea中运行驱动类即可:idea运行需要传入参数:
~~~ IDEA.Driver传参:WORDCOUNTDRIVER——>edit configuration
~~~ 在program arguments设置参数
~~~ 运行结束,去到输出结果路径查看结果
~~~ 注意本地idea运行mr任务与集群没有任何关系,没有提交任务到yarn集群,
~~~ 是在本地使用多线程方式模拟的mr的运行。




二、Yarn集群模式
### --- Yarn集群模式
~~~ 把程序打成jar包,改名为wc.jar;上传到Hadoop集群选择合适的Jar包
~~~ IDEA打成Jar包:右侧——>maven——>wordcount——>lifecycle——>clean——>package——>

### --- 准备原始数据文件,上传到HDFS的路径,不能是本地路径,因为跨节点运行无法获取数据!!
[root@linux121 ~]# ls
wc.jar wc.txt
### --- 启动Hadoop集群(Hdfs,Yarn)
~~~ 使用Hadoop 命令提交任务运行
[root@linux121 ~]# hadoop jar wc.jar com.yanqi.mr.wc.WordCountDriver /user/yanqi/input /user/yanqi/output
21/08/15 21:29:28 INFO mapreduce.Job: Job job_1628995889675_0001 completed successfully
三、通过dfs查看是否生成数据

四、Yarn集群任务运行成功展示图

Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart
——W.S.Landor
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通