MapReduce几种提交方式
本地模式运行
1.在Windows里的IDE直接运行main方法,会将job提交给本地执行器localjobrunner执行
---本地存放Hadoop安装包
---输入输出数据可以放在本地路径下(c:/wc/srcdata/)
---输入输出数据也可以放在hdfs中(hdfs://CentOS7One:9000/wc/output3)
2.在Linux的IDE直接运行main方法,会将job提交给本地执行器localjobrunner执行
---输入输出数据可以放在本地路径下(/usr/local/wc/srcdata/)
---输入输出数据也可以放在hdfs中(hdfs://CentOS7One:9000/wc/output3)
集群模式运行
1.将工程打成jar包,上传到服务器,用Hadoop命令提交,hadoop jar wc.jar
2.在Linux的IDE中运行,需要添加mapred-site.xml和yarn-site.xml
3.在Windows的IDE中运行,本地存放Hadoop安装包,需要将lib和bin目录替换成编译出的文件
作者:Rest探路者
出处:http://www.cnblogs.com/Java-Starter/
本文版权归作者和博客园共有,欢迎转载,但未经作者同意请保留此段声明,请在文章页面明显位置给出原文连接
Github:https://github.com/cjy513203427
分类:
Hadoop
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?