执行mr时的一些参数设置

本地运行mr的参数设置

Configuration conf = new Configuration();

本地运行mr程序时,输入输出数据可以在本地,也可以在hdfs上

数据在hdfs

conf.set("fs.defaultFS","file:///");

Job job = Job.getInstance(conf);

 

在集群运行需要设置以下3个参数:

Configuration conf = new Configuration();

conf.set("mapreduce.framework.name","yarn");

conf.set("yarn.resourcemanager.hostname","mini1");

 

运行集群模式时,数据也必须从hdfs中存取

conf.set("fs.defaultFS","hdfs://mini1:9000/");

Job job = Job.getInstance(conf);

posted @ 2021-01-27 15:48  瘦多一点  阅读(479)  评论(0编辑  收藏  举报