MR内存cpu资源配置

向MR申请的内存默认是1024,但不想用默认的内存分配,如何配置?
内存分配配置
在mapred-site.xml中增加如下配置:

<property>
    <name>yarn.app.mapreduce.am.resource.mb</name>
    <value>1200</value>
    <description>表示MRAppMaster需要的总内存大小,默认是1536</description>
</property>
<property>
    <name>yarn.app.mapreduce.am.command-opts</name>
    <value>-Xmx800m</value>
    <description>表示MRAppMaster需要的堆内存大小,默认是:-Xmx1024m</description>
</property>
<property>
    <name>yarn.app.mapreduce.am.resource.cpu-vcores</name>
    <value>1</value>
    <description>表示MRAppMaster需要的的虚拟cpu数量,默认是:1</description>
</property>
<property>
    <name>mapreduce.map.memory.mb</name>
    <value>512</value>
    <description>表示MapTask需要的总内存大小,默认是1024</description>
</property>
<property>
    <name>mapreduce.map.java.opts</name>
    <value>-Xmx300m</value>
    <description>表示MapTask需要的堆内存大小,默认是-Xmx200m</description>
</property>
<property>
    <name>mapreduce.map.cpu.vcores</name>
    <value>1</value>
    <description>表示MapTask需要的虚拟cpu大小,默认是1</description>
</property>
<property>
    <name>mapreduce.reduce.memory.mb</name>
    <value>512</value>
    <description>表示ReduceTask需要的总内存大小,默认是1024</description>
</property>
<property>
    <name>mapreduce.reduce.java.opts</name>
    <value>-Xmx300m</value>
    <description>表示ReduceTask需要的堆内存大小,默认是-Xmx200m</description>
</property>
<property>
    <name>mapreduce.reduce.cpu.vcores</name>
    <value>1</value>
    <description>表示ReduceTask需要的虚拟cpu大小,默认是1</description>
</property>

同步:
scp mapred-site.xml hadoop-twq@slave1:~/bigdata/hadoop-2.7.5/etc/hadoop/
scp mapred-site.xml hadoop-twq@slave2:~/bigdata/hadoop-2.7.5/etc/hadoop/
重新运行jar包

posted @ 2019-02-27 17:00  AntarcticPenguin  阅读(711)  评论(0编辑  收藏  举报
//开启礼花特效的js