如何增加hadoop集群中节点的map输出容量?

djmepvbi  于 2021-06-04  发布在  Hadoop
关注(0)|答案(2)|浏览(306)

我在hadoop集群中使用3台计算机,主计算机有3gbram,从计算机有3gbram。
奴隶的Map任务容量是6,但我需要更多。
我能换这个号码吗?机器的哪个属性决定Map任务的容量?

6mzjoqzu

6mzjoqzu1#

为运行map和reduce任务的JVM提供的内存量由mapred.child.java.opts属性设置。

vq8itlhq

vq8itlhq2#

我猜您是在问如何让它在每台工作机器上运行6个以上的Map器。首先要检查的是 mapred.tasktracker.map.tasks.maximum 在你的群里。默认为2。如果您有3台机器,那就意味着集群中最多有6个Map——而不是每个工作者。无论如何,增加到你喜欢的程度。
但这不会使hadoop使用比它认为适合输入的Map器更多的Map器。这是你应该留给hadoop的。

相关问题