mapreduce中的shuffle错误:本地获取程序中的shuffle错误

s6fujrry  于 2021-06-02  发布在  Hadoop
关注(0)|答案(1)|浏览(358)


我应该在哪里查找以更正随机播放错误。我已经检查了yarn-site.xml。我正在运行群集。我试着四处看看,但找不到任何有用的东西。
yarn-site.xml文件

  1. <configuration>
  2. <!-- Site specific YARN configuration properties -->
  3. <property>
  4. <name>yarn.nodemanager.aux-services </name>
  5. <value>mapreduce.shuffle </value>
  6. </property>
  7. <property>
  8. <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class </name>
  9. <value>org.apache.hadoop.mapred.ShuffleHandler</value>
  10. </property>
  11. <property>
  12. <name>yarn.resourcemanager.resource-tracker.address</name>
  13. <value>slave5:8031</value>
  14. </property>
  15. <property>
  16. <name>yarn.resourcemanager.scheduler.address</name>
  17. <value>slave5:8030</value>
  18. </property>
  19. <property>
  20. <name>yarn.resourcemanager.address</name>
  21. <value>slave5:8032</value>
  22. </property>
  23. </configuration>
wrrgggsh

wrrgggsh1#

从core-site.xml中删除关于临时文件的配置。这个答案帮助了我。
https://stackoverflow.com/a/11035183/5380111
从核心站点中删除类似的内容。xml:-

  1. <property>
  2. <name>hadoop.tmp.dir</name>
  3. <value>/app/hadoop/tmp</value>
  4. </property>

相关问题