hadoop jobtracker内存使用率增加v

ctzwtxfj  于 2021-06-03  发布在  Hadoop
关注(0)|答案(1)|浏览(494)

当我打开jobtrackerhost:50030/jobtracker.jsp
我可以看到堆大小,如:cluster summary(堆大小为1.17 gb/7.99 gb)
它还在继续增加。3-5天后生长至高峰。
我们有两个hadoop集群。在集群a上,堆大小在峰值附近停止增加。在集群b上,堆大小继续增加,3-5天后,jobtracker停止过程结束了)
现在我真想知道为什么堆的大小继续增加?是正常还是有问题?
谢谢,新松

rseugnpd

rseugnpd1#

@vefthym,我认为mapred-site.xml文件不完整,因为hadoop集群是由cloudera管理器管理的。
以下是mapred-site.xml中的内容

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <!--Autogenerated by Cloudera CM on 2013-07-01T01:39:46.361Z-->
  3. <configuration>
  4. <property>
  5. <name>fs.defaultFS</name>
  6. <value>hdfs://xxxx.com:8020</value>
  7. </property>
  8. <property>
  9. <name>io.file.buffer.size</name>
  10. <value>65536</value>
  11. </property>
  12. <property>
  13. <name>io.compression.codecs</name>
  14. <value>org.apache.hadoop.io.compress.DefaultCodec,org.apache.hadoop.io.compress.GzipCodec,org.apache.hadoop.io.compress.BZip2Codec,org.apache.hadoop.io.compress.DeflateCodec,org.apache.hadoop.io.compress.SnappyCodec,org.apache.hadoop.io.compress.Lz4Codec</value>
  15. </property>
  16. <property>
  17. <name>hadoop.security.authentication</name>
  18. <value>simple</value>
  19. </property>
  20. <property>
  21. <name>hadoop.rpc.protection</name>
  22. <value>authentication</value>
  23. </property>
  24. <property>
  25. <name>hadoop.security.auth_to_local</name>
  26. <value>DEFAULT</value>
  27. </property>
  28. </configuration>
展开查看全部

相关问题