在调试tez/spark/mr作业时,我可以在yarn ui中看到以下作业的详细信息。有没有人能帮我处理%的队列和%的集群统计数据,因为它显示了1815%的使用率?
x7rlezfr1#
%集群的属性是stat,它告诉您您的工作从集群中占用了多少资源。%of queue告诉您,您的查询占用了多少绝对配置的容量。例子:您的群集有1000gb内存和两个队列。queuea的绝对配置容量为1%,最大容量为100%。queueb的绝对配置容量为99%,最大容量为100%。如果在queuea中运行query,可以保证获得至少10gb的内存,但根据集群负载的不同,最多可以获得1000gb的内存。这意味着,当您在queuea中运行查询并获得20gb内存时,您将使用队列的200%,但集群的2%。
1条答案
按热度按时间x7rlezfr1#
%集群的属性是stat,它告诉您您的工作从集群中占用了多少资源。
%of queue告诉您,您的查询占用了多少绝对配置的容量。
例子:
您的群集有1000gb内存和两个队列。queuea的绝对配置容量为1%,最大容量为100%。queueb的绝对配置容量为99%,最大容量为100%。
如果在queuea中运行query,可以保证获得至少10gb的内存,但根据集群负载的不同,最多可以获得1000gb的内存。
这意味着,当您在queuea中运行查询并获得20gb内存时,您将使用队列的200%,但集群的2%。