hadoop运行mr/tez/spark作业时,yarn ui中的队列百分比和集群差异百分比

wb1gzix0  于 2021-07-13  发布在  Spark
关注(0)|答案(1)|浏览(405)

在调试tez/spark/mr作业时,我可以在yarn ui中看到以下作业的详细信息。

有没有人能帮我处理%的队列和%的集群统计数据,因为它显示了1815%的使用率?

x7rlezfr

x7rlezfr1#

%集群的属性是stat,它告诉您您的工作从集群中占用了多少资源。
%of queue告诉您,您的查询占用了多少绝对配置的容量。
例子:
您的群集有1000gb内存和两个队列。queuea的绝对配置容量为1%,最大容量为100%。queueb的绝对配置容量为99%,最大容量为100%。
如果在queuea中运行query,可以保证获得至少10gb的内存,但根据集群负载的不同,最多可以获得1000gb的内存。
这意味着,当您在queuea中运行查询并获得20gb内存时,您将使用队列的200%,但集群的2%。

相关问题