如何从hadoop集群中的yarn中检索max容器?

5vf7fwbs  于 2021-06-02  发布在  Hadoop
关注(0)|答案(2)|浏览(390)

如何从hadoop集群中yarn的资源管理器中获得容器的总计数,即最大容量。我尝试了restapi和jmx度量,我只得到了分配的容器和挂起的容器的总数。那么有什么方法可以检索可以创建的最大容器数吗?

rslzwgfq

rslzwgfq1#

rmapi集群度量向您显示vcore总数和总内存。
https://hadoop.apache.org/docs/r2.7.1/hadoop-yarn/hadoop-yarn-site/resourcemanagerrest.html#cluster_metrics_api
因此,如果您访问rmurl/ws/v1/cluster/metrics,您将看到“totalmb”和“totalvirtualcores”的值。

chhqkbe1

chhqkbe12#

在Yarn中,我们有最小分配属性,所以所有容器都有该值的最小值。因此,在此基础上,您可以计算出可以启动的最大容器数(除以可用的总内存)。我认为这是唯一的办法,以获得最大的集装箱可以推出。
所以在你的程序中,得到这两个属性,然后做一些数学运算将得到你需要的结果。
要查找的属性包括:

<name>yarn.scheduler.minimum-allocation-mb</name>
    <value>1024</value>
    <name>yarn.scheduler.minimum-allocation-mb</name>
    <value>8192</value>

相关问题