Impala 资源管理

at0kjp5o  于 2021-06-26  发布在  Impala
关注(0)|答案(1)|浏览(483)

许可控制嵌入在每个impalad守护进程中,并通过statestore服务进行通信。impalad守护进程确定查询是立即运行还是排队。但是,如果突然的请求流导致并发运行的查询比预期的多,那么集群级别的整体impala内存限制和linuxcgroups机制将用作硬限制,以防止内存过度分配。当查询达到这些限制时,impala将取消查询。
这是否意味着在单个impala守护进程级别或集群级别强制实施impala资源限制?。

yvgpqqbh

yvgpqqbh1#

答案是两者兼而有之。每个impalad守护进程都有自己的内存限制。超过它将导致查询被取消。接纳控制池在集群级别工作,即使gatekeep(决定查询是运行还是排队)在每个impalad级别,即使这些impalad根据集群级别的池资源做出接纳决定。这就是为什么当大量的查询被发送到不同的impalad示例时,impalad守护进程可能会允许更多的查询,因为它们当时无法获取最新的集群资源使用信息。cgroup限制不会导致取消查询。它确定当存在cpu争用时impalad应该获得的cpu百分比。

相关问题