java—如何通过自定义侦听器获取所有spark执行器的总存储内存

o3imoua4  于 2021-06-27  发布在  Java
关注(0)|答案(0)|浏览(181)

我正在java中通过以下方式实现自定义spark侦听器: public class MetricsSparkListener extends SparkListener 并希望捕获spark history ui:spark ui executor tab中显示的执行器度量
可以有人请分享一些样本代码或api文档如何做到这一点。我在网上找不到任何例子或任何描述。
我在努力 onExecutorMetricsUpdate(SparkListenerExecutorMetricsUpdate executorMetricsUpdate) 但不能真正了解 ExecutorMetrics 对象。呼叫 executorMetricsUpdate.executorUpdates().get().getMetricValue(ExecutorMetricType metricType) 需要executormetrictype参数,该参数似乎是某个scala接口。不确定如何创建度量类型值。
最后,我想达到这里描述的执行者指标可用的执行者指标,特别是峰值内存指标,并为整个应用程序进行总结。

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题