如何在Apache Spark事件日志中添加新事件

oymdgrw7  于 2023-08-06  发布在  Apache
关注(0)|答案(2)|浏览(148)

Apache Spark在事件日志中推送了大量信息。如何将自定义事件推送到此事件日志中?
Spark是否会公开任何API来实现这一点?或者我可以扩展任何现有的类来实现这一点吗?

xu3bshqb

xu3bshqb1#

如果您有流查询,则可以扩展“StreamingQueryListener”,然后将其添加到

spark.streams.addListener(new EventCollector(APP_NAME))

字符串
其中,

EventCollector(APP_NAME) extends StreamingQueryListener


编写你自己的方法

onQueryStarted
onQueryProgress
onQueryTerminated


方法并在其中放入自定义代码

arknldoa

arknldoa2#

您的类可以扩展org.apache.spark.Logging并使用其中定义的帮助方法:

logInfo("task success") 
logWarn("didn't receive data")
...

字符串
请注意该trait上的 warning
注意:不要在Spark之外使用这个类。它是一个内部实用程序。这可能会在未来的版本中更改或删除。

相关问题