如何设置Spark应用程序退出状态?

waxmsbnn  于 2022-11-16  发布在  Apache
关注(0)|答案(2)|浏览(323)

我正在编写一个spark应用程序,并使用spark-submit shell脚本运行它(使用yarn-cluster/yarn-client)
正如我现在看到的,spark-submit的退出代码是根据相关的Yarn申请决定的--如果SUCCEEDED状态为0,否则为1。
我希望有返回另一个退出代码的选项-对于我的应用程序成功但有一些错误的状态。
是否可以从应用程序返回不同的退出代码?
我尝试使用System.exit(),但没有成功...

  • 谢谢-谢谢
sd2nnvve

sd2nnvve1#

这在客户端模式下是可能的,但在群集模式下则不可能。您有群集模式的解决方法。
我对这个问题的回答应该会对你有所帮助。

j8ag8udp

j8ag8udp2#

如果在集群模式下运行,spark-submit会立即结束,并返回提交ID作为json的一部分,而不等待应用程序状态。

spark-submit --status [submission ID]

如果在本地或独立模式下运行,您应该能够从spark-submit进程中获得退出代码。

相关问题