如何在ha模式下运行spark驱动程序?

jckbn6z7  于 2021-06-26  发布在  Mesos
关注(0)|答案(1)|浏览(285)

我有一个spark驱动程序在客户端模式下提交给mesos集群(具有高度可用的mesos主控程序)(请参阅下面的内容) client 部署模式)。
我也想在ha模式下运行spark驱动程序。怎样?
我可以为这个实现我自己的实现,但是现在寻找任何可用的东西。

uajslkp6

uajslkp61#

热释光;dr使用 cluster 部署模式 --supervise ,例如。 spark-submit --deploy-mode cluster --supervise 有很强的Spark驱动力 client 模式不可能如引用文件所述:
在客户机模式下,直接在客户机上启动spark mesos框架并等待驱动程序输出。
您必须以某种方式监视客户机上的进程,并检查其退出代码。
一个更安全的解决方案是让mesos做它的工作。你应该使用 cluster 部署模式,确保驱动程序运行(并在发生故障时重新启动)。请参阅“群集模式”一节:
mesos上的spark还支持集群模式,即在集群中启动驱动程序,客户端可以从mesoswebui中找到驱动程序的结果。

相关问题