交互式作业与批处理作业中的spark事件日志行为

qyyhg6bp  于 2021-05-27  发布在  Spark
关注(0)|答案(0)|浏览(280)

我正在blob存储中编写spark事件和应用程序日志。我使用类似的路径在blob存储中编写spark事件和应用程序日志。例如: spark.eventLog.dir = wasb://<containerName>@<storageAccountURI>/logs 以及 application log dir = wasb://<containerName>@<storageAccountURI>/logs/app/ .
因为我使用的是blob存储,所以我需要创建一个带有占位符文件的根目录,否则写入操作将失败。但我不是在创建占位符文件。
现在在批量作业的情况下,spark驱动程序在集群模式下运行。因为我的应用程序日志记录负责创建文件夹。然而,在客户端模式下运行的交互式作业失败,因为我没有创建占位符文件。
我想了解如何Spark发射事件的情况下,互动与批处理作业。我觉得事件发生的时间导致了这个问题。

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题