spark2.4.5的最新文档建议在以后的工作中使用“动态资源分配和外部无序服务”,然而,我也发现了spark2.2.0的一些旧文档,建议在设置外部无序服务之后支持它。
您是否已成功启用kubernetes上的spark动态分配?如果是,您面临哪些挑战?您参考了哪些文档?
我们目前正在为spark使用aws emr服务,并希望在启用动态分配的kubernetes上试用spark。
谢谢!
spark2.4.5的最新文档建议在以后的工作中使用“动态资源分配和外部无序服务”,然而,我也发现了spark2.2.0的一些旧文档,建议在设置外部无序服务之后支持它。
您是否已成功启用kubernetes上的spark动态分配?如果是,您面临哪些挑战?您参考了哪些文档?
我们目前正在为spark使用aws emr服务,并希望在启用动态分配的kubernetes上试用spark。
谢谢!
1条答案
按热度按时间b1zrtrql1#
旧文档确实属于旧的spark fork repo,它被用作与k8s相关的apachespark主存储库工作的基础和poc。如果您想启用此功能,您只能使用旧的spark 2.2.0 fork。请注意,不建议将其用于产品。