我可以使用Apache Spark Standalone版本分发工作吗?

yzuktlbb  于 2023-08-06  发布在  Apache
关注(0)|答案(1)|浏览(143)

我听到人们在谈论“Apache独立集群”,这让我感到困惑,因为我将“集群”理解为通过潜在的快速网络连接并并行工作的各种机器,而“独立”则是孤立的机器或程序。那么问题来了,Apache Standalone可以跨网络进行分布式工作吗?如果可以,那么与非独立版本有什么区别?

baubqpgj

baubqpgj1#

在Spark中,Standalone(不要误认为是local)意味着您不使用外部资源管理(YARN,Mesos),而是使用Spark自己的资源管理实用程序。它可以像Spark一样在其他集群管理器上分发。
local模式下的Spark在单个JVM上运行。它不能是分布式的(但是,在单个机器的限制下,它仍然是与线程和进程并行的),只对开发有用。

相关问题