可以在AWS Glue 3.0中使用Spark 3.3.0

qlfbtfca  于 2022-12-23  发布在  Apache
关注(0)|答案(2)|浏览(97)

我想使用Spark 3.3.0版本的功能,如Trigger.availableNow在AWS胶水3.0与scala,但AWS胶水3.0使用ApacheSpark版本3.1.1,有没有办法使用ApacheSpark3.3.0在AWS胶水3.0与scala。

iyr7buue

iyr7buue1#

不,很遗憾这是不可能的。你只能使用Glue provides的版本。如果你想使用不同的Spark版本,你必须使用AWS EMR,他们支持Spark 3. 2. 0。

相关问题