表数据存储在Spark的哪里?

polkgigr  于 2023-05-18  发布在  Apache
关注(0)|答案(1)|浏览(369)

你好,我想知道SparkSQL在Spark中存储表元数据的位置?如果默认情况下它不在Hive元存储中,那么它存储在哪里?

vlju58qv

vlju58qv1#

以下是spark-2.2.0文档的解释
hive-site.xml未配置时,上下文会自动在当前目录中创建metastore_db,并创建spark.sql.warehouse.dir配置的目录,默认为启动Spark应用的当前目录中的spark-warehouse目录。请注意,hive-site.xml中的hive.metastore.warehouse.dir属性自Spark 2.0.0以来已弃用。相反,使用spark.sql.warehouse.dir指定数据库在仓库中的默认位置。
这里是链接:https://spark.apache.org/docs/latest/sql-data-sources-hive-tables.html

相关问题