从配置单元中读取表而不使用map reduce

w3nuxt5m  于 2021-06-02  发布在  Hadoop
关注(0)|答案(2)|浏览(241)

如何在没有MapReduce的情况下从Hive中读取?我试图从配置单元上创建的表中读取一列,但我不希望map中存在的开销减少。基本上,我想从配置单元上创建的表中检索值,而不需要任何开销,并以尽可能快的方式获取它们。

kxxlusnw

kxxlusnw1#

通常,如果在配置单元mapreduce中执行“selectfrom”,则不会运行表。。
在您的情况下,是否只使用配置单元表中的select列,mapreduce也不会运行。
或者您可以在主表上创建一个子表,其中包含所需的列和行数,只需在表上执行select

cbeh67ev

cbeh67ev2#

代替mapreduce,您可以在hive中使用tez或spark作为执行引擎。
请参见配置单元配置属性中的hive.execution.engine。
还有许多sql引擎与配置单元元数据兼容,例如presto、spark sql、impala。

相关问题