第一阶段的hadoop作业信息:减速器的数量总是显示1我不能改变它我怎样才能改变它?

vwkv1x7d  于 2021-06-03  发布在  Hadoop
关注(0)|答案(2)|浏览(255)

我在hadoop集群上使用hive。每当我尝试运行配置单元查询时,它总是显示为
阶段1的hadoop作业信息:减速器数量:1
我使用了以下配置:

hive.exec.reducers.bytes.per.reducer=1000000000
hive.exec.reducers.max=999

请告诉我如何增加减速机的数量。
谢谢。

bgibtngc

bgibtngc1#

是否尝试设置mapred.reduce.tasks参数?

chy5wohz

chy5wohz2#

确保您已完成以下要点:
mapred.reduce.tasks默认为-1。通过将此属性设置为-1,hive将自动计算出减速器的数量。
没有分组的配置单元查询将只使用1个缩减器。
还要注意的是,当mapred.job.tracker为“local”时,hadoop会默认将mapred.reduce.tasks的值设置为1。

相关问题