我在hadoop集群上使用hive。每当我尝试运行配置单元查询时,它总是显示为阶段1的hadoop作业信息:减速器数量:1我使用了以下配置:
hive.exec.reducers.bytes.per.reducer=1000000000 hive.exec.reducers.max=999
请告诉我如何增加减速机的数量。谢谢。
bgibtngc1#
是否尝试设置mapred.reduce.tasks参数?
chy5wohz2#
确保您已完成以下要点:mapred.reduce.tasks默认为-1。通过将此属性设置为-1,hive将自动计算出减速器的数量。没有分组的配置单元查询将只使用1个缩减器。还要注意的是,当mapred.job.tracker为“local”时,hadoop会默认将mapred.reduce.tasks的值设置为1。
2条答案
按热度按时间bgibtngc1#
是否尝试设置mapred.reduce.tasks参数?
chy5wohz2#
确保您已完成以下要点:
mapred.reduce.tasks默认为-1。通过将此属性设置为-1,hive将自动计算出减速器的数量。
没有分组的配置单元查询将只使用1个缩减器。
还要注意的是,当mapred.job.tracker为“local”时,hadoop会默认将mapred.reduce.tasks的值设置为1。