我正在用 hadoop jar
命令。然而,为了让程序运行得更快,我需要增加hadoop的堆大小。我尝试了以下方法,但是没有任何效果(我有hadoopversion2.5),即使是在同一个终端上。
export HADOOP_HEAPSIZE=16384
export HADOOP_OPTS="-Xmx16g"
另一种方法是将以下内容添加到mapred-site.xml文件中,但不幸的是,我不是管理员,所以不能这样做。
<property>
<name>mapred.child.java.opts</name>
<value>-Xmx16384m</value>
</property>
有没有其他方法也可以做到这一点?
2条答案
按热度按时间kiayqfof1#
在使用hadoop jar时增加堆大小的一种方法对我很有用:
如您所见,您设置了环境变量的值(也适用于其他环境变量,在本例中,我将max size设置为
16384m
)在同一条线上hadoop jar
命令。ht4b089n2#
我通过修改hadoop\u client\u opts环境变量解决了这个问题,如下所示。
请注意,我使用的程序只在主节点上运行。换句话说,它不是一个分布式应用程序。