hadoop失败/挂起作业的调试过程

axzmvihb  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(334)

我正在学习hadoop管理,但是我不知道如果我的作业花费的时间比它的平均时间长,如何开始调试,或者如果我的作业失败了,从哪里开始调试。
我通常从资源管理器ui中的日志开始,但我想知道是否还有其他进程可以作为hadoop管理员进行调试。我正在寻找一种通用的方法来使用hortonworks-ambariwebui调试hadoop作业。

gpnt7bae

gpnt7bae1#

日志有助于防止作业失败。我假设你的工作很成功,但是很慢。
开始调试运行缓慢的作业的最佳位置是查看作业计数器(一旦进入作业的mr app母版页,就可以在左侧面板上找到counters链接)。有关每个计数器的含义的详细信息,请参阅hadoop权威指南的第8章。

相关问题