hadoop dedoop应用程序无法联系hadoop namenode:获取“无法联系namenode”错误

kxxlusnw  于 2021-06-03  发布在  Hadoop
关注(0)|答案(2)|浏览(246)

我正在尝试使用在amazonec2上使用hadoop和hdfs运行的dedoop应用程序。hadoop集群已设置,namenode jobtracker和所有其他守护进程正在正常运行。
但是war dedoop.war应用程序在tomcat上部署hadoop namenode后无法连接到它。
我还检查了ec2中的端口是否打开。
感谢您的帮助。

0x6upsns

0x6upsns1#

如果您使用的是amazonaws,我强烈建议您使用amazonlasticmap reduce。amazon负责为您设置和配置hadoop集群,包括设置ip地址、namenode等。
如果您要在ec2上建立自己的集群,那么必须小心使用公共/私有ip地址。很可能,您指向的是外部ip地址—是否可以用内部ip地址替换它们,看看是否有效?

wnrlj8wa

wnrlj8wa2#

你能从tomcat的日志文件中发布一些stacktrace行吗?
dedoop必须设置一个socks代理服务器(类似于ssh-d端口)username@host)将连接传递到ec2上的hadoop节点。这主要是因为hadoop将puplic ip解析为ec2内部ip,这破坏了mr作业提交和hdfs管理。
为此,必须将tomcat配置为etablish ssh连接。这里描述了设置过程。

相关问题