我是hadoop的初学者。现在,我有一个maven项目,配置如下:
Configuration conf = new Configuration();
conf.set("mapred.job.tracker", "http://127.0.0.1:8088");
conf.set("yarn.resourcemanager.address", "http://127.0.0.1:50070");
conf.set("mapreduce.framework.name", "yarn");
但当我在笔记本电脑上运行时,程序会在
INFO client.RMProxy: Connecting to ResourceManager at /127.0.0.1:50070
如果我把配置改成
Configuration conf = new Configuration();
conf.set("mapred.job.tracker", "http://localhost:8088");
conf.set("yarn.resourcemanager.address", "http://hoathost:50070");
conf.set("mapreduce.framework.name", "yarn");
程序将在
INFO client.RMProxy: Connecting to ResourceManager at localhost/127.0.0.1:50070
我可以在浏览器中看到127.0.0.1:50070页面,因此hadoop应该可以成功启动。
有人知道怎么解决这个问题吗?
2条答案
按热度按时间bmp9r5qi1#
如果您的集群运行良好,那么连接此集群的最简单方法是
将hadoop conf从$hadoop\u conf\u dir复制到本地目录
将配置文件加载到客户端
Configuration
configuration conf=新配置();conf.addresource(新路径(“file:///path/to/client/yarn site.xml”);
...
如果您使用的是hdp或cdh发行版,那么您应该能够下载客户机配置包并在本地使用它们连接到集群。
xcitsw882#
50070是hdfs namenode webui端口,默认yarn.resourcemanager.address ipc端口是8032,请尝试更新代码中的下面一行。
conf.set(“yarn.resourcemanager.address”,“http://127.0.0.1:8032");