在docker容器上运行hadoop群集

snvhrwxg  于 2021-05-30  发布在  Hadoop
关注(0)|答案(2)|浏览(387)

我想运行一个多节点hadoop集群,每个节点位于不同主机上的docker容器中。这张照片-https://github.com/sequenceiq/hadoop-docker 在伪分布式模式下启动hadoop很好,最简单的修改方法是将每个节点放在一个单独的ec2主机上的不同容器中?

l0oc07j2

l0oc07j21#

sequenceiq的人员创建了一个名为cloudbreak的新项目,该项目旨在与不同的云提供商合作,并在他们身上轻松创建hadoop集群。你只需输入你的凭据,然后它的工作方式对所有供应商一样,据我所知。
因此对于ec2来说,这可能是最简单的解决方案(特别是因为有一个漂亮的gui):
https://github.com/sequenceiq/cloudbreak-deployer

cidc1ykv

cidc1ykv2#

我用两个容器在两个不同的ubuntu主机上运行master和slave节点。我用weave在容器之间建立了网络。我已经在docker hub帐户div4上添加了容器的图像。我安装hadoop的方式与安装在不同主机上的方式相同。我在这里添加了两个带有coomands的图像来运行haddop:
https://registry.hub.docker.com/u/div4/hadoop_master/https用法:/registry.hub.docker.com/u/div4/hadoop\u slave/。

相关问题