是否有针对hadoop/hbase的amazon社区ami?

vc6uscn9  于 2021-06-04  发布在  Hadoop
关注(0)|答案(2)|浏览(376)

我想在amazonec2中测试hadoop和hbase,但我不确定它有多复杂。是否有一个安装了hadoop和hbase的稳定社区ami?我在想生物导体之类的东西
谢谢您。

iecba09b

iecba09b1#

我强烈建议您使用amazon的ElasticMapReduce服务,特别是如果您已经拥有aws/ec2帐户的话。原因是:
emr附带了一个“开箱即用”的hadoop/hbase集群——您不需要调整任何东西就可以让hadoop/hbase正常工作。它只是工作(tm)。
amazonec2的网络与您可能习惯的网络截然不同。afaik,它有一个1对1的nat,节点可以看到自己的私有ip地址,但它通过公共ip连接到外部世界。当您手动构建集群时,这会导致问题——甚至使用专门用于ec2的apachewhirr或bigtop之类的软件。
一个ami本身不可能帮助您启动和运行hadoop或hbase集群-如果您想运行hadoop/hbase集群,您可能需要花时间调整网络设置等。

ymzxtsji

ymzxtsji2#

据我所知没有,但是您应该能够使用apachewhirr轻松地在ec2上部署,这是一个非常好的替代方案。
这里有一个很好的教程来做这个与whirr,因为教程说,你应该能够在几分钟内做到这一点!
关键是创造一个这样的配方:

whirr.cluster-name=hbase
whirr.instance-templates=1 zk+nn+jt+hbase-master,5 dn+tt+hbase-regionserver
whirr.provider=ec2
whirr.identity=${env:AWS_ACCESS_KEY_ID}
whirr.credential=${env:AWS_SECRET_ACCESS_KEY}
whirr.hardware-id=c1.xlarge
whirr.image-id=us-east-1/ami-da0cf8b3
whirr.location-id=us-east-1

然后,您就可以通过以下方式启动群集:

bin/whirr launch-cluster --config hbase-ec2.properties

相关问题