hadoopYarn资源管理

0mkxixxg  于 2021-06-03  发布在  Hadoop
关注(0)|答案(1)|浏览(349)

我有一个10节点的hadoop集群。在10个节点中,有3个节点部署了hbase。有两个应用程序共享集群。应用程序1从hadoop hdfs写入和读取数据。应用程序2将数据存储到hbase中。在yarn中是否有方法确保application1启动的hadoop m/r作业不使用hbase节点上的插槽?我只希望应用程序2启动的hbase m/r作业使用hbase节点。这是为了确保应用程序2有足够的可用资源,以便hbase扫描非常快。
关于如何做到这一点有什么建议吗?

2uluyalo

2uluyalo1#

如果您在yarn上运行hbase和应用程序,则应用程序主机(hbase本身和mr作业)可以请求数据节点上的最大可用资源。
你知道hortonworks项目hoya=hbase on yarn吗?
特别是其中一个特点是:
运行mr jobs,同时保持hbase的低延迟sla

相关问题