从给定查询的配置单元日志中获取应用程序id

flvtvl50  于 2021-05-29  发布在  Hadoop
关注(0)|答案(2)|浏览(351)

在我们的env中,有许多用户从不同的工具发出配置单元查询。很多时候,用户会给我们一个查询,并说它失败了约一段时间,我们需要挖掘,找出原因。所以我们需要解析配置单元日志并找到查询。
查找查询是比较容易的部分,有没有一种方法可以很容易地弄清楚,一旦在配置单元日志中找到查询(通常在执行命令的单词之后),如何轻松地获得与之关联的应用程序id?
我正在尝试自动化这个过程,这样我可以减少我们的分析时间。
谢谢

nlejzf6q

nlejzf6q1#

不是一个完整的答案,但它可以帮助你开始。
不必查看配置单元日志,您可以查看timeline服务器restapi,也可以查看资源管理器api。从那时起,你应该能够得到一个查询列表和应用程序id。
如果你用的是hortonworks,可以看看tez视图。它会显示查询和应用程序id。查看浏览器的开发人员工具实际发生的情况有助于控制api调用流。我对cloudera或mapr不够熟悉,不知道该去哪里看。
此选项的优点是,它可以远程完成,并且可以更优雅地处理ha,因为它不需要直接在您的配置单元服务器上运行

jpfvwuh4

jpfvwuh42#

你能做的一件事是,你可以使用 yarn application -list -appStates ALL 命令。它所做的是,它会给你所有的应用程序及其各自的应用程序id的名单,名称,用户,状态,跟踪网址等。。所以你可以深入了解你需要什么。您甚至可以指定状态,例如需要哪些状态数据,例如:- yarn application -list -appStates FINISHED 将显示状态为“已完成”的所有记录。

相关问题