在我们的env中,有许多用户从不同的工具发出配置单元查询。很多时候,用户会给我们一个查询,并说它失败了约一段时间,我们需要挖掘,找出原因。所以我们需要解析配置单元日志并找到查询。查找查询是比较容易的部分,有没有一种方法可以很容易地弄清楚,一旦在配置单元日志中找到查询(通常在执行命令的单词之后),如何轻松地获得与之关联的应用程序id?我正在尝试自动化这个过程,这样我可以减少我们的分析时间。谢谢
nlejzf6q1#
不是一个完整的答案,但它可以帮助你开始。不必查看配置单元日志,您可以查看timeline服务器restapi,也可以查看资源管理器api。从那时起,你应该能够得到一个查询列表和应用程序id。如果你用的是hortonworks,可以看看tez视图。它会显示查询和应用程序id。查看浏览器的开发人员工具实际发生的情况有助于控制api调用流。我对cloudera或mapr不够熟悉,不知道该去哪里看。此选项的优点是,它可以远程完成,并且可以更优雅地处理ha,因为它不需要直接在您的配置单元服务器上运行
jpfvwuh42#
你能做的一件事是,你可以使用 yarn application -list -appStates ALL 命令。它所做的是,它会给你所有的应用程序及其各自的应用程序id的名单,名称,用户,状态,跟踪网址等。。所以你可以深入了解你需要什么。您甚至可以指定状态,例如需要哪些状态数据,例如:- yarn application -list -appStates FINISHED 将显示状态为“已完成”的所有记录。
yarn application -list -appStates ALL
yarn application -list -appStates FINISHED
2条答案
按热度按时间nlejzf6q1#
不是一个完整的答案,但它可以帮助你开始。
不必查看配置单元日志,您可以查看timeline服务器restapi,也可以查看资源管理器api。从那时起,你应该能够得到一个查询列表和应用程序id。
如果你用的是hortonworks,可以看看tez视图。它会显示查询和应用程序id。查看浏览器的开发人员工具实际发生的情况有助于控制api调用流。我对cloudera或mapr不够熟悉,不知道该去哪里看。
此选项的优点是,它可以远程完成,并且可以更优雅地处理ha,因为它不需要直接在您的配置单元服务器上运行
jpfvwuh42#
你能做的一件事是,你可以使用
yarn application -list -appStates ALL
命令。它所做的是,它会给你所有的应用程序及其各自的应用程序id的名单,名称,用户,状态,跟踪网址等。。所以你可以深入了解你需要什么。您甚至可以指定状态,例如需要哪些状态数据,例如:-yarn application -list -appStates FINISHED
将显示状态为“已完成”的所有记录。