在bash脚本中执行时捕获作业id

wr98u20j  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(369)

我正在实现一个shell脚本,以便在验证某些条件后运行一个yarn作业。我想在shell脚本使用其jobid触发后检查作业状态/进度。你有什么想法吗?
因为我不能从pid得到工作ID,所以我有点卡住了。
提前谢谢

zvokhttg

zvokhttg1#

将其保存在hdfs中最简单,您可以随时参考:

val hadoopConf = sc.hadoopConfiguration
    val fs = org.apache.hadoop.fs.FileSystem.get(hadoopConf)
    fs.create(new Path("PathWithFileName"), true).writeBytes(sc.applicationId)

相关问题