我正在实现一个shell脚本,以便在验证某些条件后运行一个yarn作业。我想在shell脚本使用其jobid触发后检查作业状态/进度。你有什么想法吗?因为我不能从pid得到工作ID,所以我有点卡住了。提前谢谢
zvokhttg1#
将其保存在hdfs中最简单,您可以随时参考:
val hadoopConf = sc.hadoopConfiguration val fs = org.apache.hadoop.fs.FileSystem.get(hadoopConf) fs.create(new Path("PathWithFileName"), true).writeBytes(sc.applicationId)
1条答案
按热度按时间zvokhttg1#
将其保存在hdfs中最简单,您可以随时参考: