使用GenericOptions Parser和toolrunner分发文件

uqjltbpv  于 2021-05-30  发布在  Hadoop
关注(0)|答案(1)|浏览(333)

我曾经使用运行hadoop mapreduce(这使用genericoptionsparser) hadoop jar app.jar app -files /home/some/file#file 但是在hadoop的最新版本中 Hadoop command-line option parsing not performed. Implement the Tool interface and execute your application with ToolRunner to remedy this. 那么如何实施呢 -files 使用toolrunner在所有mapreduce节点之间共享的选项?

smdnsysy

smdnsysy1#

显然以前的已经被否决了。。。
我就是这么做的。。。 import org.apache.hadoop.conf.Configuration; . . . Configuration conf = new Configuration(); . Job job = Job.getInstance(conf, "appname"); job.setJarByClass(appname.class); . . job.addCacheFile(new URI("/file/in/hdfs/APP/appfile#appfile")); . .

相关问题