hadoopmapreducejava程序异常:java.lang.nosuchmethoderror

dgsult0t  于 2021-06-02  发布在  Hadoop
关注(0)|答案(0)|浏览(301)

这个问题在这里已经有答案了

如何修复nosuchmethoderror(30个答案)
hadoop 2.6.0浏览文件系统java(1个答案)
四年前关门了。
这是我第一次使用hadoop,我需要帮助来解决我陷入困境的问题(如标题所示)。
我找到了一个我正在寻找的项目:https://github.com/tzulitai/distributed-svm
在开始运行mapreduce作业之前,我在终端上执行了这三个命令,正如构建信息所说:

$ git clone https://github.com/tzulitai/distributed-svm.git
$ cd distributed-svm
$ mvn clean install

生成了一个jar文件cascade-svm-mr-0.0.1-snapshot.jar,我在下面的命令中使用它来运行mapreduce作业:

$ '/usr/local/hadoop/bin/hadoop' jar \
>'/home/hduser/distributed-svm/cascade-svm-mr/target/cascade-svm-mr-0.0.1-SNAPSHOT.jar'\
> ncku.hpds.tzulitai.mapreduce.svm.cascade.CascadeSvm input output

以下是部分例外情况:

Job[] prepartitionJobs = new Job[prepartitionJobCount];

    prepartitionJobs[0] = new Job(prepartitionConfs[0], "Cascade SVM: Partitioning training data, Phase 1");
    prepartitionJobs[0].setJarByClass(CascadeSvm.class);
    prepartitionJobs[0].setNumReduceTasks(0);   // map-only job
    prepartitionJobs[0].setMapperClass(PreStatCounterMapper.class);
    prepartitionJobs[0].setOutputKeyClass(NullWritable.class);
    prepartitionJobs[0].setOutputValueClass(Text.class);
    FileInputFormat.addInputPath(prepartitionJobs[0], new Path(otherArgs[0]));
    FileOutputFormat.setOutputPath(prepartitionJobs[0], new Path(otherArgs[1]+"/tmp"));
    prepartitionJobs[0].waitForCompletion(true);

(整个代码cascadesvm.java可以在上面的链接中找到)。
在上面代码的最后一行遇到错误:

Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.ipc.RPC.getProxy(Ljava/lang/Class;JLjava/net/InetSocketAddress;Lorg/apache/hadoop/security/UserGroupInformation;Lorg/apache/hadoop/conf/Configuration;Ljavax/net/SocketFactory;ILorg/apache/hadoop/io/retry/RetryPolicy;Z)Lorg/apache/hadoop/ipc/VersionedProtocol;
at org.apache.hadoop.mapred.JobClient.createRPCProxy(JobClient.java:505)
at org.apache.hadoop.mapred.JobClient.init(JobClient.java:496)
at org.apache.hadoop.mapred.JobClient.<init>(JobClient.java:479)
at org.apache.hadoop.mapreduce.Job$1.run(Job.java:563)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:422)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
at org.apache.hadoop.mapreduce.Job.connect(Job.java:561)
at org.apache.hadoop.mapreduce.Job.submit(Job.java:549)
at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:580)
at ncku.hpds.tzulitai.mapreduce.svm.cascade.CascadeSvm.main(CascadeSvm.java:485)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)

根据异常,我注意到waitforcompletion方法未被识别或在类作业中不存在,即使我从mapreduce导入包作业时也是如此。
我想也许这个项目使用的是Hadoop2.4.1的旧版本,而我现在使用的是Hadoop2.7.2,所以我在pom.xml文件中修改了hadoop版本,但是仍然没有解决这个问题。
这是pom.xml文件:

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
  <modelVersion>4.0.0</modelVersion>
  <groupId>ncku.hpds.tzulitai</groupId>
  <artifactId>distributed-svm</artifactId>
  <version>0.0.1-SNAPSHOT</version>
  <packaging>pom</packaging>
  <name>distributed-svm</name>
  <description>Distributed SVM approaches implemented with MapReduce</description>
  <modules>
    <module>cascade-svm-mr</module>
    <module>bagging-svm-mr</module>
  </modules>
  <dependencies>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-common</artifactId>
        <version>2.7.2</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-mapreduce-client-core</artifactId>
        <version>2.7.2</version>
    </dependency>
    <dependency>
        <groupId>tw.edu.ntu.csie</groupId>
        <artifactId>libsvm</artifactId>
        <version>3.17</version>
    </dependency>
  </dependencies>
  <build>
  <plugins>
    <plugin>
        <artifactId>maven-compiler-plugin</artifactId>
        <version>2.3.2</version>
        <configuration>
            <source>1.8</source>
            <target>1.8</target>
        </configuration>
    </plugin>
   </plugins>
  </build>
</project>

抱歉,如果我的问题太长,但我真的需要解决这个错误,任何帮助将不胜感激,问候。

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题