这个问题在这里已经有答案了:
如何修复nosuchmethoderror(30个答案)
hadoop 2.6.0浏览文件系统java(1个答案)
四年前关门了。
这是我第一次使用hadoop,我需要帮助来解决我陷入困境的问题(如标题所示)。
我找到了一个我正在寻找的项目:https://github.com/tzulitai/distributed-svm
在开始运行mapreduce作业之前,我在终端上执行了这三个命令,正如构建信息所说:
$ git clone https://github.com/tzulitai/distributed-svm.git
$ cd distributed-svm
$ mvn clean install
生成了一个jar文件cascade-svm-mr-0.0.1-snapshot.jar,我在下面的命令中使用它来运行mapreduce作业:
$ '/usr/local/hadoop/bin/hadoop' jar \
>'/home/hduser/distributed-svm/cascade-svm-mr/target/cascade-svm-mr-0.0.1-SNAPSHOT.jar'\
> ncku.hpds.tzulitai.mapreduce.svm.cascade.CascadeSvm input output
以下是部分例外情况:
Job[] prepartitionJobs = new Job[prepartitionJobCount];
prepartitionJobs[0] = new Job(prepartitionConfs[0], "Cascade SVM: Partitioning training data, Phase 1");
prepartitionJobs[0].setJarByClass(CascadeSvm.class);
prepartitionJobs[0].setNumReduceTasks(0); // map-only job
prepartitionJobs[0].setMapperClass(PreStatCounterMapper.class);
prepartitionJobs[0].setOutputKeyClass(NullWritable.class);
prepartitionJobs[0].setOutputValueClass(Text.class);
FileInputFormat.addInputPath(prepartitionJobs[0], new Path(otherArgs[0]));
FileOutputFormat.setOutputPath(prepartitionJobs[0], new Path(otherArgs[1]+"/tmp"));
prepartitionJobs[0].waitForCompletion(true);
(整个代码cascadesvm.java可以在上面的链接中找到)。
在上面代码的最后一行遇到错误:
Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.ipc.RPC.getProxy(Ljava/lang/Class;JLjava/net/InetSocketAddress;Lorg/apache/hadoop/security/UserGroupInformation;Lorg/apache/hadoop/conf/Configuration;Ljavax/net/SocketFactory;ILorg/apache/hadoop/io/retry/RetryPolicy;Z)Lorg/apache/hadoop/ipc/VersionedProtocol;
at org.apache.hadoop.mapred.JobClient.createRPCProxy(JobClient.java:505)
at org.apache.hadoop.mapred.JobClient.init(JobClient.java:496)
at org.apache.hadoop.mapred.JobClient.<init>(JobClient.java:479)
at org.apache.hadoop.mapreduce.Job$1.run(Job.java:563)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:422)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
at org.apache.hadoop.mapreduce.Job.connect(Job.java:561)
at org.apache.hadoop.mapreduce.Job.submit(Job.java:549)
at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:580)
at ncku.hpds.tzulitai.mapreduce.svm.cascade.CascadeSvm.main(CascadeSvm.java:485)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
根据异常,我注意到waitforcompletion方法未被识别或在类作业中不存在,即使我从mapreduce导入包作业时也是如此。
我想也许这个项目使用的是Hadoop2.4.1的旧版本,而我现在使用的是Hadoop2.7.2,所以我在pom.xml文件中修改了hadoop版本,但是仍然没有解决这个问题。
这是pom.xml文件:
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<groupId>ncku.hpds.tzulitai</groupId>
<artifactId>distributed-svm</artifactId>
<version>0.0.1-SNAPSHOT</version>
<packaging>pom</packaging>
<name>distributed-svm</name>
<description>Distributed SVM approaches implemented with MapReduce</description>
<modules>
<module>cascade-svm-mr</module>
<module>bagging-svm-mr</module>
</modules>
<dependencies>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>2.7.2</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-mapreduce-client-core</artifactId>
<version>2.7.2</version>
</dependency>
<dependency>
<groupId>tw.edu.ntu.csie</groupId>
<artifactId>libsvm</artifactId>
<version>3.17</version>
</dependency>
</dependencies>
<build>
<plugins>
<plugin>
<artifactId>maven-compiler-plugin</artifactId>
<version>2.3.2</version>
<configuration>
<source>1.8</source>
<target>1.8</target>
</configuration>
</plugin>
</plugins>
</build>
</project>
抱歉,如果我的问题太长,但我真的需要解决这个错误,任何帮助将不胜感激,问候。
暂无答案!
目前还没有任何答案,快来回答吧!