proto2无法运行

ecfdbz9o 于 2021-06-01 发布在 Hadoop

关注(0)|答案(1)|浏览(500)

我有一个带语法的原型文件 proto2 另外，我需要使用spark（2.0.2）和hbase。我的项目是用gradle构建的。
现在，当我运行java代码时，出现以下错误：

Exception in thread "main" org.apache.spark.SparkException: Job aborted due to stage failure: Task 0 in stage 3.0 failed 1 times, most recent failure: Lost task 0.0 in stage 3.0 (TID 3, localhost): java.lang.NoSuchMethodError: com.google.protobuf.Descriptors$Descriptor.getOneofs()Ljava/util/List;
    at com.google.protobuf.GeneratedMessageV3$FieldAccessorTable.<init>(GeneratedMessageV3.java:1707)
    at com.google.protobuf.AnyProto.<clinit>(AnyProto.java:52)
    at com.google.protobuf.Any.getDescriptor(Any.java:129)
    at com.google.protobuf.util.JsonFormat$ParserImpl.buildWellKnownTypeParsers(JsonFormat.java:1100)
    at com.google.protobuf.util.JsonFormat$ParserImpl.<clinit>(JsonFormat.java:1094)
    at com.google.protobuf.util.JsonFormat$Parser.merge(JsonFormat.java:277)

这个stacktrace与这里发布的问题非常相似，但是那里发布的解决方案不适用于我。
我尝试的是：
我变了 compile group: 'com.google.protobuf', name: 'protobuf-java', version: '2.5.0' 至 compile group: 'org.spark-project.protobuf', name: 'protobuf-java', version: '2.4.1-shaded' 正如这个链接所暗示的，但同样的错误仍然存在。
非常感谢您的帮助！

Java hadoop apache-spark protocol-buffers Gradle

来源：https://stackoverflow.com/questions/44123603/proto2-with-spark-cannot-run

1条答案

按热度按时间

prdp8dxp1#

好的，解决办法是： relocate 是救援的方法。
在我的主程序中，我有一个build.gradle如下：

dependencies {
    compile project(path: ':utils:hbasewrapper', configuration: 'shadow')
}
apply plugin: 'com.github.johnrengelman.shadow'

shadowJar {
    baseName = 'awesome-jar'
    zip64 true
    // This is to avoid the conflict between proto3 we are using and the proto2 hbase is using.
    relocate ('com.google.protobuf', 'importer.com.google.protobuf')
}

然后，我创建了另一个gradle包，其中包含以下build.gradle

group 'com.abc.hbasewrapper'
version '1.0-SNAPSHOT'

dependencies {
    compile group: 'org.apache.hbase', name: 'hbase-client', version: '1.3.0'
    compile group: 'org.apache.hbase', name: 'hbase-server', version: '1.2.2'
}

apply plugin: 'java'
apply plugin: 'com.github.johnrengelman.shadow'

shadowJar {
    baseName = 'hbasewrapper'
    version = null
    zip64 true
    relocate ('com.google.protobuf', 'hbasewrapper.com.google.protobuf')
    relocate ('io.netty', 'hbasewrapper.io.netty')
}

根本原因是hbase引用了proto2，而我的程序使用的是proto3，因此导致了这种情况 NoSuchMethodError 错误。解决方法是使用 relocate ，以重新定位 com.google.protobuf 另一个gradle项目的唯一目的是构建具有proto2的hbase jar文件。
希望它能帮助其他程序员^

赞(0）回复(0）举报 2021-06-01

我来回答

proto2无法运行

1条答案

相关问题

热门标签

最新问答