用于Spark流的Kafka连接器版本

ctrmrzij  于 2021-06-06  发布在  Kafka
关注(0)|答案(1)|浏览(401)

可供下载的Kafka的最新版本是Kafka2.1.0。但是为了在spark流媒体或spark结构化流媒体中使用kafka,我们分别使用以下连接器:

spark-streaming-kafka-0-10_2.11
spark-sql-kafka-0-10_2.11

我的问题是,似乎连接器是Kafka版本0.10.0.0,因为连接器的名称包括0-10。这里有什么我不明白的,或者我们真的在使用Kafka的旧版本的连接器吗?

3lxsmp7m

3lxsmp7m1#

对于spark structure streaming 2.4,使用kafka client 2.0。
0-10表示它与0.10或更高版本的kafka brokers兼容。
你可以办理入住手续 pom.xml 在spark项目中:https://github.com/apache/spark/blob/branch-2.4/external/kafka-0-10-sql/pom.xml#l33

相关问题