我们如何在官方的spark项目中运行kafka示例?

tez616oj  于 2021-06-06  发布在  Kafka
关注(0)|答案(1)|浏览(317)

我尝试在spark项目中运行简单的Kafka示例。
spark构建正确,所以我可以运行大多数示例,除了这个kafka示例。
当我运行以下命令时:

bin/run-example streaming.JavaDirectKafkaWordCount localhost:9092 test

我得到以下错误:

Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/spark/streaming/kafka010/LocationStrategies

你知道我们怎样才能正确运用Kafka的例子吗?
(kafka客户端在端口上运行) 9092 . 使用最新的spark、kafka和Java8)

kqlmhetl

kqlmhetl1#

在我的项目中,我终于把Kafka和spark连接起来了。我意识到,使用 local spark脚本中的模式在开发过程中非常有用。更容易调试和实践。
您可以在此处找到一个详细的停靠实现:https://github.com/zoltan-nz/kafka-spark-project
相关说明:https://github.com/zoltan-nz/kafka-spark-project/blob/master/sparkstreamer/readme.md#experiment-06---使用本地

相关问题