通过flink保存点读取重复消息

jgzswidk  于 2021-06-06  发布在  Kafka
关注(0)|答案(1)|浏览(401)

我正在尝试使用ApacheFlink1.6.0来读取来自Kafka主题的一些消息,转换它们,最后将它们发送到另一个Kafka主题。我使用保存点保存应用程序的状态,以防取消和重新启动。问题是我在重新启动后读取消息时有重复。Kafka的版本是011。谢谢你的宝贵意见。

snvhrwxg

snvhrwxg1#

为了避免重复,有必要通过 Semantic.EXACTLY_ONCE 设置Kafka制作人时。有关使用kafka时数据丢失和重复的更多详细信息,请参阅文档。

相关问题