Kafka 是否有可能在生成到主题的消息时自动创建死信主题?DLQ仅与消费者而非生产者关联

brjng4g3  于 2024-01-06  发布在  Apache
关注(0)|答案(2)|浏览(139)

我是Confluent云的新手,我有一个场景,我们使用Boomi的Kafka连接器从Boomi平台向Kafka发送大量消息。我想知道在Boomi到Kafka的消息交易失败时,是否可以自动创建死信队列。
我看到使用HTTP sink连接器,我可以在失败时实现自动创建DLT。但主题接受所有错误和成功消息。所以死信机制只适用于消费者而不是生产者?
感谢您的回复。

dba5bblo

dba5bblo1#

Kafka本身并不支持生产者的死信队列(DLQ)。死信队列通常与消费者端处理相关联,允许重定向失败的消息以进行进一步分析或处理。
您需要专门添加逻辑来将失败的msg移动到不同的主题并相应地处理它们

z9smfwbn

z9smfwbn2#

Abhishek提供了一个很好的DLQ for Kafka的概述。你已经体验过使用DLQ与Http Sink连接器。这意味着DLQ实现是特定于连接器的,我在文档中没有找到用于Boomi的Kafka连接器的DLQ。
但是Boomi有一个配置可以保证消息的传递,你可以试试。
消息传递策略-选择传递策略以保证生产者和使用者之间的消息传递。至少一次表示消息永远不会丢失,但可以重新传递。
请找到reference

相关问题