我是Confluent云的新手,我有一个场景,我们使用Boomi的Kafka连接器从Boomi平台向Kafka发送大量消息。我想知道在Boomi到Kafka的消息交易失败时,是否可以自动创建死信队列。
我看到使用HTTP sink连接器,我可以在失败时实现自动创建DLT。但主题接受所有错误和成功消息。所以死信机制只适用于消费者而不是生产者?
感谢您的回复。
我是Confluent云的新手,我有一个场景,我们使用Boomi的Kafka连接器从Boomi平台向Kafka发送大量消息。我想知道在Boomi到Kafka的消息交易失败时,是否可以自动创建死信队列。
我看到使用HTTP sink连接器,我可以在失败时实现自动创建DLT。但主题接受所有错误和成功消息。所以死信机制只适用于消费者而不是生产者?
感谢您的回复。
2条答案
按热度按时间dba5bblo1#
Kafka本身并不支持生产者的死信队列(DLQ)。死信队列通常与消费者端处理相关联,允许重定向失败的消息以进行进一步分析或处理。
您需要专门添加逻辑来将失败的msg移动到不同的主题并相应地处理它们
z9smfwbn2#
Abhishek提供了一个很好的DLQ for Kafka的概述。你已经体验过使用DLQ与Http Sink连接器。这意味着DLQ实现是特定于连接器的,我在文档中没有找到用于Boomi的Kafka连接器的DLQ。
但是Boomi有一个配置可以保证消息的传递,你可以试试。
消息传递策略-选择传递策略以保证生产者和使用者之间的消息传递。至少一次表示消息永远不会丢失,但可以重新传递。
请找到reference。