apache-kafka 积极消费者群体的Kafka保留策略

nnvyjq4y  于 2022-11-01  发布在  Apache
关注(0)|答案(1)|浏览(152)

Kafka是否仅在使用者组中没有活动使用者时才清除日志?
当具有活动使用者的分区中存在延迟时,我希望在保留策略上设置的时间过去后,当前偏移(延迟)也会调整,但看起来只要使用者连接到组,延迟在保留期过去后仍然可以使用。
我在将log.retention.check.interval.ms设置为1ms、将log.cleanup.policy设置为“delete”沿着将主题的retentions.ms设置为1000ms的情况下进行了测试,但滞后仍然可以在超过1000ms的情况下消耗。当我删除使用者并再次向现有组添加使用者时,偏移量会按预期进行调整。
Kafka是否只在没有活动消费者时才调整偏移量?如果是,除了删除和重新创建消费者之外,是否有其他方法可以根据保留策略更新当前偏移量?
先谢谢你。

bmp9r5qi

bmp9r5qi1#

如果有一个活跃的消费者正在向Kafka __consumer_offsets主题提交偏移量,那么不,偏移量信息永远不会被删除,尽管最初的主题片段被删除到那些偏移量可能不再存在的地方。正如文档所指出的,该组首先需要处于非活动状态,但还需要保持非活动状态几分钟。
offsets.retention.minutes
在使用者组丢失其所有使用者(即变为空)之后,其偏移量将保留此保留期,然后被丢弃
(着重号为后加)
如果要始终保证组位置而不是依赖于存储的偏移量,则可以调用seekToEarliest / seekToEnd函数

相关问题