如何定义主题的保留字节和段字节,使主题分区的大小不会超过特定的大小

fnvucqvd  于 2021-06-04  发布在  Kafka
关注(0)|答案(1)|浏览(249)

我们有Kafka星团 3 nodes Kafka 5 topics 每个主题包括 100 partitions 鞠躬我们要把 retention bytes 以及 retention segment 这样每个主题分区就不会很高了 5G (因为我们受到Kafka磁盘大小的限制)
有没有可能调整保留字节和段字节的值,这样任何主题分区都不会很高 5G ?

6mzjoqzu

6mzjoqzu1#

没有办法限制主题的大小。甚至有可能保持率会超过 retention.bytes 如果将数据推入主题的速度比logcleaner线程有时间清理它的速度快。
还要注意,即将推出的Kafka版本将提供无限的保留
或者您也可以类似地使用apachepulsar的分层存储功能,而不是kafka

相关问题