Kafka日志文件夹太大

wi3ka0sx  于 2021-06-07  发布在  Kafka
关注(0)|答案(1)|浏览(575)

我们有很多数据(从14个月)在我们的Kafka日志文件夹。Kafka是在默认情况下编写的。

Location of server.xml: /install/kafka_2.10-0.8.2.2/config/server.xml

 Here is the setting in server.xml:   log.dirs=/install/kafka-logs

我想删除去年的日志。这会引起什么问题吗?我需要停止Kafka或我可以禁用过去几年的日志,而它正在运行?
如何禁用/减少此文件夹的日志记录?

slmsl1lt

slmsl1lt1#

不确定这个术语是否让您感到困惑-这个文件夹的内容不是日志文件,因为像“kafka broker started”这样的日志记录在那里。它包含传入消息附加到的日志文件,因此此文件夹包含有价值的Kafka数据。
您应该为主题设置适当的保留时间(在代理级别设置合理的默认值),以便在不再需要消息时清除它们(默认值为7天)。消息将至少保留一段时间,并可能在此后的任何时间被删除(由于日志文件的结构,它不是一个严格的时间戳)。
对于1:您可以在运行时更改主题级别的保留时间 bin/kafka-topics.sh --zookeeper <zk> --alter --topic <topic> --config retention.ms=<retention in ms> 2:减少这个问题的唯一方法是a)发送更少的消息或b)减少主题的复制因子。这可能不是你想要的。

相关问题