Kafka只删除一个主题

mrzz3bfm  于 2023-03-11  发布在  Apache
关注(0)|答案(1)|浏览(187)

我在我的k8s集群中通过Strimzi运行Kafka 3.3.1,并且有3个主题当前正被1个消费者组阅读。消费者组正在阅读最新的补偿(例如,没有滞后)。
所有3个主题都使用服务器默认的7天保留时间(retention.ms=604800000),清理策略设置为服务器默认的delete,但是,我可以从清理进程中找到服务器日志条目,只从一个主题中删除过期的日志条目,另外两个主题似乎从未被清理进程触及,对它们运行kafka-console-consumer表明它们肯定仍然有这两个主题的有效日志条目。
你知道为什么清洁工只会接触一个主题吗?我比较了所有3个主题,它们都有完全相同的配置,就像kafka-config.sh --describe --all为每个主题报告的那样。

wfsdck30

wfsdck301#

考虑到日志段仅在关闭时才被删除。这意味着,如果将默认的log.segment.bytes保留为1 GB,保留时间保留为7天,则日志段未关闭(所以1 GB填充),它将停留更长的时间。如果你的生产者是较慢的,并没有在7天内填充1 GB段,它不会永远关闭,为了更好地理解段滚动和删除是如何工作的,值得阅读下面的博客文章,我在那里详细解释了这一点。
https://strimzi.io/blog/2021/12/17/kafka-segment-retention/

相关问题