Kafka:如何删除消费者已经消费的数据?

9q78igpj  于 2021-06-07  发布在  Kafka
关注(0)|答案(1)|浏览(2175)

我设置了服务器属性'
log.retention.minutes=8分钟
每8分钟自动清理kafka日志下的数据,
有没有可能让清洁工只清理已经消耗的数据,消费者没有消耗的数据会保留下来?
谢谢!

wfypjpf4

wfypjpf41#

不会。kafka消息会附加到日志文件中,这些日志文件每x小时滚动一次或达到一定大小(取决于配置)。一旦滚动,这些文件是不可变的(不能删除单个记录)。当对文件的最后一次写入访问超过保留时间时,日志文件将被清除。
换句话说:保留时间是至少保留一条消息的时间。保留时间为分钟的邮件可能持续数周(取决于其他配置设置)。
“消费者补偿”的概念是Kafka用来避免重新消费信息的机制。Kafka0.11还将包含精确一次的功能。

相关问题