我设置了服务器属性'log.retention.minutes=8分钟每8分钟自动清理kafka日志下的数据,有没有可能让清洁工只清理已经消耗的数据,消费者没有消耗的数据会保留下来?谢谢!
wfypjpf41#
不会。kafka消息会附加到日志文件中,这些日志文件每x小时滚动一次或达到一定大小(取决于配置)。一旦滚动,这些文件是不可变的(不能删除单个记录)。当对文件的最后一次写入访问超过保留时间时,日志文件将被清除。换句话说:保留时间是至少保留一条消息的时间。保留时间为分钟的邮件可能持续数周(取决于其他配置设置)。“消费者补偿”的概念是Kafka用来避免重新消费信息的机制。Kafka0.11还将包含精确一次的功能。
1条答案
按热度按时间wfypjpf41#
不会。kafka消息会附加到日志文件中,这些日志文件每x小时滚动一次或达到一定大小(取决于配置)。一旦滚动,这些文件是不可变的(不能删除单个记录)。当对文件的最后一次写入访问超过保留时间时,日志文件将被清除。
换句话说:保留时间是至少保留一条消息的时间。保留时间为分钟的邮件可能持续数周(取决于其他配置设置)。
“消费者补偿”的概念是Kafka用来避免重新消费信息的机制。Kafka0.11还将包含精确一次的功能。