如何检测一个组下的所有消费者示例是否已经消费了来自特定主题的所有Kafka消息?

a2mppw5e  于 2023-06-28  发布在  Apache
关注(0)|答案(1)|浏览(136)

我目前正在研究去膨胀文件饲料(每天一次)到单个消息和张贴在Kafka主题。一旦消息可用,消费者就开始处理。这是在OCP中的Kubernetes环境中。
我需要在所有消费者示例都完成了当天Kafka Topic中的那些消息的消费后执行一个Job。
如何在使用Java构建的微服务中捕获这一点?

fhg3lkii

fhg3lkii1#

你的消费者能够知道自己的滞后,相对于主题的结束。这将是最好的选择,因为当lag == 0时(如果主题是主动生成的,则可能永远不会发生),您可以发送一些外部事件来触发任何下游工作流。
否则,您将需要在Prometheus中运行Burrow或Kafka-Exporter等工具,然后以一定的间隔轮询这些API以获得延迟(同样,可能永远不会达到零)

相关问题