我目前正在研究去膨胀文件饲料(每天一次)到单个消息和张贴在Kafka主题。一旦消息可用,消费者就开始处理。这是在OCP中的Kubernetes环境中。我需要在所有消费者示例都完成了当天Kafka Topic中的那些消息的消费后执行一个Job。如何在使用Java构建的微服务中捕获这一点?
fhg3lkii1#
你的消费者能够知道自己的滞后,相对于主题的结束。这将是最好的选择,因为当lag == 0时(如果主题是主动生成的,则可能永远不会发生),您可以发送一些外部事件来触发任何下游工作流。否则,您将需要在Prometheus中运行Burrow或Kafka-Exporter等工具,然后以一定的间隔轮询这些API以获得延迟(同样,可能永远不会达到零)
1条答案
按热度按时间fhg3lkii1#
你的消费者能够知道自己的滞后,相对于主题的结束。这将是最好的选择,因为当lag == 0时(如果主题是主动生成的,则可能永远不会发生),您可以发送一些外部事件来触发任何下游工作流。
否则,您将需要在Prometheus中运行Burrow或Kafka-Exporter等工具,然后以一定的间隔轮询这些API以获得延迟(同样,可能永远不会达到零)