Kafka消费者滞后监测可视化

ebdffaop  于 2021-06-04  发布在  Kafka
关注(0)|答案(3)|浏览(502)

我是Kafka的新人。在学习Kafka的过程中,我认为监控消费者的滞后是必要的。当我在google和docs上搜索时,我几乎找不到什么方法。
Kafka-普罗米修斯-格拉法纳
Kafka-洞穴-萨默德-格拉法纳
Kafka-伯劳统计?(我不明白是什么…)
Kafka-数据狗我想问的是文件说,洞穴是监测,我可以像图形( Jmeter 板)可视化?没有其他工具如graphana、kibana或datadog??
我只是想少走几步。什么样的简单方法可以直观地看到消费者的滞后?

ctzwtxfj

ctzwtxfj1#

burrow是非常有效的,专门监测消费者滞后。burrow擅长校准消费者补偿,更重要的是验证滞后是否是恶意的。它与pagerduty集成,以便将警报推送到必要的各方。
https://community.cloudera.com/t5/community-articles/monitoring-kafka-with-burrow-part-1/ta-p/245987
burrow拥有:
能够评估潜在减速的非阈值滞后监控算法。
与pagerduty集成
普罗米修斯、appd等历史指标出口商
可插拔用户界面
如果您正在寻找快速解决方案,您可以部署burrow,然后部署burrow前端https://github.com/generalmills/burrowui

ozxc1zmp

ozxc1zmp2#

如果你是在一个组织中进行设置,datadog或prometheus可能是最好的选择。您还可以捕获其他与Kafka相关的指标。这些代理还集成了Kafka以外的许多其他工具,将是一个很好的常用监测选择。
如果你只是为个人poc类型的项目而做,你只是想查看延迟,我发现cmak非常有用(https://github.com/yahoo/cmak). 这没有历史数据,但提供了一个很好的Kafka集群当前的视觉状态,包括滞后。

qojgxg4l

qojgxg4l3#

对于集群范围的度量,可以使用kafka\u导出器(https://github.com/danielqsj/kafka_exporter)它公开了一些非常有用的集群度量(包括消费者滞后),并且很容易与prometheus集成并使用grafana可视化。

相关问题