我的理解是,Kafka制作人向Kafka经纪人集群发送消息。我的问题是,Kafka制作人在网络分割期间的行为是什么?如果分区太长(并且卷太高),最终消息会丢失吗?另外,如果系统在分区期间崩溃,kafka队列中的所有消息是否都丢失了?
llmtgqce1#
根据路德的评论回答。根据链接中的视频,它们不支持在发生分区(或代理中断)时溢出到磁盘。有人提到一个“go”客户,他做了一件别人写的事情。目前没有计划在这一生产能力方面开展工作;他们目前的重点是集群和消费者。视频中提到,这不是他们的优先事项,至少出于某种原因,他们要做的是“滞后数据”。我假设kafaka的很多用例都是基于实时的,所以如果一个生产者断开了几个小时的连接,那么获得几个小时前的突发数据将是“奇怪的”。我猜这是有道理的,因为这样您的消费者就必须以某种方式处理滞后的数据(即,这是一个应用程序问题)。
1条答案
按热度按时间llmtgqce1#
根据路德的评论回答。根据链接中的视频,它们不支持在发生分区(或代理中断)时溢出到磁盘。有人提到一个“go”客户,他做了一件别人写的事情。目前没有计划在这一生产能力方面开展工作;他们目前的重点是集群和消费者。
视频中提到,这不是他们的优先事项,至少出于某种原因,他们要做的是“滞后数据”。我假设kafaka的很多用例都是基于实时的,所以如果一个生产者断开了几个小时的连接,那么获得几个小时前的突发数据将是“奇怪的”。
我猜这是有道理的,因为这样您的消费者就必须以某种方式处理滞后的数据(即,这是一个应用程序问题)。