ConsumeKafka to PublishKafka不保持目标主题中消息的顺序

voj3qocg  于 12个月前  发布在  Apache
关注(0)|答案(1)|浏览(91)

我正在使用WIFI在Kafka主题之间复制2.5亿条消息。
问题在于,NIFI以非连续的顺序复制消息,导致目标主题存储的消息与源主题不同。
例如

源主题-分区0

offset:5 key:a value:v1
offset:6 key:a value:v2
offset:7 key:a value:v3

目标主题-分区0

offset:5 key:a value:v2
offset:6 key:a value:v1
offset:7 key:a value:v3
这些主题配置了一个清理策略:compact
我使用ConsumeKafkaPublishKafka处理器来复制主题。
x1c 0d1x的数据





x1c4d 1x的

juud5qan

juud5qan1#

经检查,将队列实现为先进先出优先级,并将负载均衡策略配置为分区属性,并使用Kafka.partition属性,已证明在维护顺序方面是有效的。
enter image description here

相关问题