Kafka在主题中搜索文本

zkure5ic  于 2021-06-06  发布在  Kafka
关注(0)|答案(2)|浏览(324)

我想搜索Kafka主题中的特定消息,我找到的唯一解决方案是使用 grep ```
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning |grep 'world|hello'

有什么有效的方法吗?
有没有一种方法可以用一个特定的偏移量来限制消费者,也就是说从一开始读到in达到特定的偏移量?
6qftjkof

6qftjkof1#

有什么有效的方法吗?
如果你没有信息键,那就没有。
如果你这样做了,那么你可以计算一个杂音2散列,找到分区号,只扫描那个分区,仍然用 --partition 有没有一种方法可以用一个特定的偏移量来限制消费者,也就是说从一开始读到in达到特定的偏移量?
你可以给 --max-messages 如果不想从头开始,请添加 --group 并继续使用max messages参数运行相同的命令。这将允许使用相同的使用者组,并在完成时提交偏移量
也可以手动提交偏移量,从使用 kafka-consumer-groups 命令

gcuhipw9

gcuhipw92#

有什么有效的方法吗?
对。你的解决方法又快又脏。如果要过滤数据,请使用streams api并在另一个主题上编写过滤后的信息。https://kafka.apache.org/documentation/streams/

相关问题