我想搜索Kafka主题中的特定消息,我找到的唯一解决方案是使用 grep
```
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning |grep 'world|hello'
有什么有效的方法吗?
有没有一种方法可以用一个特定的偏移量来限制消费者,也就是说从一开始读到in达到特定的偏移量?
我想搜索Kafka主题中的特定消息,我找到的唯一解决方案是使用 grep
```
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning |grep 'world|hello'
有什么有效的方法吗?
有没有一种方法可以用一个特定的偏移量来限制消费者,也就是说从一开始读到in达到特定的偏移量?
2条答案
按热度按时间6qftjkof1#
有什么有效的方法吗?
如果你没有信息键,那就没有。
如果你这样做了,那么你可以计算一个杂音2散列,找到分区号,只扫描那个分区,仍然用
--partition
有没有一种方法可以用一个特定的偏移量来限制消费者,也就是说从一开始读到in达到特定的偏移量?你可以给
--max-messages
如果不想从头开始,请添加--group
并继续使用max messages参数运行相同的命令。这将允许使用相同的使用者组,并在完成时提交偏移量也可以手动提交偏移量,从使用
kafka-consumer-groups
命令gcuhipw92#
有什么有效的方法吗?
对。你的解决方法又快又脏。如果要过滤数据,请使用streams api并在另一个主题上编写过滤后的信息。https://kafka.apache.org/documentation/streams/