用户端消息的限制

bhmjp9jg  于 2021-06-05  发布在  Kafka
关注(0)|答案(1)|浏览(379)

我是初学者在Kafka和开发的Kafka信息,现在看起来不错的消费水平。尽管在测试使用者时出现了一个需求,但在使用者端可能需要对消息进行一些限制。
使用者(.net core,使用confluent)在接收到消息后,调用api,api处理消息。作为这个过程的一部分,它对数据库的读写次数很少。情况是,消费者每天可能会收到数百万条或至少几千条消息。这使得db侧的负载成为处理的一部分。
所以我想对kafka消费者接收消息设置一些限制,这样db就不会过载。我已经选择了投票,但似乎这不是我想要的全部。例如,在10分钟内,消费者只能收到10万条信息。差不多吧。
有谁能建议如何在kafka消费者上实现消息限制,或者有没有更好的方法来处理这个问题?

2ledvvac

2ledvvac1#

我做了更多的调查,从Maven那里了解到“在使用者端进行节流并不容易实现,因为kafka使用者是以这样的方式实现的,即在kafka主题中消息可用时立即读取和处理消息。所以,在Kafka的世界里,速度是一个好处:)”
看来我在Kafka消费方面做不了什么。我想看看另一面,可能是分离读取(到副本)和写入数据库可以帮助。

相关问题