保护Kafka免受洪水侵袭

nsc4cvqm  于 2021-06-08  发布在  Kafka
关注(0)|答案(3)|浏览(366)

我在制作中使用Kafka。许多服务向其中发送和读取消息。
一切正常,但我有一个错误在一个服务。出于一个奇怪的原因,这一个每秒向Kafka发送数百万条信息。
由于这个错误,我的Kafka崩溃了。
这不是一个Kafka错误,但我如何才能保护它免受潜在的洪水?

ego6inou

ego6inou1#

事实上,有了apigee你就可以控制React了。这可以通过两种方式实现;
使用“spike arest”,它会随着时间的推移平滑请求,例如,如果定义每秒的请求量,它会在毫秒内平滑,而当定义每分钟的请求量时,它会在每秒更平滑。
qouta定义了拒绝请求后每分钟、每天等的最大请求量。
apigee还提供了一个“并发费率”政策,它正好做到了这一点;跟踪并发调用的数量,并在发送更多调用时拒绝(http 503)。
您可能会喜欢:http://apigee.com/docs/api-services/content/comparing-quota-spike-arrest-and-concurrent-rate-limit-policies
另外,如果您想保持自定义,请查看volos或apigee127,这也是apigee创建的一个伟大的开源项目。
希望这有帮助。
实际上,在最后一点上;我会解决根本原因;为什么会收到1mio请求?或者这是预期的bevahior?

7uzetpgm

7uzetpgm2#

升级至kafka 0.9并启用配额。

azpvetkf

azpvetkf3#

你需要对服务进行一些限制,以免Kafka泛滥。其中一个选择是使用apigee。

相关问题