flume代理不停止对不可恢复的solr错误的重试

jei2mxaa  于 2021-06-04  发布在  Flume
关注(0)|答案(1)|浏览(378)

我使用morpline solr sink在solr中存储信息。我面临的问题是flume代理从不停止重试失败的请求,这有时会随着时间的推移而增加。这会导致使用maxio workers时出现flume警告,系统会遇到性能问题。除了编写自己的接收器之外,还有没有其他方法可以让flume停止重试或以指数方式后退,从而获得更好的系统性能?我的消息来源是一个avrosource。
谢谢。

4uqofj5v

4uqofj5v1#

您应该修复请求失败的原因。
Flume正是它的设计目的。它正在事务性地尝试将一批事件存储在您的存储中。如果它不能存储这些事件,那么,是的,它会继续尝试。
你还没有解释是什么问题导致了这些失败。我建议考虑使用拦截器来修复数据中的任何错误,或者删除您不想存储的事件。

相关问题