Kafka http接收器连接器:请求延迟

siv3szwd  于 11个月前  发布在  Apache
关注(0)|答案(1)|浏览(122)

我有一个在kubernetes中运行的http sink连接器。它向rest服务发出请求。消耗和发送到主题的消息量似乎很低。连接器是否发布了任何度量来给出请求延迟?
有没有人有任何经验来提高一个http接收器连接器的吞吐量?任何建议?
我们已经尝试增加pod计数以匹配分区计数。

9ceoxa92

9ceoxa921#

Kafka Connect并不是HTTP独有的,因此不会为特定的接收器连接器提供任何内置指标。
也就是说,您使用的接收器连接器是框架的自定义插件,可能会也可能不会添加JMX指标,因此您需要设置jmxterm,VisualVM等来检查它是否有。
提高http接收器连接器吞吐量的经验
您可以配置任何使用者客户端配置。例如,consumer.override.max.poll.records: 5000将在再次轮询之前将每次轮询处理的记录数增加10倍。这也意味着,如果这些记录中的任何一个失败,它可能会根据容错设置跳过或重新传递这些记录
您也可以配置其他设置,如缓冲区大小。检查Kafka文档中的所有消费者配置。

相关问题