在Kafka中,消费者偏移量和模式主题有什么用?

ef1yzkbh  于 2021-06-06  发布在  Kafka
关注(0)|答案(2)|浏览(376)

在设置了kafka代理集群并创建了几个主题之后,我们发现kafka自动创建了以下两个主题:
__consumer_offsets _schema 这些主题的重要性和用途是什么?

6l7fqoea

6l7fqoea1#

__consumer_offsets :每个使用者组维护其每个主题分区的偏移量。自 v0.9 每个使用者组的已提交偏移量信息都存储在此内部主题中(在 v0.9 这些信息存储在zookeeper上)。当偏移管理器收到 OffsetCommitRequest ,它将请求附加到一个名为 __consumer_offsets . 最后,只有当offset主题的所有副本接收到偏移时,偏移管理器才会向使用者发送一个成功的偏移提交响应。 _schemas :这是架构注册表使用的内部主题,架构注册表是avro架构的分布式存储层。所有与模式、主题(及其相应版本)、元数据和兼容性配置相关的信息都将附加到此主题中。模式注册表依次生成(例如,在主题下注册新模式时)并使用来自该主题的数据。

0yg35tkg

0yg35tkg2#

__consumer\u offset用于存储有关每个topic:partition per 消费者组(groupid)。它是压缩主题,因此数据将定期压缩,并且只有最新的信息可用。
_模式-不是默认的Kafka主题(至少是Kafka8,9)。通过合流添加。查看更多:confluent schema registry-github.com/confluentinc/schema-registry(谢谢@serejja)

相关问题