在设置了kafka代理集群并创建了几个主题之后,我们发现kafka自动创建了以下两个主题:__consumer_offsets _schema 这些主题的重要性和用途是什么?
_schema
6l7fqoea1#
__consumer_offsets :每个使用者组维护其每个主题分区的偏移量。自 v0.9 每个使用者组的已提交偏移量信息都存储在此内部主题中(在 v0.9 这些信息存储在zookeeper上)。当偏移管理器收到 OffsetCommitRequest ,它将请求附加到一个名为 __consumer_offsets . 最后,只有当offset主题的所有副本接收到偏移时,偏移管理器才会向使用者发送一个成功的偏移提交响应。 _schemas :这是架构注册表使用的内部主题,架构注册表是avro架构的分布式存储层。所有与模式、主题(及其相应版本)、元数据和兼容性配置相关的信息都将附加到此主题中。模式注册表依次生成(例如,在主题下注册新模式时)并使用来自该主题的数据。
__consumer_offsets
v0.9
OffsetCommitRequest
_schemas
0yg35tkg2#
__consumer\u offset用于存储有关每个topic:partition per 消费者组(groupid)。它是压缩主题,因此数据将定期压缩,并且只有最新的信息可用。_模式-不是默认的Kafka主题(至少是Kafka8,9)。通过合流添加。查看更多:confluent schema registry-github.com/confluentinc/schema-registry(谢谢@serejja)
2条答案
按热度按时间6l7fqoea1#
__consumer_offsets
:每个使用者组维护其每个主题分区的偏移量。自v0.9
每个使用者组的已提交偏移量信息都存储在此内部主题中(在v0.9
这些信息存储在zookeeper上)。当偏移管理器收到OffsetCommitRequest
,它将请求附加到一个名为__consumer_offsets
. 最后,只有当offset主题的所有副本接收到偏移时,偏移管理器才会向使用者发送一个成功的偏移提交响应。_schemas
:这是架构注册表使用的内部主题,架构注册表是avro架构的分布式存储层。所有与模式、主题(及其相应版本)、元数据和兼容性配置相关的信息都将附加到此主题中。模式注册表依次生成(例如,在主题下注册新模式时)并使用来自该主题的数据。0yg35tkg2#
__consumer\u offset用于存储有关每个topic:partition per 消费者组(groupid)。它是压缩主题,因此数据将定期压缩,并且只有最新的信息可用。
_模式-不是默认的Kafka主题(至少是Kafka8,9)。通过合流添加。查看更多:confluent schema registry-github.com/confluentinc/schema-registry(谢谢@serejja)