我在使用mirrormaker 2时有个问题。
mirrormaker 2基于kafka connect框架,可以将其核心视为kafka源和汇连接器的组合。所以在mm2架构中有源和汇连接器。但是,有没有额外的Kafka集群连接器平方毫米?因为在Kafka连接设计;源和接收器连接器需要kafka集群来移动数据。
例如,mm2需要源集群和目标集群;我的问题是mm2是否需要第三个kafka来进行镜像操作而不使用源集群和目标集群?
另一个问题是,mm2连接器是否可以在分布式模式下运行?我没有看到关于这个问题的任何配置?
例如在docker环境中;以下配置是否足以在分布式模式下运行?
mirrormaker:
image: 'wpietri/mirror-maker:2'
environment:
- SOURCE=source_ip:9092
- DESTINATION=dest_ip:9092
- TOPICS=test-topic
deploy:
replicas: 3
mode: replicated
1条答案
按热度按时间qaxu7uf21#
目前mirrormaker 2是一组源连接器。
源连接器从外部系统获取记录,并将其交给kafka connect运行时,该运行时将记录写入kafka。
对于mirrormaker 2来说,“外部系统”是另一个Kafka集群。所以,面向对象的工作,mirrormaker 2只需要2个kafka集群。一个是连接器获取记录的地方(称为源集群),另一个是连接kafka的地方(称为目标集群)。
mirrormaker 2连接器和标准kafka connect连接器。它们可以在独立或分布式模式下直接与kafka connect一起使用。