在不同的服务器上运行kafka和kafka connect?

dohp0rv5  于 2021-06-08  发布在  Kafka
关注(0)|答案(2)|浏览(434)

我想知道Kafka和Kafka连接是否可以在不同的服务器上运行?所以一个连接器将在服务器a上启动,并将数据从服务器b上的Kafka主题发送到hdfs或s3等。谢谢

bnl4lu3b

bnl4lu3b1#

是的,对于生产部署,出于资源原因,通常建议这样做。通常,您会在单独的节点上部署一个kafka代理集群(ha为3+),然后部署一个kafka集群工作者集群(根据吞吐量/恢复能力的需要)。
有关更多详细信息,请参阅confluent enterprise reference architecture。

xlpyo6sf

xlpyo6sf2#

是的,你能做到。
我有一套kafka服务器,kafka connect应用程序在不同的机器上运行,并用hdfs写入数据。您必须在worker properties文件(config/connect-distributed.properties或config/connect standalone.properties)下的bootstrap.servers中提及代理列表,而不是localhost:9092

相关问题