springclouddataflow本地服务器需要连接zookeeper吗?

4dbbbstv  于 2021-06-07  发布在  Kafka
关注(0)|答案(1)|浏览(344)

我正在尝试在docker容器上设置scdf。
所有容器都在一个网络中
两个Kafka被端口2181暴露
我确信Kafka家族和Zookeeper有联系(否则将无法正常启动)
但是在创建简单流的过程中

stream create --name test --definition "time | log" --deploy

我把这些日志放在箱子里了 stdout_0.log 代表 log 应用程序日志。

2016-12-14 01:18:03.264  INFO 62 --- [localhost:2181)] org.apache.zookeeper.ClientCnxn          : Opening socket connection to server localhost/0:0:0:0:0:0:0:1:2181. Will not attempt to authenticate using SASL (unknown error)
2016-12-14 01:18:03.265  WARN 62 --- [localhost:2181)] org.apache.zookeeper.ClientCnxn          : Session 0x0 for server null, unexpected error, closing socket connection and attempting reconnect

java.net.ConnectException: Connection refused
    at sun.nio.ch.SocketChannelImpl.checkConnect(Native Method) ~[na:1.8.0_111-internal]
    at sun.nio.ch.SocketChannelImpl.finishConnect(SocketChannelImpl.java:717) ~[na:1.8.0_111-internal]
    at org.apache.zookeeper.ClientCnxnSocketNIO.doTransport(ClientCnxnSocketNIO.java:361) ~[zookeeper-3.4.6.jar!/:3.4.6-1569965]
    at org.apache.zookeeper.ClientCnxn$SendThread.run(ClientCnxn.java:1081) ~[zookeeper-3.4.6.jar!/:3.4.6-1569965]

stderr_1.log ,我有

Caused by: org.I0Itec.zkclient.exception.ZkTimeoutException: Unable to connect to zookeeper server within timeout: 10000
    at org.I0Itec.zkclient.ZkClient.connect(ZkClient.java:880)
    at org.I0Itec.zkclient.ZkClient.<init>(ZkClient.java:98)
    at org.I0Itec.zkclient.ZkClient.<init>(ZkClient.java:84)
    at org.springframework.cloud.stream.binder.kafka.KafkaMessageChannelBinder.ensureTopicCreated(KafkaMessageChannelBinder.java:354)
    at org.springframework.cloud.stream.binder.kafka.KafkaMessageChannelBinder.createKafkaConsumer(KafkaMessageChannelBinder.java:441)
    at org.springframework.cloud.stream.binder.kafka.KafkaMessageChannelBinder.doBindConsumer(KafkaMessageChannelBinder.java:282)
    at org.springframework.cloud.stream.binder.kafka.KafkaMessageChannelBinder.doBindConsumer(KafkaMessageChannelBinder.java:121)
    at org.springframework.cloud.stream.binder.AbstractBinder.bindConsumer(AbstractBinder.java:177)
    at org.springframework.cloud.stream.binding.ChannelBindingService.bindConsumer(ChannelBindingService.java:93)
    at org.springframework.cloud.stream.binding.BindableProxyFactory.bindInputs(BindableProxyFactory.java:189)
    at org.springframework.cloud.stream.binding.InputBindingLifecycle.start(InputBindingLifecycle.java:55)
    at org.springframework.context.support.DefaultLifecycleProcessor.doStart(DefaultLifecycleProcessor.java:173)
    ... 27 more

第一个日志说我正在使用 localhost:0.0.0.0:2181 对于zookeeper连接,我不是,我已经为kafka配置了真正的ip地址。
第二个日志说连接超时是10000,在kafka中,我将连接超时设置为6000
所以这些不是Kafka的,那么它们是scdf的。
事实上,当我查找scdflink的引用时,这里它说,zookeeper在这个架构中没有使用(或者可能没有直接使用)。
这让我很困惑。。。如果这些日志不是来自Kafka,也不是来自scdf,那么它们来自哪里?
如果scdf使用zookeeper,那么如何配置zookeeper的连接?
更新
我在想,当scdf试图创建一个主题时,根据我对创建主题的了解,您必须指定zookeeper连接,scdf使用localhost让生产者或消费者在zookeeper上注册,因此scdf实际上以某种方式使用zookeeper。但是如何配置呢?

sczxawaw

sczxawaw1#

好的,在翻阅参考文件之后。我知道了:

--spring.cloud.dataflow.applicationProperties.stream.spring.cloud.stream.kafka.binder.brokers=192.168.1.100:9092
--spring.cloud.dataflow.applicationProperties.stream.spring.cloud.stream.kafka.binder.zkNodes=192.168.1.100:2181

希望这能帮助那些正在寻找答案的人。。。。

相关问题