logstash不通过kafka将日志转发给es

slmsl1lt  于 2021-06-07  发布在  Kafka
关注(0)|答案(1)|浏览(394)

我用的是麋鹿5.0.1和Kafka0.10.1.0。我不知道为什么我的日志没有转发我安装了kafkacat,并且成功地从安装了kafka集群的所有3台服务器生成和使用日志。
托运人.conf

input {
    file {
            start_position => "beginning"
            path => "/var/log/logstash/logstash-plain.log"
            }
}

 output {
 kafka {
    topic_id => "stash"
    bootstrap_servers  => "<i.p1>:9092,<i.p2>:9092,<i.p3>:9092"
  }
}

接收器.conf

input {
kafka {
        topics => ["stash"]
        group_id => "stashlogs"
        bootstrap_servers  => "<i.p1>:2181,<i,p2>:2181,<i.p3>:2181"

}
}

 output {
    elasticsearch {
       hosts => ["<eip>:9200","<eip>:9200","<eip>:9200"]
       manage_template => false
       index => "logstash-%{+YYYY.MM.dd}"
  }
 }

日志:在logstash-plain.log中获取以下警告

[2017-04-17T16:34:28,238][WARN ][org.apache.kafka.common.protocol.Errors] Unexpected error 
code: 38.
[2017-04-17T16:34:28,238][WARN ][org.apache.kafka.clients.NetworkClient] Error while fetching 
metadata with correlation id 44 : {stash=UNKNOWN}
xesrikrc

xesrikrc1#

看起来您的引导服务器正在使用zookeeper端口。尝试使用kafka端口(默认为9092)

相关问题