正在尝试查找如何配置合流syslog连接器以接受cef格式的数据的示例。我已经启动并运行了syslog连接器,但是在connect.log中看到这些类型的错误时,我的主题始终没有提到:
[2020-03-24 23:56:09,181] WARN decode() - Could not parse message. request = 'SyslogRequest{receivedDate=2020-03-24T23:56:09.181, remoteAddress=/<some ip>, rawMessage=Wed Mar 25 00:31:30 2020 1/1/e1 CEF:0|Gigamon|metadata|unknown|4|metadata generation|6|GigamonMdataDeltaBytesRcvd=40 GigamonMdataDeltaPKtsRcvd=1 GigamonMdataFlowStartSysUpTime=264840090 GigamonMdataFlowEndSysUpTime=264840090 proto=6 src=<some ip> dst=<some ip> spt=34846 dpt=9997 }' (io.confluent.connect.syslog.message.SyslogMessageParsingHandler)
我通过rest配置连接器如下:
curl localhost:8083/connectors -X POST -H "Content-Type: application/json" -d '{"name": "connect-syslog-netflow","config": { "connector.class": "io.confluent.connect.syslog.SyslogSourceConnector", "tasks.max": "1", "topics":"syslog-netflow","syslog.port": "2055","confluent.topic.bootstrap.servers": "localhost:9092", "confluent.topic.replication.factor": "1", "type": "CEF" } }'
类型cef是弱尝试告诉它传入格式。
运行5.0.1合流发行版,单节点开发集群。
1条答案
按热度按时间lymgl2op1#
因此,在使用confluent支持后,我们确定了问题:
它通过将日期更改为:
剥掉一周中的一天和一年中的一天。
不幸的是,我不控制netflow源,所以我想在发送到连接器之前,我需要对数据进行某种自定义转换。