编写flume拦截器,从solace获取数据

c7rzv4ha  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(333)

我想用flume把solace中的数据带到hadoop中,有人能告诉我如何编写拦截器将protobuf转换成avro吗?

wfveoks0

wfveoks01#

有一个非常详细的集成指南,描述了如何使用jms flume源从solace消息总线接收消息。
这是你正在使用的接口吗?
如果是这样的话,肯·巴尔的博客文章(https://solace.com/blog/devops/solace-as-flume-channel-technical-look)给出了Flume源和Flume的实现。完整的源代码位于http://dev.solace.com/wp-content/uploads/solace-flume-channel.tgz
您需要修改flumeeventtosolacemessageconverter.solacetoflume()方法来支持protobuf到avro用例。ootb它只是假设jms消息的主体是avro消息。
在github上,我们发现了protobuf到avro的转换器(vpon/protobuf到avro),它使用.proto模式文件生成pojo转换器。

相关问题