kafka频道中使用flume的动态主题

tv6aics1  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(288)

有没有可能有一个带有动态主题的kafka频道,比如kafka接收器,您可以在其中指定主题头,或者hdfs接收器,您可以在其中使用头中的值?
我知道我可以多路复用来使用多个通道(使用一组通道配置),但这是不可取的,因为我希望每个kafka通道都有一个动态hdfs接收器,而不是一个hdfs接收器。

ruarlubt

ruarlubt1#

我的理解是,flume kafka频道只能Map到单个主题,因为它同时生成和使用特定主题的日志。
查看flume 1.6.0中kafkachannel.java中的代码,我可以看到只有一个主题被订阅(每个线程有一个使用者)。

相关问题