kafka hdfs接收器连接器是否支持主题级键和值转换器?

3pvhb19x  于 2021-06-07  发布在  Kafka
关注(0)|答案(2)|浏览(331)

在hdfs sink connector中,我需要在主题级别配置键和值转换器,即使用不同的转换器配置不同的主题。有可能吗?

gpnt7bae

gpnt7bae1#

您只需要为要使用不同键/值转换器的主题创建不同的worker配置文件。
例如,如果您想用avro键解析一个主题,那么使用

key.converter=io.confluent.connect.avro.AvroConverter
key.converter.schema.registry.url=http://localhost:8081

而对于另一个(比如json格式,没有模式)您可以使用

key.converter=org.apache.kafka.connect.json.JsonConverter
key.converter.schemas.enable=false

然后,可以在分布式模式下运行这些worker配置文件。

eit6fx6z

eit6fx6z2#

转换器是可以在连接器级别重写的属性。这意味着连接器示例可以覆盖在connect worker配置中为转换器全局设置的值。
因此,尽管不可能按主题重写,但是将使用相同转换器类型的主题分组(每个主题都在一个连接器示例中)可以实现更接近您所描述的更实际的方式。

相关问题