在kafka connect中按某个值过滤记录

wgx48brx  于 2021-06-05  发布在  Kafka
关注(0)|答案(2)|浏览(524)

我一直在尝试在debezium源sql连接器中包含一个过滤器,该过滤器将丢弃具有特定值的记录。假设,我有json:{“id”:0,“name”:“muj”},我想丢弃所有字段“name”值为“muj”的记录。有没有一种方法可以做到这一点而不必使用合流平台?

gdrx4gfi

gdrx4gfi1#

有没有一种方法可以做到这一点,而不必使用合流平台
合流不是Kafka的特殊版本。他们的所有工具将与您自己的Kafka安装。
您可以单独使用ksql或kafka流,但在我看来,debezium不应该过滤任何内容,它是用来读取原始cdc事件的。任何这样的过滤都应该在处理逻辑的下游进行

a9wyjsp7

a9wyjsp72#

您可以使用kafka connect转换的过滤函数。filter函数允许包含或排除与 predicate 匹配的记录。请参阅转换/过滤器文档和示例。

相关问题