我一直在尝试在debezium源sql连接器中包含一个过滤器,该过滤器将丢弃具有特定值的记录。假设,我有json:{“id”:0,“name”:“muj”},我想丢弃所有字段“name”值为“muj”的记录。有没有一种方法可以做到这一点而不必使用合流平台?
gdrx4gfi1#
有没有一种方法可以做到这一点,而不必使用合流平台合流不是Kafka的特殊版本。他们的所有工具将与您自己的Kafka安装。您可以单独使用ksql或kafka流,但在我看来,debezium不应该过滤任何内容,它是用来读取原始cdc事件的。任何这样的过滤都应该在处理逻辑的下游进行
a9wyjsp72#
您可以使用kafka connect转换的过滤函数。filter函数允许包含或排除与 predicate 匹配的记录。请参阅转换/过滤器文档和示例。
2条答案
按热度按时间gdrx4gfi1#
有没有一种方法可以做到这一点,而不必使用合流平台
合流不是Kafka的特殊版本。他们的所有工具将与您自己的Kafka安装。
您可以单独使用ksql或kafka流,但在我看来,debezium不应该过滤任何内容,它是用来读取原始cdc事件的。任何这样的过滤都应该在处理逻辑的下游进行
a9wyjsp72#
您可以使用kafka connect转换的过滤函数。filter函数允许包含或排除与 predicate 匹配的记录。请参阅转换/过滤器文档和示例。