python中最简单的kafka avro使用者

acruukt9  于 2021-06-05  发布在  Kafka
关注(0)|答案(1)|浏览(291)

这个问题在这里已经有答案了

如何从kafka用python解码/反序列化avro(2个答案)
12个月前关门了。
我有一个系统,发送一些数据到Kafka经纪人使用avro格式。看起来confluent平台最适合于接收、消费和进一步处理它—但是它又大又重。
我正在尝试使用通用的apachekafka,并用python编写自己的用户代码。
真的有可能吗?我发现的所有代码示例都在confluent上进行中继,尤其是它们需要原始ApacheKafka中不存在的模式注册表。

3xiyfsfu

3xiyfsfu1#

你可以在这里找到一些灵感:如何用python解码/反序列化kafka avro字符串
因为avro只不过是序列化,kafka消息只是字节数组,所以您可以随时获取下游的字节,并使用生产者的或创建自己的avro模式来解析消息。
注意-confluent的kafkaavroserializer为每条消息预先准备了一个空的魔字节和一个模式id(由confluent的模式注册表分配)。如果kafkaavroserializers是数据管道的一部分,则需要忽略该字节和id。

相关问题