合流kafka rest代理流方法

iqjalb3h  于 2021-06-07  发布在  Kafka
关注(0)|答案(1)|浏览(404)

我试图使用融合Kafka流数据平台使用rest代理。
我从下面的路径看到了文档,
https://docs.confluent.io/current/kafka-rest/docs/intro.html
它们有各种使用rest代理API的流化方法:
我假设“生成和使用二进制消息”是针对流媒体文件还是其他文件?
我假设“生成并使用json消息”是用于流式传输json数据的?
我怀疑“生成并使用json消息”与“生成并使用avro消息”与“生成并使用二进制消息”之间到底有什么区别。
有人能给我解释一下吗,因为他们没有详细的文件。

webghufk

webghufk1#

所有的Kafka数据都是二进制数据。avro是一种恰好具有结构化模式的二进制数据类型。
文件也是二进制的,但kafka不用于文件传输—例如,1)kafka协议中有一个最大消息大小,2)kafka用于水平扩展,文件不应跨分区分布,3)如果文件被拆分,您无法轻松确定文件的开始和结束位置。
rest代理文档中显示的二进制格式是base64字符串,以文本形式发送,但已解码并以原始二进制存储在代理上。换言之,如果您有一个文件可以编码为小于有效负载限制的base64字符串,那么当然,您可以发送它,但这不是格式的主要用途-而是可以表示为字符串表示的自定义格式,由于技术(或历史)原因无法转换为json或avro。
json和其他人类可读的格式是纯文本。

相关问题