kafka压缩类型版本-0.10.0.1

ou6hu8tu  于 2021-06-07  发布在  Kafka
关注(0)|答案(0)|浏览(213)

我一直在测试Kafka压缩类型使用性能测试工具。基本上,我使用内置工具以不同的压缩模式向kafka集群发送1000000条消息。我可以看到压缩是使用gzip和lz4的,但是数据似乎没有得到snappy类型的压缩。
此外,我还检查了snappy的网络流量,它在客户端被压缩,但在代理上似乎有问题。
发送前的存储:

5.0K    ./test_none-0
1.0K    ./test_gzip-0
3.0K    ./test_snappy-0
1.0K    ./test_lz4-0

运行以下命令将1m消息发布到服务器

/home/sysgenu/kafka/kafka_2.10-0.10.0.1/bin/kafka-producer-perf-test.sh --num-records 1000000 --throughput 100000 --record-size 1000 --topic test_none --producer-props bootstrap.servers=ldnpsr000001131:9092,gbrcsr000000096:9092
/home/sysgenu/kafka/kafka_2.10-0.10.0.1/bin/kafka-producer-perf-test.sh --num-records 1000000 --throughput 100000 --record-size 1000 --topic test_snappy --producer-props bootstrap.servers=ldnpsr000001131:9092,gbrcsr000000096:9092 compression.type=snappy
/home/sysgenu/kafka/kafka_2.10-0.10.0.1/bin/kafka-producer-perf-test.sh --num-records 1000000 --throughput 100000 --record-size 1000 --topic test_gzip --producer-props bootstrap.servers=ldnpsr000001131:9092,gbrcsr000000096:9092 compression.type=gzip
/home/sysgenu/kafka/kafka_2.10-0.10.0.1/bin/kafka-producer-perf-test.sh --num-records 1000000 --throughput 100000 --record-size 1000 --topic test_lz4 --producer-props bootstrap.servers=ldnpsr000001131:9092,gbrcsr000000096:9092 compression.type=lz4

发布后检查存储

494M    ./test_none-0
96M     ./test_gzip-0
500M    ./test_snappy-0
25M     ./test_lz4-0

我不知道为什么没什么好高兴的?
谢谢你的帮助?

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题