snappy文件压缩为数据添加计数器值

xmakbtuz  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(305)

通过map reduce使用snappy压缩压缩文件时,会向数据中添加计数器值。压缩时应如何删除计数器。以下是部分代码:

JobConf jobConf = new JobConf(conf,SnappyCompression.class);
 FileInputFormat.addInputPath(jobConf, new Path(arg[0]));
 FileOutputFormat.setOutputPath(jobConf, new Path(arg[1]));
 FileOutputFormat.setCompressOutput(jobConf, true);
 FileOutputFormat.setOutputCompressorClass(jobConf, SnappyCodec.class);

有没有命令可以通过unix压缩snappy中的文件??

rjzwgtxy

rjzwgtxy1#

我知道的唯一解压原始snappy数据的工具是squash中的cli(我写的)。
如果您想压缩/解压缩到各种可用的帧格式之一,snzip应该做到这一点。它不处理原始的snappy数据,但它确实支持官方的帧格式以及其他一些格式。
afaik还没有为任何发行版打包这两个工具。

相关问题