flume:没有抛出错误,但是flume无法完全传输文件

z8dt9xmd  于 2021-06-04  发布在  Hadoop
关注(0)|答案(2)|浏览(419)

在过去的2-3周里我一直在修Flume。我面临着一个我不知道如何解决的新情况。
流:使用基本流,spooldir->filechannel->hdfs
在.conf文件中没有设置额外的参数
我尝试传输的文件大小:1.4gb
情况:代理开始正常,文件传输开始正常,源中的文件被重命名为.completed,完整的文件没有被传输到hdfs,没有抛出错误/异常。我运行了几次相同的临时我发现,在1.4吉布斯只有约169mb得到转移。看起来怪怪的!
有什么建议吗?有什么解决办法吗?有什么假设吗?

jrcvhitl

jrcvhitl1#

你等了多久?给它一个小时,你可能会看到一些东西。
您可能有一个损坏的filechannel,需要一些时间来清理它。
顺便说一句,什么版本的Flume?

zte4gxcn

zte4gxcn2#

尝试向文件中添加更多数据并等待一段时间。日志里有什么有趣的东西吗?
还要确保hdfs上有足够的空间。

相关问题