在过去的2-3周里我一直在修Flume。我面临着一个我不知道如何解决的新情况。流:使用基本流,spooldir->filechannel->hdfs在.conf文件中没有设置额外的参数我尝试传输的文件大小:1.4gb情况:代理开始正常,文件传输开始正常,源中的文件被重命名为.completed,完整的文件没有被传输到hdfs,没有抛出错误/异常。我运行了几次相同的临时我发现,在1.4吉布斯只有约169mb得到转移。看起来怪怪的!有什么建议吗?有什么解决办法吗?有什么假设吗?
jrcvhitl1#
你等了多久?给它一个小时,你可能会看到一些东西。您可能有一个损坏的filechannel,需要一些时间来清理它。顺便说一句,什么版本的Flume?
zte4gxcn2#
尝试向文件中添加更多数据并等待一段时间。日志里有什么有趣的东西吗?还要确保hdfs上有足够的空间。
2条答案
按热度按时间jrcvhitl1#
你等了多久?给它一个小时,你可能会看到一些东西。
您可能有一个损坏的filechannel,需要一些时间来清理它。
顺便说一句,什么版本的Flume?
zte4gxcn2#
尝试向文件中添加更多数据并等待一段时间。日志里有什么有趣的东西吗?
还要确保hdfs上有足够的空间。