flume-如何定期或在达到一定大小时读取日志

slwdgvem  于 2021-06-04  发布在  Flume
关注(0)|答案(1)|浏览(261)

我想知道,是否有可能配置flume来读取定期的时间间隔或当日志达到一定的大小和如何?提前谢谢

ff29svar

ff29svar1#

Flume定期读取日志的时间间隔或日志何时达到一定大小又如何?
代理将持续运行这是flume的功能。所以在任何时间间隔内,日志或消息都会出现。。。Flume能够捕捉到这些。
如果要检查传入消息或日志的大小,则必须编写 FlumeSource i、 e( public class FlumeSource extends AbstractSource implements Configurable, EventDrivenSource ),它将在源位置捕获日志并打印大小。你可以用

LOG.info("Processing message...with size = " + FileUtils.byteCountToDisplaySize(bytes.length));

哪里 FileUtils 是apache commons类& byteCountToDisplaySize 是为了显示人类可读的方式。
要将事件日志序列化到hbase,可以使用asynchbase api编写自定义序列化程序。

相关问题