如何在flink流媒体中连续读取azuredatalake中文件的内容?

slwdgvem  于 2021-06-25  发布在  Flink
关注(0)|答案(1)|浏览(372)

我正在使用flink streaming从azuredatalake存储区中的文件读取数据。是否有任何连接器可用于在文件更新时从存储在azure DataLake中的文件连续读取数据。如何操作?

9q78igpj

9q78igpj1#

azuredatalakestore(adls)支持与hdfs兼容的restapi接口,本文对此进行了说明。https://docs.microsoft.com/en-us/rest/api/datalakestore/webhdfs-filesystem-apis.
当前没有API或连接器可用于在更新文件/文件夹时轮询ADL和通知/读取数据。这是您可以使用上面提供的api在自定义连接器中实现的。连接器需要定期轮询adls帐户/文件夹以确定更改。
谢谢,sachin sheth azure数据湖项目经理

相关问题