flink中的非并行数据源到并行数据源

2hh7jdfx  于 2021-06-21  发布在  Flink
关注(0)|答案(1)|浏览(328)

我想在apache flink中将非并行数据源转换为并行数据源。在伪代码中,应该是这样的:

int partitions = env.getParallelim();

DataSource<String> input = new CustomDataSource<String>();
DataSource<String> parallel = input.setParallelism(partitions).suffle();

我是通过实现noopMap函数来实现的,但我想还有更优雅的方法。
谢谢

ckx4rj1h

ckx4rj1h1#

你可以用 ParallelSourceFunction 而不是 SourceFunction 作为要在中实现的接口 CustomDataSource .
请参见:https://ci.apache.org/projects/flink/flink-docs-master/api/java/org/apache/flink/streaming/api/functions/source/parallelsourcefunction.html

相关问题