我正在使用ApacheFlink开发一个推荐系统。当我在intellij中测试它时,实现正在运行,但是我现在想在集群上运行。我还构建了一个jar文件,并在本地对其进行了测试,以查看是否一切正常,但我遇到了一个问题。
noclassdeffounderror:org/apache/flink/ml/common/flinkmltools$
如我们所见,班级 FlinkMLTools
在jar运行期间找不到在我的代码中使用的。我用maven 3.3.3和 mvn clean install
我用的是flink的0.9.0版本。
第一条线索
事实上,我的全局项目包含其他项目(这个推荐者是子项目之一)。这样,我就必须启动 mvn clean install
在正确项目的文件夹中,否则maven总是构建另一个项目的jar(我不明白为什么)。所以我想知道是否有一种方法可以明确地告诉maven构建一个特定的全局项目。事实上,也许 FlinkMLTools
包含在 pom.xml
全局项目的文件。
还有其他想法吗?
2条答案
按热度按时间bvjxkvbb1#
问题是flink的二进制发行版不包含库(FlinkML、gelly等)。这意味着您要么必须将库jar文件与作业jar一起提供,要么必须手动将它们复制到集群中。我强烈推荐第一种选择。
构建一个fat jar以包含库jar
构建不包含不必要jar的胖jar的最简单方法是使用flink的quickstart原型来设置项目的pom。
将使用scalaapi为flink项目创建结构。生成的pom文件将具有以下依赖项。
您可以删除
flink-streaming-scala
而是插入以下依赖项标记,以便包含flink的机器学习库。当你知道如何用
mvn package
,生成的jar应该包含flink-ml
jar及其所有可传递依赖项。将库jar手动复制到集群
flink包括所有位于
<FLINK_ROOT_DIR>/lib
已执行作业的类路径中的文件夹。因此,为了使用flink的机器学习库,您必须将flink-ml
jar和所有需要的可传递依赖项/lib
文件夹。这是相当棘手的,因为您必须弄清楚您的算法实际需要哪些可传递依赖项,因此,您通常会复制所有可传递依赖项。如何用maven构建特定的子模块
为了从父项目构建特定的子模块x,可以使用以下命令:
hsvhsicv2#
在集群模式下,flink不会将所有库jar文件放入其worker的类路径中。在intellij中本地执行程序时,所有必需的依赖项都在类路径中,但在集群上执行时不在类路径中。
您有两种选择:
将flinkmljar文件复制到
lib
所有flink taskmanager的文件夹为您的应用程序构建一个包含flinkml依赖项的胖jar文件。
有关详细信息,请参阅集群执行文档。