在使用maven hadoop版本hadoop 2.5.1编译hadoop 2.5.1之后,我尝试使用以下命令编译apache spark:
mvn -Pyarn -Phadoop-2.5 -Dhadoop.version=2.5.1 -Pdeb -DskipTests clean package
但显然没有2.5版。
我的问题是:我该怎么办?
重建hadoop 2.4
或者用profile 2.4编译spark
或者其他解决方案?
在使用maven hadoop版本hadoop 2.5.1编译hadoop 2.5.1之后,我尝试使用以下命令编译apache spark:
mvn -Pyarn -Phadoop-2.5 -Dhadoop.version=2.5.1 -Pdeb -DskipTests clean package
但显然没有2.5版。
我的问题是:我该怎么办?
重建hadoop 2.4
或者用profile 2.4编译spark
或者其他解决方案?
2条答案
按热度按时间gzszwxb41#
只是更改个人资料名称对我有用。谢谢你的回答。
krcsximq2#
看起来这是海报询问后问的:
http://apache-spark-user-list.1001560.n3.nabble.com/spark-1-1-0-with-hadoop-2-5-0-td15827.html
hadoop-2.4配置文件实际上是“hadoop2.4+”。据我所知,它应该可以用hadoop2.5编译并运行良好。cdh5.2是hadoop2.5+spark1.1,所以有证据表明它是有效的。”