DataX 如何修改hdfs的reader hdfswriter 让他们支持hadoop3?

sshcrbum  于 4个月前  发布在  HDFS
关注(0)|答案(2)|浏览(120)

No description provided.

8wigbo56

8wigbo561#

将 <hive.version>3.1.0</hive.version>
<hadoop.version>3.1.4</hadoop.version>版本修改成 报错 程序包parquet.schema不存在

nvbavucw

nvbavucw2#

找到了 解决方案,在hdfswriter 当中加上
依赖 :

<dependency>
            <groupId>com.twitter</groupId>
            <artifactId>parquet-hadoop-bundle</artifactId>
            <version>1.6.0rc3</version>
        </dependency>

相关问题