运行spark示例时:
spark hive表,我在hadoop ui上遇到错误
用户类引发异常:java.lang.runtimeexception:java.lang.runtimeexception:无法示例化org.apache.hadoop.hive.ql.metadata.sessionhivemetastoreclient
和警告
executor.coarsegrainedexecutorbackend:未知(x.x.x.x:x)驱动程序已断开连接。
但我已经开始Hive元存储在我的Spark纱集群,我该怎么办?
2条答案
按热度按时间ddarikpa1#
我发现我正在使用thrift服务器。在通过cmd启动thrift之后
/SPARKPATH/sbin/start-thriftserver.sh
,这里出现另一个错误“java.lang.classnotfoundexception:org.datanucleus.api.jdo.jdopersistencemanagerfactory”,它在这里显示类似于我的标题的错误。它可以通过加法来修正--jars /SPARKPATH/lib_managed/jars/datanucleus-api-jdo-3.2.6.jar,/SPARKPATH/lib_managed/jars/datanucleus-core-3.2.10.jar,/SPARKPATH/lib_managed/jars/datanucleus-rdbms-3.2.9.jar
5kgi1eie2#
这意味着您还没有启动metastore服务,所以在安装了hive的地方启动metastore服务,如果您在remote中有metastore,则在remote中启动metastore服务。
开始元存储使用
hive --service metastore
启动metastore服务后得到了什么输出