我正在玩mobius(spark的c语言绑定)和mongodb的c驱动程序。我的目标是使用mongodb作为c应用程序中spark查询的输入/输出。我知道有一个javamongodbhadoop连接器,但是我想继续使用mobius来编写spark查询。
kdfy810k1#
您可以在mobius中使用mongodb spark connector和dataframeapi来查询mongodb。加载数据的代码如下所示
var mongoDbDataFrame = sqlContext.Read.Format("com.mongodb.spark.sql").Load()
加载数据后,可以对Dataframe执行select()、filter()操作。您还可以使用下面的代码模板注册dataframe,使其易于使用sql查询
mongoDbDataFrame.RegisterTempTable("MongDbDataFrameTempTable") sqlContext.Sql("SELECT <columns> FROM MongDbDataFrameTempTable WHERE <condition>")
请注意,您需要在类路径中包含连接器及其依赖项,并且可以使用“-jars”参数。
1条答案
按热度按时间kdfy810k1#
您可以在mobius中使用mongodb spark connector和dataframeapi来查询mongodb。加载数据的代码如下所示
加载数据后,可以对Dataframe执行select()、filter()操作。您还可以使用下面的代码模板注册dataframe,使其易于使用sql查询
请注意,您需要在类路径中包含连接器及其依赖项,并且可以使用“-jars”参数。