我的elasticsearch集群中有一些与销售相关的json数据,我想使用spark streaming(使用spark 1.4.1)通过kafka动态聚合来自我的电子商务网站的传入销售事件,以查看用户的总销售额(就收入和产品而言)。
从我阅读的文档中,我还不清楚的是如何在spark应用程序启动时从elasticsearch加载历史数据,以及如何计算每个用户的总收入(基于历史和来自kafka的收入)。
我有以下(工作)代码连接到我的kafka示例并接收json文档:
import kafka.serializer.StringDecoder
import org.apache.spark.streaming._
import org.apache.spark.streaming.kafka._
import org.apache.spark.{SparkContext, SparkConf}
import org.apache.spark.sql.SQLContext
object ReadFromKafka {
def main(args: Array[String]) {
val checkpointDirectory = "/tmp"
val conf = new SparkConf().setAppName("Read Kafka JSONs").setMaster("local[2]")
val topicsSet = Array("tracking").toSet
val sc = new SparkContext(conf)
val ssc = new StreamingContext(sc, Seconds(10))
// Create direct kafka stream with brokers and topics
val kafkaParams = Map[String, String]("metadata.broker.list" -> "localhost:9092")
val messages = KafkaUtils.createDirectStream[String, String, StringDecoder, StringDecoder](
ssc, kafkaParams, topicsSet)
//Iterate
messages.foreachRDD { rdd =>
//If data is present, continue
if (rdd.count() > 0) {
//Create SQLContect and parse JSON
val sqlContext = new SQLContext(sc)
val trackingEvents = sqlContext.read.json(rdd.values)
//Sample aggregation of incoming data
trackingEvents.groupBy("type").count().show()
}
}
// Start the computation
ssc.start()
ssc.awaitTermination()
}
}
我知道elasticsearch有个插件(https://www.elastic.co/guide/en/elasticsearch/hadoop/master/spark.html#spark-read),但我还不清楚如何集成启动时读取和流计算过程,以将历史数据与流数据聚合。
我很感激你的帮助!提前谢谢。
1条答案
按热度按时间v1l68za41#
RDD是不可变的,因此在它们被创建之后,您不能向它们添加数据,例如用新事件更新收入。
您可以做的是将现有数据与新事件合并,以创建一个新的rdd,然后将其用作当前总数。例如。。。
在这种情况下,我们
currentTotal
一var
因为当它与传入数据联合时,它将被对新rdd的引用所取代。在并集之后,您可能希望执行一些进一步的操作,例如减少属于同一个键的值,但是您得到了这样的结果。
如果您使用这种技术,请注意您的rdd的沿袭将会增长,因为每个新创建的rdd都将引用它的父rdd。这可能会导致堆栈溢出样式沿袭问题。要解决这个问题,你可以打电话
checkpoint()
定期在rdd上。