深高斯过程是如何工作的(实施方面)

6ss1mwsb  于 2021-07-13  发布在  Java
关注(0)|答案(0)|浏览(269)

我知道深gp的基本构造块是(变分的)稀疏gp和gplvm。在阅读了相关的论文(见参考文献)并对其有了一定的了解之后,我仍然不确定我是如何理解它的实现(在代码中)的。

  • 它的jist意味着它本质上是一堆(稀疏的)gp层?。

我特别困惑的是一层到另一层的转换和模型选择过程。也就是说,我有3层。我的问题是有监督回归,所以我的y输出是一维的(即1列输出)。我的问题是;
层是如何初始化的?既然一个层是一个稀疏的gp,那么所有层都有相同的诱导点吗?
“一个gp的输入是另一个(以前的)gp”(代码实现)是什么意思?
选型是否按顺序进行?
i、 e.优化第1层->从第1层执行预测(x)->将(x,y\u pred\u layer1)馈送到第2层->优化第2层->等等。。4.如果模型选择是按顺序进行的,那么这不就是一个(非常)昂贵的过程吗?。
主要参考文献:
http://proceedings.mlr.press/v31/damianou13a.pdf (dgp主纸)
https://www.researchgate.net/publication/220320048_variational_learning_of_inducing_variables_in_sparse_gaussian_processes (gps如何工作/学习)
https://arxiv.org/abs/1705.08933 (深高斯过程的双随机变分推理,层间学习的新方法?)
http://etheses.whiterose.ac.uk/9968/1/damianou_thesis.pdf (大米诺的论文)
代码参考:我试图远离tensorflow/pytorch实现,因为我想看看引擎盖下到底发生了什么,所以主要的参考是gpy的实现。https://github.com/sheffieldml/pydeepgp 然而调试pydeepgp仍然很困难。

  • 注:我曾使用克里格模型,即标准探地雷达(来自工程背景)

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题