比尔·恩格斯发布的文章

高斯过程:HSGP 高级用法

Hilbert 空间高斯过程近似是一种低秩 GP 近似,特别适合在像 PyMC 这样的概率编程语言中使用。它使用一组预先计算和固定的基函数来近似 GP,这些基函数不依赖于协方差核的形式或其超参数。它是一种参数近似,因此 PyMC 中的预测可以像使用线性模型一样通过 pm.Datapm.set_data 完成。您不需要定义非参数 GP 依赖的 .conditional 分布。这使得将 HSGP 而不是 GP 集成到您现有的 PyMC 模型中容易得多。此外,与许多其他 GP 近似不同,HSGP 可以用于模型中的任何位置以及任何似然函数。

阅读更多 ...


高斯过程:HSGP 参考 & 第一步

Hilbert 空间高斯过程近似是一种低秩 GP 近似,特别适合在像 PyMC 这样的概率编程语言中使用。它使用一组预先计算和固定的基函数来近似 GP,这些基函数不依赖于协方差核的形式或其超参数。它是一种参数近似,因此 PyMC 中的预测可以像使用线性模型一样通过 pm.Datapm.set_data 完成。您不需要定义非参数 GP 依赖的 .conditional 分布。这使得将 HSGP 而不是 GP 集成到您现有的 PyMC 模型中容易得多。此外,与许多其他 GP 近似不同,HSGP 可以用于模型中的任何位置以及任何似然函数。

阅读更多 ...


高斯过程:潜在变量实现

gp.Latent 类是高斯过程的直接实现,无需近似。给定均值和协方差函数,我们可以将先验放在函数 \(f(x)\) 上,

阅读更多 ...


边缘似然实现

gp.Marginal 类实现了 GP 回归的更常见情况:观察到的数据是 GP 和高斯噪声的总和。gp.Marginal 具有 marginal_likelihood 方法、conditional 方法和 predict 方法。给定均值和协方差函数,函数 \(f(x)\) 被建模为,

阅读更多 ...


多输出高斯过程:使用哈达玛积的共区域化模型

本笔记本展示了如何使用 Coregion 核和输入核之间的哈达玛积来实现内在共区域化模型 (ICM) 和线性共区域化模型 (LCM)。这篇论文 by Bonilla et al. [2007] 讨论了多输出高斯过程。有关 ICM 和 LCM 的更多信息,请查看 Mauricio Alvarez 关于多输出高斯过程的 演讲,以及 他的幻灯片,最后一页有更多参考资料。

阅读更多 ...


Kronecker 结构化协方差

PyMC 包含具有 Kronecker 结构化协方差的模型的实现。当出现以下情况时,可以利用 Kronecker 结构:

阅读更多 ...


用于 Mauna Loa 二氧化碳的高斯过程

此高斯过程 (GP) 示例展示了如何

阅读更多 ...


均值和协方差函数

PyMC 中提供了大量的均值和协方差函数。定义自定义均值和协方差函数相对容易。由于 PyMC 使用 PyTensor,因此用户无需定义它们的梯度。

阅读更多 ...


Student-t 过程

PyMC 还包括 T 过程先验。它们是将高斯过程先验推广到多元 Student’s T 分布。用法与 gp.Latent 相同,只是当在模型中指定它们时,它们需要自由度参数。有关更多信息,请参见 Rasmussen+Williams 的第 9 章和 Shah et al.

阅读更多 ...