Christopher Krapu 的文章

Kronecker 结构化协方差

PyMC 包含具有 Kronecker 结构化协方差模型的实现。这种模式化的结构使得高斯过程模型能够处理更大的数据集。在以下情况下可以利用 Kronecker 结构:

阅读更多 ...


因子分析

因子分析是一种广泛使用的概率模型,用于识别多元数据中编码在潜在变量中的低秩结构。它与主成分分析非常相关,仅在这些潜在变量的先验分布假设上有所不同。它也是线性高斯模型的一个很好的例子,因为它可以完全描述为底层高斯变量的线性变换。要了解因子分析与其他模型之间关系的高级视图,您可以查看 Ghahramani 和 Roweis 最初发布的此图

阅读更多 ...


使用自定义步长方法从局部共轭后验分布中采样

马尔可夫链蒙特卡罗 (MCMC) 采样方法是现代贝叶斯推断的基础。PyMC 利用哈密顿蒙特卡罗 (HMC),这是一种强大的采样算法,可以有效地探索高维后验分布。与更简单的 MCMC 方法不同,HMC 利用对数后验密度的梯度来做出智能的提议,使其能够有效地采样具有数百或数千个参数的复杂后验。HMC 的一个关键优势是其通用性 - 它适用于任意先验分布和似然函数,而无需共轭对或封闭式解。这至关重要,因为大多数实际模型都涉及先验和似然,它们的乘积无法进行分析积分以获得后验分布。HMC 的梯度引导提议使其比早期依赖于随机游走或简单提议分布的 MCMC 方法效率更高得多。

阅读更多 ...