Metropolis–Hastings 算法科普：贝叶斯推断背后的采样引擎如何工作
burny_tech · x · 2026-09-20
一条系统讲解 Metropolis–Hastings（MH）算法的科普长推：当直接采样困难时，MH 作为 MCMC 算法可以从复杂概率分布生成样本。
核心机制：给定目标密度 π(x)，从提议分布 q(x′|x) 采出新状态，按接受概率 α = min{1, [π(x′)q(x|x′)]/[π(x)q(x′|x)]} 决定是否接受，拒绝则留在原地；满足适当条件时，马尔可夫链的平稳分布即为 π，样本均值可逼近目标分布的期望。
在机器学习中，当贝叶斯后验 p(θ|D) 无解析解时，MCMC 可生成近似后验样本，用于估计参数、可信区间和预测分布，是贝叶斯推断的基石方法之一。
「研究」频道最新
- 斯坦福 SALVE 方法可解码蒸馏数据里隐藏的模型行为 — burny_tech · 2026-09-20
- 新论文称无需任何数据即可从权重矩阵直接探测过拟合 — burny_tech · 2026-09-20
- 哈佛《动力学系统》课程讲义公开，可免费下载 — burny_tech · 2026-09-20
- Konwinski：如今读博我会研究 reward hacking，agent 钻基准空子已实证 — burny_tech · 2026-09-20
- 从核函数到贝叶斯优化:一文讲清高斯过程回归与分类 — burny_tech · 2026-09-20
- ML 论文暴增审稿人不足，同行评审越来越「vibe」 — burny_tech · 2026-09-20