Metropolis-Hastings算法
(学习这部分内容大约需要1.5小时)
摘要
马尔科夫链蒙特卡洛(Markov chain Monte Carlo, MCMC)是一种近似采样算法, 它通过定义稳态分布为 \(p\) 的马尔科夫链, 在目标分布 \(p\) 中进行采样. Metropolis-Hastings 是找到这样一条马尔科夫链的非常一般的方法: 选择一个提议分布(proposal distribution), 并通过随机接受或拒绝该提议来纠正偏差. 虽然其数学公式是非常一般化的, 但选择好的提议分布却是一门艺术.
预备知识
学习 Metropolis-Hastings 算法需要以下预备知识
- 马尔科夫链蒙特卡洛(Markov chain Monte Carlo, MCMC): M-H 算法是 MCMC 算法的一个特例.
- 多元高斯分布: 高斯分布是M-H提议分布的典型例子.
学习目标
- 知道细致平衡条件(detailed balance conditions)说的是啥
- 知道 Metropolis-Hastings 算法的定义
- 证明 M-H 算法满足细致平衡条件
- 如果不仔细选择提议分布, 请注意可能的故障模式: 缓慢的 mixing 和低接受概率.
核心资源
(阅读/观看以下其中一个)
免费
- Information Theory, Inference, and Learning Algorithms
简介: 一本机器学习和信息论研究生教材
位置: Section 29.4, "The Metropolis-Hastings method," pages 365-370
网站
作者: David MacKay - Coursera: Probabilistic Graphical Models (2013)
简介: 一门概率图模型在线课程
位置: Lecture "Metropolis Hastings algorithm"
网站
作者: Daphne Koller
备注:- 点击"Preview"观看视频
- Computational Cognition Cheat Sheets (2013)
简介: 认知科学家写的一组笔记
位置: Bayesian Inference: Metropolis-Hastings Sampling
网站
付费
-
Pattern Recognition and Machine Learning(PRML)
简介: 一本研究生机器学习教材, 聚焦于贝叶斯方法
位置: Section 11.2, pages 537-542
网站
作者: Christopher M. Bishop -
Machine Learning: a Probabilistic Perspective(MLAPP)
简介: 一本非常全面的研究生机器学习教材
位置: Section 24.3-24.3.6, pages 848-855网站
作者: Kevin P. Murphy
增补资源
免费
-
Bayesian Reasoning and Machine Learning
简介: 一门研究生机器学习课程
位置: Section 27.4, "Markov chain Monte Carlo," pages 550-553作者: David Barber
付费
-
Probabilistic Graphical Models: Principles and Techniques
简介: 一本非常全面的概率AI研究生教材
位置: Section 12.3.4, pages 515-518网站
作者: Daphne Koller,Nir Friedman
相关知识
-
Gibbs 采样 是一种常用的特殊 M-H 算法
-
其他 M-H 算法包括:
- Hamiltonian Monte Carlo (HMC): 利用梯度信息从连续模型中采样
- split-merge 算子: 尝试拆分和合并簇.
- reversible jump MCMC: 试图在不同维度的空间之间移动
在某些条件下, 我们可以确定最佳的 M-H 接受率.