贝叶斯规则
(学习这部分内容大约需要1.8小时)
摘要
贝叶斯规则是一个结合先验信念和观测证据(译者注: 数据)获得后验的公式. 它是贝叶斯统计中的重要角色, 在该公式的帮助下, 我们可以在给定数观测数据的情况下, 推断统计模型中参数的后验.
预备/后继知识
掌握贝叶斯规则需要掌握以下预备知识:
- 条件概率(conditional probability): 贝叶斯公式中需要用到条件概率的概念
为弄清以下概念, 需要明白贝叶斯规则:
学习目标
- 知道贝叶斯规则是什么
- 能够使用贝叶斯规则来结合先验与证据(译者注: 利用贝叶斯公式从先验和似然推导后验)
- 从条件概率的定义推导贝叶斯公式
- 知道术语: 先验, 后验
- 能够根据比值直观地推理贝叶斯规则(译者注: 后验正比于先验乘似然)
核心资源
(阅读/观看以下资源中的一个)
免费
-
Mathematical Monk: Probability Primer (2011)
简介: 概率论在线视频
位置: Lecture 2.4, "Bayes' Rule and the Chain Rule"[网址]
其他注记:
- 该资源中使用了概率的测度论符号, 但是没有相关的背景知识也是没关系的. 对于不熟悉的部分可以查阅Lecture 1.S
-
CMU 10-701, 机器学习(2011)
简介: CMU机器学习课程演讲视频
资源: 讲座"概率和估计"(Lecture "Probability and estimation")
[网站]
作者: Tom Mitchell
付费
- A First Course in Probability
简介: 一本导论性质的概率论课本
位置: Section 3.3, "Bayes' Formula," pages 72-87
[网站]
作者: Sheldon Ross - Probability and Statistics
简介: 概率论和统计的导论书籍
位置: Section 2.3, "Bayes' Theorem," pages 66-77
[网站]
作者: Morris H. DeGroot,Mark J. Schervish
增补资源
(以下资源为选修内容, 但你可能发现他们挺有用的)
免费
- BerkeleyX: Introduction to Statistics: Probability
简介: 基础概率论的在线课程
位置: Lecture 1.6, "Bayes' Rule"
[网站]
相关内容
- 贝叶斯网络(Bayes nets) 是一个利用类似贝叶斯规则的技巧对于许多变量进行复杂概率推断的框架.
- 贝叶斯统计(Bayesian statistics)是一个很大程度由贝叶斯推理启发的统计分支