[Math] From Prior to Posterior distribution
贝叶斯统计推断
- 后验分布与充分性
- 无信息先验下的后验分布
- 共轭先验(conjugacy)下的后验分布
其中,正态分布的共轭先验推导过程,典型且重要。
(1) 当方差已知时,均值(prior: 高斯分布)参数的后验分布 - 高斯分布
(2) 当均值已知时,方差(prior: 逆伽马分布)参数的后验分布 - 逆伽马分布
(3) 当均值和方差皆未知时,它们(prior: 正态 - 逆伽马分布)的后验分布分别是 - 均值:t分布 & 方差: 逆伽马分布
贝叶斯统计决策
后验分布结合损失函数:一般损失函数下的贝叶斯估计。
损失函数:平方损失、加权平方损失、绝对值损失、线性损失函数。
通俗地讲:设置一个参数值,让损失最小。
公式推导可以收集链接在这里。