PRML-公式推导 - 2.21-2.24

我们用频率学角度证明这点。考虑一个贝叶斯推断,参数为θ并且观测了一个数据集D,由联合分布p(θ,D)表示.

(2.21)Eθ[θ]=ED[Eθ[θ|D]]

其中
(2.22)Eθ[θ]=p(θ)θdθ

(2.23)ED[Eθ[θD]]{θp(θD)dθ}p(D)dD

θ的后验均值(在产生数据集的分布上的平均)等于θ的先验均值。同样的我们可以得到:

(2.24)varθ[θ]=ED[varθ[θ|D]]+varD[Eθ[θ|D]]


ED[Eθ[θ]D]]=ED[θp(θ|D)dθ]
=ED[θp(θ,D)p(D)dθ]
=(θp(θ,D)p(D)dθ)p(D)dD,p(D)
=θp(θ,D)dθdD
=θp(θ,D)dDdθ
=θp(θ)dθ
=Eθ[θ]

ED[varθ[θ|D]]+varD[Eθ[θ|D]]
=ED[Eθ[θ2|D]Eθ2[θ|D]]+ED[Eθ2[θ|D]]ED2[Eθ[θ|D]]
=ED[Eθ[θ2|D]]ED[Eθ2[θ|D]]+ED[Eθ2[θ|D]]ED2[Eθ[θ|D]]
=ED[Eθ[θ2|D]]ED2[Eθ[θ|D]]
ED[Eθ[θ|D]]=Eθ[θ],ED[Eθ[θ2|D]]=Eθ[θ2]
=Eθ[θ2]Eθ2[θ]
=varθ[θ]

posted @   筷点雪糕侠  阅读(119)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· spring官宣接入deepseek,真的太香了~
点击右上角即可分享
微信分享提示