我们用频率学角度证明这点。考虑一个贝叶斯推断,参数为θ并且观测了一个数据集D,由联合分布p(θ,D)表示.
Eθ[θ]=ED[Eθ[θ|D]](2.21)
其中
Eθ[θ]=∫p(θ)θdθ(2.22)
ED[Eθ[θ∣D]]≡∫{∫θp(θ∣D)dθ}p(D)dD(2.23)
θ的后验均值(在产生数据集的分布上的平均)等于θ的先验均值。同样的我们可以得到:
varθ[θ]=ED[varθ[θ|D]]+varD[Eθ[θ|D]](2.24)
ED[Eθ[θ]D]]=ED[∫θp(θ|D)dθ]
=ED[∫θp(θ,D)p(D)dθ]
=∫(∫θp(θ,D)p(D)dθ)p(D)dD,−−−−−p(D)可以约去
=∫∫θp(θ,D)dθdD
=∫θ∫p(θ,D)dDdθ
=∫θp(θ)dθ
=Eθ[θ]
ED[varθ[θ|D]]+varD[Eθ[θ|D]]
=ED[Eθ[θ2|D]−E2θ[θ|D]]+ED[E2θ[θ|D]]−E2D[Eθ[θ|D]]
=ED[Eθ[θ2|D]]−ED[E2θ[θ|D]]+ED[E2θ[θ|D]]−E2D[Eθ[θ|D]]
=ED[Eθ[θ2|D]]−E2D[Eθ[θ|D]]
利用ED[Eθ[θ|D]]=Eθ[θ],得到ED[Eθ[θ2|D]]=Eθ[θ2]
继续=Eθ[θ2]−E2θ[θ]
=varθ[θ]
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· spring官宣接入deepseek,真的太香了~