PRML-公式推导 - 1.68,2.19,3.57公式详解

\(目标\)
$ p(t|x, X, T) = \int p(t|x, w)p(w|X, T)dw \tag{1.68} $

\(1.p(t,x, X, T)=\int p(t,x,X,T,w)dw\)
\(=\int p(t|x,X,T,w)p(x,X,T,w)dw\)
\(=\int p(t|x,X,T,w)p(w|x,X,T)p(x,X,T)dw\)

\(2.p(t,x, X, T)=p(t|x,X,T)p(x,X,T)\)
\(1=2，p(x,X,T)和w无关，可以约去，所以有\)
\(p(t|x,X,T)=\int p(t|x,X,T,w)p(w|x,X,T)dw\)

\(其中p(t|x,X,T,w)，t是验证数据集参数，和X,T 这两个训练数据集参数无关,所以 p(t|x,X,T,w) =p(t|x,w)\)
\(p(w|x,X,T)中，w是自然参数，和验证数据集参数x无关,所以 p(w|x,X,T) =p(w|X,T)\)
\(最后得到\)
\(p(t|x,X,T)=\int p(t|x,w)p(w|X,T)dw\)

---

\[p(x=1|D) = \int_0^1p(x=1|\mu)p(\mu|D)d\mu = \int_0^1\mu p(\mu|D)d\mu = \mathbb{E}[\mu|D] \tag{2.19} \]

公式2.19 和上面证明方法类似，不赘述

---

公式3.57

\(目标\)
$ p(t|T, \alpha, \beta) = \int p(t|w,\beta)p(w|T,\alpha,\beta)dw \tag{3.57} $

\(1.p(t,T, \alpha, \beta)=\int p(t,T, \alpha, \beta,w)dw\)
\(=\int p(t|T, \alpha, \beta,w)p(T, \alpha, \beta,w)dw\)
\(=\int p(t|T, \alpha, \beta,w)p(w|T, \alpha, \beta)p(T, \alpha, \beta)dw\)

\(2.p(t,T, \alpha, \beta)=p(t|T, \alpha, \beta)p(T, \alpha, \beta)\)
\(1=2，p(x,X,T)和w无关，可以约去，所以有\)
\(p(t|T, \alpha, \beta)=\int p(t|T, \alpha, \beta,w)p(w|T, \alpha, \beta)dw\)

\(其中p(t|T, \alpha, \beta,w)，t是验证数据集参数，和\alpha,T 这两个训练数据集参数无关,所以 p(t|T, \alpha, \beta,w)=p(t| \beta,w)\)
\(最后得到\)
\(p(t|T, \alpha, \beta) = \int p(t|w,\beta)p(w|T,\alpha,\beta)dw\)