PRML-公式推导 - 1.68,2.19,3.57公式详解

$目标$
$p(t|x, X, T) = \int p(t|x, w)p(w|X, T)dw \tag{1.68}$

$1.p(t,x, X, T)=\int p(t,x,X,T,w)dw$
$=\int p(t|x,X,T,w)p(x,X,T,w)dw$
$=\int p(t|x,X,T,w)p(w|x,X,T)p(x,X,T)dw$

$2.p(t,x, X, T)=p(t|x,X,T)p(x,X,T)$
$1=2，p(x,X,T)和w无关，可以约去，所以有$
$p(t|x,X,T)=\int p(t|x,X,T,w)p(w|x,X,T)dw$

$其中p(t|x,X,T,w)，t是验证数据集参数，和X,T 这两个训练数据集参数无关,所以 p(t|x,X,T,w) =p(t|x,w)$
$p(w|x,X,T)中，w是自然参数，和验证数据集参数x无关,所以 p(w|x,X,T) =p(w|X,T)$
$最后得到$
$p(t|x,X,T)=\int p(t|x,w)p(w|X,T)dw$

---

$$p(x=1|D) = \int_0^1p(x=1|\mu)p(\mu|D)d\mu = \int_0^1\mu p(\mu|D)d\mu = \mathbb{E}[\mu|D] \tag{2.19}$$

公式2.19 和上面证明方法类似，不赘述

---

公式3.57

$目标$
$p(t|T, \alpha, \beta) = \int p(t|w,\beta)p(w|T,\alpha,\beta)dw \tag{3.57}$

$1.p(t,T, \alpha, \beta)=\int p(t,T, \alpha, \beta,w)dw$
$=\int p(t|T, \alpha, \beta,w)p(T, \alpha, \beta,w)dw$
$=\int p(t|T, \alpha, \beta,w)p(w|T, \alpha, \beta)p(T, \alpha, \beta)dw$

$2.p(t,T, \alpha, \beta)=p(t|T, \alpha, \beta)p(T, \alpha, \beta)$
$1=2，p(x,X,T)和w无关，可以约去，所以有$
$p(t|T, \alpha, \beta)=\int p(t|T, \alpha, \beta,w)p(w|T, \alpha, \beta)dw$

$其中p(t|T, \alpha, \beta,w)，t是验证数据集参数，和\alpha,T 这两个训练数据集参数无关,所以 p(t|T, \alpha, \beta,w)=p(t| \beta,w)$
$最后得到$
$p(t|T, \alpha, \beta) = \int p(t|w,\beta)p(w|T,\alpha,\beta)dw$