摘要: 一、引入 对于一个复杂的数据分布,往往只能观察到有限的局部特征,这些特征通常会包含一定的噪声,如果要对这个数据分布进行建模,需要挖掘可观测变量之间复杂的依赖关系,以及可观测变量背后隐藏的内部表示。 深度信念网络是一种可以有效学习变量之间复杂依赖关系的概率图模型,包含很多层的隐变量,能够有效学习数据的 阅读全文
posted @ 2020-03-26 13:35 小千北同学超爱写代码 阅读(2697) 评论(1) 推荐(1) 编辑
摘要: 一、引入 吉布斯采样也是用于高维空间的采样方法。 假设二维联合概率分布$\pi(x_{1},x_{2})$在二维空间里有两个点,分别是$A(x_{1}^{1},x_{2}^{1})$和$B(x_{1}^{1},x_{2}^{2})$,这两个点的第一个维度取值相同,放在直角坐标系上看,它们两的连线构成 阅读全文
posted @ 2020-03-26 00:28 小千北同学超爱写代码 阅读(1562) 评论(1) 推荐(0) 编辑
摘要: 一、引入 M-H采样用来解决MCMC采样效率低的问题,主要是更改了MCMC中接受率的具体定义,但是这个方法不适用于高维。 二、细致平稳条件 从$\pi(i)Q_{ij}\alpha (ij)= \pi(j)Q_{ji}\alpha (ji)$出发(1)式 移项$\alpha (ij)=\alpha 阅读全文
posted @ 2020-03-26 00:26 小千北同学超爱写代码 阅读(815) 评论(0) 推荐(0) 编辑