小千北同学超爱写代码

摘要： 一、引入 M-H采样用来解决MCMC采样效率低的问题，主要是更改了MCMC中接受率的具体定义，但是这个方法不适用于高维。 二、细致平稳条件 从$\pi(i)Q_{ij}\alpha (ij)= \pi(j)Q_{ji}\alpha (ji)$出发（1）式 移项$\alpha (ij)=\alpha 阅读全文

摘要： 一、引入 拒绝采样，重要性采样的效率在高维空间很低，随维度增长其难度也指数型增长，主要适用于一维的采样。对于二维以上可以用马氏链。马尔可夫链蒙特卡洛采样方法就是在高维空间采样的方法。 马尔可夫链就是满足马尔可夫假设的一组状态序列$\left \{ x_{t} \right \}= ...,x_{t- 阅读全文

摘要： 一、引入 之前说过推断问题主要是已知一些变量求别的变量的概率，在图模型中主要是求隐变量的后验概率会用到。 有一些隐变量之间的关系没那么复杂，可以精确计算出来，虽然麻烦，但是好歹是可计算的，这种方法就是精确推断，精确推断比较简单，不会多写；还有的是真的没法算出来的，又不可缺，就只能近似推断，而近似推断 阅读全文

摘要： 一、前言 图模型的学习主要是学习网络结构，即寻找最优的网络结构；以及网络参数估计，即已知网络结构，估计每个条件概率分布的参数。这里主要讲网络参数的估计。然后又可以分为不含隐变量的参数估计，和含隐变量的参数估计。隐变量相对于可观测变量而言，就是我们无法直接观测到的变量；在特征空间里可以理解为不能被人直 阅读全文

摘要： 一、简介 概率图模型（Probabilistic Graphical Model ,PGM）是用图来表示变量概率依赖关系的理论，结合概率论与图论的知识，利用图来表示与模型有关的变量的联合概率分布。图的每个节点（node）都表示一个随机变量，而图的边（edge）则被用于编码这些随机变量之间的关系，通常 阅读全文

摘要： 1.tf.nn.embedding_lookup用来选取张量里对应的索引元素 %tensorflow_version 2.x import tensorflow as tf p=tf.Variable(tf.random.uniform([10,1])) b=tf.nn.embedding_look 阅读全文

摘要： 参考： https://www.zhihu.com/question/45027109/answer/129387065 https://blog.csdn.net/longxinchen_ml/article/details/89077048 一、引入 在我们完成基本的句子分词后，我们要把它们输入 阅读全文

摘要： 本文是对论文的解读和复现。 论文地址：https://arxiv.org/abs/1408.5882 参考代码：https://mp.weixin.qq.com/s?__biz=MzI3ODgwODA2MA==&mid=2247488163&idx=4&sn=5ad2454db800f12e0956 阅读全文

摘要： parameter（参数）: 传进去一个可选参数n(代表获取数量最多的前n个元素，如果不传参数，代表返回所有结果)return（返回）： 返回一个列表（里面的元素是一个元组，元组第0位是被计数的具体元素，元组的第1位是出现的次数，如：[('a',1),[('b'),2],[('c',3)]]）当多个 阅读全文

摘要： 代码在运行时会出现TypeError: return arrays must be of ArrayType的错误，因为log的第二个参数不是base而是out array。如果你只是想执行普通的log操作，可以选择使用numpy.math.log(1.1, 2)或者使用python自带的math模 阅读全文