摘要：
我们使用TensorFlow进行模型的训练，训练好的模型需要保存，预测阶段我们需要将模型进行加载还原使用，这就涉及TensorFlow模型的保存与恢复加载。 总结一下Tensorflow常用的模型保存方式。 保存checkpoint模型文件（.ckpt） 首先，TensorFlow提供了一个非常方便 阅读全文
摘要：
LeNet5 LeNet5 诞生于 1994 年，是最早的卷积神经网络之一，并且推动了深度学习领域的发展。自从 1988 年开始，在许多次成功的迭代后，这项由 Yann LeCun 完成的开拓性成果被命名为 LeNet5（参见：Gradient-Based Learning Applied to D 阅读全文
摘要：
转自机器之心整理的，来自Goodfellow 在 NIPS 2016 的演讲和台大李弘毅的解释，完成原 GAN 的推导、证明与实现。 本文主要分四部分，第一部分描述 GAN 的直观概念，第二部分描述概念与优化的形式化表达，第三部分将对 GAN 进行详细的理论推导与分析，最后我们将实现前面的理论分析。 阅读全文
摘要：
GAN回顾 Martin 称这个loss为original cost function（参见[1] 2.2.1章节），而实际操作中采用的loss为the –log D cost（参见[1] 2.2.2章节）。 GAN存在的问题：初探 当固定G时，训练D直到收敛，可以发现D的loss会越来越小，趋于0 阅读全文
摘要：
损失函数（loss function）是用来估量模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风险函数重要组成部分。模型的结构风险函数包括了经验风险项和正则项，通常可以 阅读全文
摘要：
交叉熵（cross entropy）是深度学习中常用的一个概念，一般用来求目标与预测值之间的差距。以前做一些分类问题的时候，没有过多的注意，直接调用现成的库，用起来也比较方便。最近开始研究起对抗生成网络（GANs），用到了交叉熵，发现自己对交叉熵的理解有些模糊，不够深入。遂花了几天的时间从头梳理了一 阅读全文
摘要：
如何理解K-L散度（相对熵） Kullback-Leibler Divergence，即K-L散度，是一种量化两种概率分布P和Q之间差异的方式，又叫相对熵。在概率学和统计学上，我们经常会使用一种更简单的、近似的分布来替代观察数据或太复杂的分布。K-L散度能帮助我们度量使用一个分布来近似另一个分布时所 阅读全文
摘要：
贝叶斯决策 简单例子引入 先验概率 后验概率 最小错误率决策 最小风险贝叶斯决策 简单的例子 正常情况下，我们可以快速的将街上的人分成男和女两类。这里街上的人就是我们观测到的样本，将每一个人分成男、女两类就是我们做决策的过程。上面的问题就是一个分类问题。 分类可以看作是一种决策，即我们根据观测对样本 阅读全文
摘要：
原 极大似然估计详解 2017年05月28日 00:55:10 知行流浪 阅读数：124758 所属专栏： 人工智能相关 2017年05月28日 00:55:10 知行流浪 阅读数：124758 所属专栏： 人工智能相关 所属专栏： 人工智能相关 版权声明：本文为博主原创文章https://极大似然 阅读全文
摘要：
这篇论文中提出了一个基于pixelRNN/CNN上进行改进的一个模型——gated pixelCNN。 gated pixelCNN依旧还是一个图片生成模型。它基于对像素点的概率分布进行建模，只要给这个模型一组描述性的向量（这些向量可以是一组具有描述性的标签，gated pixelCNN就可以生成大 阅读全文