摘要：
Cross Domain Visual Matching，即跨域视觉匹配。所谓跨域，指的是数据的分布不一样，简单点说，就是两种数据「看起来」不像。如下图中，（a）一般的正面照片和各种背景角度下拍摄的照片；（b）摄像头不同角度下拍到的照片；（c）年轻和年老时的人脸照；（d）证件照和草图风格的人脸照，这 阅读全文
摘要：
既然是概述，那么我也只会在文中谈一点关于 Word2Vec 的思想和大概的方法。对于这个算法，如果一开始学习就深入到算法细节中，反而会陷入局部极值点，最后甚至不知道这个算法是干嘛的。在了解算法大概的思路后，如果有进一步研究的必要，再去深究算法细节，这时一切都是水到渠成的。 先申明，由于我不是做 NL 阅读全文
摘要：
GMM，即高斯混合模型（Gaussian Mixture Model），简单地讲，就是将多个高斯模型混合起来，作为一个新的模型，这样就可以综合运用多模型的表达能力。EM，指的是均值最大化算法（expectation maximization），它是一种估计模型参数的策略，在 GMM 这类算法中应用广 阅读全文
摘要：
高中的时候我们便学过一维正态（高斯）分布的公式： \[ N(x|u,\sigma^2)=\frac{1}{\sqrt{2\pi \sigma^2}}exp[-\frac{1}{2\sigma^2}(x-u)^2] \] 拓展到高维时，就变成： \[ N(\overline x | \overline 阅读全文
摘要：
在之前的文章中，我们介绍了傅立叶变换的本质和很多基本性质，现在，该聊聊代码实现的问题了。 为了方便起见，本文采用的编程语言是 Python3，矩阵处理用 numpy，图像处理则使用 OpenCV3。 离散傅立叶变换 首先，回忆一下离散傅立叶变换的公式： $$ \begin{eqnarray} F(u 阅读全文
摘要：
上一篇文章讲了傅立叶变换的本质。这篇文章会总结一下傅立叶变换的常用性质，公式巨多，慎入！慎入！ <! more 相关概念 首先，回顾一下傅立叶变换的公式： $$ F(u)=\frac{1}{M}\sum_{x=0}^{M 1}f(x)e^{ 2j\pi (ux/M)} $$ 频谱(spectrum) 阅读全文
摘要：
关于傅立叶变换，知乎上已经有一篇很好的 "教程" ，因此，这篇文章不打算细讲傅立叶的物理含义，只是想从图像的角度谈一谈傅立叶变换的本质和作用。 本文假设读者已经熟知欧拉公式： $$ e^{j\pi x}=\cos{\pi x}+j\sin{\pi x} $$ 并且知道高数课本中给出的傅立叶变换公式： 阅读全文
摘要：
在讨论最大似然估计之前，我们先来解决这样一个问题：有一枚不规则的硬币，要计算出它正面朝上的概率。为此，我们做了 10 次实验，得到这样的结果：[1, 0, 1, 0, 0, 0, 0, 0, 0, 1]（1 代表正面朝上，0 代表反面朝上）。现在，要根据实验得到的结果来估计正面朝上的概率，即模型的参 阅读全文
摘要：
之前提到，深度神经网络在训练中容易遇到梯度消失/爆炸的问题，这个问题产生的根源详见之前的读书笔记。在 Batch Normalization 中，我们将输入数据由激活函数的收敛区调整到梯度较大的区域，在一定程度上缓解了这种问题。不过，当网络的层数急剧增加时，BP 算法中导数的累乘效应还是很容易让梯度 阅读全文
摘要：
在神经网络的训练过程中，总会遇到一个很蛋疼的问题：梯度消失/爆炸。关于这个问题的根源，我在上一篇文章的读书笔记里也稍微提了一下。原因之一在于我们的输入数据（网络中任意层的输入）分布在激活函数收敛的区域，拿 sigmoid 函数举例： 如果数据分布在 [-4, 4] 这个区间两侧，sigmoid 函数 阅读全文