摘要：
VGG AlexNet最大的问题是什么呢？最大的问题就是长得不规则，虽然说它是一个变大的LeNet，但是感觉很随意，这里加一点，那里加一点。它的结构不够清晰，大家问了很多问题，为什么要这样，为什么要那样，要怎么变深怎么变宽都不知道。 如果想要把网络变得更深更大，那么就要把网络变得更加regular点 阅读全文
摘要：
语言模型 一只猴子打字，就算是打到宇宙毁灭，他也打不出莎士比亚的文章。 语言模型的核心是估计联合概率$p(x_1,...,x_t)$,序列模型的核心其实也就是预测整个文本序列出现的概率。 我们使用一个最简单的计数模型来进行建模。 一元只有一个变量，也就是自己，那么就可以认为每个变量都是独立的.. 这 阅读全文
摘要：
AlexNet AlexNet从2012年开始到今天，真正的引爆了深度学习的热潮。 2000年之前，最火的机器学习方法应该是核方法。 特征提取 & 选择核函数来计算相关性 & 凸优化问题 & 漂亮的定理。 使用核方法，可以变换这个空间，将这个空间拉成我们想要的样子，通过核函数计算之后就会成为一个凸优 阅读全文