摘要：
NiN NiN Network in Network，网络中的网络，这个网路现在用的不多，几乎很少被用到，但是它里面提出了比较重要的一些概念，在后面很多网络中都会持续的被用到。 MLP其实是不错的，但是缺点就是参数量实在是太大了！ 卷积层的参数相对于MLP会少很多，而且$1*1$卷积是可以达到于ML 阅读全文
摘要：
RNN 来将我们第一个对序列模型的神经网络——循环神经网络 RNN。 x是“你”，然后会去更新隐变量，要去预测“好”字。 接下来观察到了“好”，更新隐变量后要输一个逗号。 $o_t$是来match$x_t$的输入，但是生成$o_t$的时候你是不能看到$x_t$的。也就是当前时刻的输出是为了预测当前时 阅读全文