摘要：
#8-1 只考虑一层简单的循环神经网络， 设隐藏层神经元数量为D（即D维），输入层的维数为M。 一个LSTM层（隐藏层）的参数总数为：4D*（D+M）+4D #8-2 #8-3 #8-4 按照内容寻址，阿西吧。 #8-5 #8-6 参见：Hopfield 神神经网络动力学分析与应用[郑鹏升]博士论文 阅读全文
摘要：
#7-1 明显地，埃尔法和K成正比 #7-2 #7-3 #7-4 #7-5 #7-6 #7-7 从再参数化的角度来分析批量归一化中缩放和平移的意义 在此公式中，r和b表示缩放和平移参数向量。 通过r和b，能够有效适应不同的激活函数。例如：通过r和b，可以自动调整输入分布，防止ReLU死亡问题。 有了 阅读全文