摘要：本文为微信公众号[深度学习大讲堂]特约稿，转载请注明出处 Reference：Culture vs Local Minima [Bengio.2012] 关于作者 首次看到Bengio教授这篇论文是在[对话机器学习大神Yoshua Bengio（下）] 这篇论文是提问时候偶然提到的，按照Questi 阅读全文

摘要：Softmax是啥？ Hopfield网络的能量观点 1982年的Hopfiled网络首次将统计物理学的能量观点引入到神经网络中， 将神经网络的全局最小值求解，近似认为是求解热力学系统的能量最低点(最稳定点)。 为此，特地为神经网络定义了神经网络能量函数$E(x|Label)$，其中$x$为输入。 阅读全文