摘要：
2018-12-07 16:54:28 全连接神经网络之所以不太适合图像识别任务，主要有以下几个方面的问题： 参数数量太多 考虑一个输入1000*1000像素的图片(一百万像素，现在已经不能算大图了)，输入层有1000*1000=100万节点。假设第一个隐藏层有100个节点(这个数量并不多)，那么仅 阅读全文
摘要：
2018-12-07 14:41:57 一、SGD 和 BGD BGD：又称Vanilla梯度下降法，用运行整个训练集（一个epoch）来做一次更新。 SGD：运行一个或者几个batch（Minibatch Stochastic gradient Descent）时来更新一次更新。 BGD： SGD 阅读全文