BP神经网络——交叉熵作代价函数
摘要：
Sigmoid函数 当神经元的输出接近 1时，曲线变得相当平，即σ′(z)的值会很小，进而也就使∂C/∂w和∂C/∂b会非常小。造成学习缓慢，下面有一个二次代价函数的cost变化图，epoch从15到50变化很小。 引入交叉熵代价函数 针对上述问题，希望对输出层选择一个不包含sigmoid的权值更新 阅读全文
posted @ 2016-11-27 21:56 1357 阅读(5242) 评论(0) 推荐(0) 编辑
