回想一下,神经网络的代价函数是:

 

如果我们考虑简单的非多类分类(k=1)和无视正规化,则计算成本:

 

更正式地说,delta值实际上是成本函数的导数:

回想一下,我们的导数是与成本函数相切的直线的斜率,所以斜率越陡,我们就越不正确。让我们考虑下面的神经网络在看我们如何计算一些

posted on 2017-08-09 16:28  郑哲  阅读(162)  评论(0编辑  收藏  举报