按照线性回归的方法:梯度计算如下,那么需要求w1的偏导数(整个系统关于w1的偏导数)才能算:
怎么算:使用chain-rule来算:
上面的文章计算过程没有加入激活函数,《彻底弄懂,神经网络的误差反向传播算法 》这篇文章的计算过程是加入了的激活函数
以下通过手动计算过程,模拟神经网络正向/反向传播过程,来理解,神经网络参数的更新过程。
更多算法讲解,b站:望舒同学
【5分钟-通俗易懂 - 神经网络 反向传播算法(手算)-哔哩哔哩】 https://b23.tv/4iQpsGa
本文来自博客园,作者:LiYanbin,转载请注明原文链接:https://www.cnblogs.com/stellar-liyanbin/p/18086272