2019年10月1日
手写BP（反向传播）算法
摘要： BP算法为深度学习中参数更新的重要角色，一般基于loss对参数的偏导进行更新。 一些根据均方误差，每层默认激活函数sigmoid（不同激活函数，则更新公式不一样） 假设网络如图所示： 则更新公式为： 以上列举了最后2层的参数更新方式，第一层的更新公式类似，即上一层的误差来自于下一层所有的神经元，e的 阅读全文
posted @ 2019-10-01 21:02 我的锅 阅读(1777) 评论(0) 推荐(0) 编辑