2019年12月8日
梯度检验 Gradient check，bias correction, Exponentially Weighted Averages
摘要： 一、Gradient check 在深度学习里面，我们算完了梯度可以对其进行检验求导是否正确 1、参数拼接 在深度网络里面有很多参数，$w^{1}$, $b^{1}$, $w^{2}$, $b^{2}$.... $w^{l}$, $b^{l}$，把他们拼接成一个向量$\theta$。其中l代表第几个 阅读全文
posted @ 2019-12-08 12:21 ylxn 阅读(619) 评论(0) 推荐(0) 编辑