摘要: BP: 正向计算loss,反向传播梯度。 计算梯度时,从输出端开始,前一层的梯度等于activation' *(与之相连的后一层的神经元梯度乘上权重的和)。 几种常见的激活函数 Sigmoid. Sigmoid(也叫逻辑激活函数) 非线性激活函数的形式是,其图形如上图左所示。之前我们说过,sigmo 阅读全文
posted @ 2019-05-22 21:10 Assange 阅读(377) 评论(0) 推荐(0) 编辑