2017年4月16日
梯度下降法与反向传播
摘要： 一、梯度下降法 1.什么是梯度下降法 顺着梯度下滑，找到最陡的方向，迈一小步，然后再找当前位，置最陡的下山方向，再迈一小步… 通过比较以上两个图，可以会发现，由于初始值的不同，会得到两个不同的极小值，所以权重初始值的设定也是十分重要的，通常的把W全部设置为0很容易掉到局部最优解，一般可以按照高斯分布 阅读全文
posted @ 2017-04-16 16:06 风萧易水寒 阅读(24201) 评论(1) 推荐(1) 编辑