2018年10月16日
梯度下降法小结
摘要： 1. 前言 今天我们聊一聊机器学习和深度学习里面都至关重要的一个环节，优化损失函数。我们知道一个模型只有损失函数收敛到了一定的值，才有可能会有好的结果，降低损失方式的工作就是优化方法需要做的事。下面会讨论一些常用的优化方法：梯度下降法家族、牛顿法、拟牛顿法、共轭梯度法、Momentum、Nester 阅读全文
posted @ 2018-10-16 22:51 hyc339408769 阅读(14890) 评论(0) 推荐(0) 编辑