2019年8月7日
优化算法总结
摘要： 1、梯度下降法 给定一个目标函数f（x）和初始点x0 △xt = -▽f(xt) xt+1 = x + η△xt 停止条件：当 |△xt| < ε时停止 三大问题：局部最小值、鞍点、停滞区。 1.1 局部最小值（极值） 1.2 停滞区 函数有一段很平的区域，这时梯度很小，权值就更新的特别慢。 1.3 阅读全文
posted @ 2019-08-07 21:48 Austin_anheqiao 阅读(443) 评论(0) 推荐(0) 编辑