摘要: 理论基础---梯度下降法是机器学习中常用的优化方法,其理论基础是当θs-θ→0时会有:> J(θs) ≈ J(θ)+▽(θ)(θs-θ)因此当我们这样更新θs,并保证α>0且足够小时:> θs+1 = θs - α▽(θs)则会有:> J(θs+1) ≈ J(θs)+▽(θs)(θs+1-θs)≈ ... 阅读全文
posted @ 2015-03-24 22:35 bgmind 阅读(190) 评论(0) 推荐(0) 编辑