机器学习

吴恩达机器学习笔记

初识机器学习

监督学习和无监督学习

单变量线性回归

模型描述

假设函数、参数、代价函数、目标
假设函数是对训练数据的拟合,代价函数用来衡量给定参数下假设函数的准确性
模型描述

梯度下降算法

不断改变参数θ的值,期望找到代价函数的最小值
梯度下降
其中,α称为学习率(Learning Rate),注意参数同步更新(图左下)
思考:为什么α前面是负号?
因为要保证θ始终向着局部最优点运动,虽然可能走过头了,这种情况下通常是α过大。
这里写图片描述
当接近极小值时,θ的变化值会越来越小,因此不必每次减小α。

posted @ 2018-05-15 08:50  darknessplus  阅读(114)  评论(0编辑  收藏  举报