机器学习——线性回归

1.预测函数hθ(x)

 

2.代价函数（cost function）J

 

 矩阵表达式：

 

3.循环迭代求出使得代价函数最小的θ

　　3.1 调节学习率

　　　　3.1.1 批量梯度下降

 

 

　　　　3.1.2 随机梯度下降

 

　　3.2 无需学习率

　　　　3.2.1 正规方程 

　　　　3.2.2 代价函数

　　　　3.2.3 梯度下降

 

4.将各个特征量化到统一的区间

　　4.1 标准化Z-score normalization，【-1，1】

 

 　　4.2 归一化 ，normalization，【0，1】

 

 5.多项式回归

 

 6.欠拟合与过拟合，解决方法：局部加权线性回归（LWR）

 对一个输入 x 进行预测时，赋予了 x 周围点不同的权值，距离 x 越近，权重越高。