第5章 线性回归算法

1.解决回归问题

2.思想简单，实现容易

3.许多强大的非线性模型的基础

4.结果具有很好的可解释性

5.蕴含机器学习中的很多重要思想

 

所谓的建模的过程，其实就是找到一个模型最大程度的拟合我们的数据。在线性回归算法中，这个模型就是一个直线方程，所谓的最大拟合我们的数据，其实本质是找到一个函数 ，在这里我们称这个函数叫做损失函数，就是loss function，也就是我们的这个模型没有拟合样本的这一部分，就是损失的这一部分；有的算法中度量的是拟合的程度，在这种情况下称这个函数为效用函数（utility function）。统称它们为目标函数。

注意：分类问题

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 损失函数：度量出没有拟合出样本的部分

效用函数：度量是拟合的程度

 参数学习的算法都是这样的一个套路。参数学习算法就是要创建一个模型，而机器学习的任务就是要学习这些模型的参数！《最优化原理》

 导数等于0的地方就是函数极值的地方。

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

多元线性回归