线性回归算法

线性回归算法

 

 

 

 

误差项分析：

 

 

 

似然函数求解：

哪里不懂点哪里。

极大似然估计，值越大越好。

 

目标函数求导

欲使 最大似然函数 值越大，就要使 最小二乘法 的值越小越好。因此，这里的 最小二乘法 叫目标函数。

 （笔试或面试中，常问：1.为什么要引入似然函数；2.为什么对似然函数进行log变换；3.为什么要让目标函数越小越好。）

 

线性回归求解

矩阵X的平方=矩阵X的转置*矩阵X

 最终的sitar不一定能求解。线性回归算是一个数学上的巧合，可以解出来。但是在一些问题上，是无法直接求解出来的。所以多数情况下，是进行优化，而不是直接求解。

 

很多时候原始数据存在偏度，这时需要将原始数据转换为正常分布。（数据预处理？）

 

不仅要会用工具实现，还要知晓背后原理及如何做的更好。