线性回归-最小二乘法求解

• 1.

　　　　概述:

　　　　　　线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。

　　　　其表达形式为y = w'x+e。

　　　　demo:

　　　　　　对于一组数据{ (100,20),(160,30),),(60,15)………… },假定x,y之间满足某种线性关系。给出目标函数 y=ax+b,线性回归的过程即使求解a，b的过程，

　　　　其中一种解法就是最小二乘。

2.
y = w'x+e, 因为e是由各种不确定因素综合构成的，由中心定理可以推出它服从均值为0的正态分布。

 

 推出参数向量为: (XTX)'XTy