![](https://www.cnblogs.com/images/cnblogs_com/sunnyjones/2.jpg)
我们知道最小二乘法可以用来处理一组数据, 可以从一组测定的数据中寻求变量之间的依赖关系, 这种函数关系称为经验公式. 本课题将介绍最小二乘法的精确定义及如何寻求
![](http://www.math.sjtu.edu.cn/gskc/syal/最小27.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小28.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小29.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小30.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小31.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小32.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小33.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小34.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小35.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小36.gif)
![](http://www.math.sjtu.edu.cn/gskc/syal/最小37.gif)
考虑函数 , 其中
和
是待定常数. 如果
在一直线上, 可以认为变量之间的关系为
. 但一般说来, 这些点不可能在同一直线上. 记
, 它反映了用直线
来描述
,
时, 计算值
与实际值
产生的偏差. 当然要求偏差越小越好, 但由于
可正可负, 因此不能认为总偏差
时, 函数
就很好地反映了变量之间的关系, 因为此时每个偏差的绝对值可能很大. 为了改进这一缺陷, 就考虑用
来代替
. 但是由于绝对值不易作解析运算, 因此, 进一步用
来度量总偏差. 因偏差的平方和最小可以保证每个偏差都不会很大. 于是问题归结为确定
中的常数
和
, 使
为最小. 用这种方法确定系数
,
的方法称为最小二乘法.
由极值原理得 , 即
解此联立方程得
(*)