线性最小二乘法

①前置知识:

曲线拟合问题:
已知一组二维数据,寻求一个函数(曲线)y=f(x)使f(x)在某种准则下与所有数据点最为接近,即曲线拟合得最好。

②线性最小二乘法:

1.1 定义
线性最小二乘法是解决曲线拟合最常用的方法,基本思路是,令:

f(x)=a1r1(x)+a2r2(x)+...+amrm(x),

式中:rk(x)为事先选定的一组线性无关的函数;ak为待定系数。

1.2 拟合准则
使yif(xi)的距离δi的平方和最小

1.3 系数确认

J(a1,...,am)=i=1nδi2=i=1n[f(xi)yi]2,

要使J最小,即令Jaj=0(j=1,...,m),
即:

i=1nrj(xi)[k=1makrk(xi)yi]=0,j=1,...,m,

即:

k=1mak[i=1nrj(xi)rk(xi)]=i=1nrj(xi)yi,j=1,...,m,

记:

R=[r1(x1)rm(x1)r1(xn)rm(xn)],

A=[a1,,am]T,Y=[y1,,yn]T,

则方程式可表示为:

RTRA=RTY

r1(x),,rm(x)线性无关时,R满秩,RTR可逆,此时有唯一解:

A=(RTR)1RTY

1.4 实际意义

在空间内,任意两个向量都可以组合成新的向量,我们不妨如下表示:

a1x1+a2x2=bAX=B

对于拟合的向量yi,要使其与目标向量f(xi)距离最小,即满足:

kN,iN,|f(xi)yi||f(xk)yk|

在此处,yi=b,f(xi)对应的矩阵为AX

故要满足距离最小,即使得bAXb所在平面正交,也就是使bAXba都正交。

即:

AT(bAx¯)=0

以下推导与代数推导一致,不作阐述。

posted @   SxtoxA  阅读(388)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 没有源码,如何修改代码逻辑?
· PowerShell开发游戏 · 打蜜蜂
· 在鹅厂做java开发是什么体验
· WPF到Web的无缝过渡:英雄联盟客户端的OpenSilver迁移实战
12 13
点击右上角即可分享
微信分享提示