【矩阵基础与维度分析】【公式细节推导】矩阵非线性最小二乘法泰勒展开

1|0最小二乘法的一般形式

$f_i$为某一时刻的误差 比如预测值与预测值的差值

2|0将残差写成向量的形式

和上面的$F$相比 每个$f$计算的还是某一时刻的误差 将全部的误差求平方再求和 就相当于它的转置乘以它本身 即：

$$F(X) = f^T(X)f(X)$$

所以有如下等式

则它的雅克比矩阵为：

这里每个雅克比矩阵的维度都为$1 \times n$

3|0最小二乘泰勒展开

单项展开

整体展开

上述步骤更具体一些
第一行后面到第二行推导：

$$\frac {1}{2}f^Tf + f^TJ\Delta x + (J\Delta x)^Tf + (J\Delta x)^TJ\Delta x = \frac {1}{2}f^Tf + f^TJ\Delta x + \Delta x^T J^Tf + \Delta x^TJ^TJ\Delta x$$

这里进行一下维度分析：
f为某一时刻确定的误差值 所以是标量

$$f:1 \times 1$$

J参照上面的那个J的维度分析：

$$J: 1 \times n$$

$\Delta x$为增加量 这里为列向量

$$\Delta x:n \times 1$$

所以可得以下结论：

1. $f$为标量
2. $J \Delta x$为标量
3. $J^T \Delta x^T$为标量

所以有：

$$f^TJ\Delta x = (J\Delta x)^Tf = \Delta x^TJ^Tf$$

维度分析对于矩阵运算很重要

__EOF__

本文作者：铃灵狗的水墨书香
本文链接：https://www.cnblogs.com/linglingdog/p/15946532.html
关于博主：评论和私信会在第一时间回复。或者直接私信我。
版权声明：本博客所有文章除特别声明外，均采用 BY-NC-SA 许可协议。转载请注明出处！
声援博主：如果您觉得文章对您有帮助，可以点击文章右下角【推荐】一下。您的鼓励是博主的最大动力！