【笔记】大一下数值分析碎碎念——插值

$\newcommand\op[1]{\operatorname{#1}}$

插值

给定数据点 $(x_i,y_i)$，要求找到函数满足 $f(x_i)=y_i$。

线性插值：全局信息维护，光滑性（求导），积分都不太好搞。但是原理简单。

多项式？

指数？变化快。

三角函数？周期性。

多项式插值

Weierstrass 逼近定理：设 $f\in \op C[a,b]$，则 $\forall \epsilon > 0$，存在多项式 $p(x)$ 满足 $|f(x)-p(x)| < \epsilon$ over $[a,b]$

过 $n$ 个点 $(x_i,y_i)$，假设多项式是 $n-1$ 次的，则正好可以唯一解出所有系数。注意到只要有 $x_i$ 两两不等，则必然有解，因为系数矩阵是范德蒙矩阵。

Vandermonde 矩阵的行列式是 $\prod_{j < i}(x_i-x_j)$

证明：

数学归纳法，$n=1,n=2$ 显然。

$n>2$ 时考虑每一行减去上一行的 $x_1$ 倍，再按第一行展开，提取公因式，由此可知。

Lagrange 插值

对于每一个点 $(x_i,y_i)$，构造出多项式函数 $l_i(x)$ 满足在 $x_j$（$j \ne i$）时取 $0$，$x_i$ 处取 $1$。然后我们把所有函数各自乘上 $y_i$ 加起来 $f(x) = \sum l_i(x)y_i$ 即得到插值函数。

显然存在构造：

$$l_k(x) = \frac{\prod_{i \ne k} (x-x_i)}{\prod_{i\ne k}(x_k-x_i)}$$

逐次线性插值（Neville 算法）

记 $I_{i_1,\cdots,i_n}(x)$ 为满足 $(x_{i_j},y_{i_j})$ 的多项式，那么我们可以递归计算：

$$I_{0,1,\cdots,k,l}(x) = I_{0,1,\cdots,k}(x) + \frac{I_{0,1,\cdots,k-1,l}(x)-I_{0,1,\cdots,k}(x)}{x_l-x_k}(x-x_k)$$

验证一下：显然在 $x=x_0,\cdots,x_{k}$ 正确。在 $x=x_l$ 处显然也正确！每步次数最多 $+1$。

但是直接实现复杂度爆炸，把指标换一下改成：

$$I_{0,1,\cdots,k,k+1} = I_{0,1,\cdots,k}(x) + \frac{I_{1,2,\cdots,k+1}(x) - I_{0,1,\cdots,k}(x)}{x_{k+1}-x_0}(x-x_0)$$

这下指标一定是连续子段，所以计算过程中被用到的 $I$ 不会超过 $O(k^2)$ 级别。

单点求值时，如需增加一个点，复杂度为 $O(k)$，空间复杂度维持 $O(k)$。

优势：可以逐步比较精度。

Newton 插值

求出一组系数 $c_n$ 使得：

$$P_n(x) = \sum_{i=0}^{n} c_i\prod_{j=0}^{i-1}(x-x_j)$$

写一些值看看：

$P_n(x_0)= y_0 = c_0$

$P_n(x_1)=y_1 = c_0 + c_1(x_1-x_0)$ 得到 $c_1 = \frac{y_1 - y_0}{x_1-x_0}$

$P_n(x_2) = y_2 = c_0 + c_1(x_2-x_0)+c_2(x_2-x_0)(x_2-x_1)$ 得到 $c_2 = \frac{\frac{y_2-y_0}{x_2-x_0}- \frac{y_1-y_0}{x_1-x_0}}{x_2-x_1}$

我们先记

$$f[x_0,\cdots,x_k]=\frac{f[x_0,\cdots,x_{k-2},x_k]-f[x_0,\cdots,x_{k-2},x_{k-1}]}{x_k-x_{k-1}}\\ f[x_0]=f(x_0)$$

于是我们就可以递归计算：

$$f(x) = f(x_0) + f[x,x_0](x-x_0) \\ f[x,x_0] = f[x_0,x_1]+f[x,x_0,x_1](x-x_1) \\ f[x,x_0,x_1] = f[x_0,x_1,x_2]+f[x,x_0,x_1,x_2](x-x_2) \\ \cdots$$

发现 $c_k = f[x_0,\cdots,x_k]$。

所以我们需要想办法计算 $f[x_0,\cdots,x_k]$。

可以数学归纳法证明：

$$f[x_0,\cdots,x_k] = \sum_{i=0}^{k} \frac{f(x_i)}{\prod_{j\ne i}^k(x_j - x_i)}$$

于是可知顺序不会影响差商，故我们可以控制参数一定是一个区间，那么又可以计算了。

另一种证明 $c_k = f[x_0,\cdots,x_k]$ 的方法：

首先我们定义 $f[x_0,\cdots,x_n]$ 过这些点的多项式最高次项的系数，最后我们证明这个东西就是我们上面定义的差商。接下来我们证明：

$$P_n(x) = \sum_{i=0}^{n}f[x_0,\cdots,x_i] \prod_{j=0}^{i-1}(x-x_j)$$

差分

$\Delta f_k = f_{k+1} - f_k$

$\nabla f_k = f_k - f_{k-1}$

$\delta f_k = f_{k + \frac{1}{2}} - f_{k-\frac{1}{2}}$

误差

$$R_n(x)= f(x)-L_n(x) = \frac{f^{(n+1)}(\xi)}{(n+1)!}\prod_{i=0}^n(x-x_i)$$

内差。

龙格现象

Hermite 插值

过 $(x_1,y_1),\cdots,(x_n,y_n)$ 且告诉导数 $y_1',\cdots,y_n'$，则得到 $2n-1$ 阶插值多项式为 Hermite 插值多项式。构造：

$$H_{2n-1} = \sum_{j=1}^n y_jH_j(x)+ \sum_{j=1}^ny'_j\hat H_j(x) \\ H_j(x) = [1-2(x-x_j)l'_j(x_j)]l_j^2(x) \\ \hat H_j(x) = (x-x_j)l_j^2(x)$$

检查一下满足：

• $H_j(x_i) = \delta_{i,j}$
• $H_j'(x_i)=0$
• $\hat H_j(x_i) = 0$
• $\hat H _j(x_i) = \delta_{i,j}$

分段插值

三次样条插值

分段，每一段是三次函数，且满足最后二阶连续可导。

分段处有 $3n-3$ 个条件，过各点有 $n+1$ 个条件，还有两个条件需要自行补充。

• 自然样条：补充两个端点处二阶导为 $0$。
• 曲率调整样条：直接指定两个端点处的二阶导。
• 钳制样条：指定两个断点处的一阶导。

一定有解：考虑写成矩阵，发现对角占优，所以可以求逆！