【笔记】大一下数值分析碎碎念——函数逼近

\(\newcommand\op[1]{\operatorname{#1}}\)

\(\newcommand\d\mathrm{d}\)

\(\newcommand\mat[1]{\begin{pmatrix} #1\end{pmatrix}}\)

函数逼*

我们可以定义多项式的范数。

• 一致逼*：

\[||f(x)-P(x)||_\infty=\max|f(x)-P(x)| \]

• 均方逼*/*方逼*：

\[||f(x)-P(x)||_2 = \sqrt{\int_a^b[f(x)-P(x)]^2 \op{d} x} \]

最佳一致逼*/切比雪夫（Chebyshev）逼*

定义，若

\[|P(x_0)-f(x_0)|=\max_{a\le x \le b}|P(x)-f(x)|=\mu \]

则称 \(x_0\) 是 \(P(x)\) 的偏差点。

Th3.3 \(P(x)\) 必定同时存在正负偏差点。

定理（不会证明）：

取点 \(x_i = \cos \frac{(2i-1)\pi}{2n}\) 可使得误差最小：\(\frac{1}{2^{n-1}}\)

消除龙格现象

切比雪夫多项式

Def: \(T_n(x) = \cos (n \arccos x)\)

性质：有递归关系：

\[T_0(x)=1,T_1(x)=x\\ T_{n+1}(x)=2xT_n(x)-T_{n-1}(x) \]

• 最高次项系数为 \(2^{n-1}\)
• \(T_n(1)=1,T_n(-1)=(-1)^n\)，在 \([-1,1]\) 绝对值小于等于 \(1\)。
• \(T_n(x)\) 的零点为

\[x_i = \cos \frac{(2i-1)\pi}{2n} \]

且它的值在 \(-1\) 到 \(1\) 之间变化 \(n+1\) 次，极值点分别为：

\[x_i=\cos \frac{i\pi}{n} \]

区间变化

通过线性变换可以把 \([-1,1]\) 推广到任意区间 \([a,b]\)。

误差项变为 \((b-a)^n/2^{n-1}\)。

最佳*方逼*

正交基

\(\{\varphi_i\}\) 为区间 \([a,b]\) 上的关于权函数 \(w(x)\) 正交集合函数，若

\[\int_a^b w(x)\varphi_j (x)\varphi_k(x) dx=\begin{cases} 0,&j\ne k \\ a_k>0,& j = k \end{cases} \]

若 \(a_k = 1\)，则称标准正交。

最小二乘逼*

引入：对于不一致的方程组求解。希望找到一组“偏差”较小的解。对此我们可以找到“最小二乘解”。

比如我们要用一次函数拟合一些数据点 \((x_i,y_i)\)，则有方程组 \(ax_i+b=y_i\)（\(i=1,\cdots,n\)）可以写成矩阵形式：

\[\mat{x_1&1\\\vdots & \vdots\\x_n& 1}\mat{a\\b} = \mat{y_1\\\vdots\\y_n} \]

最小二乘解就是使得 \(\sum (y_i - ax_i -b)^2\) 最小的解。

\(Ax=b\) 无解，就是说 \(b\) 不在 \(R(A)\) 中。但是我们把 \(b\) 投影到 \(R(A)\) 上，取投影为 \(A\bar x\)，此时 残差 \(e=b- A\bar x\) 垂直于 \(R(A)\)，取到最小。\(||e|| = \sum (y_i -ax_i -b)^2\) 正好可以取到最小。

所以有 \(A^T(b-Ax)=0\)，可得 \(A^TA x = A^T b\) 。

但实际上这么操作是误差极大的，因为条件数 \(\op{cond}(A)\) 很大。

我们要对 \(A=QR\) 分解。\(||e|| = ||QRx-b|| = ||Rx-Q^Tb||\)，所以做变换 \(b \gets Q^Tb\) 和 \(A \gets R\)，再继续即可。

数据线性化

\[y=c_1e^{c_2t} \Rightarrow \ln y = \ln c_1 + c_2t \]

由此可以进行两种不同的拟合，二者误差也不一样。（虽然直接拟合并没有很好的方法）

最佳*方三角逼* ~ Fourier 级数

\[S_n(x) = \frac{1}{2}a_0 + \sum_{k=1}^{n} a_k\cos kx+b_k\sin kx \]

其中：

\[a_k = \frac{1}{\pi} \int_0^{2\pi} f(x)\cos kx \op{d}x \\ b_k = \frac{1}{\pi} \int_0^{2\pi} f(x)\sin kx \op{d}x \]

离散三角插值多项式

给定了一些点值 \(x_j = \frac{2\pi j}{2m+1}\)（\(j=0,\cdots,2m\)）。

\[\mat{\frac{1}{2} & \cos x_1& \sin x_1 & \cdots & \cos x_m & \sin x_m \\ } \]

\[a_k = \frac{2}{2m+1} \sum _{j=0}^{2m} f_j \cos \frac{2\pi j k}{2m+1}\\ b_k = \frac{2}{2m+1} \sum _{j=0}^{2m} f_j \sin \frac{2\pi j k}{2m+1} \]

离散傅里叶变换

取：\(e^{\op{i}jx} = \cos (jx) + \op{i} \sin (jx)\)

给定等距点值 \((\frac{2\pi}{N}j,f_j)\)

\[S(x) = \sum_{k=0}^{n-1} C_k e^{\op{i}kx} \]

其中

\[C_k = \frac{1}{N} \sum _{j=0}^{N-1} f_j e^{-\op{i}kj \frac{2\pi}{N}} \]