《计算方法》- 第三章 - 正交多项式和函数逼近 - 解题套路
《计算方法》- 第三章 - 正交多项式和函数逼近 - 解题套路
纵观整个第三章（当然我是说我们学了的部分），无非就是让我们做两个事情：①、求正交多项式；②、用正交多项式逼近真值函数或者拟合曲线方程（一般是经验方程），统一称为函数逼近。
一、第三章学习的前提：
（Ⅰ）、三种范数
①、\(\infty\)-范数或者是最大范数：\(||\ x\ ||_{\ \infty}\ =\ \underset{1\le i\le n}{max}\ |\ x_i\ |\)；
②、1-范数：\(||\ x\ ||_{\ 1}\ =\ \sum_{i=1}^n{|\ x_i\ |}\)；
③、2-范数：\(||\ x\ ||_{\ 2}\ =\ （{\sum_{i=1}^n{|\ x_i\ |}^2}）^{\frac{1}{2}}\)；
总的来说就是\(k\)-范数：\(||\ x\ ||_{\ k}\ =\ （{\sum_{i=1}^n{|\ x_i\ |}^k}）^{\frac{1}{k}}\)，只不过最大范数时其他小的在无穷次方后可以忽略；
（Ⅱ）、内积和内积空间
（1）、作用：
将连续函数和离散数据统一起来。
（2）、表达方式：
①、用于连续函数：使用积分，\(（\psi_j，\psi_k）\ =\ \int_a^b{\rho(x)·\psi_j·\psi_k\ dx}\)；
②、用户离散数据：使用求和，\(（f_i，g_i）\ =\ \sum_{i=1}^n{\omega_i·f_i·g_i}\)；
（3）、使用价值
①、格拉姆矩阵\((Gram)\)：主要用于在函数逼近的时候利用\(\Phi = span\{1,x,…,x^n\}\)作为基底构造最佳平方多项式或者最小二乘拟合，其形式为第\(i+1\)行第\(j+1\)列的元素为\(（\psi_i，\psi_j）\)，\(i,j\in[0,n]\)；
②、在三项递推的时候利用内积求算正交多项式表达式（三项递推只要知道一般情况下的就行了，在书的第58页，勒让德和切比雪夫多项式的递推关系不用掌握，只需知道是什么）；
二、求正交多项式
（Ⅰ）三项递推（书\(P_{58}\)）：
（1）、公式：
\[\begin{aligned} &\psi_0(x)\ =\ 1，\psi_{-1}(x)\ =\ 0\\ &\\ &\alpha_n\ =\ \frac{（x·\psi_n(x)，\psi_n(x)）}{（\psi_n(x)，\psi_n(x)）}\\ &\\ &\beta_n\ =\ \frac{（\psi_n(x)，\psi_n(x)）}{（\psi_{n-1}(x)，\psi_{n-1}(x)）} \end{aligned} \]（2）、适用范围：
任何取值区间，任意权函数。
（3）、例题：
①、\(P_{94}\ T_8\)：对权函数\(\rho(x)\ =\ 1+x^2\)，区间为\([-1,1]\)，试求首项系数为1的正交多项式\(\psi_n(x)\)，\(n=1,2,3\)。
（Ⅱ）、求给定区间的切比雪夫多项式的权函数（书\(P_{61}\)）
（1）、理论依据：切比雪夫多项式定义域转换
已知条件：对于任意的\(t\)在\([a,b]\)上，总是存在一个\(x\)属于\([-1,1]\)使得\(t\)能够被\(x\)线性表达，如下所示，
\[\forall t\in[a,b]，\exist x\in[-1,1]\longrightarrow t=\frac{1}{2}·[(b-a)·x+(a+b)] \]这也就是说\(x\)也能由\(t\)代替，那么标准区间的切比雪夫多项式\(T_n(x)\)也就能被某个关于\(t\)的函数代替，
\[T_n(x)=T（x(t)）=T^*_n(t) \]得出结论：对于任意的\(T^*_n(x)\)，其中\(x\in[a,b]\)，总能找到一个\(t\in[-1,1]\)使得\(T_n(t)=T^*_n(x)\)，
\[\forall T^*_n(x)，x\in[a,b]，\exist t\in[-1,1]\longrightarrow T_n(t)=T^*_n(x) \]其中\(t\)可以被\(x\)线性表示为：
\[t=\frac{2x-(a+b)}{b-a} \]（2）、推论得出在\([a,b]\)范围上的切比雪夫多项式的权函数
由上述结论我们不妨可以得到：（由标准范围的切比雪夫多项式表达一般范围的切比雪夫多项式）
\[T^*_n(x)=T_n(t)=T_n(\frac{2x-(a+b)}{b-a}) \]将上述连等式同时求对应变量的积分（定义内积且内积相等），有如下连等式成立，
\[\int_{a}^b{\rho^*(x)·T^*_i(x)·T^*_j(x)\ dx}=\int_{-1}^1{\rho(t)·T_i(t)·T_j(t)\ dt}=\int_{a}^b{\rho(\frac{2x-(a+b)}{b-a})·T_i(\frac{2x-(a+b)}{b-a})·T_j(\frac{2x-(a+b)}{b-a})\ d(\frac{2x-(a+b)}{b-a})} \]由左右两个等式我们不放得出：
\[\rho^*(x) = \frac{2}{b-a}·\rho（t(x)）= \frac{2}{b-a}·\rho（\frac{2x-(a+b)}{b-a}） \]由标准范围的切比雪夫多项式的权函数表达式：
\[\rho(t)=\frac{1}{\sqrt{1-t^2}}，t\in[-1,1] \]将\(t(x)\)的表达式代入最终整理得到\([a,b]\)范围上的切比雪夫多项式的权函数为：
\[\rho^*(x) = \frac{2}{b-a}·\frac{b-a}{2·\sqrt{(x-a)(b-x)}} = \frac{1}{\sqrt{(x-a)(b-x)}}，x\in[a,b] \]（3）、适用范围：
任何取值区间，权函数的取值范围不能满足\([0,\frac{4}{(b-a)^2}]\)。当然，权函数是由取值区间导出来的，所以这个问题一般没啥用，如果给出了权函数和取值区间就可以首先判断是否满足切比雪夫多项式，如果满足直接用就好了，如果不满足就用三项递推。
注意：这里很有可能说是求首项系数为1的正交多项式，那么这个时候多半就是用三项递推硬求了，因为三项递推中强制首项为1，并且此时不会给出适用于切比雪夫多项式的权函数。
（4）、例题：
①、\(P_{94}\ T_7\)（改编）：已知切比雪夫多项式的取值区间为\([0,1]\)，试求满足这个区间的切比雪夫多项式的权函数，并求出前3个切比雪夫多项式表达式。
（Ⅲ）、切比雪夫多项式与插值法（\(P_{63}\)）
如果被插函数的区间是任意的，比如在\(C^{\ n+1}[a,b]\)，那么对应的零点通项公式为：
\[x_k = \frac{b-a}{2}·\cos{（\frac{2k+1}{2(n+1)}·\pi）}+\frac{a+b}{2}，\qquad k=0,1,…,n \]那么对应的误差限为：
\[\underset{a\le x\le b}{max}|\ f(x)-L_n(x)\ |\le\frac{||\ f^{(n+1)}(x)\ ||_{\infty}}{(n+1)!}·(\frac{b-a}{2})^{n+1}·(\frac{1}{2^n}) \]如果有不理解的可以自行翻书，坐标为\(P_{64}\)、\(P_{64}\ 例题4\)、\(P_{65}\ 例题5\)、课后习题\(P_{94}\ T_{11}\)。
（三）、函数逼近
首先说明的是函数逼近分为2个大的模块：①、对于连续函数逼近的“最佳平方逼近”；②、对于离散数据拟合的“最小二乘法”。在这两大板块中都存在着两种逼近算法：①、利用\(\Psi = span\{1,x…,x^n\}\)作为基底，通过解算格拉姆矩阵，进而得到法方程（\(GA=D\quad\or\quad HA=D\)），最后解算出所有的系数\(a_k\)；②、直接使用现成的正交函数族，一般情况下选择勒让德多项式，原因在于权函数\(\rho(x)\equiv1\)，且取值区间为\([-1,1]\)，他比较死板（其实最主要的原因是灵活的切比雪夫级数咱没有学，老师没得考🤪）。
其次我这里并不打算按常规套路出牌，这样显得很俗气，我预备从“三要素”下手：权函数、取值区间、连续性。然后分别讨论三要素不同取值时所用的解题方法。
（Ⅰ）任意权函数、任意取值区间、离散数据
用\(\Psi = span\{1,x…,x^n\}\)作为基底，\(n\)有经验方程的最高次幂确定，然后解算相应的格拉姆矩阵（\(n+1\)阶），构造出法方程（\(GA=D\)），\(D\)中的\(d_k = （f(x)，\psi_k(x)）\)，最后解出系数阵\(A\)。如果详细步骤不清楚的话可以参见课本\(P_{75}\ 例题9\)、课后习题\(P_{95}\ T_{16},T_{17},T_{18}\)。
顺便说一下为什么没有提及用正交多项式作最小二乘拟合，因为这个方法带有任意权函数和取值区间，不能直接勒让德多项式的公式，要重新手算，但是最为计算机的话就是非常优质的算法，并且逼近次数加一时只需要将循环次数加一即可，其他内容可以不用发生改变。
（Ⅱ）\(\rho(x)\equiv1\)、\(x\in[-1,1]\)、连续函数
此时我们选择“勒让德多项式”，理由略（之前有提过，不知道别赖我没说，自个儿往前翻🙄）。\(n\)由题目中的函数或者最后需要的次数（比如说最佳平方逼近二次多项式或者二次最佳平方逼近多项式，这时\(n=2\)），然后利用给出连续函数与勒让德多项式做内积得到\(（f(x)，P_k(x)）=\int_{-1}^1{f·P_k\ dx}\)，最后利用公式：
\[a_k = \frac{2k+1}{2}·（f(x)，P_k(x)） \]很简单，如果认为我再瞎扯淡的同学可以自行观赏书上是怎么扯的，坐标为\(P_{70}\ (3.14)\)。如果详细步骤没有弄懂的话就请参见\(P_{71}\ 例题7\)、课后习题\(P_{94}\ T_{13},P_{95}\ T_{15}\)。
（Ⅲ）权函数任意、取值区间任意、连续函数
这一波啊，这一波叫“\(\Psi = span\{1,x…,x^n\}\)基底”。如果说此时满足\(\rho(x)\equiv1\)且取值范围为\([0,1]\)，这个时候们就直接写出法方程（\(HA=D\)）然后解出系数阵\(A\)即可，其中\(H\)为希尔伯特矩阵，是一种特殊的格拉姆矩阵。我估摸着出题者是这样想的“哎呀，今天刷刷朋友圈竟然看都有人不会线代了，不行不行，得帮帮这孩子，那就考个解算矩阵的叭，这一波刚好合适”（开个玩笑嘻嘻😁，话说这个版本的龇牙有点儿嘲讽，强烈建议\(Markdown\)更新一下）。最后提一嘴，参考例题有\(P_{68}\ 例题6\)、\(P_{94}\ T_{12}\)。
那如果真就是都是任意的肿么办呢？就老老实实地不用希尔伯特矩阵\(H\)了呗，直接解出格拉姆矩阵，之后的步骤就和上面的一样了，整套的方法与求最小二乘的类似，如果有不清楚详细步骤的可以参考课后习题\(P_{94}\ T_{14}\)。
针对后两个有函数表达式的方法，他们的误差算法都是一样的，平方逼近误差为：
\[||\ \delta(x) \ ||_2^2 = （f(x)，f(x)）-（S^*_n(x)，f(x)）= （f(x)，f(x)）-\sum_{i=0}^na_id_i \]最大误差为：
\[ ||\ \delta(x) \ ||_{\infty} = \underset{a\le x\le b}{max}\ |\ S^*_n(x)-f(x)\ | \]其中的\(S^*_n(x)\)就是我们最后想要的结果：\(S^*_n(x)=\sum_{i=0}^n{a_ix^i}\)。
最后便是惯例总结，求函数逼近其实就是求系数阵\(A\)，而\(a_k\)是在不同的方法中采用不同的公式，
（1）、在正交函数族中：
\[a^*_k = \frac{（f，\psi_k）}{（\psi_k，\psi_k）} \]（2）、在\(\Psi = span\{1,x…,x^n\}\)做基底时：利用法方程（\(GA=D\quad\or\quad HA=D\)）解出。
值得注意的是不论是那种情况都要求出\(（f，\psi_k）\)，只是第二种方法还得求解线性方程组，甚至还可能要求出格拉姆矩阵；第一种方法就比较死板，规定了权函数和取值范围。
