LA@标准正交化@施密特正交化

文章目录

• • 基本定理👺
  • • $n$维欧式空间中任意一个正交向量组能够扩充为正交基
    • • 扩充正交向量组到正交基
    • 标准正交基存在定理
  • 标准正交化
  • • 正交化(schmidt正交化)
    • 例
    • 解析几何角度解释正交化过程
    • 例:扩充正交基

基本定理👺

$n$维欧式空间中任意一个正交向量组能够扩充为正交基

• $n$维欧式空间$V$中任意一个正交向量组能够扩充为正交基
• 证明:设$A_0:{\alpha }_1,\cdots ,{\alpha }_m$是一组正交向量组,对$p=n-m$作数学归纳法
  • 首先,$n$维空间$V$的基包含的向量个数是$n$
  • $p=0$时,$A$本身就是$V$的正交基
  • 设$p=k$时定理成立,即存在$B:{\beta }_1,\cdots ,{\beta }_k$使得:${\alpha }_1,\cdots ,{\alpha }_m,{\beta }_1,\cdots ,{\beta }_k$是$V$的正交基
  • 因为$p=k+1$时,有$m<n$,一定存在向量$\beta$不能被$A_0$线性表示
    • 显然${\sum }_{j=1}^m{k}_j{\alpha }_j=\beta$无解,即$\beta \ne {\sum }_{j=1}^m{k}_j{\alpha }_j$
    • 可见$\beta -{\sum }_{j=1}^m{k}_j{\alpha }_j\ne 0$
    • 构造向量${\alpha }_{m+1}$=$\beta -{\sum }_{j=1}^m{k}_j{\alpha }_j$,则${\alpha }_{m+1}\ne 0$
  • 则$({\alpha }_i,{\alpha }_{m+1})$=$(\beta ,{\alpha }_i)-k_i({\alpha }_i,{\alpha }_i)$,$(i=1,2,\cdots ,m)$
    • 令$({\alpha }_i,{\alpha }_{m+1})$=$0$,则$k_i=\frac{(\beta ,{\alpha }_i)}{({\alpha }_i,{\alpha }_i)}$(1),$(i=1,2,\cdots ,m)$
    • 这就是说,待定系数$k_i$按照式(1)的方式计算,可得到满足$({\alpha }_i,{\alpha }_{m+1})=0$,$(i=1,2,\cdots ,m)$,的${\alpha }_{m+1}$
    • 即${\alpha }_{m+1}$和向量组$A_0$的所有向量正交,所以$A_1:{\alpha }_1,\cdots ,{\alpha }_m,{\alpha }_{m+1}$构成正交向量组
  • 由归纳法假设,$A_1$可以扩充成正交基
  • 所以定理得证

扩充正交向量组到正交基

• 上述定理的证明过程给出了一个具体的扩充正交向量组的方法:
  • 即从任意一个非零向量出发,扩充出向量空间的一个正交基
  • 只需要按照证明中的步骤逐个扩充,最后得到的正交向量组就是一个正交基
  • 对正交基做单位化,就得到一组标准正交基

标准正交基存在定理

• 对于$n$维欧式空间中任意一组基$A_n:{\mathbf{a}}_1,\cdots ,{\mathbf{a}}_n$,总可以找到一组标准正交基$B_n:{\mathbf{b}}_1,\cdots ,{\mathbf{b}}_n$,使得$L(A_i)=L(B_i)$,$i=1,\cdots ,n$
• 证明:
  • 首先,取${\mathbf{b}}_1=\frac{1}{|{\mathbf{a}}_1|}\mathbf{a}$,假设已经求出$B_m$,它是单位正交的,且:$L(A_i)$=$L(B_i)$,$i=1,\cdots ,m$
  • 再求${\mathbf{b}}_{m+1}$;因为$L(A_m)=L(B_m)$,且对于${\mathbf{a}}_{m+1}\in A_n$但${\mathbf{a}}_{m+1}\notin A_m$,所以${\mathbf{a}}_{m+1}$不能由$A_m,B_m$线性表示
  • 构造向量${\xi }_{m+1}={\mathbf{a}}_{m+1}-{\sum }_{j=1}^m{k}_j{\mathbf{b}}_j$;
    • 这里$k_j,j=1,\cdots ,m$是待定系数
    • 对等式两边同时取内积运算:$({\xi }_{m+1},{\mathbf{b}}_i)$=$({\mathbf{a}}_{m+1},{\mathbf{b}}_i)-{\sum }_{j=1}^m{k}_j({\mathbf{b}}_i,{\mathbf{b}}_j)$=$({\mathbf{a}}_{m+1},{\mathbf{b}}_i)-k_i({\mathbf{b}}_i,{\mathbf{b}}_i)$
    • 令上式为0,可得:$k_i=\frac{({\mathbf{a}}_{m+1},{\mathbf{b}}_i)}{({\mathbf{b}}_i,{\mathbf{b}}_i)}$,$i=1,\cdots ,m$
  • 所以${\xi }_{m+1}={\mathbf{a}}_{m+1}-{\sum }_{j=1}^m\frac{({\mathbf{a}}_{m+1},{\mathbf{b}}_j)}{({\mathbf{b}}_j,{\mathbf{b}}_j)}{\mathbf{b}}_j$时:
    • 显然${\xi }_{m+1}\ne 0$且$({\xi }_{m+1},{\mathbf{b}}_i)$=0,$i=1,\cdots ,m$
    • 这说明${\xi }_{m+1}$与${\mathbf{b}}_1,\cdots ,{\mathbf{b}}_m$都正交
  • 再作标准化,得到单位向量${\mathbf{b}}_{m+1}$:令${\mathbf{b}}_{m+1}=\frac{{\xi }_{m+1}}{|{\xi }_{m+1}|}$
  • ${\mathbf{b}}_1,\cdots ,{\mathbf{b}}_m,{\mathbf{b}}_{m+1}$是一单位正交向量组,同时$L(A_{m+1})=L(B_{m+1})$
  • 由归纳法原理,定理成立

标准正交化

• 基的标准正交化:设$V_1$是$V$的一个基,寻找$V$的另一个与$V_1$等价的标准正交基$V_2$的过程称为基的标准正交化

正交化(schmidt正交化)

• 一个向量组线性无关是该向量组成为正交向量组的必要条件(不充分条件)

  • 将一个基中的各个向量单位化是容易的,利用公式$\mathbf{a}=\frac{\mathbf{a}}{||\mathbf{a}||}$即可
  • 但是将它们正交化比较复杂,这里介绍一种方法能够对一组正交向量组进行正交化
  • 本方法的原理参考标准正交基存在定理👺

• 对于一个线性无关组$A$,可以通过施密特正交化方法,求出一个等价的正交向量组$B$,

  • schmidt方法是一种递推计算的方法,可以将一组基正交化
  • 标准化只需要利用正交公式计算即可
  • 从几何的角度,正交化的过程是被正交化的向量被正交分解(投影到各个相互垂直的轴上)的过程
  • 被正交化的向量维数越高,或向量越多(尤其是向量数量),正交分解的过程就越繁琐,计算量越大

• 设$A:{\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n$

  • 令${\beta }_1={\alpha }_1$

    • $$\begin{array}{rl}{\beta }_i=& {\alpha }_i-\sum _{k=1}^{i-1}\frac{({\alpha }_i,{\beta }_k)}{({\beta }_k,{\beta }_k)}{\beta }_k\\ =& {\alpha }_i-\sum _{k=1}^{i-1}\frac{({\alpha }_i,{\beta }_k)}{||{\beta }_k|{|}^2}{\beta }_k(i=2,\cdots ,n)\end{array}$$

  • 令$B={\beta }_1,\cdots ,{\beta }_n$,则$B$正交向量组

• 正交性证明:(todo)

  • ${\beta }_j$=${\beta }_j={\alpha }_j-{\sum }_{k=1}^{j-1}\frac{({\alpha }_j,{\beta }_k)}{({\beta }_k,{\beta }_k)}{\beta }_k$
  • 为了便于讨论和书写,令:
    • $F_i={\sum }_{k=1}^{i-1}\frac{({\alpha }_i,{\beta }_k)}{||{\beta }_k|{|}^2}{\beta }_k(i=2,\cdots ,n)$
    • ${\beta }_i={\alpha }_i-F_i$
    • $({\beta }_i,{\beta }_j)$=$({\alpha }_i,{\alpha }_j)-({\alpha }_i,F_j)-(F_i,{\alpha }_j)+(F_i,F_j)$=0
  • 或者,令$B_m:{\beta }_1,\cdots ,{\beta }_m$,依次证明${\beta }_{m+1}$与正交向量组$B_m$正交

例

• 设${\mathbf{a}}_1,{\mathbf{a}}_2,{\mathbf{a}}_3$分别是$(1,2,-1{)}^T$,$(-1,3,1{)}^T$,$(4,-1,0{)}^T$,试用施密特正交化它们
  • 令$F_i={\sum }_{k=1}^{i-1}\frac{({\mathbf{a}}_i,{\mathbf{b}}_k)}{|{\mathbf{b}}_k{|}^2}{\mathbf{b}}_k$,$i=2,\cdots ,r$
• 取${\mathbf{b}}_1={\mathbf{a}}_1$=$(1,2,-1{)}^T$
• ${\mathbf{b}}_2={\mathbf{a}}_2-F_2$
  • $|{\mathbf{b}}_1{|}^2=6$
  • $({\mathbf{a}}_2,{\mathbf{b}}_1)=-1+6-1=4$
  • ${\mathbf{b}}_2=(-1,3,1{)}^T-\frac{-1+6-1}{1+4+1}(1,2,-1{)}^T$=$\frac{5}{3}(-1,1,1{)}^T$
• ${\mathbf{b}}_3={\mathbf{a}}_3-F_3$
  • $|{\mathbf{b}}_2{|}^2=\frac{25}{9}(1+1+1)$=$\frac{25}{3}$
  • $({\mathbf{a}}_3,{\mathbf{b}}_1)=4-2=2$,$({\mathbf{a}}_3,{\mathbf{b}}_2)=\frac{5}{3}(-4-1+0)=-\frac{25}{3}$
  • $F_3=\frac{2}{6}(1,2,-1{)}^T$+$-\frac{25}{3}\cdot \frac{3}{25}\cdot \frac{5}{3}(-1,1,1{)}^T$=$\frac{1}{3}((1,2,-1{)}^T-5(-1,1,1{)}^T)$=$\frac{1}{3}(6,-3,-6)$=$(2,-1,-2)$
  • ${\mathbf{b}}_3=(4,-1,0{)}^T-(2,-1,-2{)}^T=(2,0,2{)}^T$=$2(1,0,1{)}^T$
• 标准化(单位化):${\mathbf{e}}_1=\frac{{\mathbf{b}}_1}{|\mathbf{b}|}$=$\frac{1}{\sqrt{6}}(1,2,-1{)}^T$;${\mathbf{e}}_2=\frac{\sqrt{3}}{5}\frac{5}{3}(-1,1,1{)}^T$=$\frac{\sqrt{3}}{3}(-1,1,1{)}^T$;${\mathbf{e}}_3$=$\frac{1}{2\sqrt{2}}2(1,0,1{)}^T$=$\frac{\sqrt{2}}{2}(1,0,1{)}^T$

解析几何角度解释正交化过程

• 以三维向量为例

• 

• ${\mathbf{a}}_1={\mathbf{b}}_1$

• ${\mathbf{b}}_2={\mathbf{a}}_2-{\mathbf{c}}_2$,${\mathbf{c}}_2$是${\mathbf{a}}_2$在${\mathbf{b}}_1$上的投影向量(分量),由分量公式:${\mathbf{c}}_2$=${\text{Prj}}_{{\mathbf{b}}_1}{\mathbf{a}}_2\cdot \frac{{\mathbf{b}}_1}{|{\mathbf{b}}_1|}$=$\frac{({\mathbf{a}}_2,{\mathbf{b}}_1)}{|{\mathbf{b}}_1{|}^2}{\mathbf{b}}_1$

• ${\mathbf{b}}_3={\mathbf{a}}_3-{\mathbf{c}}_3$,而${\mathbf{c}}_3$是${\mathbf{a}}_3$在平行于${\mathbf{b}}_1,{\mathbf{b}}_2$的平面上的投影向量,由于${\mathbf{b}}_1\perp {\mathbf{b}}_2$,所以${\mathbf{c}}_3$等于分别在${\mathbf{b}}_1,{\mathbf{b}}_2$上的投影向量${\mathbf{c}}_{31},{\mathbf{c}}_{32}$之和:${\mathbf{c}}_3={\mathbf{c}}_{31}+{\mathbf{c}}_{32}=\frac{({\mathbf{a}}_3,{\mathbf{b}}_1)}{|{\mathbf{b}}_1{|}^2}{\mathbf{b}}_1$+$\frac{({\mathbf{a}}_3,{\mathbf{b}}_2)}{|{\mathbf{b}}_2{|}^2}{\mathbf{b}}_2$

例:扩充正交基

• 已知${\mathbf{a}}_1=(1,1,1{)}^T$;求一组非零向量${\mathbf{a}}_2,{\mathbf{a}}_3$,使${\mathbf{a}}_1,{\mathbf{a}}_2,{\mathbf{a}}_3$两两正交
• 解:
  • 两两正交等价于:$({\mathbf{a}}_1,{\mathbf{a}}_2)=0$,$({\mathbf{a}}_1,{\mathbf{a}}_3)=0$,$({\mathbf{a}}_2,{\mathbf{a}}_3)=0$
  • 先处理前两个方程,它们可以用同一个线性方程建模:${\mathbf{a}}_1^{\mathbf{T}}\mathbf{x}=0$,即$(x_1+x_2+x_3)=0$
  • 显然该方程组仅包含一个线性方程,并且系数矩阵的秩为1,基础解系包含的向量个数为$n-r=3-1=2$,自由未知数的个数也是2
  • 为自由未知数数组取2组线性无关的值:$q_1=(1,0{)}^T,q_2=(0,1{)}^T$,对应的,基础解系取值为:
    • ${\xi }_1=(-1,1,0{)}^T$;${\xi }_2=(-1,0,1{)}^T$
• 然而${\xi }_1,{\xi }_2$此时不是正交的,需要对其正交化:
  • 取${\mathbf{c}}_1={\xi }_1$
  • ${\mathbf{c}}_2$=${\xi }_2-\frac{({\xi }_2,c_1)}{|c_1{|}^2}{c}_1$=$(-1,0,1{)}^T-\frac{1}{2}(-1,1,0{)}^T$=$(-\frac{1}{2},-\frac{1}{2},1{)}^T$=$\frac{1}{2}(-1,-1,2{)}^T$
  • 显然,${\mathbf{c}}_1,{\mathbf{c}}_2$是基础解系的线性组合,它们仍然满足${\mathbf{a}}_1^{\mathbf{T}}\mathbf{x}=0$
  • 所以可以取${\mathbf{a}}_2=(-1,1,0{)}^T$,${\mathbf{a}}_3=\frac{1}{2}(-1,-1,2{)}^T$