矩阵相关总结

1.矩阵的三种性质

\(等价/相抵,A\sim B\)

\[有可逆矩阵P,Q,使得 PAQ=B \]

\(相似\)

\[有可逆矩阵P,使得 PAP^{-1}=B \]

可对角化

• \(对称矩阵必能对角化,且是正交对角化(哪怕特征值有重根)-线性代数P148定理8\)
• \(可对角化充要条件:所有特征向量线性无关\)
• \(可对角化充要条件:所有特征值的几何重复度=代数重复度\)
• \(舒尔定理的推论:对称矩阵必能对角化,且是正交对角化,对角元素都是实数\)
• \(任意两个数字方阵A与B相似的充要条件是他们的特征矩阵(\lambda I -A,\lambda I -B)是相抵的-涉及到\lambda矩阵的知识\)
• \(可对角化的充要条件是A的特征矩阵\lambda I-A的初等因子全为一次式(也就是没有重根，最高次项是1)\)
• \(可正交对角化的充要条件是A为正规矩阵\)

求对角矩阵就是求特征值和特征向量

\(合同/相合\)

\[有A，B两个n阶方阵,如有非奇异n阶方阵C，使得B=C^TAC \]

• \(同一个线性空间中的不同基的度量矩阵是不同的，但是他们是相合的\)

2.特殊矩阵

正交矩阵

\[A^TA=E,A^T=A^{-1} \]

• \(若A与B都是n阶正交矩阵,证明AB也是正交矩阵-线性代数p162\)
• \(舒尔定理:任何n阶方阵,都酋相似(实数域-正交相似)于一个上三角阵,即存在一个n解酋矩阵(实数域-正交矩阵)U和一个上三角矩阵T,使得\)

\[U^HAU=T或者 A=UTU^H , (U^H在实数域上就是指转置) \]

• \(舒尔定理的推论:对称矩阵必能对角化,且是正交对角化,对角元素都是实数\)

对称矩阵

• \(舒尔定理的推论:对称矩阵必能对角化,且是正交对角化,对角元素都是实数\)
• \(设A是n阶对称矩阵,则有\)

\[\lambda_{\min}(A)I\preceq A\preceq \lambda_{\max}(A)I \]

\(其中\lambda_{\min}(A), \lambda_{\max}(A)是A的最小和最大特征值\)

瑞丽商

\(设A为n阶对称矩阵,\forall x\in C^{n},x\ne 0,称下式为对称矩阵A的瑞丽商\)

\[R(x)=\frac{x^TAx}{x^Tx},x\ne 0 \]

• \(R(kx)=R(x),k\in C,k\ne 0\)
• \(\lambda_n \le R(x) \le \lambda_1,特征值\lambda_1\ge \lambda_2\ge ...\ge \lambda_n\)
• \(\lambda_1=\max\limits_{x\ne 0}R(x),\lambda_n=\min\limits_{x\ne 0}R(x)\)

单纯矩阵

\(几何重复度=代数重复度的矩阵,即可对角化的矩阵是单纯矩阵,或者说所有的特征向量都线性无关的矩阵是单纯矩阵\)

伴随矩阵

正定，半正定矩阵，二次型

• \(矩阵的所有特征值均为正数 \Leftrightarrow 正定矩阵\)
• \(矩阵正定的充要条件是:各阶顺序主子式都是正数\)
• \(对称矩阵正定的充要条件是:各阶主子式都是正数\)
• \(正定矩阵的二次型是正数,即f=x^TAx 是正数\)
• 惯性定理
  \(设有二次型f=x^TAx,秩为r，有两个实的可逆变换\)
  \(x=Cy,,x=Pz\)
  \(有f=k_1y_1^2+k_2y_2^2+...+k_ry_r^2\)
  \(有f=\lambda_1z_1^2+\lambda_2z_2^2+...+\lambda_rz_r^2\)
  \(则k中的正数和\lambda中的正数个数相等\)
• 霍尔维茨定理:\(对称矩阵A为负定的充要条件:奇数阶主子式为负，偶数阶主子式为正\)
• \(二次型f=x^TAx在||A||=1时的最大值为矩阵A的最大特征值- 线性代数p163\)
• \(U可逆矩阵，A=U^TU,则f=x^TAx是正定二次型- 线性代数p163\)
• \(A为正定矩阵，则必有可逆矩阵U，使得A=U^TU- 线性代数p163\)
• \(矩阵A为正定矩阵的充要条件是存在n阶非奇异矩阵P,使得A=P^HP-矩阵论 定理1.3.4\)
• \(矩阵A为半正定矩阵的充要条件是存在n阶矩阵P(可以是奇异矩阵),使得A=P^HP-矩阵论 定理1.3.4'\)
• \(若A\succ0,则A可逆且A^{-1}\succ 0\)
• \(若A\succ0,C是任一n阶非奇异矩阵,则C^HAC\succ 0\)
• \(若A\succeq 0,C是任一n阶矩阵,则C^HAC\succeq 0\)

正规矩阵

\(设A是方阵，则有如下形式的称为正规矩阵\)

\[AA^T=A^TA \]

• \(对称矩阵，正交矩阵都是实正规矩阵\)
• \(正交相似于对角矩阵的充要条件是A为正规矩阵\)

亏损矩阵,非亏损矩阵

\(亏损矩阵是指：n阶矩阵A若有n个线性无关的特征向量，称A为非亏损矩阵，即A有完备的线性无关的特征向量系，反之称A为亏损矩阵。\)

3.矩阵的性能指标

3.1 秩

• \(若矩阵B能由矩阵A线性表示，则R(B)\le R(A)\)
• \(C=AB，则R(C)\le R(A),R(C)\le R(B),或者说 R(C)\le min\{R(A),R(B)\}\)
• \(R(A)+R(B)\ge R(A+B)\)
• \(若AB=O,R(A)+R(B)\le n,(A,B都是n阶方阵)- 线性代数P129 习题21\)
• \(n阶方阵,满秩\Leftrightarrow 向量组线性无关 \Leftrightarrow 行列式\ne 0 \Leftrightarrow 非奇异 \Leftrightarrow 可逆 \Leftrightarrow Ax=b方程组有唯一解 ，这几个概念是等价的\)
• \(0\le R(A) \le min(n,m)\)
• \(R(A^*)=R(A)\)
• \(R\begin{bmatrix} A & C\\ 0 & B \end{bmatrix} \ge R\begin{bmatrix} A & 0\\ 0 & B \end{bmatrix} = R(A) + R(B)\)
• \(设A为n\times m矩阵,P,Q分别为n,m阶非奇异方阵，则有(即将非奇异方阵左乘或右乘矩阵上，其秩不变)\)

\[R(PA)=R(AQ)=R(A) \]

• \(A为n\times m 矩阵,B为m\times p矩阵,则有\)

\[R(A)+R(B)\le R(AB)+m \]

• \(设实矩阵A\in \mathbb{R}^{m\times n},有R(A)=R(A^TA)=R(AA^T)\)

3.2 特征值

特征值

• \(特征值之和=tr(A)\)
• \(特征值之积=|A|\)
• \(\lambda 是A的特征值,则\lambda^2是A^2的特征值,扩展出来，\lambda^k是A^k的特征值\)
• \(若\lambda_1,\lambda_2,...,\lambda_m 是A的特征值,且互不相同,则对应的特征向量p_1,p_2,..,p_m线性无关\)
• \(设\lambda_1,...,\lambda_r是矩阵A的互异特征值,x_1^{(1)},...,x_{s_i}^{(1)}是属于\lambda_i的线性无关的特征向量,则\)

\[x_1^{1},...,x_{s_1}^{1},x_1^{2},...,x_{s_2}^{2},...,x_1^{r},...,x_{s_r}^{r}也线性无关 \]

• \(相似矩阵的特征值相同\)
• \(对称矩阵的特征值为实数\)
• \(若对称矩阵A的特征值\lambda_1\ne \lambda_2，则对应的特征向量p_1,p_2正交\)
• \(设A为n阶对称矩阵，\lambda是A的特征方程的r重根,则对应特征值\lambda 恰有r个线性无关的特征向量\)
  \(解释一下,r重根是指，比如3重根，也就是有3个特征值是一样的\)
• \(设A是n阶对称矩阵，则必有正交矩阵P,有P^{-1}AP=\Lambda,\Lambda就是A的特征值组成的对角矩阵(一句话，对称矩阵必可以正交对角化)\)
• \(||A|E|=|A|^n\)
• \(若A,B为同阶方阵,AB，BA的特征值相同-矩阵论例1.1.34\)
• \(若AB=BA,则A，B有公共的特征向量\)

特征向量

特征多项式

• \(f(\lambda)=|A-\lambda E|=a_0+a_1\lambda+...+a_n\lambda^n\)
• \(|A-\lambda E|=\lambda^n+\sum\limits_{k=1}^{n}(-1)^kb_k\lambda^{n-k}=\lambda^n-(a_{11}+a_{22}+...+a_{nn})\lambda^{n-1}+...+(-1)^ndetA\)
  \(其中b_k(k=1,2,...,n)是A的所有k阶主子式之和,特别的有\)

\[b_1=a_{11}+a_{22}+...+a_{nn},b_n=|A| \]

特征方程\(|A-\lambda E|=0\)

特征多项式的性质

• 特征多项式=0
• Caley-Hamilton定理:\(若f(\lambda)是矩阵A的特征多项式,则f(A)=O\)

特征值计算

• \(解特征方程|A-\lambda E|=0\)
• 矩阵LU分解等等

3.3 迹

• \(tr(AB)=tr(BA),AB为m阶方阵，BA是n阶方阵\)

3.4 行列式

• \(|AB|=|A||B|\)
• \(行列式=任一一行个元素与其代数余子式乘积之和:D=a_{1j}A_{1j}+...+a_{nj}A_{nj}\)
• Binet-Cauchy公式\(设A,B各为n\times m,m\times n的矩阵，则有\)

\[det(AB)=\begin{cases} 0 & 当n>m\\ det(A)det(B) & 当n=m\\ \sum\limits_{1\le j_1 < ...< j_n \le m} det A \begin{pmatrix} 1 & 2 & ...& n\\ j_1 & j_2 & ...& j_n\\ \end{pmatrix} det B \begin{pmatrix} j_1 & j_2 & ...& j_n\\ 1 & 2 & ...& n\\ \end{pmatrix} & 当n<m \end{cases}\]

• \(A非奇异,A^{-1}=\frac{1}{|A|}A^*\)

4.矩阵运算

4.1逆矩阵

• 1.伴随矩阵计算
• 2.高斯消元法-矩阵的初等变换
• 3.\(det(A^{-1})=det(A)^{-1}\)

5.线性空间

直和

\[如果V_1+V_2中的任一向量只能唯一的表示为子空间V_1的一个行李与子空间V_2的一个向量的和,则称V_1+V_2为直和(或直接和),记为V_1 \oplus V_2 \]

• \(V_1 \oplus V_2为直和的充要条件是:V_1\cap V_2=\{0\}\)

• \(V_1 \oplus V_2为直和的充要条件是:dim(V_1+V_2)=dim V_1+dim V_2\)

• 维数公式:\(设V_1，V_2是数域P上的线性空间V的两个子空间，则\)

\[dim V_1+dim V_2=dim(V_1+V_2)+dim (V_1\cap V_2) \]

\(V_1+V_2是指两者的和空间\)

特征空间

• 任一特征值的几何重复度不大于它的代数重复度
• \(n阶矩阵的每一个特征值的代数重复度等于几何重复度，则A的n个特征向量都线性无关\)

6.內积空间

柯西不等式

• \(|(x,y)|\le |x||y|\)
• \(|x+y|\le |x|+|y|\)
• \(|x+y+...,+z)|\le |x|+|y|+...+|z|\)
• 若\(x,y正交,|x+y|^2 = |x|^2+|y|^2\)
• 若\(x,y正交,|x+y+...,+z|^2\le |x|^2+|y|^2+...+|z|^2\)

度量矩阵/Gram矩阵

• 度量矩阵是由基的內积各种排列组合组成的
• 度量矩阵是正定的

7.矩阵不等式

若\(A-B\succeq 0,则称A大于或者等于B,有任意向量x,x^TAx \ge x^TBx\)
若\(A,B都是实对角矩阵,A=diag(a_1,a_2,...,a_n),B=diag(b_1,b_2,...,b_n),则有A\succeq B \Rightarrow a_i \ge b_i\)

• \(若A\succeq B,B\succeq C,则有 A\succeq C\)
• \(若A\succeq B,k为正数,则有 kA\succeq kB\)
• \(若A_1\succeq B_1,A_2\succeq B_2,则有 A_1+A_2\succeq B_1+B_2\)
• \(若A\succeq B,P为n\times m矩阵,则有P^TAP\succeq P^TBP\)
• \(若A,B为同阶正定矩阵,A\succeq B,则有B^{-1}\succeq A^{-1}\)
• 矩阵型的施瓦茨不等式

\[B^TB \succeq (AB)^T(AA^T)^{-1}(AB) \]