矩阵分解大全
矩阵分解大全
矩阵分解是指根据一定的原理用某种算法将一个矩阵分解成若干个矩阵的乘积。常见的矩阵分解有可逆方阵的三角（LU）分解、满秩方阵的正交三角（QR）分解、对称正定矩阵的Cholesky分解，以及任意方阵的Schur分解、Hessenberg分解、EVD分解、任意矩阵SVD分解、GMD分解等。
(1) 可逆方阵的LU分解
矩阵的LU分解就是将一个矩阵表示为一个交换下三角矩阵和一个上三角矩阵的乘积形式。线性代数中已经证明，只要方阵A是非奇异的（即可逆的），LU分解总是可以进行的。
当L为单位下三角矩阵而U为上三角矩阵时，此三角分解称为杜利特(Doolittle)分解。当L为下三角矩阵而U为单位上三角矩阵时，此三角分解称为克劳特(Crout)分解。显然，如果存在，矩阵的三角分解不是唯一的。
（PS：方阵A可唯一地分解为A=LDU(其中L，U分别为单位下，上三角矩阵，D为对角矩阵)的充分必要条件为A的前n-1个顺序主子式都不为0。特别：对n阶对称正定矩阵，存在一个非奇异下三角矩阵L，使得A=LL'成立。）
MATLAB提供的lu函数用于对矩阵进行LU分解，其调用格式为：
[L,U]=lu(X)：产生一个上三角阵U和一个变换形式的下三角阵L(行交换)，使之满足X=LU。注意，这里的矩阵X必须是方阵。
[L,U,P]=lu(X)：产生一个上三角阵U和一个下三角阵L以及一个置换矩阵P，使之满足PX=LU。当然矩阵X同样必须是方阵。
(2) 满秩方阵的QR分解
对矩阵X进行QR分解，就是把X分解为一个正交矩阵Q和一个上三角矩阵R的乘积形式。QR分解只能对方阵进行。
MATLAB的函数qr可用于对矩阵进行QR分解，其调用格式为：
[Q,R]=qr(X)：产生一个一个正交矩阵Q和一个上三角矩阵R，使之满足X=QR。
[Q,R,E]=qr(X)：产生一个一个正交矩阵Q、一个上三角矩阵R以及一个置换矩阵E，使之满足XE=QR。
(3) 对称正定矩阵的Cholesky分解
如果矩阵X是对称正定的，则Cholesky分解将矩阵X分解成一个下三角矩阵和上三角矩阵的乘积。设上三角矩阵为R，则下三角矩阵为其转置，即X=R'R。MATLAB函数chol(X)用于对矩阵X进行Cholesky分解，其调用格式为：
R=chol(X)：产生一个上三角阵R，使R'R=X。若X为非对称正定，则输出一个出错信息。
[R,p]=chol(X)：这个命令格式将不输出出错信息。当X为对称正定的，则p=0，R与上述格式得到的结果相同；否则p为一个正整数。如果X为满秩矩阵，则R为一个阶数为q=p-1的上三角阵，且满足R'R=X(1:q,1:q)。
(4) 任意方阵的Schur分解
任意一个n阶方阵X可以分解为X=URU'，其中U为酉矩阵，R为上三角schur矩阵且其主对角线上的元素为X的特征值。
[U,R]=schur(X)
(5) 任意方阵的Hessenberg分解
任意一个n阶方阵X可以分解为X=PHP', 其中P为酉矩阵, H的第一子对角线下的元素均为0，即H为Hessenberg矩阵。
[P,H]=hess(X)
(6) 任意方阵的特征值分解EVD
任意一个n阶方阵X可以分解为XV=VD，其中D为X的特征值对角阵，V为X的特征向量矩阵。
[V,D]=eig(X)
[V,D]=eig(X,Y)计算广义特征值矩阵D和广义特征值向量矩阵V，使得XV=YVD。
(7)任意矩阵的奇异值分解SVD
任意一个m×n维的矩阵X可以分解为X=USV'，U，V均为酉矩阵，S为m×n维的对角矩阵，其对角线元素为X的从大到小排序的非负奇异值。
[U,S,V]=svd(X)
(8) 任意矩阵的几何均值分解GMD
任意矩阵m×n维的矩阵X可以分解为X=QRP', Q，P均为酉矩阵，R为k×k维的实正线上三角矩阵，其主对角线元素均等于X的所有K个正奇异值的几何均值，k=rank(X)。
（PS: 一个n×n的实对称矩阵 M 是正定的当且仅当对于所有的非零实系数向量z，都有 z'Mz > 0。
对于复数的情况，定义则为：一个n × n的埃尔米特矩阵 M 是正定的当且仅当对于每个非零的复向量z，都有z×Mz > 0。其中z× 表示z的共轭转置。由于 M是埃尔米特矩阵，经计算可知，对于任意的复向量z，z×Mz必然是实数，从而可以与0比较大小。因此这个定义是自洽的。正定方阵M的所有的特征值 λi都是正的。）
酉矩阵
n阶复方阵U的n个列向量是U空间的一个标准正交基，则U是酉矩阵(Unitary Matrix)。显然酉矩阵是正交矩阵往复数域上的推广。一个简单的充分必要判别准则是：方阵U的共轭转置乘以U等于单位阵，则U是酉矩阵。即酉矩阵的逆矩阵与其共轭转置矩阵相等。
