奇异矩阵
若方阵A的行列式的值等于0，那么方阵A叫做奇异矩阵，否则叫做非奇异矩阵。
可逆矩阵就是非奇异矩阵，非奇异矩阵也是可逆矩阵。
QR分解
对于m*n的列满秩矩阵A，必有：
，其中Q为正交矩阵，R为非奇异上三角矩阵，当要求R的对角线元素
为正的时候，该分解唯一。
SVD
奇异值分解(Singular Value Decomposition)是一种重要的矩阵分解方法，可以看做是对称方阵在任意矩阵上的推广。
假设A为一个m*n阶实矩阵，则存在一个分解使得： 
，通常将奇异值由大到小排列，这样Σ便能由A唯一确定了。
与特征值、特征向量的概念相对应，则：Σ对角线上的元素称为矩阵A的奇异值，U和V称为A的左/右奇异向量矩阵
向量的导数
A为m*n的矩阵，x为n*1的列向量，则Ax为m*1的列向量，记作 
向量偏导公式：
标量对向量的导数
标量对方阵的导数
