数学知识索引

线性代数
概率论与数理统计
- 1.如何通俗易懂地理解协方差和相关系数
- 2.为什么样本方差（sample variance）的分母是 n-1？
信号与系统&自动控制
机器学习
- 随机森林回归

线性代数

视频资源

3Blue1Brown

MIT公开课

为了写这篇博客学到了一个小技巧：如何在markdown中插入视频

线性代数的几何意义

A matrix is a kind of linear transformation, includes Rotation and Shear .
矩阵乘法是一种复合线性变换，即连续进行N种线性变换。
所有可以表示为给定向量线性组合的向量集合，被称为给定向量张成(Span)的空间。
二维空间下，矩阵的行列式，或者称为线性变换的行列式(the determinant of a transformation)，代表线性变换对面积产生改变的比例(变化后相比于变化前的比例)。如果行列式为0，表示降维，面积为0。行列式为负值，则表示空间进行了翻转。三维空间下，行列式则表示体积变化的比例。
矩阵的逆是该矩阵对应的线性变换的反向变换。
矩阵的秩表示变换后的维度数。非方阵矩阵意味着维度发生了变化。升维或降维。
变换后，如果一些向量落到了原点，这些向量则称为该矩阵的“零空间 Null space”或“核 Kernel”.
特征向量表示在线性变换后仍处在原向量方向上的特殊向量。
矩阵特征值是对特征向量进行伸缩和旋转程度的度量。如果特征值是实数，则表示进行了Shear变换，如果是虚数，则表示进行了Rotation变换。如果是复数，则既有shear又有rotation。
如果特征值是实数，则特征值就是原空间某一个特征向量在变换后的空间的长度变化系数，大于0表示方向一致，小于0表示方向相反。变换后夹角小于90度，其实隐藏的含义是变换后的向量投影回原向量时方向不变。
特征向量在一个矩阵的作用下作伸缩运动，伸缩的幅度由特征值确定（注意观察定义式）。特征值大于1，所有属于此特征值的特征向量变长；特征值大于0小于1，特征向量缩短。
空间本身是没有基的，同一个空间可以选择不同的基向量来表示。但不同的基向量的原点都应该是（0,0）。