常见数学问题

什么是矩阵的秩

1.列向量的空间维数
2.rank的另一个定义：矩阵非零子式的最大阶数
3.对应线性方程组有效方程组的个数

什么是矩阵的迹

在线性代数中，一个n×n矩阵A的主对角线（从左上方至右下方的对角线）上各个元素的总和被称为矩阵A的迹（或迹数），一般记作tr(A)。

正定矩阵：

特征值都大于0的矩阵

半正定矩阵：

特征值大于等于0的矩阵

行空间：

矩阵的行向量组成的空间。

列空间：

矩阵的列向量组成的空间

增广矩阵

系数矩阵

线性方程组有解/无解/唯一解的条件？

① 无解：系数矩阵秩 < 增广矩阵的秩

② 唯一解：系数矩阵秩 = 增广矩阵的秩 = 列数

③ 无穷解：系数矩阵秩 = 增广矩阵的秩 < 列数

矩阵的逆

简而言之，逆矩阵是一个判断相似性的工具。逆矩阵A与列向量p相乘后，将得到列向量q，q的第i个分量表示p与A的第i个列向量的相似度。
如果您正好了解机器学习，不妨看看我的解释在线性模型上的运用：关于线性模型你可能还不知道的二三事（一、样本）

凸函数

梯度下降怎么避免局部最优

1.local minimal saddle minimal
2.动量 + learning rate
3.SGD