机器学习相关数学基础

1、概率论与贝叶斯先验

2、矩阵和线性代数

 

 3、总结“梯度”，“梯度下降”和“贝叶斯定理”

梯度：函数在某一点的梯度是一个自变量空间内的向量。自变量顺着梯度方向变化时函数值上升得最快。梯度的模是函数值上升的速率。梯度朝某方向投影的长度是自变量顺着该方向变化时函数值的变化率。

梯度下降：从任一点开始，沿该点梯度的反方向运动一段距离，再沿新位置的梯度反方向运行一段距离如此迭代。解一直朝下坡最陡的方向运动，希望能运动到函数的全局最小点。

贝叶斯定理：随机事件A和B的条件概率，P(A|B)=P(A)*[P(B|A)/P(B)],P(A|B)是已知事件B发生的情况下事件A发生的条件概率，P(B|A)是已知事件A发生的情况下事件B发生的条件概率。