2-机器学习相关数学基础

一、学习笔记

1.线性代数

1）基本概念

 

 

 

2）矩阵

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

3）向量

 

 

 

 

 

2.概率论

1）事件

 

 

 

2）概率

 

 

 

3）概率分布

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

4）期望和方差

 

 

 

 

 

 

 

 

 

 

 

二、关于 “梯度”，“梯度下降”和“贝叶斯定理”

梯度：梯度是一个向量，它的方向与取得最大方向导数的方向一致，而它的模为方向导数的最大值。即函数在该点处沿着梯度的方向变化最快，变化率最大

 

梯度下降：比如说下山的过程中，但是不知道从哪下山可以最快到山脚，这个时候可以求出梯度值，然后沿着梯度的负方向，也就是当前位置最陡峭的方向走一步，再继续求当前位置的梯度，通过这样的方式一步一步往下走，直到到达山脚，这整个过程就是梯度下降。

 

贝叶斯定理：贝叶斯定理是关于随机事件A和B的条件概率的一则定理。例如事件A有可能是由多个事件引起的，现在知道事件A发生了，我想知道事件A是由事件B引起的或者是其他事件引起的概率，就可以用贝叶斯定理来计算。