2.机器学习相关数学基础

1）.学习笔记：

概率公式：

 

贝叶斯公式详解：

 

概率论常见分布形式： 

两点分布：

 

 二项分布：

 

 

 

 均匀分布：

 

 指数分布：

 

 正态分布：

 

 各项分布的总结：

 

 事件的独立性：

 

 数学期望：

方差：

 

协方差

 

方阵的定义

 

 

 方阵行列式：

 

 

 

 代数余子式：

 

 伴随矩阵：

 

 2）总结

 梯度：梯度是一个向量，是一个n元函数f关于n个变量的偏导数，比如三元函数f的梯度为(fx,fy,fz)，二元函数f的梯度为(fx,fy），一元函数f的梯度为fx。然后要明白梯度的方向是函数f增长最快的方向，梯度的反方向是f降低最快的方向

梯度下降：将梯度逼近到一个稳定值，也就是模型的最优解这个过程

贝叶斯定理：贝叶斯定理是一种在已知其他概率的情况下求概率的方法