2.机器学习相关数学基础
2-机器学习相关数学基础
一、学习笔记
1.线性代数
1)基本概念
2)矩阵
3)向量
2.概率论
1)概率
2)概率分布
3)期望和方差
二、关于 “梯度”,“梯度下降”和“贝叶斯定理”
梯度:梯度是一个向量,它的方向与取得最大方向导数的方向一致,而它的模为方向导数的最大值。即函数在该点处沿着梯度的方向变化最快,变化率最大
梯度下降:比如说下山的过程中,但是不知道从哪下山可以最快到山脚,这个时候可以求出梯度值,然后沿着梯度的负方向,也就是当前位置最陡峭的方向走一步,再继续求当前位置的梯度,通过这样的方式一步一步往下走,直到到达山脚,这整个过程就是梯度下降。
贝叶斯定理:贝叶斯定理是关于随机事件A和B的条件概率的一则定理。例如事件A有可能是由多个事件引起的,现在知道事件A发生了,我想知道事件A是由事件B引起的或者是其他事件引起的概率,就可以用贝叶斯定理来计算。