2.机器学习相关数学基础
请确保熟悉并理解机器学习数学部分常用相关概念:
1.高等数学
1)函数
2)极限
3)导数
4)极值和最值
5)泰勒级数
6)梯度
7)梯度下降
2.线性代数
1)基本概念
2)行列式
3)矩阵
4)最小二乘法
5)向量的线性相关性
3.概率论
1)事件
2)排列组合
3)概率
4)贝叶斯定理
5)概率分布
6)期望和方差
7)参数估计
2.本周视频学习内容:https://www.bilibili.com/video/BV1Tb411H7uC?p=2
1)P2 概率论与贝叶斯先验
2)P3 矩阵和线性代数
机器学习是一门多领域交叉学科,涉及较多的数学知识,本节课知识之前都有学过,这次根据重点重新梳理一遍,一定要多加重视。通过观看视频,大家对课程的数学基础部分加深印象。
建议大家边看边做笔记,记录要点及所在时间点,以便有必要的时候回看。学习笔记也是作业的一部分。
3.作业要求:
1)贴上视频学习笔记,要求真实,不要抄袭,可以手写拍照。
公式:
矩阵:
2)用自己的话总结“梯度”,“梯度下降”和“贝叶斯定理”,可以word编辑,可做思维导图,可以手写拍照,要求言简意赅、排版整洁。
梯度:梯度是一个向量,是一个n元函数f关于n个变量的偏导数,比如三元函数f的梯度为(fx,fy,fz),二元函数f的梯度为(fx,fy),一元函数f的梯度为fx。然后要明白梯度的方向是函数f增长最快的方向,梯度的反方向是f降低最快的方向
梯度下降:在机器学习算法中,在最小化损失函数时,可以通过梯度下降思想来求得最小化的损失函数和对应的参数值。梯度下降的几个概念:步长、特征、假设函数、损失函数。
贝叶斯定理:贝叶斯定理是关于随机事件A和B的条件概率(或边缘概率)的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。