机器学习数学基础：学习线性代数，千万不要误入歧途！推荐一个正确学习路线
机器学习数学基础：学习线性代数，千万不要误入歧途！推荐一个正确学习路线
序言
写完《机器学习深度研究：机器学习中的高等数学/微积分及Python实现》，觉得十分对不起读者，写的自己都不满意。
就像前篇所说，这种极度基础的知识是最难介绍的，我也在思考如何转变方式，把问题讲清楚。但是头条是不支持数学公式的，篇幅也受限。所以本篇文章，我想介绍一下自己的学习历程，看过不错的教材和视频推荐给大家。这样大家也能少走弯路，更全面的学到知识。
同时建议：贪多嚼不烂，求精不求多，我有自信，看过我推荐的这本书和视频，线性代数就绝对可以搞定了。
机器学习中的线性代数
线性代数是机器学习领域不可或缺的一部分，从描述算法操作的符号到代码中算法的实现，都属于线性代的研究范围。线性代数在机器学习的几乎所有地方都有使用，具体用到的知识点有：
- 向量和它的各种运算，包括加法，减法，数乘，转置，内积
- 向量和矩阵的范数，L1范数和L2范数
- 矩阵和它的各种运算，包括加法，减法，乘法，数乘
- 逆矩阵的定义与性质
- 行列式的定义与计算方法
- 二次型的定义
- 矩阵的正定性
- 矩阵的特征值与特征向量
- 矩阵的奇异值分解
- 线性方程组的数值解法，尤其是共轭梯度法
教材推荐
学习线性代数，你可千万不要掏出同济大学版的教材出来，这本书非常糟糕，它只适合考试复习用。
我推荐《Linear Algebra Review and Reference》
本资料为CS229 Andrew Ng-Mechine Learning课程关于线性代数的复习讲义。
英文不好的同学也不用担心，已经有大佬将其翻译成中文了，目录如下：
-
- 基础概念和符号
- 1.1 基本符号
- 2.矩阵乘法
- 2.1 向量-向量乘法
- 2.2 矩阵-向量乘法
- 2.3 矩阵-矩阵乘法
- 3 运算和属性
- 3.1 单位矩阵和对角矩阵
- 3.2 转置
- 3.3 对称矩阵
- 3.4 矩阵的迹
- 3.5 范数
- 3.6 线性相关性和秩
- 3.7 方阵的逆
- 3.8 正交阵
- 3.9 矩阵的值域和零空间
- 3.10 行列式
- 3.11 二次型和半正定矩阵
- 3.12 特征值和特征向量
- 3.13 对称矩阵的特征值和特征向量
- 4.矩阵微积分
- 4.1 梯度
- 4.2 黑塞矩阵
- 4.3 二次函数和线性函数的梯度和黑塞矩阵
- 4.4 最小二乘法
- 4.5 行列式的梯度
- 4.6 特征值优化
如需电子版请私信我：线性代数 wx：htsa360
视频推荐
有些同学更喜欢看视频，这里我吹爆一门由大名鼎鼎的3blue1brown出品的教程：《线性代数的本质》，3blue1brown的课程，动画精美，讲解生动，非常适合帮助建立数学的形象思维，值得反复观看。
看过之后我相信你会发出这样的感慨：我以前学的线性代数是什么鬼呀！
举个例子，叉积这个概念在机器学习中应用不能更广泛，3B1B对它的解释：把w投射到v所在的直线上，将w在v上投影的长度乘以v的长度，就是其点积的值
想要观看的同学可以去B站搜索：av6731067
