AI从业者关于数学的一些小建议
https://www.cnblogs.com/DicksonJYL/p/9541432.html
观点:
1、数学是必须的。
数学对于机器学习来说是必备基础,数学是内功,你要理解一个算法的内在逻辑,没有数学是不行的。以后跑算法的时候,你可能就是调参、调包,不会用到数学。但是你发现效果不好的时候,如果你数学不懂,就很难作优化,数学是你在机器学习路上的天花板。
2、数学也不是很难。
但是,数学真的很难吗?说实话,对于一般人来说,是有点门槛的,但没有你想的那么难。这里假设你上过大学的数学课,你就具备了机器学习的数学入门门槛了,之后的数学啃一啃是可以下来的。如果说你没有上过大学的数学,emmm,挺难的,这说明你除了跟别人付出同样的努力之外,还要多付出一些大学数学的学习。
3、 相比于数学,实际项目能力更重要。
这句话没错,可是大部分人在没接触到实际项目的时候,就已经被挡在门外了。很多从事机器学习的你问他数学,他可能也不是很懂,可是你能咋办。人家面试你的时候就要问你这些,问你对算法的理解,你不会那你就过不了面试啊。
4、 学习是枯燥的,但是有办法缓解。
在学习算法的时候,我们会看到很多推导,学着学着就怕了,就失去兴趣了,这里有个方法可以有效缓解。我之前的系列中有本书叫做机器学习实战,跟着上面的代码敲一敲,很容易出成果,你会看到在现实中的实际应用,很有成就感。
5、 数学的学习是可以“取巧”的
这里说的取巧指的是,数学的学习是有迹可循的,因为入门阶段的数学实际上就需要那些,列出来,你自己啃一下就可以了。具体的学习方法不是等你把数学都学好了再去学算法知识。而是你在学习算法的时候,看到你数学缺哪块再去补哪块,这是最高效的。当然了,在这之前你可以通读一遍数学的基础,对学习有个大概是更好的。
数学必备知识点
1、 线性代数
标量、向量、矩阵和张量;矩阵向量的运算;单位矩阵和逆矩阵;行列式;方差,标准差,协方差矩阵;范数;特殊类型的矩阵和向量;特征分解以及其意义;奇异值分解及其意义
Moore-Penrose 伪逆;迹运算;
2、 概率统计
概率学派和贝叶斯学派;何为随机变量和何又为概率分布;条件概率,联合概率和全概率公式;边缘概率;独立性和条件独立性;期望、方差、协方差和相关系数;常用概率分布;贝叶斯及其应用;中心极限定理;极大似然估计;概率论中的独立同分布。
3、 优化
计算复杂性与NP问题;上溢和下溢;导数,偏导数及两个特殊矩阵;方向导数和梯度;梯度下降法;牛顿法;仿射集,凸集和凸锥;超平面,半空间及凸集分离定理;不改变凸性的运算;凸函数及凸优化简述;无约束的优化,等式约束优化,不等式约束优化;线性规划中对偶理论;拉格朗日对偶理论
4、 信息论及其他
信息熵;条件熵;相对熵 (KL散度);互信息;几种常用的距离度量;图论;树论
上面数学基本上就是我们所要学的数学的全部了,看上去有点吓人是不?不要慌,没有那么难,一点点啃下去就可以了。
推荐资料:
资料一:机器学习王牌课程CS229课后配套数学,专门配套机器学习的。
链接: https://pan.baidu.com/s/1Fh__7N7rqGEgjsyb4YpNSg 密码:48n4
资料二:Yoshua Bengio的《深度学习》书,网上公开的,前面有一部分是对数学的专门讲解,很基础很全面。
链接: https://pan.baidu.com/s/1A9mcO8_ORQmTJ-V7z9bLdw 密码:hwjn
资料三:知乎答主的优秀回答,很细致,适合初学者
线代专栏: https://zhuanlan.zhihu.com/p/30191876
概率统计: https://zhuanlan.zhihu.com/p/30314229
优化(上): https://zhuanlan.zhihu.com/p/30383127
优化(下): https://zhuanlan.zhihu.com/p/30486793
信息论及其他: https://zhuanlan.zhihu.com/p/30383356
我看过很多数学材料,上面三个是我总结过来最好的,必看。但是每个人基础不同,可能看完上面三个后,还是有需要去看别的。
针对性学习。不要想得太简单,也不要想得太复杂,保持理性,保持认真严谨严肃。
黑发不知勤学早,白首方悔读书迟。