200820_机器学习---1、基础知识

200820_机器学习---1、基础知识

一、总结

一句话总结：

一定要录课，不录课==没学

 

1、机器学习的两个驱动？

神经网络，数据挖掘

 

2、强化学习？

介于监督和无监督之间，当答案不正确时，算法被告知，如何改正则不得而知，算法需要去探索，试验不同情况，直到得到正确答案，强化学习有时称为伴随评论家的学习，因为他只对答案评分，而不给出改进建议。

 

 

3、监督学习？

回归、分类

 

4、机器学习过程？

数据：数据的收集和准备

算法：特征选择、算法选择

模型：参数和模型选择、训练、评估

 

5、权重空间？

神经网络的参数是将神经元连接到输入的一组权重值，如将神经元的权重视为一组坐标，即所谓的权重空间

当我们的输入数据达到200维时，人类的限制使得我们无法看见，我们最多只能看到三维投影，而对于计算机可以抽象出200个相互正交的轴的超平面进行计算，神经网络的参数是将神经元连接到输入的一组权重值，如将神经元的权重视为一组坐标，即所谓的权重空间

 

6、受试者工作曲线？

y轴真正例率，x轴假正例率，线下区面积：AUC

 

7、数据与概率的转换？

通过贝叶斯法则处理联合概率P(C,X)和条件概率P(X|C)得出P(C|X)，MAP问题是训练数据中最可能的类是什么。将所有类的最终结果考虑在内的方法称为贝叶斯最优分类。

 

 

8、权衡偏差与方差：偏差-方差困境：更复杂的模型不一定能产生更好的结果？

模型糟糕可能由于两个原因，模型不准确而与数据不匹配，或者不精确而有极大的不稳定性。第一种情况称为偏差，第二种情况称为方差。

 

 

9、Hebb法则？

Hebb的理论认为在同一时间被激发的神经元间的联系会被强化。

早在 1949年，一位名叫 Donald Hebb的心理学家提出了一个简单法则，来说明经验如何塑造某个特定的神经回路。受巴甫洛夫著名的狗实验的启发，Hebb的理论认为在同一时间被激发的神经元间的联系会被强化。比如，铃声响时一个神经元被激发，在同一时间食物的出现会激发附近的另一个神经元，那么这两个神经元间的联系就会强化，形成一个细胞回路，记住这两个事物之间存在着联系。

 

10、回归问题和分类问题（线的角度）？

回归问题是用一条线去拟合数据，而分类问题是寻找一条线来划分不同类别。

 

 

 

二、内容在总结中

转自或参考：机器学习常见知识点（总结） - 范仁义 - 博客园
https://www.cnblogs.com/Renyi-Fan/p/13532880.html