统计学习方法笔记---0、读大纲

统计学习方法笔记---0、读大纲

一、总结

一句话总结：

第1章、统计学习方法【概论】；第2章、【感知机】；第3章、【k近邻法】；

第4章、【朴素贝叶斯法】；第5章、【决策树】；第6章、【逻辑斯谛回归】与【最大熵模型】；

第7章、【支持向量机】；第8章、【提升方法（比如AdaBoost）】；第9章、【EM算法】及其推广；

第10章、【隐马尔可夫模型】；第11章、【条件随机场（比如概率无向图模型）】；第12章、统计学习方法【总结】；

 

1、第1章、统计学习方法【概论】；第2章、【感知机】；第3章、【k近邻法】？

第1章、统计学习方法【概论】：泛化、模型选择、过拟合等基本概念

第2章、【感知机】：就是感知机，感知机【学习策略、学习算法】等

第3章、【k近邻法】：就是【k近邻算法、模型、实例（kd树）】

 

2、第4章、【朴素贝叶斯法】；第5章、【决策树】；第6章、【逻辑斯谛回归】与【最大熵模型】？

第4章、【朴素贝叶斯法】：朴素贝叶斯法的【学习与分类】、朴素贝叶斯法的【参数估计】

第5章、【决策树】：就是【特征选择、ID3、C4.5、CART、剪枝等】

第6章、【逻辑斯谛回归】与【最大熵模型】：就是逻辑斯谛回归与最大熵模型

 

3、第7章、【支持向量机】；第8章、【提升方法（比如AdaBoost）】；第9章、【EM算法】及其推广？

第7章、【支持向量机】：线性可分支持向量机与【硬间隔最大化】、线性支持向量机与【软间隔最大化】、非线性支持向量机与【核函数】、序列最小最优化算法

第8章、【提升方法（比如AdaBoost）】：提升方法 【Adaboost】算法、【提升树】

第9章、【EM算法】及其推广：EM算法在高斯混合模型学习中的应用、EM算法的推广（F函数的极大-极大算法，GEM算法）

 

4、第10章、【隐马尔可夫模型】；第11章、【条件随机场（比如概率无向图模型）】；第12章、统计学习方法【总结】？

第10章、【隐马尔可夫模型】：概率计算算法、学习算法（比如Baum-Welch算法）、预测算法（近似算法、维特比算法）

第11章、【条件随机场（比如概率无向图模型）】：概率无向图模型、条件随机场的定义与形式

第12章、统计学习方法【总结】；

 

5、统计学习方法 附录？

附录A、【梯度下降法】

附录B、【牛顿法和拟牛顿法】

附录C、【拉格朗日对偶性】

 

 

 

二、内容在总结中

博客对应课程的视频位置：