摘要：
结合之前的部落格：http://www.cnblogs.com/naonaoling/p/4173631.html 一、什么是决策树？ 决策树是一种基本的分类和回归算法。 决策树模型呈树形结构，可以认为是if then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。 决策树模型由结点 阅读全文
摘要：
结合之前的部落格：http://www.cnblogs.com/naonaoling/p/4174494.html 一、什么是朴素贝叶斯？ 朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类方法。 对于给定的数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x 阅读全文
摘要：
一、什么是K近邻？ K近邻是一种基本的分类和回归方法。 在分类时，对新的实例，根据其K个最近邻的训练实例的类别，通过多数表决权等方式预测其类别。 通俗的讲，找K个和其关系最近的邻居，哪个类别的邻居多，就把它划分到哪一类 特性： （1）多分类 （2）判别模型 （3）三个基本要素：K值选择、距离度量、分 阅读全文
摘要：
一、什么是感知机？ 感知机是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和 1二值。 特性： （1）二分类 （2）线性分类模型 （3）判别模型模型 （4）假设空间：定义在特征空间（有时可以理解为输入空间）中的所有线性分类模型或线性分类器，即函数集合{f|f(x)=w·x+ 阅读全文
摘要：
对统计学习方法中的基础概念和理论做一个总结。逐步更新。 内容摘自《统计学习方法》第一章，第一章内容基本全是重要内容，因此此篇部落格算是一个加入了自己理解思路的读书笔记。 一、统计学习方法包含哪几种？ 监督学习：用于学习的数据集都是输入\输出数据对（有标记的样本），学习的任务是找到输入与输出的对应规则 阅读全文