2014年3月1日

机器学习十大算法 之 kNN(一)

摘要: # 机器学习十大算法 之 kNN(一)> 最近在学习机器学习领域的十大经典算法,先从kNN开始吧。* * *### 简介kNN是一种有监督学习方法,它的思想很简单,对于一个未分类的样本来说,通过距离它最近的k个“邻居”,来判断这个样本的类别。kNN也是一种lazy learning(不知道中文是啥)技术,训练代价小、分类代价大。算法的要点有四个:1. 训练集2. k的取值3. 距离的衡量方式4. 决定未知样本类别的方式尽管kNN理解和实现起来都很简单,但是在某些应用上仍然有较好的表现。Cover和Hart指出,在一些合理的假设下,kNN的分类误差的上界是贝叶斯分类器误差的两倍,并且kNN 阅读全文

posted @ 2014-03-01 17:58 maxwelldu 阅读(569) 评论(0) 推荐(0) 编辑

导航