记-机器学习-KNN算法
1、KNN算法
① KNN算法原理:
K临近(K-nearst neighbors) 是一种基本的机器学习算法,所谓的k临近,就是k个最近的邻居的意思,说的是每个样本都可以用它最接近的k个邻居来代表。KNN算法即可以应用分类应用中,也可以应用在回归应用中
KNN在做回归和分类的主要区别在于最后做预测的时候的决策方式不同。KNN在分类预测时,一般采用多数表决法;而在做回归预测时,一般采用平均值法
2、KNN的三要素
① K值的选择:对于k值的选择,一般根据样本分布选择一个较小的值,然后通过交叉验证来选择一个比较合适的最终值;当选择比较小的K值的时候,表示使用较小领域中的样本进行预测,训练误差会减小,但是会导致模型变得复杂,容易过拟合,当选择较大的K值的时候,表示使用比较大领域中的样本进行预测,训练误差会增大,同时会使模型变得简单,容易导致欠拟合
② 距离的度量:一般使用欧式距离(欧几里德距离)
③ 决策规则:在分类模型中,只要使用多数表决法或者加权多数表决法;在回归模型中,主要使用平均值法或者加权平均值法
3、KNN分类预测规则
① 多数表决法
② 加权多数表决法
③ 平均值法
④ 加权平均值法
4、KNN算法实现方式
① 蛮力实现(brute):计算预测样本到所有训练集样本的距离,然后选择最小的k个距离即可得到k个最临近点。缺点在于当特征数比较多、样本数比较多的时候,算法执行效率比较低
② KD数(kd_tree):KD树算法中,首先是对训练数据进行建模,构建KD树,然后再根据建好的模型来获取临近样本数据
5、KD树
① KD Tree构建方式:
KD树采用从m个样本的n维特征中,分别计算n个特征值的方差,用方差最大的第k维特征n(k)作为根节点。对于这个特征,选择取值的中位数n(kv)作为样本的划分点,对于小于该值的样本划分到左子树,对于大于等于该值的样本划分到右子树,对左右子树采用同样的方式找方差最大的特征作为根节点,递归产生KD树
6、KD tree查找最临近
当我们生成KD树后,就可以去预测测试集里面的样本目标点了,对于一个目标点,我们首先在KD树里面找到包含目标点的叶子节点。以目标点位圆心,以目标点到叶子节点样本实例的距离为半径,得到一个超球体,最临近的点一定在这个超球体内部,然后返回叶子节点的父节点,检查另一个子节点包含的超矩形体是否和超球体相交,如果相交就到这个子节点寻找是否有更加近的临近,有的话就更新最临近,如果不相交,我们直接返回父节点的父节点,在另一个子树继续搜索最临近,当回溯到根节点时,算法结束,此时保存的最临近节点就是最终的最近邻
7、KNN参数说明