K-means聚类算法
K-means聚类算法(K-平均/K-均值算法)是最为经典也是使用最为广泛的一种基于距离的聚类算法。基于距离的聚类算法是指采用距离作为相似性量度的评价指标,也就是说当两个对象离得近时,两者之间的距离比较小,那么它们之间的相似性就比较大。
算法的主要思想是通过迭代过程把数据集划分为不同的类别,使得评价聚类性能的准则函数达到最优,从而使生成的每个聚类(又称簇)紧凑且独立。
K-means聚类算法的缺点:对于离群点是敏感的,一个很大极端值的数据对象可能会显著地扭曲数据的分布。
常见的相似度/距离评价准则有:
-
欧几里得距离
其意义就是两个元素在欧氏空间中的集合距离,因为其直观易懂且可解释性强,被广泛用于标识两个标量元素的相异度。
-
曼哈顿距离
-
闵可夫斯基距离
聚类性能评价准则:
K-means聚类算法通常使用误差平方和准则函数(等同于欧几里得距离)来评价聚类性能。给定数据集X,其中只包含描述属性,不包含类别属性。假设X包含K个聚类子集X1,X2,…XK;各个聚类子集中的样本数量分别为n1,n2,…,nk;各个聚类子集的均值代表点(也称聚类中心)分别为m1,m2,…,mk。
-
误差平方和准则函数公式
K-means聚类算法实例
初始数据集,共5条记录,每条数据记录包含两个属性x和y。
作为一个聚类分析的二维样本,要求的簇的数量K=2。
学习参考:
https://www.cnblogs.com/leoo2sk/archive/2010/09/20/k-means.html#!comments示例计算有误,思路没问题。
https://www.toutiao.com/i6451161136644489742/加了对数据[0,1]规格化处理的环节,中心思想还是一样的。
https://blog.csdn.net/leaf_zizi/article/details/82684921文本聚类,可以做舆情信息汇总,分词软件rost cm6。
https://www.toutiao.com/i6452271711302713870/K-medoids聚类,K-means基础上的改良。对小数据集有效。