分类和聚类（Machine Learning Algorithm）

分类：

分类（classification），对于一个分类员来说，通常需要你告诉它“这个东西被分为某某类”，理想情况下，一个分类员会从它得到的训练集何总进行“学习”，从而具备对未知数据进行分类的能力，这种提供训练数据的过程通常叫做supervised learning（监督学习）。

聚类：

聚类（clustering），简单的说就是把相似的东西分到一组，聚类的时候，我们并不关心某一类是什么，我们需要实现的目标只是把相似的东西聚到一起，因此，一个聚类算法通常只需要知道如何计算相似度就可以开始工作了（距离矩阵），因此clustering通常并不需要使用训练数据进行学习，这在Machine Learning中被称作unsupervised learning（无监督学习）。

常见的分类与聚类算法：

所谓分类，简单来说，就是根据文本的特征或属性，划分到已有的类别中。如在自然语言处理NLP中，我们经常提到的文本分类便是一个分类问题，一般的模式分类方法可用于文本分类研究。常用的分类算法包括：决策树分类法，朴素的贝叶斯分类算法（native bayesian classifier），基于支持向量机（SVM）的分类器，神经网络法，K-近邻法（k-nearest neighbor，kNN），模糊分类法等等。

分类法作为一种监督学习方法，要求必须事先明确知道各个类别的信息，并且断言所有待分类项都有一个类别与之对应。但是很多时候上述条件得不到满足，尤其是在处理海量数据的时候，如果通过预处理使得数据满足分类算法的要求，则代价非常大，这时候可以考虑使用聚类算法。

K均值（K-means clustering）聚类则是最典型的聚类算法。除此之外，还有诸多，属于划分法K-MEDOIDS算法、CLARANS算法；属于层次法的BIRCH算法、CURE算法、CHAMELEON算法等；基于密度的方法：DBSCAN算法、OPTICS算法、DENCLUE算法等；基于网格的方法：STING算法、CLIQUE算法、WAVE-CLUSTER算法。

机器学习发展到现在，一般分为监督学习（supervised learning）、半监督学习（semi-supervised learning）和无监督学习（unsupervised learning）三类。

上面介绍的分类算法属于监督学习，聚类则属于无监督学习。但是反过来说，监督学习属于分类算法则不准确，监督学习的关键在于给样本打上标签，然后进行相应的学习任务，如果学习任务是分类的话，那么就是分类，否则不是。很容易理解。

——————————————————————————————————————————————————————————

参考博客：

http://blog.csdn.net/v_july_v/article/details/7577684