聚类分析

合集 - 数学建模算法(27)

1.整数规划2024-07-072.非线性规划2024-10-113.非线性规划之飞行管理问题2024-10-114.遗传算法与直接搜索2024-10-115.图论基础：最小路径问题2024-07-076.网络最大流量问题2024-07-077.最小费用最大流问题2024-07-058.旅行商（TSP）问题2024-07-059.微分方程模型2024-07-0910.数据预处理2024-10-1111.插值方法2024-07-0612.拟合算法2024-07-0813.数据初始化2024-10-1114.层次分析法2024-07-1315.模糊综合评价2024-07-1416.CRITIC指标客观赋权方法2024-10-1117.Topsis评价法2024-10-1118.熵权法2024-10-1119.灰色关联度分析2024-10-11

20.聚类分析2024-10-11

21.主成分分析2024-10-1122.因子分析2024-10-1123.判别分析2024-10-1124.典型相关分析2024-10-1125.对应分析2024-10-1126.多维标度法2024-10-1127.亮度变化与空间滤波2024-10-11

收起

聚类分为两种：对样品分类，Q型；对变量（指标）分类，R类。

Q型

样品空间的相似度——距离

常见的距离描述方法：

1. 欧几里得距离：

   MATLAB自带函数计算

d = pdist(x)%每个行向量代表一个坐标

1. 绝对距离：$d(x_i,y_i)=\sum _{k=1}^p|x_{ik}-x_{jk}|$

   d = pdist(x,'cityblock')%也叫曼哈顿距离
   

2. 闵可夫斯基距离：$d(x_i,y_i)=[\sum _{k=1}^p|x_{ik}-x_{jk}{|}^m{]}^{\frac{1}{m}}$

   d = pdist(x,'minkowski',r)%r表示指数
   

3. 切比雪夫距离：$d(x_i,x_j)=\underset{a\le k\le p}{max}|x_{ik}-x_{jk}|$

   d = max(abs(xi-xj))
   

4. 马氏距离$d(x_i,y_i)=\sqrt{(x_i-x_j{)}^T\sum ^{-1}(x_i-x_j)}$ 其中$\sum ^{-1}$指x和y的协方差矩阵的逆矩阵

   d = pdist(x,mahal)
   

S2=tril(suqareform(d)) %将数据转化为三角阵形式，更直观。

样品相似性度数

1. 最短距离法： 以两类中距离最近的两点确定
2. 最长距离法：以两类中距离最远的两点确定
3. 重心法:以两类的重心确定
4. 类平均法：以两类的样本点距离的平均确定
5. 离差平方和法 $$\begin{gathered} D=\sum _{x_k\in G_1\cup G_2}(x_k-\overline{x}{)}^T(x_k-\overline{x})- \\ \sum _{x_k\in G_1}(x_k-{\overline{x}}_1{)}^T(x_k-{\overline{x}}_1)-\sum _{x_k\in G_2}(x_k-{\overline{x}}_2{)}^T(x_k-{\overline{x}}_2) \end{gathered}$$

R型

变量相似性度数

1. 夹角余弦计算

   空间中两个列向量计算夹角余弦值 $r_{jk}=cos{\alpha }_{ij}={\displaystyle \frac{\sum _{t=1}^n{x}_{ti}{x}_{tj}}{\sqrt{\sum _{t=1}^n{x}_{ti}^2}\sqrt{\sum _{t=1}^n{x}_{tj}^2}}}$

2.相关系数

$r_{jk}={\displaystyle \frac{\sum _{i=1}^n(x_i-\overline{x})(y_i-\overline{y})}{\sqrt{\sum _{i=1}^n(x_i-\overline{x}{)}^2}\sqrt{\sum _{i=1}^n(y_i-\overline{y}{)}^2}}}$

变量聚类法

1. 最长距离法 : $d_{jk}^2=1-r_{jk}^2$ , 取最大$d_{jk}$
2. 最短距离法 : 同理，取最小$d_{jk}$.

Q，R型的区别

Q型是样品聚类，得到的参数是各个样品（向量）间的

R是变量聚类，得到的参数是各个元素（指标）间的

详见《数学建模算法与应用》第二版

P226

例题10.1.3

matlab函数

Y = linkage(X,'method')%以不同的方法生成聚类树,默认最短距离

T = cluster(Y,'maxclust',r)%创建聚类， 将对象分为r类