fisher线性判别分析

已知2类，需要将其分离开

需要找到一个投影方向向量ω，将所有点投影上去，在线性的空间对2类问题分类

y(i)=ω(T)*x(i),其中y为投影上的线性长度，x为样本（向量）

 

类均值向量(是一个向量)

m(i)=1/N(i)∑x(j)   （i=1,2 既是第1,2类）

类均值(是一个数)

m(i)=1/N(i)∑y(j)

 

类内离散度矩阵S(i)

对应类向量减去类均值向量得到的向量与其转置的乘积

类内离散度

∑类元素减去类均值的平方后(类似平方差)

 

总类内离散度矩阵S(w)

两类类内离散度矩阵之和

总类内离散度

两类类内离散度之和(类似总类内离散度矩阵求法)

 

类间离散度矩阵S(b)

两类类均值向量之差向量和其转置的乘积

两类类均值之差的平方

 

目标是将两类尽可能分开，所以需要类内离散度小而类间离散度大