机器学习课程笔记

机器学习笔记

复习的知识

LBP——局部二值模式，依据图像局部特征，利用0,1两数值来反映图像的特征

1. 特性：
   灰度不变性，由于0，1二值的缘故，（原始LBP）
   旋转不变性：每个图像依据局部二值模式能够得出一个值，旋转8次能够得到8个值，每次都取8值中的最小值，(改进版LBP)
   

PCA主成分分析法：通过降维，来提取数据的主要特征分量的数据分析方法

• 涉及线性代数知识
  两向量的内积
  向量的维数：其含有分向量的个数
  eg:平面内的A=(x,y)则A是二维向量
  B=(x,y,z)则B是三维向量
  向量空间：向量的集合
  基：来描述向量空间的，是最基本的，空间的任意元素都可以用基向量来表示出来
  正交基：线性无关。eg：两向量a（x1,y1）,b(x2,y2)正交，则x1x2+y1y2=0
  基变换的矩阵表示
  在二维向量空间里，向量（3,2）在该组基向量A=（1/根号2,1/根号2），B=（-1/根号2，1/根号）的坐标是多少？
  (已知其中一向量模为1时，两向量的内积即为投影，即是对应基下的坐标)
  所以
  PCA方法步骤

1. 数据整合：将原始数据整合成矩阵X
2. 零均值化：求出矩阵X的每一行的平均值，然后每一行的数减去平均值
3. 协方差矩阵：求协方差矩阵C=1/m(XX转置）
4. 特征值，特征向量：求协方差矩阵的特征值和特征向量
5. 基向量矩阵P:将特征向量按特征值大小从上到下排列，组成矩阵，取前k行组成矩阵P
6. 最后数据Y:Y=PX即为降到k维后的数据

PCA的代码实现

---