摘要: 一.SMO算法的原理SMO算法和以往的一些SVM改进算法一样,是把整个二次规划问题分解为很多较易处理的小问题,所不同的是,只有SMO算法把问题分解到可能达到的最小规模:每次优化只处理两个样本的优化问题,并且用解析的方法进行处理。我们将会看到,这种与众不同的方法带来了一系列不可比拟的优势。对SVM来说,一次至少要同时对两个样本进行优化(就是优化它们对应的Lagrange乘子),这是因为等式约束的存在使得我们不可能单独优化一个变量。所谓“最小优化”的最大好处就是使得我们可以用解析的方法求解每一个最小规模的优化问题,从而完全避免了迭代算法。当然,这样一次“最小优化”不可能保证其结果就是所优化的Lag 阅读全文
posted @ 2013-03-28 20:27 MechineLearner 阅读(3124) 评论(0) 推荐(0) 编辑
摘要: 传统的一维PCA和LDA方法是在图像识别的时候基于图像向量,在这些人脸识别技术中,2D的人脸图像矩阵必须先转化为1D的图像向量,然后进行PCA或者LDA分析。缺点是相当明显的: 一、转化为一维之后,维数过大,计算量变大。 二、主成分分析的训练是非监督的,即PCA无法利用训练样本的类别信息。 三、识别率不是很高。本文介绍的是2DPCA,2DPCA顾名思义是利用图像的二维信息。 2DPCA算法简介 设X表示n维列向量,将mxn的图像矩阵A通过如下的线性变化直接投影到X上: 得到一个m维的列向量Y,X为投影轴,Y称为图像A的投影向量。最佳投影轴X可以根据特征相怜Y的散度... 阅读全文
posted @ 2013-03-28 19:28 MechineLearner 阅读(4550) 评论(1) 推荐(1) 编辑