JiePro

静坐 常思己过 闲谈 莫论人非

导航

2013年11月3日 #

【聚类算法】谱聚类(Spectral Clustering)

摘要: 目录:1、问题描述2、问题转化3、划分准则4、总结1、问题描述 谱聚类(Spectral Clustering, SC)是一种基于图论的聚类方法——将带权无向图划分为两个或两个以上的最优子图(sub-Graph),使子图内部尽量相似,而子图间距离尽量距离较远,以达到常见的聚类的目的。 对于图的相关定义如下:对于无向图G = (V,E),V表示顶点集合,即样本集合,即一个顶点为一个样本;E表示边集合。设样本数为n,即顶点数为n。权重矩阵:W,为n*n的矩阵,其值wi,j为各边的权值,表示顶点 i,j(样本)之间的相似性。对于任意wi,j =wj,i,wi,i=0,即对角线上元素为0。通常情况.. 阅读全文

posted @ 2013-11-03 12:25 JiePro 阅读(7633) 评论(0) 推荐(1) 编辑

2013年10月27日 #

图染色问题

摘要: 目录:1、问题描述2、Simple Local Search3、TabuSearch4、Hybrid Evolutionary Algorithm5、总结【注】本文源码仅供参考。1、问题描述 给定一个无向图G = (V,E),其中V为顶点集合,E为边集合,图染色/图着色问题(graph coloring problem, GCP)是将每个顶点涂上颜色,使得每个相邻的顶点着不同的颜色,求出最少使用的颜色数K。 直接求取最小的颜色数K,是一个NP-hard问题。将问题转化,对应于一个颜色数K,是否存在某种着色方案,使相邻两个节点颜色不同,是一个NP-complete问题,然后将逐渐的减小K。这.. 阅读全文

posted @ 2013-10-27 20:52 JiePro 阅读(9579) 评论(3) 推荐(1) 编辑

局部搜索算法

摘要: 目录:1、数学定义2、过程描述3、算法简介4、总结1、数学定义 局部搜索是解决最优化问题的一种启发式算法。对于某些计算起来非常复杂的最优化问题,比如各种NP完全问题,要找到最优解需要的时间随问题规模呈指数增长,因此诞生了各种启发式算法来退而求其次寻找次优解,是一种近似算法(Approximate algorithms),以时间换精度的思想。局部搜索就是其中的一种方法。 对于组合问题,给出如下定义:其中,S为搜索空间(解空间),其中的每一元素都是问题一个可能解。解决组合问题,即是找到一个s* ∈ S,使得目标函数f值最小。s*称为全局最优解。 对于邻域动作定义如下:邻域动作是一个函数,通过... 阅读全文

posted @ 2013-10-27 11:45 JiePro 阅读(28032) 评论(1) 推荐(9) 编辑

2013年10月25日 #

Logistic回归

摘要: 目录:1、数学模型2、求解3、总结1、数学模型 Logistic(逻辑斯特)回归的目的是从样本(训练集)中学习出一个0-1分类模型。 定义一个概率函数,即logistic函数(或叫sigmoid function),形式如下:可以看出,g(z)范围为(0,1),即g(z)可以将无限宽的范围(即自变量的取值范围)映射到(0,1),其图形如下:则将假设函数(hypothesis)设为:而假设函数的值,即为y = 1的概率,即:当我们要判别一个新数据的特征属于哪个类时,只需求假设函数的值,若大于0.5,就是 y = 1 类,反之,则属于 y = 0 类。以下用更通用的函数表达上面两个式子:上式与.. 阅读全文

posted @ 2013-10-25 11:19 JiePro 阅读(1207) 评论(0) 推荐(0) 编辑

2013年9月4日 #

SIFT算法:特征描述子

摘要: SIFT算法:DoG尺度空间生产SIFT算法:KeyPoint找寻、定位与优化SIFT算法:确定特征点方向SIFT算法:特征描述子目录:1、确定描述子采样区域2、生成描述子 2.1 旋转图像至主方向 2.2 生成特征向量3、归一化特征向量附:SIFT开源代码集1确定描述子采样区域 SIFI 描述子h(x, y, θ)是对特征点附近邻域内高斯图像梯度统计结果的一种表示,它是一个三维的阵列,但通常将它表示成一个矢量。矢量是通过对三维阵列按一定规律进行排列得到的。特征描述子与特征点所在的尺度有关,因此,对梯度的求取应在特征点对应的高斯图像上进行。将特征点附近邻域划分成Bp X Bp个子区域,每... 阅读全文

posted @ 2013-09-04 21:18 JiePro 阅读(20319) 评论(0) 推荐(3) 编辑

2013年9月3日 #

SIFT算法:确定特征点方向

摘要: SIFT算法:DoG尺度空间生产SIFT算法:KeyPoint找寻、定位与优化SIFT算法:确定特征点方向SIFT算法:特征描述子目录:1、计算邻域梯度方向和幅值2、计算梯度方向直方图3、确定特征点方向1 计算邻域梯度方向和幅值 为了实现图像旋转的不变性,需要根据检测到的特征点的局部图像结构求得一个方向基准。我们使用图像梯度的方法求取该局部结构的稳定方向。对于己经检测到特征点,我们知道该特征点的尺度值σ,因此根据这一尺度值,在GSS中得到最接近这一尺度值的高斯图像。然后使用有限差分,计算以特征点为中心,以3X1.5σ为半径的区域内图像梯度的幅角和幅值,如下图所示。幅角和幅值计算公式加下:2 . 阅读全文

posted @ 2013-09-03 21:27 JiePro 阅读(8526) 评论(1) 推荐(3) 编辑

SIFT算法:KeyPoint找寻、定位与优化

摘要: SIFT算法:DoG尺度空间生产SIFT算法:KeyPoint找寻、定位与优化SIFT算法:确定特征点方向SIFT算法:特征描述子目录:1、找寻2、定位3、优化1 KeyPoint找寻 极值的检测是在DoG空间进行的,检测是以前点为中心,3pixel*3pixel*3pixel的立方体为邻域,判断当前点是否为局部最大或最小。如下图所示,橘黄色为当前检测点,绿色点为其邻域。因为要比较当前点的上下层图像,所以极值检测从DoG每层的第2幅图像开始,终止于每层的倒数第2幅图像(第1幅没有下层,最后1幅没有上层,无法比较)。2 KeyPoint定位 以上极值点的搜索时在离散空间中进行的,检测到的极值.. 阅读全文

posted @ 2013-09-03 14:46 JiePro 阅读(5433) 评论(1) 推荐(1) 编辑

2013年9月1日 #

SIFT算法:DoG尺度空间生产

摘要: SIFT算法:DoG尺度空间生产SIFT算法:KeyPoint找寻、定位与优化SIFT算法:确定特征点方向SIFT算法:特征描述子目录:1、高斯尺度空间(GSS - Gauss Scale Space)2、高斯差分(DOG - Difference of Gauss) 2.1 生产DoG 2.2 为什么用DoG来检测特征点3、GSS尺度选择 3.1 GSS中尺度值的产生 3.2 高斯核性质及其在SIFT中的应用1 GSS(Gauss Scale-space) It has been shown by Koenderink (1984) and Lindeberg (1994) tha... 阅读全文

posted @ 2013-09-01 21:47 JiePro 阅读(11235) 评论(0) 推荐(3) 编辑

2013年8月26日 #

局部加权线性回归

摘要: 目录:1、简述2、数学表达3、总结1、简述 线性回归是一种parametric learning algorithm,而局部加权线性回归是一种 non-parametric learning algorithm。Parametric learning algorithm 有固定的(指的是:值的大小是固定)、有限的参数,通过训练样本,找到合适的参数后,对于之后未知的输入,我们可以直接利用这组参数得出其相应的预测输出。而non-parametriclearning algorithm 需要的计算量与输入的训练集大小成正比,对于每次新的输入,需重新计算相应参数后,才能求取相应的预测输出。 “局部.. 阅读全文

posted @ 2013-08-26 14:59 JiePro 阅读(3002) 评论(2) 推荐(0) 编辑

2013年8月23日 #

线性回归:梯度下降

摘要: 目录:1、什么是线性回归 1.1 理论模型 1.2 数据和估计2、线性回归参数求解方法 2.1 直接求取参数 2.2 梯度下降法 2.3 随机梯度下降法3、为什么选择最小二乘为评判标准 3.1 似然函数 3.2 求解极大似然函数 3.3 结论1、什么是线性回归 线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单回归,大于一个自变量情况的叫做多元回归。1.1 理论模型 给一个随机样本,一个线性回归模型假设回... 阅读全文

posted @ 2013-08-23 17:51 JiePro 阅读(2419) 评论(0) 推荐(0) 编辑