文章分类 - ML
摘要:开始准备实习,准备把机器学习相关内容再熟悉一遍,一个学期没动,竟有些生疏了,以前把公式推导的溜溜的,现在好多细节都不清楚了。本博文主要介绍SVM的原理部分,对具体的公式不做推导,SVM这一部分公式太多了,懒得去写了。。一、SVM的含义 SVM(support vector machine)是一种二类...
阅读全文
摘要:这学期学习了机器学习这门课程,使用李航博士的《统计学习方法》这本书,最近要考试了,对学习内容作了简要总结。等考试结束再对每一部分进行详细介绍(但愿能说到做到)。由于上课只上了感知机,朴素贝叶斯,逻辑斯谛回归,SVM,adaboost,EM,HMM,因此只对这几部分做了总结。统计学习方法基本问题学习概...
阅读全文
摘要:可参考:http://www.zhihu.com/question/20822481相同1.本质相同:两种方法都是在给定已知数据(independent & dependent variables)的前提下对dependent variables算出出一个一般性的估值函数。然后对给定新数据的depe...
阅读全文
摘要:这是从github上看到的一个代码,原作者实现的方法可以实现多分类也可实现回归,我将代码做了下修改只实现二分类问题。基于思想就是AdaBoost算法,在这里主要介绍下如何实现弱分类器。两个数据:vector> samples;//原数据,每一行是一个样本vector>sortedSamplesSli...
阅读全文
摘要:从libsvm官网上下了svdd工具箱,没想到安装过程耗费了我一天的时间,搜索论坛也毫无结果,出现类似的问题,终于在liqi3837671的博客看到了问题的解决方法,写下来,让同学们少走些弯路吧。(该方法请在libsvm3.1版本上安装,高版本libsvm按照此方法安装由于文件更新问题会失败)1、下...
阅读全文
摘要:one class svm:http://rvlasveld.github.io/blog/2013/07/12/introduction-to-one-class-support-vector-machines/svm parameter:http://blog.csdn.net/lqhbupt/...
阅读全文
摘要:以前由于图片数量的限制,我们一般对图片做detection,然而随着网络的快速发展,图片的数量也快速增长,我们几乎可以拥有所有图片,因此detection问题转化为matching问题。然而如何在这大量图片中实现匹配呢?解决该问题关键在于怎样对图片进行有效降维,即用更少的空间代表图片,一般我们用二值化的向量来表示。这样不仅可以减少存储空间,并且可以提高匹配速度。更重要的是相似的图片具有相同的编码,因此大大地减少了搜索空间。现有的方法包含以下几种:1、Local Sensitive Hashing(LSH):使用多个hash function,将每个hash function值量化为few bi
阅读全文
摘要:前几天听一个教授来做报告,提到了一个巨NB的算法GP,说是这个算法能自动提取特征,并且提取的特征的表现力竟比我们手动设计的特征如:SIFT,SURF,BRIEF等的效果好很多。最重要的是GP不需要对原始数据进行处理。这下我就不淡定了,我的研究方向刚确定啊,就是研究局部特征表示啊,这样一来我的研究方向岂不是没有出路啦。所以赶紧找资料研究一下,所谓知已知彼嘛。现在对GP算法只是一个大概的了解,还有一段很长的路要走。GeneticProgramming(GP)总的来说GP与遗传算法很像,首先随机生成N个种子,然后通过杂交、变异生成子树,只不过这里的种子是PrgrammingTree(PT)。这里生成
阅读全文