fuleying - 博客园

2015年5月1日

摘要： 1. 数据预处理阶段，判定冗余数据用到的相关性分析、协方差分析（统计分析）：2. 关联规则中的支持度、置信度、相关性分析（概率分析）：阅读全文

posted @ 2015-05-01 21:55 fuleying 阅读(517) 评论(0) 推荐(0) 编辑

2015年4月29日

摘要：特征值分解和奇异值分解在机器学习领域都是属于满地可见的方法。两者有着很紧密的关系，我在接下来会谈到，特征值分解和奇异值分解的目的都是一样，就是提取出一个矩阵最重要的特征。1.特征值：如果说一个向量v是方阵A的特征向量，将一定可以表示成下面的形式：写成矩阵形式：这时候λ就被称为特征向量v对应的特征... 阅读全文

posted @ 2015-04-29 16:24 fuleying 阅读(37858) 评论(2) 推荐(7) 编辑

线性判别分析（LDA）, 主成分分析(PCA)及其推导【转】

摘要：前言：如果学习分类算法，最好从线性的入手，线性分类器最简单的就是LDA，它可以看做是简化版的SVM，如果想理解SVM这种分类器，那理解LDA就是很有必要的了。谈到LDA，就不得不谈谈PCA，PCA是一个和LDA非常相关的算法，从推导、求解、到算法最终的结果，都有着相当的相似。本次的内容主要是以推... 阅读全文

posted @ 2015-04-29 15:10 fuleying 阅读(1702) 评论(0) 推荐(0) 编辑

核、值域、向量空间、行空间、零空间

摘要： 1、核所有经过变换矩阵后变成了零向量的向量组成的集合，通常用Ker(A)来表示。假设你是一个向量，有一个矩阵要来变换你，如果你不幸落入了这个矩阵的核里面，那么很遗憾转换后你就变成了虚无的零。特别指出的是，核实“变换”（Transform）中的概念，矩阵变换中有一个相似的概念叫“零空间”。有的材料在谈... 阅读全文

posted @ 2015-04-29 09:33 fuleying 阅读(21994) 评论(0) 推荐(2) 编辑

十张图解释机器学习的基本概念【转】

摘要：在解释机器学习的基本概念的时候，我发现自己总是回到有限的几幅图中。以下是我认为最有启发性的条目列表。1. Test and training error:为什么低训练误差并不总是一件好的事情呢：ESL图2.11.以模型复杂度为变量的测试及训练错误函数。2. Under and overfitting... 阅读全文

posted @ 2015-04-29 08:56 fuleying 阅读(428) 评论(0) 推荐(0) 编辑

2015年4月28日

均值、方差、协方差、协方差矩阵、特征值、特征向量

摘要：均值：描述的是样本集合的中间点。方差：描述的是样本集合的各个样本点到均值的距离之平均，一般是用来描述一维数据的。协方差：是一种用来度量两个随机变量关系的统计量。只能处理二维问题。计算协方差需要计算均值。如下式：方差与协方差的关系方差是用来度量单个变量 “ 自身变异”大小的总体参数，方差越大表明该变量... 阅读全文

posted @ 2015-04-28 13:58 fuleying 阅读(11703) 评论(0) 推荐(2) 编辑

2015年4月26日

主成分分析（principal components analysis, PCA）——无监督学习

摘要：降维的两种方式:(1)特征选择(feature selection)，通过变量选择来缩减维数。（2）特征提取（feature extraction）,通过线性或非线性变换（投影）来生成缩减集（复合变量）。主成分分析（PCA）：降维。将多个变量通过线性变换（线性相加）以选出较少个数重要变量。力求信息损... 阅读全文

posted @ 2015-04-26 21:33 fuleying 阅读(11757) 评论(3) 推荐(0) 编辑

模式识别知识结构

摘要：阅读全文

posted @ 2015-04-26 14:39 fuleying 阅读(338) 评论(0) 推荐(0) 编辑

2015年4月25日

C与C++存储空间布局

摘要：每个程序一启动都有一个大小为4GB的内存，这个内存叫虚拟内存，是概念上的，真正能用到的，只是很小一部分，一般也就是在几百K到几百M。我们PC中内存，我们称之为物理内存，也就是256M，512M等，虚拟内存和物理内存的如何转换是由操作系统完成的，我们不需要管它。我们只需要管好我们自己程序的那4GB... 阅读全文

posted @ 2015-04-25 17:56 fuleying 阅读(1700) 评论(0) 推荐(0) 编辑

类成员指针——偏移量

摘要：成员指针只是记录一个成员的偏移量，而非地址，因为类中没有地址，选择一个类的成员只是意味着在类中偏移，只有把这个偏移和具体对象的首地址结合，才能得到实际地址。成员指针并不指向一个具体的内存位置，它指向的是一个类的特定成员，而不是指向一个特定对象的特定成员，最直接的理解是将其理解为一个偏移量。这... 阅读全文

posted @ 2015-04-25 10:33 fuleying 阅读(1908) 评论(0) 推荐(0) 编辑