随笔分类 - 数学Mathematics
摘要：关于MP、OMP的相关算法与收敛证明，可以参考：http://www.cnblogs.com/AndyJee/p/5047174.html，这里仅简单陈述算法流程及二者的不同之处。主要内容：MP的算法流程及其MATLAB实现OMP的算法流程以及MATLAB实现MP与OMP的区别施密特正交化与OMP的...
阅读全文
摘要：主要内容： 矩阵的逆、伪逆、左右逆 矩阵的左逆与最小二乘 左右逆与投影矩阵 一、矩阵的逆、伪逆、左右逆 1、矩阵的逆 定义： 设A是数域上的一个n阶方阵，若在相同数域上存在另一个n阶矩阵B，使得： AB=BA=I。 则我们称B是A的逆矩阵，而A则被称为可逆矩阵。 可逆条件： A是可逆矩阵的充分必要条件是，即可逆矩阵就是非奇异矩阵。（当 时，A称为奇异矩阵） 性质： 矩阵A可逆的充要条件是A的行列式...
阅读全文
摘要：主要内容：什么是最小二乘 最小二乘的几何意义 正交投影矩阵 什么是最小二乘？假设我们手上有n组成对的数据，{(xi,yi):i=1…n}，为了探究y变量与x变量的关系，我们希望用一个多项式来匹配它，可是多项式中的系数怎么确定呢？拿来拼凑肯定是不行的，最小二乘法告诉我们，这个多项式的系数应该让每个点的...
阅读全文
摘要：我们知道压缩感知主要有三个东西：信号的稀疏性，测量矩阵的设计，重建算法的设计。那么，在重建算法中，如何对问题建立数学模型并求解，这就涉及到了最优化或凸优化的相关知识。在压缩感知中，大部分情况下都转换为凸优化问题，并通过最优化方法来求解，因此了解相关知识就显得尤为重要了。主要内容：问题引出 凸集 凸函...
阅读全文
摘要：概念定义：P问题：能在多项式时间内解决的问题；NP问题：（Nondeterministic Polynomial time Problem）不能在多项式时间内解决或不确定能不能在多项式时间内解决，但能在多项式时间内验证的问题；NPC问题：（NP Complete）NP完全问题，所有NP问题在多项式时...
阅读全文
摘要：问题：压缩感知中算法会通过L0，L1范数建立的数学模型得到一个稀疏解，那么为什么L0，L1范数会导致一个稀疏解呢？分析与解释：1、范数常见的有L0范数、L1范数、L2范数，经常要将L0范数等价为L1范数去求解，因为L1范数求解是一个凸优化问题，而L0范数求解是一个NP难问题。（关于NP问题：参考阅读...
阅读全文
摘要：主要内容：OMP算法介绍 OMP的MATLAB实现OMP中的数学知识一、OMP算法介绍来源：http://blog.csdn.net/scucj/article/details/7467955 1、信号的稀疏表示(sparse representation of signals)给定一个过完备字典矩...
阅读全文
摘要：主要内容：1、傅里叶分析2、香农采样定理一、傅里叶变换参考：傅里叶分析之掐死教程http://zhuanlan.zhihu.com/wille/19763358二、香农采样定理香农采样定理说，只要采样频率大于被采样信号最高频率的两倍，就能完全恢复。链接：http://www.zhihu.com/qu...
阅读全文
摘要：题目：一架飞机载满油可绕地球飞行半圈，飞机与飞机之间可以相互加油，若全球只有一个基地，每架起飞的飞机都必须回到基地（直接返回或绕一圈返回），问至少要起落几架次飞机，才能保证至少有一架飞机安全绕地球飞行一圈，并写出空中加油方案？思路：答案：4架飞机 6架飞机的油有两种方法，假设四架飞机分别为ABCD，...
阅读全文
摘要：题目： 波斯公主到了适婚年龄，要选驸马。候选男子100名，都是公主没有见过的。百人以随机顺序，从公主面前逐一经过。每当一位男子在公主面前经过时，公主要么选他为驸马，要么不选。如果选他，其余那些还没有登场的男子就都遣散回家，选驸马的活动也结束了。如果不选，当下这名男子就离开，也就是 pass 掉此人...
阅读全文
摘要：题目：现在有10000个电灯，假设有10000个人经过这些电灯，当第1个人经过时，拉一下所有的灯，当第2个人经过时，拉一下所有2的倍数的灯，就这样，当第i个人经过时，就拉一下所有i的倍数的灯。假设所有灯的初始状态都是灭，那么当10000个人经过之后，还有多少灯是亮着的？思路：我们以10个灯泡，10个...
阅读全文
摘要：主要内容： 1、QR分解定义 2、QR分解求法 3、QR分解与最小二乘 4、Matlab实现 一、QR分解 R分解法是三种将矩阵分解的方式之一。这种方式，把矩阵分解成一个正交矩阵与一个上三角矩阵的积。 QR 分解经常用来解线性最小二乘法问题。QR 分解也是特定特征值算法即QR算法的基础。 定义： 实数矩阵 A 的 QR 分解是把 A 分解为Q、...
阅读全文
摘要：矩阵的特征值之和等于矩阵的行列式 矩阵的特征值之积等于矩阵的迹 简单的理解证明如下： 1、二次方程的韦达定理： 请思考：x^2+bx+c=0 这个方程的所有根的和等于多少、所有根的积等于多少 2、把二次方程推广到 N 次： 对一个一元n次方程，它的根记作 那么接下来可以类似地来思考：(x-x1)(x-x2)(x-x3)...(x-n_N...
阅读全文
摘要：1、协方差矩阵 协方差是衡量两个随机变量（同一样本，不同分量）的相关程度。（方差描述的是一维变量） 随机变量 之间的协方差可以表示为 根据已知的样本值可以得到协方差的估计值如下（列向量相关）： 可以进一步地简化为： 协方差矩阵： 说明： （1）协方差矩阵中的每一个元素是表示的随机向量...
阅读全文
摘要：三、行列式的几何意义：行列式的定义：行列式是由一些数据排列成的方阵经过规定的计算方法而得到的一个数。当然，如果行列式中含有未知数，那么行列式就是一个多项式。它本质上代表一个数值，这点请与矩阵区别开来。矩阵只是一个数表，行列式还要对这个数表按照规则进一步计算,最终得到一个实数、复数或者多项式。一阶行列式（注意不是绝对值）二阶行列式 三阶行列式 N阶行列式 行列式的几何意义是什么呢？概括说来有两个解释...
阅读全文
摘要：二、向量的基本几何意义自由向量： 大小和方向（物理：矢量）向量的数学表示： 把空间中所有的向量的尾部都拉到坐标原点，这样N维点空间可以与N维向量空间建立一一对应关系：N维点空间中点(0，0，0…0)取作原点，那么每一个点都可以让一个向量和它对应，这个向量就是从坐标原点出发到这个点为止的向量。向量加法的几何意义： 平行四边形法则、三角形法则向量加法的物理意义： 船过河问题：船头的位移（马达动力）、流水影响的位移（水速）、真正的位移向量内积： 向量a和b的长度之积再乘以它们之间的夹角的余弦；向量a和b的坐标分量分别对应乘积的和。向量内积的几何和物理意义： 向量内积的几何解释就是一个向量在另一个向量
阅读全文
摘要：一、什么是线性代数线性与非线性：非线性问题则可以在一定基础上转化为线性问题求解线性空间：对所谓的要满足"加法"和"数乘"等八条公理的元素的集合线性函数：几何意义：过原点的直线、平面、超平面代数意义：可加性、比例性可加性（线性的可加性既是没有互相激励的累加，也是没有互相内耗的累加）比例性（比例性又名齐次性说明没有初始值，比如电路，没有输入信号时输出也为零，有几倍的输入量刚好就有几倍的输出量，增量是倍...
阅读全文