压缩感知(二)
资源参考网络(博客和论文)!!!
压缩感知原理
传统数字信号采集Digital Data Acquisition:
传统的数字信号采样定律就是有名的香农采样定理,又称那奎斯特采样定律,定理内容如下:
为了不失真地恢复模拟信号,采样频率应该不小于模拟信号频谱中最高频率的2倍。
下图分别为在时域和空域上的数字化采集。
基于香农采用定理,我们来看看目前传统图像信号采集设备的采样过程:
1、按照Nyquist采样率进行均匀采样,得到可以无失真恢复模拟信号的数字信号;uniformly sample data at Nyquist rate (2x Fourier bandwidth)
信号存在冗余,即信号具有稀疏性:
2、上述步骤得到的数字信号的数据量比较大,一方面不利于存储和传输,另一方面该数字信号本来存在很多冗余,可以对其进一步的压缩,于是就通过各种编码方法对数据进行有效的压缩;
上面的采样过程的缺点:
相机的传感器通过将模拟信号(光)转换为数字信号(Nyquist定理采样),如N pixel的图像信号,之后又通过压缩编码算法将N pixel的图像信号转化为K个系数表示的数据,而K<<N,那么问题来了,为什么消耗大量资源获得了N个采样值,却最后又通过复杂的编码算法将之压缩成K个数值?
基于这个疑问,引出了压缩感知的概念。
压缩感知:
顾名思义,就是感知压缩,直接获取压缩后的数据。即在采集的时候,直接采集有效的M个测量值,而非满足Nyquist采样定理的N个采样值(M<<N)。
采集原理过程:
当信号是稀疏或可压缩的,我们可以以某个线性投影的方式来得到信号的压缩后表示condensed representation(采集过程:降维),得到的数据能够以无失真或较低失真地方式重建原始的数字信号(重建过程
y=Φx
y就是压缩后的信号表示
Φ表示采集的测量矩阵,可以是一个随机矩阵
x代表原始的数字信号
采集过程就是一个线性投影过程,如上面的公式所示。
下图形象地描述了这个过程,Φ的每一行代表一次测量,M行则可以得到M个测量值。
压缩感知的采集过程如下:
分析一下这种采集方式的有效性。
随机投影矩阵Φ并不是满秩的(M<N),因此 y=Φx 公式的左边两边并不是等价的过程,即已知y,不能直接求得x,是存在信息损失的。
但是,随机投影矩阵在很大概率上保留了稀疏信号的结构和信息,即得到测量值y之后,我们可以很大的概率来完美重建信号。
压缩感知理论公式:
了解了压缩感知的大致框架之后,从数学角度来考虑压缩感知这个问题。
y=Φx
从上面这个采集公式可以得出压缩感知的三个必要条件:
x:信号,满足稀疏性(在某个变换域内是稀疏的)
Φ:测量矩阵,满足一定的不相关性
已知y,如何得到x:恢复算法(最优化方法,后续介绍)
x信号:
测量:
压缩感知的特点:
通过利用信号稀疏性的先验知识,压缩感知采用了一种全新的数据采集方式。
稳定性:采集和重建过程都是数值稳定的
通用性:相同的测量投影(测量矩阵或硬件)可以用于不同的信号采集
不对称性:编码即采集简单,大部分计算在于解码即重建
民主性:每个测量值都携带着相同的信息,这样对于测量时的损失具有鲁棒性。