压缩传感

f压缩传感（Compressive Sensing）是一个很有意思的新的方向。它也正成为信号处理
领域的“A Big Idea”。对于信号 x ∈ R N×1 ，我们可以找到它的 M 个线性测量（ Liner
Measurement）， s = Φx 。 Φ ∈ R M ×N 。这里， Φ 的每一行可以看作是一个传感器（Sensor）,
它与信号相乘，拾取（Acquisition）了信号的一部分信息。拥有了这 M 个测量和Φ ，我
们就可以近乎完美的重构原始信号了。听起来“相当”传奇，事实上，它基于如下严格的数
学最优化（Optimization）问题：
目标函数
min || y ˆ ||0 ，且满足等式约束ΦΨ H y ˆ = s
或者，可以写成
min || s − ΦΨ H y ˆ ||2 +λ || y ˆ ||0
求解该最优化问题，得到变换域的 y ˆ ，然后反变换，便可以得到时域的 x ˆ 。公式中的 2 是我
们熟悉的 2-范数，而 0 是什么呢？是 0-范数，也就是向量 y ˆ 中非零元素的个数。看起来很
有道理，因为 y ˆ 是待求的变换域向量，它是 K 稀疏的。使 y ˆ 非零元素的个数尽量小，也就
是保留了尽量少的重要的 K 个分量，显然这几个分量可以近乎完美重构 x 。我们回到传统
的思路，这 K 个分量是我们在变换域“自适应”找的，而该优化算法也可以使我们找到这 K
个分量。
这就足够了吗？显然不行，我们仍然没有探讨测量矩阵Φ 需要满足的性质。我们用极
限分析法。如果我们把 Φ 构造成和 Ψ H 极端相似（Coherence）的矩阵，也就是拿出 Ψ 的
前 M 行。用这个算法求 y ˆ ，我们将得到，这显然是错误的。也就是说，你
强迫的认为前 M 个变换域分量是重要的。而事实是，重要的 K 个分量的位置我们事先是不
知道的， 是随着信号的不同而不同的。当然， 你可以将Φ 恰好构造成对应最重要分量的 K 行，
得到正确的结果。而这种的做法要付出的概率代价KN1C。也就是说，你必须穷举 KC N 次，才
能得到你想要的结果。但是，即使你有幸碰到了它，也并不能肯定这个结果就是对的。因此，
我们选择Φ 和Ψ H 极端不相似（Extremely Incoherence）。于是， Φ 很大程度上和随机
（Randomness）这个词相联系， 它可以是满足高斯分布的白噪声矩阵， 或贝努里分布的±1矩
阵 （ 也 称 作 Noiselet ） 等 等 。 除 此 之 外 ， 我 们 希 望 线 性 测 量 有 稳 定 的 能 量 性 质 ：
，也就是它要保持 K 个重要分量的长度。综合上面的，我们有
了如下编码解码的策略：
编码：构造Φ ，生成测量 s = Φx ，保留 s 。
解码：构造同样的Φ ，构造任一种正交变换Ψ H ，根据 s 重构 x 。
压缩传感的优势：1、非自适应（Non-Adaptive）的，一开始就可以传输长度较短的信
号，甚至突破采样定理的极限。2、抗干扰， s 中任何一项都是重要的，或者说不重要的。
丢失了某几项，仍然可以完美重构。它的缺点：1、实际中， s 的长度一般是重要分量长度
的4 倍，才能近乎完美重构。数学上更严格的， M ≈ 4K 或者 log2( )NKM