【数学基础】小波分析

小波分析

傅里叶变换、加窗傅里叶变换

1807年Fourier为了求解热传导方程提出傅里叶级数，认为任何函数都可以展开为三角级数，到1820年被认可。\(f(x)\) 需要满足一些条件，适用于周期函数。

函数展开成傅里叶级数(Fourier Series)

若 \(f(x)\) 以 \(2l\) 为周期，其傅里叶级数展开为：

\[f(x)=a_0+\sum_{k=1}^{\infty}(a_kcos\frac {k\pi x}{l}+b_ksin\frac {k\pi x}{l}) \\ a_0=\frac{1}{2l}\int_{-l}^{l}f(x)dx \\ a_k = \frac{1}{l}\int_{-l}^{l}f(x)cos\frac {k\pi x}{l} dx \\ b_k = \frac{1}{l}\int_{-l}^{l}f(x)sin\frac {k\pi x}{l} dx \]

奇偶延拓

电工技术里经常要把一个任意信号分解成傅里叶级数表示，从而通过分析它的不同频率的分量来分析这个信号的性质。然而傅里叶展开要求函数是周期函数，但是很多信号都是从t=0开始的，为了使它满足展开成傅里叶级数的条件，对它小于0的部分补充定义。如果希望展开成正弦级数，就进行奇延拓； 如果希望展开成余弦级数，就进行偶延拓。

对称区间，奇函数积分等于0，偶函数积分等于两倍的一半区间积分。

FS的复数形式

\[f(x)=\sum_{k=-\infty}^{\infty}\alpha_ke^{ikx} \]

\(\{e^{ikx}\}_{-\infty}^{+\infty}\) 构成 \(L^2(0,2\pi)\) 的规范正交基。

\[\alpha_k = <f,e^{ikx}>=\frac{1}{2\pi}\int_{0}^{2\pi}f(x)e^{-ikx}dx \]

注意用欧拉公式：

\[cosx=\frac{e^{ix}+e^{-ix}}{2}\\ sinx=\frac{e^{ix}-e^{-ix}}{2i}\\ e^{ix}=cosx+isinx\\ e^{-ix}=cosx-isinx \]

Parseval等式

实数形式

设 \(f(x)=a_0+\sum_{k=1}^{\infty}(a_kcos\frac {k x}{l}+b_ksin\frac {k x}{l})\in L^2[-\pi,\pi]\)，则：

\[\frac{1}{\pi}\int_{-\pi}^{\pi}|f(x)|^2dx=2|a_0|^2+\sum_{k=1}^{\infty}|a_k|^2+|b_k|^2 \]

复数形式

设 \(f(x)=\sum_{k=-\infty}^{\infty}\alpha_ke^{ikx}\)，则：

\[\frac{1}{2\pi}||f(x)||^2=\frac{1}{2\pi} \int_{-\pi}^{\pi}|f(x)|=\sum_{k=-\infty}^{\infty}|\alpha_k|^2 \]

傅里叶变换(FT)

傅里叶变换以调幅函数 \(e^{-i\omega t}\) 为权函数，对原时间域信号 \(f\) 在时间轴从负无穷到正无穷进行积分（求和）。也可以看成把信号每个时间在 \(\omega\) 的分量进行叠加而形成。

\[\hat{f}(\omega)=\int_{-\infty}^{\infty}f(t)e^{-i\omega t}dt=<f,e^{i\omega t}> \]

频谱 \(\hat{f}(\omega)\) 是 \(f(t)\) 和 \(e^{i\omega t}\) 作内积，只有 \(f(t)\) 中频率为 \(\omega\) 分量时，才有内积值，其余分量的内积值都为0。内积是一种匹配性/相似性的度量。

逆变换（IFT）：

\[f(t)=\frac{1}{2\pi}\int_{-\infty}^{\infty}\hat{f}(\omega)e^{i\omega t}d\omega=\frac{1}{2\pi}<\hat{f}(\omega),e^{-i\omega t}> \]

傅里叶变换的基本性质

傅里叶变换的性质揭示了信号的时域特性和频域特性之间的确定的内在联系。

1. 对称性

   \(f(-t)\leftrightarrow F(-\omega)\)，\(F(t)\leftrightarrow 2\pi f(-\omega)\)

2. 线性

   \(af_1(t)+bf_2(t) \leftrightarrow aF_1(\omega)+bF_2(\omega)\)

3. 尺度性

   \(f(at)\leftrightarrow \frac{1}{|a|}F(\frac{\omega}{a})\)

   时域压缩 = 频域扩展

4. 时移特性

   \(f(t-t_0)\leftrightarrow F(\omega)e^{-i\omega t_0}\) 幅度不变，相位变化

   \(f(at+b)\leftrightarrow \frac{1}{|a|}F(\frac{\omega}{a})e^{i\omega \frac{b}{a}}\) 时域压缩，频域扩展

5. 频移特性

   \(f(t)e^{i\omega_0 t}\leftrightarrow F(\omega - \omega_0)\)

6. 卷积定理

   时域卷积 – 频域乘积

   时域乘积 – 频域卷积× \(\frac{1}{2\pi}\)

7. Parseval等式

   \(||F||_2^2 = 2\pi ||f||_2^2\)

   \(\int_{-\infty}^{\infty}|f(t)|^2dt=\frac{1}{2\pi}\int_{-\infty}^{\infty}|F(\omega)|^2d\omega\)

多分辨率分析

连续小波变换

\[Wf(a,b)=\int_{-\infty}^{\infty}f(t)\frac{1}{\sqrt{a}}\psi(\frac{t-b}{a})dt \\ =<f(t),\psi_{a,b}(t)> \]

\(Wf(a,b)\) 是 \(f(t)\) 和 \(\psi_{a,b}\) 作内积的结果，衡量了信号 \(f\) 在时间 \(t\) 的局部领域 \(b\) 内，尺度因子为 \(a\) 的信息。

多分辨率分析(MRA)

小尺度，高分辨率，细节变化快速，高频；大尺度，细节变化缓慢，低频。

尺度空间 \(V_j\)，\(\forall j \in Z\)，由尺度为 \(2^j\) （分辨率为 \(2^{-j}\)）的所有函数构成。\(j\) 越大，尺度越大，分辨率越低。

尺度空间的基函数称为尺度函数，记为 \(\varphi(t)\)，满足条件 \(\hat{\varphi}(0)=1\)，是一个低通滤波器。

信号 \(f\) 在分辨率为 \(2^{-j}\) 上的逼近定义为其在空间 \(V_j\) 上的正交投影，尺度空间 \(V_j\) 汇集了分辨率 \(2^{-j}\) 上所有可能的逼近。

定义和分析

\(L^2(R)\) ^[1]中的一系列闭子空间 \(\{V_j\}_{j \in Z}\) 若满足以下条件，则称为一个多分辨率分析或逼近 （Multiresolution Analysis, MRA）。

1. 单调性 \(V_j \in V_{j-1}\)

   高分辨率空间包含低分辨率信息。

2. 伸缩性 \(u(t) \in V_j \Leftrightarrow u(2t) \in V_{j-1}\)

   函数细节放大一倍，分辨率提高，所属空间为高一级的分辨率空间。

3. 平移不变性 \(u(t) \in V_0 \Rightarrow u(t-k)\in V_0\)

   时域上的平移不改变分辨率。

4. 逼近性

   \(\lim_{j\rightarrow + \infty}V_j = \bigcap_{j\in Z} V_j = \{0\}\)

   随着 \(j\) 增大，分辨率减小，最终丢失所有细节信息，子空间只包含零元素。

   \(\lim_{j\rightarrow + \infty}V_j = \bigcup_{j\in Z} V_j = L^2(R)\)

   随着 \(j\) 减小，分辨率增大，最终趋于原信号。

5. Riesz基 \(\exists \theta,\{\theta (t-k):k\in Z\}\) 构成 \(V_0\) 的一组 Riesz 基。

   Riesz基的存在性保证了子空间基的存在性。

尺度空间标准正交基

\[\varphi_{jk}(x)=2^{-j/2}\varphi (2^{-j}x-k) \]

\(j\) 是尺度参数，\(k\) 是平移参数。

小波空间

\(V_j\) 尺度空间，\(W_j\) 小波空间。

高分辨率空间与低分辨率空间之差是小波空间。代表细节。

\(L^2(R)\) 空间由不同尺度的细节构成。

正交小波

\(\psi\) 是正交小波，满足

\[\psi_{jk}(x)=2^{-j/2}\psi (2^{-j}x-k) \]

构成 \(W_j\) 的规范正交基。因为 \(L^2(R)=\oplus_{j\in Z} W_j\)，所以 \(\psi_{jk}\) 构成 \(L^2\) 的规范正交基。

考虑子空间 \(V_{j-1}\)，\(V_j\)，\(W_j\)，则：

\[P_{V_{j-1}}f=P_{V_{j}}f+P_{W_{j}}f \]

原信号 \(f\) 可由低分辨率的逼近（尺度空间 \(V_j\) 投影）和丢失的所有细节（小波空间 \(W_j\) 投影）求和精确重构！

双尺度方程

用双尺度方程衡量不同分辨率空间的投影之间的关系、衡量不同尺度空间的基函数之间的关系。

考虑尺度空间 \(V_j\) 和 \(V_{j-1}\)，\(V_j \in V_{j-1}\) ，\(\varphi (x)\in V_j \subset V_{j-1}\)，\(\varphi_{jk}(x)=2^{-j/2}\varphi (2^{-j}x-k)\)。

\[\varphi(x)=\sum_k h_k\varphi_{j-1,k}(x)\\ =\sum_k h_k\cdot 2^{-(j-1)/2}\varphi(2^{-(j-1)}x-k)\\ =\sum_k h_k\cdot2^{1/2}\varphi(2x-k) \]

映射到频域，傅里叶变换：

\[由于\varphi(2x-k) \leftrightarrow \frac{1}{2}\hat{\phi}(\frac{\omega}{2})e^{-ik\omega}（FT时移特性） \\ 则 \hat{\phi}(\omega)=\sqrt{2}\sum_kh_k \cdot\frac{1}{2}\hat{\phi}(\frac{\omega}{2})e^{-ik\omega}\\ =\frac{1}{\sqrt{2}}\sum_k h_ke^{-ik\omega}\hat{\phi}(\frac{\omega}{2}) \]

即

\[\hat{\phi}(2\omega) = H(\omega)\hat{\phi}(\omega) \]

其中 \(H(\omega) = \frac{1}{\sqrt{2}}\sum_k h_ke^{-ik\omega}\)。

则将基函数构造问题转化为一组滤波器系数求取问题。

小波空间同理。

Mallat算法

多尺度分析

f = 低分辨率尺度空间投影 + 不同尺度小波空间细节的累加

\(c\) 是尺度空间表示系数，\(d\) 是小波空间表示系数。

分解系数计算

\[c_{j+1,k}=<f(x),\varphi_{j+1,k}(x)>=<\sum_{l\in Z}c_{j,l}\varphi_{j,l}(x),\varphi_{j+1,k}(x)>\\ =\sum_{l\in Z}c_{j,l}<\varphi_{j,l}(x),\varphi_{j+1,k}(x)>\\ =\sum_{l\in Z}c_{j,l}\overline{h_{l-2k}} \]

其中，\(<\varphi_{j,l}(x),\varphi_{j+1,k}(x)>\) 衡量不同尺度基函数之间的关系，使用到双尺度方程。^[2][3]

推导\(<\varphi_{j,l}(x),\varphi_{j+1,k}(x)>=\overline{h_{l-2k}}\)：

\[已知 \varphi_{j,k}=2^{-j/2}\varphi(2^{-j}x-k)\\ 双尺度方程 \varphi(x)=\sum_k h_k\varphi_{j-1,k}(x)=\sum_k h_k\cdot2^{1/2}\varphi(2x-k)\\ 则\varphi_{j+1,k}(x)=2^{-j-1/2}\varphi(2^{-j-1}x-k)\\ =2^{-j-1/2}\sum_n h_n\cdot2^{1/2}\varphi[2(2^{-j-1}x-k)-n] \\=2^{-j/2}\sum_n h_n\varphi(2^{-j}x-2k-n)\\ =2^{-j/2}\sum_n h_n\varphi(2^{-j}x-(2k+n))\\ =\sum_n h_n\varphi_{j,2k+n}\\ =\sum_l h_{l-2k}\varphi_{j,l} \]

分解：

重构：

信号处理角度，滤波器分解：

信号处理角度，滤波器重构：

---

1. 希尔伯特空间 ↩︎

2. 线性空间（向量空间， 对数乘和向量加法封闭所组成的空间）--（定义范数）-->赋范线性空间（向量具有的长度）--（定义内积）-->内积空间（向量之间具有了角度）--（完备化）-->希尔伯特空间 ↩︎

3. 希尔伯特空间的共轭对称性，\(<x,y>=\overline{<y,x>}\) ↩︎