小波变换

1 小波产生的背景与历史

1.0 小波历史简介

1.0.1 傅立叶分析的发展历程

(一) 傅里叶变换 FT

1807年,法国学者Fourier指出任何周期函数都可以用一系列正弦波来表示,开创了傅立叶分析。

  • (1) 操作过程
    从数学角度而言,对一个函数进行傅立叶变换(Fourier Transform,FT)。从信号处理的角度而言,对任意信号f(t)的频谱F(w)进行分析。

  • (2) 优点
    能够准确刻画平稳信号在整个时(空)域的频率性质。

  • (3) 缺点
    不能反映非平稳信号在局部区域的频域特征及其对应关系,即FT在时域没有任何分辨率,无法确定信号奇异性的位置。

(二) 短时傅里叶变换 STFT

1946年,Gabor提出了短时傅立叶变换(Short Time Fourier Transform, STFT)。

  • (1) 操作过程
    对信号进行加窗,再对加窗后的信号进行傅立叶变换,从而得到信号在局部区域的频谱。

  • (2) 优点
    能够分析信号局部频域特征。

  • (3) 缺点
    由于STFT中时间窗的宽度与频率无关,它仍然是一种恒分辨率分析。

(三) 维格纳-威尔分布 WVD

1948年,Ville提出了维格纳-威尔分布(Wigner-Ville Distribution, WVD),并引入时频信号分析。

  • (1) 操作过程
    信号中心协方差函数的傅立叶变换。

  • (2) 优点
    具有对称性、时移不变性、真边缘性、平均瞬时频率等优良性质,WVD的时频分辨率比STFT的分辨率高。

  • (3) 缺点
    存在交叉干扰项(Cross-Term Interference, CTI),这是二次型时频分布的固有结果,大量的CTI会淹没或严重干扰信号的自项,模糊信号的原始特征。

1.0.2 小波分析的发展历程

(一) Haar小波分析

1910年,Haar提出了L2(R)中第一个小波规范正交基,即Haar正交基。

  • (1) 操作过程
    Haar正交基是以一个简单的二值函数作为母小波经平移和伸缩而形成的。

  • (2) 优点
    Haar小波变换具有最优的时(空)域分辨率。

  • (3) 缺点
    Haar小波基是非连续函数,因而Haar小波变换的频域分辨率非常差。

  • 1936年,Littlewood和Paley对傅立叶级数建立了二进制频率分量分组理论,(即L-P理论:按二进制频率成分分组,其傅立叶变换的相位并不影响函数的大小和形状),这是多尺度分析思想的最早起源;

  • 1952年~1962年,Calderon等人将L-P理论推广到高维,建立了奇异积分算子理论;

  • 1965年,Calderon发现了著名的再生公式,给出了抛物型空间上H1的原子分解;

  • 1974年,Coifman实现了对一维空间和高维空间的原子分解;

  • 1976年,Peetre在用L-P理论对Besov空间进行统一描述的同时,给出了Besov空间的一组基;

  • 1981年,Stromberg引入了Sobolev空间HP的正交基,对Haar正交基进行了改造,证明了小波函数的存在性。

  • 1981年,法国地球物理学家Morlet提出了小波的正式概念;

  • 1985年,法国数学家Meyer提出了连续小波的容许性条件及其重构公式。

  • 1986年,Meyer在证明不可能存在同时在时频域都具有一定正则性(即光滑性)的正交小波基时,意外发现具有一定衰减性的光滑性函数以构造L2(R)的规范正交基(即Meyer基),从而证明了正交小波系的存在。

  • 1984年~1988年,Meyer、Battle和Lemarie分别给出了具有快速衰减特性的小波基函数:Meyer小波、Battle-Lemarie样条小波。

(二) Mallat算法

1987年,Mallat将计算机视觉领域中的多尺度分析思想引入到小波分析中,提出了多分辨率分析的概念,统一了在此前的所有具体正交小波的构造,给出了构造正交小波基的一般方法,提出了快速小波变换(即Mallat算法)。它标志着第—代小波的开始?

  • (1) 操作过程
    先滤波,再进行抽二采样。

  • (2) 优点
    Mallat算法在小波分析中的地位相当于FFT在经典傅立叶分析中的地位。它是小波分析从纯理论走向实际应用。

  • (3) 缺点
    以傅立叶变换为基础,直接在时(空)域中设计滤波器比较困难,并且计算量大。

  • 1988年,Daubechies基于多项式方式构造出具有有限支集的光滑正交小波基(即Daubechies基)。

  • 1992年,Daubechies对这些演讲内容进行了总结和扩展形成了小波领域的经典著作——小波十讲《Ten Lectures on Wavelet》。

  • 1992年3月,国际权威杂志《IEEE Transactions on Information Theory》专门出版了“小波分析及其应用”专刊,全面介绍了此前的小波分析理论和应用及其在不同学科领域的发展,从此小波分析开始进入了全面应用阶段。

  • 1992年,Kovacevic和Vetterli提出了双正交小波的概念。

1992年,Cohen、Daubechies和Feauveau构造出具有对称性、紧支撑、消失矩、正则性等性质的双正交小波。

  • (1) 操作过程
    利用两组互为对偶的尺度函数和小波函数实现函数的分解与重构。

  • (2) 优点
    具有正交小波无法同时满足的对称性、紧支撑、消失矩、正则性等性质。

(三) 小波包(Wavelet Packet, WP)分析

1992年,Coifman和Wickerhauser提出了小波包 (Wavelet Packet,WP)分析。

  • (1) 操作过程
    不仅对低通子带进行分解,而且也对高通分量分解,从而聚焦到感兴趣的任意频段。

  • (2) 优点
    突破了小波分析对信号频带进行等Q划分的局限性。

  • (3) 缺点
    最优基的搜索问题。

(四) 多带小波

1992年,Zou等提出了多带小波(M-band Wavelet)理论,将人们对小波变换的研究从“二带"推广到“多带”情况。
基于“二带”小波变换的多分辨率分析中,尺度函数对应一个低通滤波器,而小波函数对应一个高通滤波器。“二带”小波变换把信号分解成不同的通道,而这些通道的带宽相对于尺度函数的对数是相同的,因此高频通道具有较宽的带宽,而低频通道具有较窄的带宽。

参考链接1:小波变换的优缺点发展历程与时频分析

1.1 “点”的概念

1.1.1 表达“点”的方式

一维中,“点”可以表示为“一个数x”;到了二维平面中,“点”可以表示为“一个数对(x,y)”、或者考虑复平面时可以表示为x+iy;可以继续拓展下去,到了Rn空间中,“点”可以表示为“n个数(x1,x2,,xn)”。

我们不可能把空间中的“点/向量”全部表示出来,因此在线性代数中便引入了的概念,简单来说,基所蕴含的哲学思想就是:

“用更少的资源,把要表达的对象全部表达出来”

(一) 平凡基

所谓平凡基,就是空间中一些特殊的点/向量,具体表示形式如下:

p1=(1,0,0,,0)p2=(0,1,0,,0)pn=(0,0,0,,1)

在这组基下,空间中任意一个点可以表示为:

x=i=1nxipi

这样便将“点的差异” “系数差异”,将几何与代数联系到了一起(数形结合)。

此时,可能会有两个小问题:① 在某些问题中,若是这种基表达不方便/不合适怎么办;② 若是面对的是连续的形式,那么又该如何处理呢?

首先,第一个小问题:在现有的知识范围内,对一类科学问题,可以线性代数的方式来处理。比如数字信号存储中设计的信号压缩,压缩的方法有很多,若是要求线性压缩,也就意味着把数字信号向量经过线性变换,使得线性变换之后的结果更便于存储。考虑一种简单的情况,就是可以通过变换基的形式,使得信号的表达更加简单:

x=i=1nxipi

两组基之间的变换矩阵是一个可逆矩阵。

如何理解/解释正交矩阵矩阵呢,QTQ=QQT=I这是代数上的形式,另一方面,正交矩阵也可以理解为:把一组标准正交基变成另一组标准正交基的矩阵,反过来一个线性空间的两个标准正交基之间的过渡矩阵就是正交矩阵。

平凡基的连续形式为冲激函数δ(t)

1.1.2 更复杂的“点”

(一) “点” = 一个数列

这个数列有两种形式:

  • 数列的左边固定,右边可以无穷延伸;

  • 数列的两边均是无穷延伸的。

此时点可以称为“可数无穷稳定点”。这类点中最典型的就是:l2(Z),其中Z={0,±1,±2,}表示所有的整数,该整体l2(Z)表示这是一个线性空间,空间中的点可以表示为:

x={,x1,x0,x1,}

这个点要有一定限制,要求满足如下条件:

i=+|xi|2<+

类似于要求信号的能量有限。

(二) “点” = 一个函数

有这么一个空间,空间中有很多很多的点,每个点都代表一个函数,这样说其实有点难以理解(或者说难以建立几何直观),这里老师提供了一种一直思路,如下图所示:

上面由离散变为连续是将离散间隔变为无穷小,当然目前我理解这只是一种比较形象的几何示意。

点表示一个函数,又可以分为两类,一种是“周期函数”,另一种是“非周期函数”

  • 周期函数

{f(x+T)=f(x)s.t.0T|f(t)|2 dt<+

把所有这类函数记为:L2(0,T),这是特别经常使用的一类空间。

  • 非周期函数

可以将非周期函数视为周期为无穷大的周期函数,此时只需要满足:

|f(t)|2 dt<+

把这类函数记为:L2(R)L2(,+),这也是特别经常使用的一类空间。

1.2 傅里叶分析

1807年,傅里叶在论文中指出,任何周期函数,都可以表示为:

f(t)=k=+αkejkt

该式蕴含了两个优秀的思想:

  • ① 从表达的形式来说,不同函数(或者说空间中不同点)的差异转换到系数上;

  • ② 对函数/信号的分析,可以通过变换不同的基进行分析。

后来,经过进一步拓展,最终提出了大名鼎鼎的傅里叶变换,对于非周期函数f(t)

f(t)=12π+F(ω)ejωt dω

1910年,科学家Haar构造了一个特殊的函数:

h(x)={12,0x<1212,12x<10,others

在这个函数基础上,Haar提出了:

hj,k(t)=2j/2h(2jtk),j,kZ

这样相当于在给定函数h(t)的基础上,对其进行了挤压/拉伸(类似FT)+平移。如果只是限制在L2[0,1]的空间中,则把hj,k(t)上截断就构成了L2[0,1]的一组标准正交基;若不加限制,即在L2(R)中,则hj,k(t)就是L2(R)的一组标准正交基。

此时,L2[0,1]或者L2(R)空间中的一个点/函数f(t)就可以表示为:

f(t)=jkαj, khj, k(t)

这个成果在当时没有引起很大的“浪花”,直到1980年代,地震勘探专家Morlet把短时傅里叶变换(又称加窗傅里叶变换,STFT)进行了修改。

1946年,Gabor提出的STFT的表达形式为:

F(t0,ω)=f(t)g(tt0)ejωt dt

其表示的含义可概述为:原始信号f(t)在时间点t0附近(由窗函数g的形式决定),频率为ω的频率成分。STFT满足:

F(ω)=+F(t0,ω) dt0

逆STFT变换为:

f(t)=+F(ω)ejωt dω=++F(t0,ω)ejωt dω dt0

STFT的结果已经很好了,但是人们还是发现了不足之处——窗g()的宽度形式与频率ω没有关联,但是我们知道要想把频率ω计算地比较准确,在ω比较小的时候,时间窗应该要长一些,在ω比较大的时候,时间窗要短一些才能跟上快速变化的信号。

因此小波的方法就提出来了(1980年),小波把g(tt0)ejωt当作一个整体来看,提出了如下形式:

1aψ(tba)

2 小波的基础知识

2.1 信号空间

小波中使用的线性空间主要有两个:

  • 周期为2π,且在一个周期内能量有限的信号全体:L2(0,2π)
  • 非周期的能量有限的信号全体:L2(R)={f(t)+|f(t)|2 dt<+}

2.2 L2(R)空间的基本概念与性质

(一) 线性性质

f(t)L2(R)g(t)L2(R),则有:

αf(t)+βg(t)L2(R)

(二) 内积的概念

<f(t),g(t)>=+f(t)g(t) dt

(三) 模长或范数

|f(t)|=f(t)2=<f(t),f(t)>=(+|f(t)|2 dt)12

有了这些性质,可将L2(R)称为范数空间或者希尔伯特(Hilbert)空间

2.3 L2(R)空间的傅里叶变换

2.3.1 FT与IFT变换

f^(ω)=12π+f(t)ejωt dt

FT可以看作是f(t)g(t)=ejωt的内积,或者是f(t)g(t)构成的基上投影。FT表达式给出的是信号f(t)其中包含的频率为ω的频率成分的分量大小,所以FT又称作谱分析

谱分析:在指定的频率上有多少能量,一个信号的能量沿着不同的频率的分布情况(Ps:也可以参考张颢老师的关于谱分析的解释)。

f(t)=12π+f^(ω)ejωt dω

2.3.2 FT的性质

(一) Parseval Relation(保内积、能量守恒)

<f(t),g(t)>=<f^(ω),g^(ω)>|f(t)|2=|f^(ω)|2

(二) 时域与频域的对偶

(fg)^(ω)=f^(ω)g^(ω)(fg)^(ω)=f^(ω)g^(ω)

其中,表示卷积。

这种对偶关系一线性代数的观念来看,就是卷积算子在傅里叶基之下被对角化了。

2.3.3 FT存在的不足

(1) 傅里叶变换对局部的分析或者说局部产生突变时无法分析。

这一点可以从FT的基函数来形象解释,当ω固定时,基ejωt是一个幅度不变、周期不变、时间从一直无穷延续的函数,这就意味着如果信号f(t)存在一个频率为ω的频率成分,则从一直存在,并且在任何局部的地方不会发生变化。

此外,FT还存在一个很奇怪的点,即信号f(t)是属于L2(R)空间的,基函数ejωt却不在L2(R)空间中,但是它们还可以作用并得到有意义的结果。

(2) FT结果产生微小扰动时,IFT的结果会产生很大的偏差。

总之,傅里叶变化将信号分的太细了,以至于不同信号之间的区分界限变得很模糊,反而不利于分析。

Ps:关于这一点,老师给了一个“猪肉馅”和“人肉馅”的例子,帮助形象理解,具体参考第06讲 20:00分钟。

因此,若想要改进FT这个工具,一种改进方向就是换基,选择一组更好的基。下面就要介绍一下小波基。

2.4 小波

2.4.1 小波的基本定义

满足如下两个条件就可以称为小波:

  • ψ(t)是能量有限的,即ψ(t)L2(R)

  • ② 要求其容许参数满足:Cψ=+|ψ^(ω)|2|ω| dω<+

则称ψ(t)是一个小波(母函数)。

有了小波母函数,则对a0,bR,连续小波定义为:

ψa,b(t)=1|a|ψ(tba)

其中,称a为尺度参数,控制母函数的缩放,b为位移参数,控制母函数在时间轴上的平移量。

2.4.2 小波几点注解

(一) ψa,b(t)的波形——衰减特征

+|ψ(t)|2 dt<++|ψa,b(t)|2 dt<+

(二) ψa,b(t)的波形——波动特征

+ψ(t) dt<0+ψa,b(t) dt<+

为了证明上述结论,这里做一点额外的假设(当然也会导致证明不是那么严谨):设ψ(t)的傅里叶变换ψ^(ω)=12π+ψ(t)ejωt dtω=0处是连续的。

再结合容许参数的要求,就可以证明上述结论了。

(三) ψa,b(t)的波形——ab的影响

首先,看一下特殊情况,此时a=1,b=0,也就是:ψ1,0(t)=ψ(t)。小波母函数取为Haar小波:

ψ1,0(t)=ψ(t)=h(t)={1,0t<121,12t<10,others

  • 尺度a的第一种情况:a>1,b=0 矮胖

ψa,b=0(t)=ha,b=0(t)={1a,0ta<121a,12ta<10,others

  • 尺度a的第二种情况:0<a<1,b=0 瘦高

在FT变换中,频率ω的物理意义很明显易懂,就是振动的快慢;但是到了小波当中,已经没有了明显的频率变量,通过上述两个图,其实可以看出,表示变化快慢的变量指标其实可以通过参数a来考察。

  • 位移b的情况:a=1,b

ψ1,b(t)=ψ(tb)

就是进行左右平移了。

2.4.3 小波变换

(一) 小波变换基本定义

对于任意一个信号f(t)L2(R),其小波变换为:

Wf(a,b)=+f(t)ψa,b(t) dt

上面就是对信号进行小波变换的形式。

由表达式可以看到,小波变换把一维的信号f(t)变换到了二维进行分析,这称为“升维分析”,属于一种逆向思维。

其他的“升维分析”的例子:支持向量机SVM、神经网络。

(二) 小波变换的基本性质

  • 小波变换的Parseval Relation(能量守恒)

Cψf(t),g(t)=Wf(a,b),Wg(a,b)

展开其具体形式为:

Cψ+f(t)g(t) dt=R×RWf(a,b)Wg(a,b)1a2 dadb

其中,R=R{0},即扣去0点。

  • 范数守恒

Cψf(t)2=Wf(a,b)2

一般Cψ=,这个常量可能取1也可能不取1,因此小波变换不一定是正交变换。

  • 逆小波变换

f(t)=1CψR×RWf(a,b)ψa,b(t)1a2 dadb

根据逆小波变换的表达式可以看到,当0<a<1时,1a2使得Wf(a,b)在重建f(t)中权重变大,而当a>1时,1a2使得Wf(a,b)在重建f(t)中权重变小。

注释1:g(t)=1CψR×RWf(a,b)ψa,b(t)1a2 dadb,则逆小波变换就是“f(t)=g(t)”,这里之所以打上了引号,是因为运行存在不相等的点,但是这些点不是很多,把这些不相等的点组成一个点集,要求这个点集的长度等于0,其实这里表达是几乎处处相等,具体可以参考测度论/泛函分析/实分析的内容。(Ps:第9讲 09:00分钟)
但是,当t=t0f(t)是连续的时候,f(t0)=g(t0)

注释2:L2(R)空间中,信号能量都是有限的,即+|f(t)|2 dt<+,而若f(t)能被拿过来进行积分考察能量是否有限,需要保证f(t)是处处连续的,否则这个积分都没法积。因此注释1和2联立在一起,则能保证小波变换数值相等。

注释3:测度——dadba2,可以看到由于分母存在a2项,导致a很小(对应于高频)时,Wf(a,b)获得的权重越大,a很大(对应于低频)时,Wf(a,b)获得的权重越小,越不重要。因此对信号的小波分析,主要集中在a较小的部分进行分析。

3 小波变换的基本理论

3.1 吸收/对称小波

所谓“吸收分析”就是将a<0的那部分信息吸收/折叠到a>0的部分,类似于降低计算量。因此需要通过对小波母函数进行更加详细的设置。

0+|ψ^(ω)|2ω dω=0+|ψ^(ω)|2ω dω

如果上式是成立的,则对应的小波ψ(t)称为吸收小波。此时,前面提到的3条性质都会变得更加简洁:

  • Parseval Relation(能量守恒)

Cψf(t),g(t)=20++Wf(a,b)Wg(a,b)1a2 dadb

  • 范数守恒

Cψf(t)2=Wf(a,b)2

  • 逆小波变换

f(t)=2Cψ0++Wf(a,b)ψa,b(t)1a2 dadb

3.2 二进小波

对小波函数本身施加更加严格的条件/限制,使得它对信号f(t)的信息能够更好的凝聚。二进小波是将连续小波变换中的尺度参数a离散化为2的整数次幂的方式:

0<Aj=+|ψ^(2jω)|2B<+

其中,AB是非0的正常数。若ψ(t)满足上面的约束条件(又称稳定性条件),则称为是二进小波(Ps:这里只要求对ω处处成立即可)。

  • 逆二进小波变换

f(t)=j=+2j+Wf(2j,b)τ2j,b(t) db

其中,τ(t)满足:

j=+ψ^(2jω)τ^(2jω)1

上式同样只需要满足几乎处处即可,称τ(t)ψ(t)的重构/对偶小波。

小节:ψ(t)用于分解,进行小波正变换,τ(t)用于重构,做小波逆变换。

如何找到对应ψ(t)的重构/对偶小波τ(t)呢?(Ps:第10节 23:00分钟)。

τ^(ω)=ψ^(ω)j=+|ψ^(2jω)|2

此时τ^(ω)显然满足上式。容易证明(Ps:第11节 00:30秒),这个τ^(ω)是能量有限的。

3.3 正交小波

尺度参数a在二进小波的条件下能够离散化,那么位移参数b呢?可以证明,再进一步增加约束条件,就可以得到b的离散形式,此时对应正交小波。

ψ(t)满足:

{ψj,k(t)=2j/2ψ(2jtk)jZ,kZ}

构成L2(R)的标准正交基(O.N.B),则称ψ(t)是正交小波。

这个条件已经算是相当苛刻了,在该约束条件下相当于:a=2j,b=2jk

此时,在正交小波的形式下,其逆变换为:

f(t)=j=+k=+αj,k ψj,k(t)

其中,αj,k的计算为:

αj,k=f(t),ψj,k(t)=+f(t)ψj,k(t) dt=Wf(2j,2jk)

也就是:

f(t)=j=+k=+Wf(2j,2jk) ψj,k(t)

4 多分辨分析(正交小波分析)和小波构造

4.1 正交小波分析

4.1.1 常见的正交小波

(一) Haar小波

h(t)={1,0t<121,12t<10,others

由Haar小波离散化得到的:

{hj,k(t)=2j/2h(2jtk)jZ,kZ}

构成L2(R)上的标准正交系

hj1,k1(t),hj2,k2(t)=δ(j1j2,k1k2),j1,j2,k1,k2Z

之后,若能进一步验证L2(R)上的任意一个信号都可以写成上面这组标准正交系的线性组合,那么此标准正交系就升级成为了标准正交基。

(二) 香农小波

下面将借助香农采样定理作为一个桥梁,试图找到L2(R)空间中的一个特殊信号ψ(t),构成一个正交小波。

  • 香农采样定理

对于f(t)L2(R),若f(t)是一个带宽有限信号,即:

f^(ω)=+f(t)ejωt dt=0,|ω|>B

则有(sinc插值公式):

f(t)=n=+f(nΔT)sinc(πΔT(tnΔT))

其中,采样间隔需要满足:0<ΔTπB

考察特殊情况1: B=π,采样间隔需要满足:0<ΔT1(这里取为1) f(t)=n=+f(n)sinc(π(tn))=n=+f(n)ϕ(tn)

其中,ϕ(t)=sinc(πt)

下面验证是否有如下表达式成立,若成立,则ϕ(t)可以看成是一种基:

ϕ(tn),ϕ(tm)=δ(nm)

将内积展开:

ϕ(tn),ϕ(tm)=+ϕ(tn)ϕ(tm) dt=12π+ϕ^(ω)ejnωϕ^(ω)ejmω dω=12π+|ϕ^(ω)|2ej(nm)ω dω=12ππ+πej(nm)ω dω=δ(nm)

也即得到了验证;此时,满足此条件的信号空间为:

V0={f(t)f^(ω)=0,|ω|>π}

总上,{ϕ(tn)nZ}构成V0的标准正交基O.N.B

考察特殊情况2: B=2jπ,采样间隔需要满足:0<ΔT2j(这里取为2j)

Vj={f(t)f^(ω)=0,|ω|>2jπ,jZ}

此时Vj构成的线性子空间中的信号可以表示为

f(t)=n=+f(2jn)sinc(2jtn)

ϕj,n(t)=2j/2ϕ(2jtn)=2j/2sinc(2jtn),则上式可化简为:

f(t)=n=+2j/2f(2jn)ϕj,n(t)

此时{ϕj,n(t)nZ}是标准正交系O.N.S,也就是满足:

ϕj,n1(t),ϕj,n2(t)=δ(n1n2),n1Z,n2Z

所以,综上可得到:{ϕj,n(t)=2j/2ϕ(2jtn)nZ}构成Vj的标准正交基O.N.B

由这2个特殊情况做进一步拓展:若让j,则Vj是不是就能趋近L2(R)Vj的基{ϕj,n(t)nZ}能不能逼近整个L2(R)空间的基。

这里解释一下VjL2(R):所谓集合的序列趋近一个更大的集合,则L2(R)空间中的每一个点都可以在Vj中找到对应的点,用数学符号表达就是:

f(t)L2(R),fj(t)Vj,s.t. fj(t)f(t)

fj(t)f(t)在此空间中表示:+|fj(t)f(t)|2 dt0

根据傅里叶变换是一个酉变换可得:

fj(t)f(t)f^j(ω)f^(ω)

形象化的理解证明请参考课程第14讲 22:00分钟。

正交基的逼近:

limj+ϕj,n(t)=limj+2j/2sinc(2jtn)

不加证明,取个特例n=0来看一下上式取极限之后的结果:

limj+ϕj,0(t)=limj+2j/2sinc(2jt)={+,t=00,t0

可以看到最终取极限的结果是冲激函数δ(t),但是这样就没有什么意义了,冲激函数本身不需要任何条件分析就可以认为是L2(R)空间的一组基(而且还是类似于线性代数中的平凡基),我们利用小波理论希望是满足特殊形式的基:

{ψj,k(t)=2j/2ψ(2jtk)jZ,kZ}

通过如此复杂的分析,却没得到有意义的结果。

那么这里出现什么问题了呢?(具体的、深刻的、内在的、本质的原因我暂时还说不出来,也听不太懂)老师最后说:Vj的小波基逼近L2(R)的基的方式和Vj逼近L2(R)的方式不同导致的。多分辨分析产生的重要一环是分析这两种逼近的一致性。

做研究迷茫了、发现结果跟预想的不一样了,可以试着回到出发点看看一开始是不是就发生了错误,或者可以试试逆着往回推导,看看能不能发现不正确的地方。

设任给一个jZ

{ψj,k(t)=2j/2ψ(2jtk)kZ}

j固定,当k取遍所有整数的时候得到一组向量,这组向量构成一组标准正交系O.N.S,由这个O.N.S作为一个O.N.B生成一个线性子空间,这里将其记为Wj,将其形式重写为:

Wj=CloseSpan{ψj,k(t)=2j/2ψ(2jtk)kZ}

上式的意思是,把ϕj,k当作基函数做线性组合构成的集合,如果该集合对线性运算封闭,则构成线性子空间;Close的含义为要求用这种方式生成的向量构成一个序列,若这个序列收敛,则把收敛极限一并放入该集合内,也就是说Wj总是一个闭集。

小结:Wj就是以ψj,k(t)这组O.N.SO.N.B构成的线性子空间。

下面考察Wj的一些性质。

  • ① 当jj时,WjWj是正交的;

根据这条性质,可以判断WjWj+1肯定是正交的,此时回过头去看一下前面根据取极限得到δ(t)的过程出现的问题。由Vj的定义,显然得到VjVj+1不是正交的,从频谱上看,Vj+1是包含Vj的(即VjVj+1的子空间)。

  • ② 由于Wj是相互正交的,因此若所有的Wj逼近整个空间L2(R),则一定是通过直和的方式,即L2(R)=j=Wj
  • Wj之间的关系:若得到W0,则其他的所有Wj可以由W0在时间上压缩或者拉伸2的倍数,再乘以一个归一化因子即可。

考察几个特例:

W0=CloseSpan{ψ0,k(t)=ψ(tk)kZ}W1=CloseSpan{ψ1,k(t)=2ψ(2tk)kZ}W1=CloseSpan{ψ1,k(t)=12ψ(12tk)kZ}

  • ④ 根据第③条结论,可以得到g(t)Wj的充分必要条件为g(2t)Wj+1

综上,两种方式逼近L2(R)可形象地用下图表示。

那么Vj如何组织成Wj的形式呢?

V0V1{ϕ0,n(t)nZ}{ϕ1,n(t)nZ}

通过取几个特例容易验证,V0中的基均不在V1中(Ps:第16节 8:00分钟,此外根据上面的图可知V0空间包含在V1空间中,即V0V1的子空间,因此虽然基都不相同,但是V0中的向量还是可以由V1中的向量线性表示)。

这样看来,V0V1V+在这个过程中,之前找的基全部抛弃再重新找基,我们想像Wj一样,不是重新找,而是在之前的基础上往上添加,也就是:

Vj+1=VjWj

之后我们将会发现,Wj就是前面提到的Wj。下面绘制一下特殊的V0V1的示意图,看一下W0的构成。

根据V0V1的定义以及上面的示意图,容易得到:

W0={g(t)g^(ω)=0,|ω|<π,|ω|>2π}

这里将V0V1的形式重写如下:

V0:{f0(t)=n=+f0(n)ϕ0,n(t)=n=+αnϕ0,n(t)f^0(ω)=n=+αnejnωϕ^(ω)

V1:{f1(t)=n=+12f1(n2)ϕ1,n(t)=n=+12βnϕ1,n(t)f^1(ω)=n=+12βnejnω/2ϕ^(ω2)

因此,从频域上看,可得到如下结论:

ψ^(ω)=FT[ψ(t)]=ϕ^(ω2)ϕ^(ω),ψ(t)W0

4.1.2 小结

W0O.N.B{ψ(tn)nZ}以及g(t)Wjg(2t)Wj+1可知,WjO.N.B为:

{ψj,n(t)=2j/2ψ(2jtn)nZ}

根据一开始的定义:

Vj={f(t)f^(ω)=0,|ω|>2jπ,jZ}

  • j+时,ViL2(R)(jZVj)=L2(R)

闭包:X是拓扑空间,AX,则包含A的所有闭集的交称为 A的闭包,记为A

由定义得A是包含A的最小闭集,因为由闭集的任意交是闭集得A是闭集

  • j时:jZVj={0}

f(t)jZVj,当ω0时,f^(ω)=0ω=0时,同样有f^(ω)=0

因为若f^(0)0+f(t) dt0+|f(t)|2 dt=+

综上:

Vj=Vj1Wj1=Vj2Wj2Wj1==V(l=1+Wjl)=l=1+WjlL2(R)=j=+Wj

可得:

ψ(t)=sin2πtsinπtπt

L2(R)上的一个正交小波,称为Shannon小波。

4.2 正交多分辨分析

{Vj,jZ}L2上的一个闭线性子空间的列,ϕ(t)V0,满足:

  • 单调性/嵌套性:VjVj+1,jZ

  • 稠密性:jZVjL2(R),严格写法为:(jZVj)=L2(R)

  • 唯一性:jZVj={0}(平凡子空间)

  • 伸缩性:f(t)Vjf(2t)Vj+1

  • 构造性:{ϕ(tn),nZ}V0O.N.B

则称({Vj,jZ},ϕ(t))L2(R)上的一个多分辨分析(Multi-resolution Analysis, MRA)

由以上MRA定义,可得如下几条结论:

  • VjO.N.B{ϕj,n(t)=2j/2ϕ(2jtn),nZ}

  • VjL2(R),j+Vj{0},j

  • WjVj,WjVj=Vj+1,jZ

  • Wj1Wj2,j1j2

  • g(t)Wjg(2t)Wj+1

这一条的证明参考第19讲 06:00分钟。

  • L2(R)=j=+Wj

  • ψ(t)W0使{ψ(tn),nZ}构成W0O.N.B,则ψ(t)是正交小波。

{ϕ(tn),nZ}V0O.N.B,由ϕ(t)V0,V0W0=V1,可得存在序列{ξn,nZ}l2(Z)使得

ϕ(t)=2nξnϕ(2tn)

上式称为:尺度方程,其中ϕ(t)2=n|ξn|2=1

尺度方程的频域形式为:

ϕ^(ω)=12nξnejnω/2ϕ^(ω2)=Ξ(ω2)ϕ^(ω2)

其中,记Ξ(ω)=12nξnejnω为低通滤波器。此低通滤波器中ejnω周期为2π,所以Ξ(ω)是周期为2π的,并且结合ϕ(t)2=n|ξn|2=1可知Ξ(ω)在一个周期内是能量有限的,所以Ξ(ω)L2(0,2π)。这里又可以称ξn是低通滤波器的脉冲响应系数。

  • {ψ(tn);nZ}W0的标准正交基,所以ϕ(t)W0,由于W0V0=V1,故存在{ζn;nZ}l2(Z)满足:

ψ(t)=2nζnϕ(2tn)

上式称为:小波方程。其中ψ(t)2=n|ζn|2=1

小波方程的频域形式为:

ψ^(ω)=12nζnejω/2nϕ^(ω2)

定义带通滤波器:

Γ(ω)=12nζnejωn

此时,小波方程的频域形式为:

ψ^(ω)=Γ(ω2)ϕ^(ω2)

(视频20讲 05:00分钟)

重要引理:

S(t)L2(R),则{S(tn);nZ}O.N.S的充分必要条件为:

kZ|S^(ω+2kπ)|2=1

大白话就是:信号S(t)的谱如果满足下面这个等式,那么S(t)在时间域上的整数平移就构成O.N.S

上述引理的简要证明:
S(t)在时间域上的整数平移构成O.N.S,即意味着:S(tn),S(tm)=δ(nm)
按照内积的定义:

S(tn)>,S(tm)=+S(tn)S(tm) dt=12π+S^(ω)ejωnS^(ω)ejωm dω=12π+|S^(ω)|2ejω(nm) dω=12πkZ2kπ2(k+1)π dω=12πkZ02π|S^(ω1+2kπ)|2ejω1(nm) dω1=12π02π(kZ|S^(ω1+2kπ)|2)ejω1(nm) dω1=δ(nm)

其中进行了变量代换:ω1=ω+2kπ。详细解释(视频20讲 15:00分钟)。

根据此引理,可知由于{ϕ(tn);nZ}L2(R)上的O.N.S,故:

kZ|ϕ^(ω+2kπ)|2=1

()

kZ|ϕ^(ω+2kπ)|2=kZ|Ξ(ω+2kπ2)ϕ^(ω+2kπ2)|2=k=2m,mZ|Ξ(ω2+2mπ)|2|ϕ^(ω2+2mπ)|2+k=2m+1,mZ|Ξ(ω2+π+2mπ)|2|ϕ^(ω2+π+2mπ)|2=k=2m,mZ|Ξ(ω2)|2|ϕ^(ω2+2mπ)|2+k=2m+1,mZ|Ξ(ω2+π)|2|ϕ^(ω2+π+2mπ)|2=|Ξ(ω2)|2mZ|ϕ^(ω2+2mπ)|2+|Ξ(ω2+π)|2mZ|ϕ^(ω2+π+2mπ)|2=|Ξ(ω2)|2+|Ξ(ω2+π)|2=1

上式说明,如果尺度函数ϕ(t)的整数平移构成O.N.S,那么它对应的低通滤波器满足上式形式,这是一个很有名的滤波器——共轭滤波器

  • 进一步推广,有:

|Γ(ω2)|2+|Γ(ω2+π)|2=1

Ξ(ω2)Γ(ω2)+Ξ(ω2+π)Γ(ω2+π)=0

把上述三个条件合写成矩阵的形式,首先引入一个记号Υ(ω)

Υ(ω)=(Ξ(ω)Ξ(ω+π)Γ(ω)Γ(ω+π))

此时有:

Υ(ω)ΥH(ω)=I=(1001)

ϕ(t)的整数平移构成V0O.N.Sψ(t)的整数平移构成W0O.N.Sϕ(t)的整数平移和ψ(t)的整数平移构成相互正交的族的充要条件Υ(ω)是一个酉矩阵

Υ(ω)是酉矩阵,则由:

ψ(t)=2nZgnϕ(2tn)

构造的ψ(t)W0是正交小波。其中{gn,nZ}l2(Z)是带通滤波器:

Γ(ω)=12ngnejnω

的脉冲响应系数。

(21讲 10:00分钟)验证{ψ(tn),nZ}W0O.N.B

显然,ψ(t)W0,而且{ψ(tn),nZ}W0O.N.S ϕ(t)的整数平移和ψ(t)的整数平移放在一起可以构成V1O.N.S。下面要证明{ϕ(tn),ψ(tn),nZ}将构成V1O.N.B

V1=Closespan{ϕ(tn),ψ(tn),nZ},显然V1V1,从而V1=V1W1,其中V1W1。为了证明V1充满整个空间V1,可以通过说明W1是一个只包含0元素的平凡子空间,用数学语言描述为:

  • 对于f(t)V1,若f(t)V1,则f(t)=0,即W1={0},从而V1=V1

因为f(t)V1,因此存在序列{fn,nZ}l2(Z),使得:

f(t)=2nfnϕ(2tn)

两边进行傅里叶变换,有:

f^(ω)=12nfnejω/2nϕ^(ω2)=F(ω2)ϕ^(ω2)

其中,F(ω)=12nfnejωn

证明f(t)=0f^(ω)=0F(ω)=0

由于f(t)V1,因此f(t)ϕ(tn),nZf(t),ϕ(tn)=0,由此可得:

Ξ(ω)F(ω)+Ξ(ω+π)F(ω+π)=0

再由f(t)ψ(tn),nZ可得:

Γ(ω)F(ω)+Γ(ω+π)F(ω+π)=0

将上述两式写为矩阵形式:

(F(ω),F(ω+π))(Ξ(ω)Γ(ω)Ξ(ω+π)Γ(ω+π))=0(F(ω),F(ω+π))ΥT(ω)=0

所以可得:

(F(ω),F(ω+π))=0f^(ω)=0f(t)=0

到此,便证明了{ψ(tn),nZ}构成W0O.N.B

回顾总结:

1️⃣ {ϕ(tn);nZ}V0的标准正交基|Ξ(ω)|2+|Ξ(ω+π)|2=1[Ξ(ω)Ξ(ω+π)]L2(0,2π)×L2(0,2π)是单位向量。

2️⃣ {ψ(tn);nZ}W0的标准正交基|Γ(ω)|2+|Γ(ω+π)|2=1[Γ(ω)Γ(ω+π)]L2(0,2π)×L2(0,2π)是单位向量。

3️⃣ {ψ(tn),nZ}{ϕ(tn),nZ}等价于

Ξ(ω)Γ(ω)+Ξ(ω+π)Γ(ω+π)=0[Ξ(ω)Ξ(ω+π)][Γ(ω)Γ(ω+π)]V0W0

4.3 正交小波构造(特例)

取带通滤波器Γ(ω)为如下形式:

Γ(ω)=ejωΞ(ω+π)

显然有:

|Γ(ω)|2+|Γ(ω+π)|2=1

另外:

Γ(ω+π)=ej(ω+π)Ξ(ω)

此时:

Ξ(ω)Γ(ω)+Ξ(ω+π)Γ(ω+π)= ejωΞ(ω)Ξ(ω+π)+(1)ejωΞ(ω)Ξ(ω+π)= 0

Υ(ω)ΥH(ω)=I

ψ^(ω)=Γ(ω2)ϕ^(ω2)=ejω/2Ξ(ω2+π)ϕ^(ω2)

ψ(t)是正交小波。

ϕ(t)ψ(t){ξn;nZ}{ζn;nZ}

(23讲)

(一) Haar小波的MRA

ϕ(t)={1,0t10,others

V0={f(t);k,ktk+1,f(t)=Ck,k|Ck|2<+}

Vj={f(2jt);f(t)V0,jZ}

综上,{Vj,jZ}ϕ(t)是一个MRA,称为Haar' MRA。

根据尺度方程可得:

ϕ(t)=2nξnϕ(2tn)ξn=ϕ(t),2ϕ(2tn)

ϕ(t)=122ϕ(2t)+12ϕ(2t1)

可得:

h0=h1=12,hi=0,i=,2,1,2,3,

其对应的频域为:

H(ω)=12nhnejnω=12(12+12ejω)=12(1+ejω)

则有:

Γ(ω)=ejωH(ω+π)=ejω12(1+ej(ω+π))=ejω12(1ejω)=12(ejω1)

由此,可构造正交小波:

ψ^(ω)=Γ(ω2)ϕ^(ω2)ψ(t)

此外,另一种算法为:直接计算出系数gn

Γ(ω)=ejωH(ω+π)确定gnhn(ξn)的关系:

12ngnejnω=ejω(12mhmejm(ω+π))12ngnejnω=12m(1)mhmej(1m)ω(let k=1m)12ngnejnω=12k(1)1kh1kejkω

所以,通过对比等式两端,可得(前提是上述等式两边都是周期为2π的能量有限的信号):

gn=(1)1nh1n,nZ

(24讲 18:00)

带入计算可得:

g0=h1=12,g1=h0=12qi=0,i=,2,1,2,3,

所以有:

ψ(t)=2=ngnϕ(2tn)=ϕ(2t)+ϕ(2t1)

5 小波算法

5.1 多分辨分析回顾

按上述讲解的逻辑体系,多分辨分析可分为两个部分:一是闭的线性子空间序列Vj,二是选定的尺度函数ϕ(t)

({Vj,jZ},ϕ(t))

分析的信号所在的空间为L2(R)

尺度方程和小波方程体现的是不同线性子空间之间的正交分割关系:

尺度方程:

ϕ(t)=2nξnϕ(2tn)ϕ^(ω)=Ξ(ω2)ϕ^(ω2)

其系数可通过内积投影计算:

ξn=ϕ(t),2ϕ(2tn)Ξ(ω)=12nξnejnω

其系数是{ξn,nZ}l2(Z)Ξ(ω)是共轭滤波器。

|Ξ(ω)|2=(12n1ξn1ejn1ω)(12n2ξn2ejn2ω)=12n1n2ξn1ξn2ej(n1n2)ω=12k(n1ξn1ξn1k)ejkω(k=n1n2)

|Ξ(ω+π)|2=12k(n1ξn1ξn1k)ejkω(1)k

|Ξ(ω)|2+|Ξ(ω+π)|2=12k=2l,lZ(n1Zξn1ξn12l)ej2lω

所以有:

n1Zξn1ξn12l={1,l=0,0,l0

{ξn,nZ}l2(Z)中的单位向量,而{ξn,nZ}{ξn2l,nZ}(l0)

5.2 小波方程

ψ(t)=2ngnϕ(2tn)ψ^(ω)=Γ(ω2)ϕ^(ω2)

其中,系数:gn=ψ(t),2ϕ(2tn),带通滤波器:Γ(ω)=12ngnejnω。并且H(ω)Γ(ω)是正交共轭滤波器组。

ψ(t)是正交小波时候,Γ(ω)满足如下:

|Γ(ω)|2+|Γ(ω+π)|2=1

同理可得:{gn,nZ}l2(Z)中的单位向量,而{gn,nZ}{gn2l,nZ}(l0),也即:ngngn2l=δ(l)

综上,可得:{hn2l,gn2l;nmathbbZ,lZ},构成l2(Z)的新O.N.B

5.3 子空间关系

Vj+1=VjWj

(25讲结束)


参考链接:

小波理论及应用 - 哈工大 - 冉启文 - Bilibili

泛函分析(四)——L^p空间定义与基本性质 - Feiers的文章 - 知乎

posted @   博客侦探  阅读(131)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 使用C#创建一个MCP客户端
· ollama系列1:轻松3步本地部署deepseek,普通电脑可用
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 按钮权限的设计及实现
点击右上角即可分享
微信分享提示