Chapt5多速率处理与小波变换.ppt

第四章 多采样率处理 和小波变换,严勤 计算机信息及工程学院 河海大学,2,参考,离散时间信号处理,A.V. 奥本海姆, R.W.谢弗, 刘树棠,黄建国译, 西安交通出版社 离散时间语音信号处理, Thomas F. Quatieri, 电子工业出版社 Matlab Help,作业,8篇期刊/会议论文 选读其中之一作15分钟报告或四页书面报告 中英文都可,4,5,一. 多采样率处理,多采样技术: 利用增采样,减采样,压缩器和扩展器等方式来提高信号处理系统的效率.,线性滤波和增减采样是可以变换次序的,6,线性滤波和增减采样是可以变换次序的,X作了降采样,7,信号的多相分解,8,滤波器h(n)分解成M个并联滤波器,分解,合成,h(n)的多相分量,9,H(Z)的多相滤波器结构,10,抽取的多相滤波器结构,优点: 节省计算量,11,小结,线性滤波和增减采样是可以变换次序的 信号的多项分解 抽取/内差多相滤波器的实现,12,二. 小波变换,窗口傅立叶变换(STFT) 连续小波变换/逆变换 框架概念 标准正交小波基 多分辨率分析 尺度函数 正交小波基的构造 离散小波变换的快速算法,13,小波的主要应用,J.Morlet，地震信号分析。 S.Mallat，二进小波用于图像的边缘检测、图像压缩和重构 Farge，连续小波用于涡流研究 Wickerhauser，小波包用于图像压缩。 Frisch噪声的未知瞬态信号。 Dutilleux语音信号处理 H.Kim时频分析 Beykin正交小波用于算子和微分算子的简化,信号处理、图像处理、模式识别、语音识别、量子物理、地震勘探 流体力学、电磁场、CT成象、机器视觉、机械故障诊断、分形、数值计算,14,软件包,Math Works:Wavelet Toolbox Standford: Wave Tool Yale:WPLab MathSoft:S+WAVELETS Aware:WaveTool Rice: Wavelet ToolBox ,A.Brice, D.Donoho, H.Y.Gao, Wavelet Analysis, IEEE Spectrum, 33(10),1996,15,不能刻画时域信号的局部特性 对非平稳信号的处理效果不好。,傅立叶分析局限性,16,窗口傅立叶变换,窗口傅立叶变换的定义： 假设 f(t) L2(R)，则以g(t)作为窗函数的窗口傅立叶变换定义为：,窗口傅立叶变换的物理意义： 若g(t)的有效窗口宽度为Dt，则WFg(, b)给出的是f(t)在局部时间范围b - Dt/2, b + Dt/2内的频谱信息。 有效窗口宽度Dt越小，对信号的时间定位能力越强。,17,窗口傅立叶变换的频域性质,问题的提出： 窗口傅立叶变换WFg(, b) = 给出的是信号在时域上的处理信息，一个很自然的问题是窗口傅立叶变换在频域上是怎样处理信号的？ 假设f(t)的傅立叶变换为F()，g,b(t)的傅立叶变换为G ,b()，则根据Parseval定理有： WFg(, b) = /(2) 窗口傅立叶变换频域上的物理意义： 若G ()的有效窗口宽度为D，则WFg(, b)给出的是F()在局部频率范围 - D /2, + D /2内的频谱信息。 有效窗口宽度D越小，对信号的频率定位能力越强。,18,短时傅立叶变换窗口函数（即相应带通滤波器带宽）与中心频率无关 对不同频率使用宽度相等的窗, 无法按照不同频率自适应调整窗口宽度。,窗口傅立叶变换(STFT)的局限,19,小波变换的特点,小波变换，既具有频率分析的性质，又能表示发生的时间。 有利于分析确定时间发生的现象。（傅里叶变换只具有频率分析的性质） 小波变换的多分辨度的变换，有利于各分辨度不同特征的提取（图象压缩，边缘抽取，噪声过滤等） 小波变换比快速Fourier变换还要快一个数量级。信号长度为M时， Fourier变换（左）和小波变换（右）计算复杂性分别如下公式：,20,小波变换的分类,连续小波变换 时间、控制窗口大小的参数和时移参数都连续的小波变换。 离散参数小波变换 时间连续，控制窗口大小的参数和时移参数离散的小波变换。 离散小波变换 时间、控制窗口大小的参数和时移参数都离散的小波变换。,21,连续小波变换(continuous wavelet transform, CWT),22,基小波(mother wavelet),定义 函数(t)L2(R) 称为基本小波，如果它满足以下的“允许”(admissibility condition) 条件：,如果,是连续的，易得：,物理意义: 一个衰减的很快的波, 因此得名”小波”,23,变焦距性质,CWT可以看作连续变换的一组STFT的汇集, 这些STFT对不同的信号频率采用了宽度不同的窗函数, 即: 高频是用窄时域窗, 低频时用宽时域窗.,24,缩放(scaled)的概念-小波的缩放,25,平移(translation)的概念,26,小波与傅立叶分析,总结： 小波即小区域的波，是一种特殊的长度有限、平均值为零的波形。它有两个特点：一是“小”，即在时域具有紧支集或近似紧支集；二是正负交替的“波动性”，也即支流分量为零。 傅立叶分析是将信号分解成一系列不同频率的正弦波的叠加，同样小波分析是将信号分解为一系列小波函数的叠加，而这些小波函数都是由一个母小波函数经过平移和尺度伸缩得来的。 函数的支集是定义域的闭子集E，使在该子集之外F(T)=0, 函数的紧支集是函数的支集是紧支集（泛函分析）。,27,f(t)关于基小波的变换就是f(t)和小波函数的内积 连续小波变换是信号在基函数系上的分解和投影 变焦距性质 不同的母小波, 同一信号的连续小波变换是不同的.,28,29,恒Q性质(constant Q ),带宽和中心频率之比是固定的.,30,选择一个小波函数，并将这个小波与要分析的信号起始点对齐； 计算在这一时刻要分析的信号与小波函数的逼近程度，即计算小波变换系数C，C越大，就意味着此刻信号与所选择的小波函数波形越相近， 将小波函数沿时间轴向右移动一个单位时间，然后重复步骤(1)、(2)求出此时的小波变换系数C，直到覆盖完整个信号长度 将所选择的小波函数尺度伸缩一个单位，然后重复步骤(1)、(2)、(3)，如图所示 对所有的尺度伸缩重复步骤(1)、(2)、(3)、(4)。,小波运算的基本步骤：,31,连续小波变换的逆变换,连续小波变换逆变换存在的可能性： 窗口宽度任意调节，在时域上或频域上能完全恢复出信号的信息。 连续小波变换结果有很大的冗余度。 以a,b(t)为变换核的连续小波变换的逆变换： 假设 f(t)、(t) L2(R)：,32,尺度和时移参数的离散化,问题的提出： 连续小波变换中含有很多冗余信息，冗余信息不利于对信号的分析和处理。 连续小波变换的计算量也大。 由于连续小波变换中有冗余信息，可能对尺度和时移参数进行离散化后仍可重构信号。 尺度和时移参数离散化要解决的问题： 尺度和时移参数要怎样离散化？ 尺度和时移参数离散化后要想重构信号对小波函数应有什么样的要求？,33,尺度和时移参数离散化的方法,尺度参数的离散化： a = a0j , j Z （通常取a0的值为2，称为二进小波） 时移参数的离散化：取决于尺度参数 b = ka0j , j, k Z,34,35,尺度和时移参数的离散化,离散化后的小波变换：,怎样选择小波函数才能够重构信号： 小波函数仍应满足连续小波变换中的容许条件。 小波函数的选择与离散化的程度有关系，离散化参数取样间隔很小时对小波函数的限制也小，而离散化参数的取样间隔很大是对小波函数的限制也会很大。,36,尺度与频率的关系： 小尺度a 压缩的小波快速变换的细节高频部分 大尺度a 拉伸的小波缓慢变换的粗部低频部分,尺度与频率的关系,37,框架及紧框架 Frame & Compact Frame,38,重构信号小波函数应满足的条件,对任意的 f(t) L2(R)，称j,k为一个框架，如果存在正参数A和B（ 0 A B ），使得：,分析小波,合成小波,当小波构成L2(R )空间的一个框架, 才能稳定重建信号,39,紧框架成为标准正交基的必要条件,为了能由稳定重构信号f(t),要适当选择(t), 使j,k(t)成为L2(R)的一个框架 利用小波框架就可以在小波基约束条件和冗余度下进行权衡 若j,k为紧框架，框架界A = B = 1，且对所有的j, k有：| j,k | = 1，则j,k构成标准正交基,随着小波框架的冗余度降低, 冗余比为A=B=1时, 需利用全部的小波才能重构信号,这就意味着小波框架是一个标准正交基,40,标准正交小波基,实质: 单个函数的正交性,41,标准正交小波基,标准正交小波基的优点： 变换系数没有冗余，能够很好地反映信号的性质。 标准正交小波基与它的对偶相同。 计算简单：,假设： 以下使用的都是二进小波，即小波函数的形式为：,42,框架举例:紧框架不是标准正交基,43,理想小波的特性,对一般函数进行小波级数展开, 和Fourier变换一样有快速算法, 时频聚集性/局部性 支撑指函数定义的闭区间, 若是有限区间紧支撑(compact support).相应函数为紧支集函数 小波能量大部分聚集在某个有限区域内, 区间外,小波能量为0.时频聚集性要求小波频域&时域上为紧支函数. 时频聚集性由光滑性和消失距保证 小波光滑性-小波函数的高频衰减 低频的衰减对应消失距阶数N次可微,44,常用的连续小波Morlet Wavelet,非正交,非双正交. 近似满足容许条件 对称 Effective support=-4 4, Morlet小波是一种复数小波，时频均具有很好的局部性。,45,对称, 非正交, Compact Support Effective support=-5 5, Mexican Hat小波是Gaussian二阶导数， 时频均具有很好的局部性。,常用的连续小波Mexican hat Wavelet,46,高消失距阶数 正交,双正交, 紧支撑 Support width 2N-1, 非对称,常用的正交连续小波-Daubechies Wavelet,47,正交, 双正交 (Biorthogonal), 对称性 Effective support=-8 8,Meyer小波是在频域具有紧支集和任意阶正则性，时频很好的局部性。,常用的正交连续小波-Meyer Wavelet,48,多分辨率分析,20世纪80年代Mallat, Meyer等人提出multiresolution theory 法国科学家Y.Meyer创造性地构造出具有一定衰减性的光滑函数，他用缩放(dilations)与平移(translations)均为 2的j次幂的倍数构造了平方可积的实空间L2(R)的规范正交基，使小波得到真正的发展. 小波变换的主要算法由法国的科学家Stephane Mallat提出 S.Mallat于1988年在构造正交小波基时提出了多分辨率分析(multiresolution analysis)的概念, 从空间上形象地说明了小波的多分辨率的特性 提出了正交小波的构造方法和快速算法，叫做Mallat算法。该算法统一了在此之前构造正交小波基的所有方法，它的地位相当于快速傅立叶变换在经典傅立叶分析中的地位。,49,多分辨分析基本思想,由母小波按如下方式的伸缩平移可构成L2(R)空间的标准正交基,如何构造母小波呢？1989年，Mallat和Meyer提出了按多分辨分析的思想来构造母小波，其基本思想是： 现构造一个具有特定性质的层层嵌套的闭子空间序列VjjZ，这个闭子空间序列充满了整个L2(R)空间。 在V0子空间找一个函数g(t)，其平移g(t-k)k Z构成V0子空间的Riesz基。 对函数g(t)进行正交化，得到函数称为正交尺度函数(t)。 由(t)计算出小波函数(t)。,(1),50,定义 空间L2(R )中的多分辨分析是指L2(R )中的满足如下条件的一个子空间序列,多分辨分析定义,51,定义 令H是Hilbert空间，H中的一个序列gjjZ是Riesz基，如果它满足以下的条件：,A和B分别称为Riesz基的上下界，Riesz基又称为稳定基。,Riesz基,52,多分辨空间的关系,53,如果g(t-k)kZ是V0的Riesz基，可通过正交化得到V0空间的函数(t)V0，使得(t-k)kZ 构成V0空间的规范正交基。由伸缩性和平移不变性可知， j,k(t)j,kZ构成Vj空间的一个规范正交基。,于是,(4),(5),54,注意： (t)并不是L2(R )空间的小波函数，而是与其紧密相关的尺度函数，j,k(t)j,kZ称为尺度基，多分辨空间序列VjjZ称为尺度空间，在MRA意义下，可由尺度基导出小波基。 由MRA的单调性可以看出： Vj是Vj+1的严格子空间，设Wj是Vj关于Vj+1的正交补(子空间)，即,(3.6),55,W1,W2,L(R ),W1,V1,W2,V2,小波空间,56,意义,对于一幅图像，量化级数决定了图像的分辨率，量化级数越高，图像就越清晰，即图像的分辨率高。对于任意一幅图像，都可以用不同的量化空间来表示，细节比较丰富的部分用高分辨率来表示，细节比较单一的部分可用低分辨率来表示。 我们可以将不同的量化级数构成的空间看成不同的多分辨空间Vj，显然这些量化空间是相互嵌套的， 从图像处理的角度，多分辨空间的分解可以理解为图像的分解，假设有一幅256级量化的图像，不妨将它看成量化空间Vj中的图像，则可理解为Vj空间中的图像有一部分保留在Vj-1空间中，还有一部分放在Wj-1空间，,57,MRA非常抽象，但是它给出了构造小波的一般框架。在实践中很难通过小波空间直接构造小波，但通过MRA可推导出一个非常重要的关系：双尺度方程，通过求解该方程，使我们有可能求出尺度函数和小波函数。 由前面的分析，我们知道：,(1),(2),双尺度方程,58,方程(1)和(2)称为双尺度方程。由(t) 的正交性可得：,对双尺度方程两边取傅立叶变换，可得频域上的的双尺度方程：,59,从信号处理的角度，h是与(t)对应的低通滤波器，g是与(t) 对应的高同滤波器，h，g既可以表示为时域上的离散序列形式hk，gkkZ，也可以表示为频域上的2周期函数h ()，g()。两者本质上是一样的。,60,若kN时，hk=0，这样的滤波器称为有限脉冲响应滤波器(FIR)，FIR滤波器具有好的局部化特性。此时，(t)只在有限区间0，N上取值，所以(t)是紧支的，其支集supp=0，N，(1)式变为：,(9),此时(t)也是紧支的。所以只要滤波器的长度是有限的，我们称对应的小波(t)是紧支小波。,61,由(5)式得：,(10),(11),一个合适的尺度函数由对应的滤波器设计,62,结论：只要找到满足双尺度方程(2)的序列hkkZ，通过公式(7)就可以计算出2周期函数h ()，再由公式(11)就可以计算出 ，经过傅立叶反变换，最终可得尺度函数(t)，有了尺度函数就可以计算出小波函数(t) 。,通过解双尺度方程(1)，我们希望得到满足MRA的尺度函数(t) ，并最终构造出小波函数(t) ，但有两个问题必须解决： 问题1：双尺度方程(1)是否有解？解的唯一性如何？ 问题2：双尺度方程(1)的解是否满足MRA？ 关于问题1，I. Daubechies和Lagarias7在1991年给出了证明。,63,解决问题2却是一件非常困难的事情。这里牵涉到尺度函数(t)与滤波器系数hkkZ之间的关系问题： 如果有一个L2(R)空间的尺度函数(t)，一定能构造出双尺度方程(1) ，从而找到一组满足(1)的滤波器hkkZ； 反过来，如果有一组滤波器hkkZ满足某个双尺度方程，由此求解得到的函数却不一定是满足MRA的尺度函数，这样无法保证双尺度方程解的平移构成L2(R) Riesz基 若(t)是正交的，则相应的滤波器h有什么性质呢？ 定理 若(t)是正交的，则相应的滤波器hk必须满足条件：,但是，如果hk仅仅满足(12)和(13) ，并不能保证由双尺度方程构造出的函数(t)是正交尺度函数。 (12)和(13) 称为构造正交小波的必要条件。,64,仅有必要条件是不够的，即hkkZ除了满足条件(12)和(13) 外，还应满足其他条件。S. Mallat4，W. Lawton6等都在这方面作出了重大的贡献，并给出了一些有意义的结论。下面给出W. Lawton的充分条件。 定理: 设h()是FIR滤波器，若满足,则(t-k)kZ是标准正交的。,65,步骤1 寻找满足双尺度方程(1)和(2)的滤波器hk,gkk0,1,N 步骤2 利用公式(7)计算2周期函数h()； 步骤3 验证h()是否满足条件,通过傅立叶反变换求出(t) 步骤6 (t-k)kZ是正交的尺度函数，对应的紧支小波由公式(2)计算。,步骤4 计算,构造紧支小波基,66,尺度函数和小波函数(t),(t)tR是在时域刻画信号的性质，对应的滤波器h(),g()R从频域上刻画信号的性质。实际上，(t),(t)tR大量的性质都可以由对应的h(),g()R从频域上反映出来，甚至离散小波变换都可以借助滤波器来实现，因此小波与滤波器具有紧密的关系。 正交尺度函数产生共轭镜像滤波器 定义 若尺度函数(t)是正交的，则它所对应的滤波器h()称为共轭镜像滤波器。 h()满足以下条件：,共轭镜像滤波器,67,滤波器hkkZ称为低通滤波器(low pass filter)。所谓低通是指：当信号f(t)被hkkZ作用后，其低频成分能被保留下来，而高频成分(=)却被滤掉了。 对应的小波滤波器g()也是共轭镜像滤波器。也满足条件,(14),另外，由于(t-k)kZ与(t-k)kZ分别是V0空间和W0空间的规范正交基，而V0W0，则,(15),公式(15)反映了低通滤波器h()和高通滤波器g()之间的关系。,68,S. Mallat同时给出了这样的结论：若高通滤波器g()满足公式(14)和(15)，则由公式,产生的小波基(t-k)kZ构成W0空间的规范正交基。因此当尺度函数(t)已经确定时，只要能找到一个满足公式(14)和(15)的g()，就一定能找到对应的小波(t)，但是这样的解并不是唯一的。例如可取,(16),可以验证g()满足(14)和(15)，对应的共轭镜像滤波器为：,(17),69,因此当找到低通共轭镜像滤波器hkkZ后，利用公式(17)马上可得高通共轭镜像滤波器gkkZ。 总结：在一个MRA下的正交尺度函数和小波函数(t),(t)tR，产生一组共轭镜像滤波器h,g，满足：,(18),这3个式子代表的是尺度函数的正交性, 小波函数的标准正交性,和尺度函数和小波函数之间的正交性. 滤波器组(H,G)构造标准小波基必需满足的三个条件,70,共轭镜像滤波器,原来是smith和barnwell在1986提出的一种图象处理的方法,分析滤波器,合成滤波器,71,正交小波基构造举例-Haar小波,72,Haar,73,共轭镜象滤波器,缺点: 除非取Haar, 否则H,G不可能同时是 FIR和线性相位的, 但Haar滤波器产生的小波是非连续,不光滑的, 无实际意义 H,G是二次方程的解, 没有简单系数表达式 只限一维: Vj物理意义: 仅代表尺度函数. 优点:只需设计2个滤波器,74,L2(R) 空间的一个MRA产生了两个子空间：尺度空间VjjZ和小波空间WjjZ。j,kj,kZ和j,kj,kZ 分别是两个空间的规范正交基，信号f(t)L2(R) 在两个空间上都可以做正交投影：,快速正交小波变换-Mallat 算法,75,信号在小波空间的展开为,(23),但实践中不可能进行无穷次逼近，不妨设f(t)VJ，则因为,所以,表示从尺度2-J到2-j进行了(J-j)次小波分解(jJ),Mallat算法,Approximation,Details,76,实际计算时，可以一次一次地进行小波分解，然后递推实现(J-j)次小波分解，不妨记一次小波分解的尺度系数和小波系数为,(24),77,而,因为,代入(24)式得,故,78,从而,我们得到如下的递推公式：,(25),79,(30),而,Cj,k递推公式,80,因为,代入(30)式得,故,81,从而,我们得到如下的递推公式：,(31),82,通过公式(15)和(17)，可以很快计算出尺度系数和小波系数dj,k,Cj,k，这就是著名的Mallat算法：,因此，只要确定VJ空间的初始序列cJ,kkZ，就可以算出任意空间Vj(jJ)的所有尺度系数和小波系数。公式(29)和(31)称为离散小波变换的分解公式。,83,由于Vj+1=VjWj， Vj