小波分析第1-2章

1、小波分析 Wavelet Analysis 田逢春 第1章 绪论一、课程的目的和任务二、小波分析的特点三、小波的应用领域四、小波分析的最新发展动态五、参考书一、课程的目的和任务 掌握现代信号处理技术中的小波分析方法这一重要工具，适用于几乎所有专业。1. 小波分析的基本概念（框架、Riesz基、正交、双正交小波、小波包、多小波及相互关系）。2相互关系（小波分析与傅氏分析、多分辨分析与小波分析的关系、尺度函数）3. 信号的小波分解和重构（基本方法, 根据实际需要选择小波或小波滤波器）。4. 典型小波及性质、计算（紧支撑正交小波、光滑紧支撑正交小波、Daubechies小波、对称性和正则性、消失矩，

2、尺度函数与小波函数的数值计算方法）。5. 小波级数变换与Mallat算法、离散小波变换、连续小波变换。6双正交小波基、小波包、高维小波。7小波分析的典型应用，包括利用小波变换实现噪声消除、小波变换应用于图像数据压缩。8超小波二、小波分析的特点1. 什么是小波？2. 小波最突出的特点 时频局部化和能量集中性。 三、小波应用领域数学其他分支中的应用（微分方程、积分方程、函数逼近、分形、混沌等）一维信号处理（检测、噪声消除、特征提取（语音识别）、语音数据压缩、声纳信号处理、雷达信号处理）多维信号处理（图象融合、噪声消除、特征提取、指纹识别、模式识别、数字水印、图象数据压缩JPEG2000）通信 (C

3、DMA、自适应均衡括频通信、信道波形形成）生物医学、生物遗传（特征提取）四、小波分析的最新发展动态 1. 第二代小波(提升小波与整数小波变换) 2. 二维超小波（方向小波、脊波变换、曲波变换） 3. 小波与其它手段的结合(人工神经网络、分形与混沌、主元素分析法（PCA）、独立分量分析法（ICA）、盲信号处理）小波从自身用作滤波器进行信号处理发展到作为信号预处理方法来使用（应用范围扩展到几乎所有信号处理领域）五、参考书1. 大学数学自学丛书实变函数论，徐荣权，金长泽主编，辽宁人民出版社，1984（推荐博士学习）2刘树琪，徐红梅泛函分析入门及题解，天津人民出版社，1987.6（博士）3冯象初，甘小

4、冰数值泛函与小波理论，西安电子科技大学出版社，20034崔景泰著，程正兴译小波分析导论，西安交通大学出版社，19975李建平，田逢春等小波分析与信号处理理论、应用及软件实现，重庆出版社, 1997.126龙瑞麟高维小波分析，世界图书出版公司，19957刘贵忠、邸双亮小波分析及其应用，西安电子科大出版社，19928Ingrid DaubechiesTen Lectures on Wavelet，Montpelier Vermont: Captial City Press, 1992.9美 Ingrid Daubechies著，李建平，杨万年译小波十讲，国防工业出版社，2004.1010. 秦前清

5、，杨宗凯实用小波分析,西安电子科技大学出版社，2002.811. (法) Stphane Mallat著，杨力华，戴道清，黄文良译，信号处理的小波导引 机械工业出版社，2003.6 12. Stphane Mallat著A Wavelet Tour of Signal Processing, Second Edition (英文版), 机械工业出版社，2003.9 13. C. Sidney Burrus, Ramesh A. Gopinath and Haitao Guo, Introduction to Wavelets and Wavelet Transforms: A Primer,

6、机械工业出版社，2005.4 14. 美Albert Boggess, Francis J. Narcowich, A First Course in Wavelets with Fourier Analysis, 电子工业出版社，2002.815. 张旭东，卢国栋，冯健编著图像编码基础和小波压缩技术原理、算法和标准，清华大学出版社，2004.316. 胡昌华，张军波，夏军，张伟编著基于MATLAB的系统分析与设计小波分析，西安电子科技大学出版社，1999.1217. 楼顺天，李博菡编著基于MATLAB的系统分析与设计信号处理，西安电子科技大学出版社，1998.921张兆礼等现代图像处理技术及

7、Matlab实现人民邮电出版社，2001.1122. 飞思科技产品研发中心编著小波分析理论与MATLAB 7实现，电子工业出版社,2005.923. 程正兴，杨守志，冯晓霞著小波分析的理论 算法 进展和应用，国防工业出版社，2007年24.闫敬文，屈小波著超小波分析及应用，国防工业出版社，2008.6一、 距离空间二、 赋范线性空间三、Hilbert空间 四、投影与逼近五、傅立叶级数与傅立叶变换第2章 数值泛函概要一、距离空间（度量空间） = 元素（集合）+ 距离1. 定义：设R表示一个非空集合，若其中任意两元素x,y，都按一定的规则与实数d(x,y)相对应，且满足： (1) 非负性 d(x,

8、y)0, 且d(x,y)0当且仅当 x y (2) 对称性 d(x,y)d(y,x) (3) 三角不等式 d(x,z)d(x,y)d(y,z) 则称d(x,y)为x与y间的距离（度量，metric），称R为距离空间。2. 常见的距离空间 （1）n维欧氏空间Rn : n维实向量全体所构成的空间 距离： （2）连续函数空间Ca,b 距离： （最大绝对误差）（3）平方可积函数空间 （能量有限） 距离： （平均误差） （注意与前面一个距离定义的区别，谁更严格？）（4）平方可和离散序列空间 距离： （能量有限） 同一个集合,可以引入不同的距离（例如既连续又平方可积函数空间）3、收敛概念注意：1. 不一定

9、能推出序列的极限存在，即不一定有： 2. 叠代法中判别收敛的准则（实欧氏空间），其实质为两者的远序列数比较接近收敛点列： （xxnn=lim）（与极限点的距离越来越近） R为距离空间，nx为R中点列，Rx，若n时，数列 0),(xxdn(xn与X的距离， 则称点列nx按距离0),(xxn, d收敛于 x，记为：xxnn=lim 或 xxn， n；称nx为收敛点列，称 x为 nx的极限。 （注意这里的点与高等数学中的点的区别） 3. 在实欧氏空间中，收敛点列与Cauchy点列相当。（说明它是完备空间）4. 在一般距离空间中，收敛点列必为Cauchy点列，而Cauchy点列不一定是收敛点列。 例如

10、有理数点列： 1, 1.4, 1.41, 1.414, 1.4142, 在有理数空间中，是Cauchy点列而不是收敛点列，因它在有理数空间中无极限。(极限为 是无理数）4. 距离空间的完备性完备空间 特点：空间中的任一Cauchy点列都有极限。（注意极限点应在该空间中）同一个集合可以对一种距离成为完备的距离空间，而对另一种距离却成为不完备的距离空间。如,baC，按通常的距离 )()(max),(tytxyxdbta-= 是完备的距离空间。（无穷范数） 若在,baC中定义距离 ()2121)()(),(-=badttytxyxd 则它是一个不完备的距离空间。（2范数） 问题：1. 两种距离中哪一

11、个更严格？ 2. 例： d函数及其高斯逼近序列（前者是不连续的，而后者是连续函数序列） 按前一个距离定义，高斯函数与Delta函数的距离越来越大，因此不是Cauchy序列，而按后一个定义（面积），两者的距离衡为0，是Cauchy序列，但高斯函数序列的极限不是连续的，因此不是完备的。5. 线性空间（向量空间 = 元素代数运算）定义：数域K上的向量空间X是在其上定义了元素（向量）的两个代数运算的非空集合：（1）向量加法： 中的映射（x,y) x+y 且满足： 1）交换律 x+y=y+x 2）结合律 (x+y)+z=x+(y+z) 3）X中存在零向量 x+=x 4） 存在逆元素 使 x+(-x)=（

12、2）数乘： 1) 结合律 且仍在X中 2) 分配律 3) 回忆距离空间元素距离特点：1）线性空间 = 元素代数运算 2）代数运算满足线性性质二、赋范线性空间1、定义 E为实（或复）线性空间,若对每个元素xE,都有一个非负实数x与之对应, 对于x,yE, aK, 有: (1) x0, 当且仅当x0 (2) ax ax (3) xyxy 则称x是x的范数,称E为赋范线性空间。 注意：K为数域（实数域或者复数域） 范数的物理意义：向量的长度2. 线性赋范空间相关问题 由范数导出距离 d(x.y)xy 这时线性赋范空间也是距离空间。定义了范数的线性空间按范数收敛 线性赋范空间X 中的序列收敛 是指 即

13、按范数收敛。距离空间不必是赋范空间 距离可不由范数引入。但赋范空间可以成为距离空间3、Banach空间（完备的赋范线性空间） 若赋范线性空间按距离 d(x.y)xy是完备的，则称它为Banach空间。线性算子函数空间：函数的集合算子 函数空间X 中一个元素(函数)，对应另一空间Y 的一个元素， 即映射T: XY 。线性算子 X,Y 是两个具有相同数域的线性空间，算子T: XY 称为是线性的，若对所有X 中的x,y，和所有数域中的数a,b有： T(ax+by)=aTx+bTy 注意与信号与系统中定义的关系算子的模 线性赋范空间中算子T: XY的模 (范数）定义为线性算子的例子积分算子 注：小波变

14、换也是积分算子微分算子 矩阵算子 空间上的每个线性算子，都能用矩阵 来定 义，这时T=A 几何意义：缩放旋转剪切（shear) Y=Ax注意：仿射线性变换不是线性算子Y=Ax+b, 为什么？（多了一个平移）几种线性算子线性时不变算子 设 T: XY 是线性算子，记 若 ，则称T 为线性时不变算子 (回忆线性时不变系统）。有界算子 X,Y 是线性赋范空间，线性算子T: XY 称为是有界的，若存在实数k0使 |Tf |k|f |，对每个X中的f 成立，称k为算子T 的界。 注意：算子 的泛数有界表示： （注意f 是指什么？） 连续算子 算子T 称为连续的,若任给0,存在使 |u-v|，u,v属于X

15、, 能推出 |TuTv |。内积 设X 为K (实或复)上的线性空间。在X上定义了内积是指，对于X 中每一对元素f, g，都对应K中一个确定的数，记为 满足: (1) 对称性 表示a 的复共轭。 (2) 线性 (3) 正性 ，且 当且仅当三、Hilbert空间内积空间 引入了内积的线性空间称为内积空间。内积空间必是线性赋范空间 在内积空间中,对每个 ，由内积导入范数，定义为 则X 就变成了一个线性赋范空间。Hilbert空间：完备的内积空间称为Hilbert空间。Hilbert空间的例子例1 空间是Hilbert空间，其内积定义为： 例2 空间是Hilbert空间，其内积定义为： 两向量正交：

16、 若 ， 记为： 。 内积空间性质Schwarz不等式平行四边形等式勾股定理 若x与y 正交， 则几种空间的关系：正交向量组 X 是内积空间, X中的非零向量集合S，若S中任意两个不同元素正交，则称S是X中的一个正交向量组。若还有|x|=1对S中的所有x成立，则称S是规范正交向量组。规范正交序列 形成规范正交组的一个有限或无限的序列。向量序列的规范正交化：内积空间任一线性无关向量序列，都能使用Gram-Schmidt规范正交化过程，得到规范正交序列。规范正交基完全规范正交序列 在内积空间X中的一个规范正交序列 称为是完全的，若对每个 ， 有规范正交基 在内积空间X 中的一个规范正交组S称为是规

17、范正交基，若对每个X中的元素x 都有唯一表示 其中 是S中不同元素。内积空间X 中的一个完全规范正交序列是X中的一个规范正交基。（反之不一定成立，注意双正交情况）规范正交基的相关结论完全的标准正交系在Hilbert空间H中的一个规范正交序列是完全的,当且仅当对于所有 ，由 可推出 .即：不存在非零元素x 使它与所有xn正交,但x不属于该正交序列.例如：三维空间中的任意二个轴的情况。注意”完全“二字Parseval等式 在Hilbert空间H中的一个规范正交序列xn是完全的,当且仅当 对每个 成立。（注意该公式的含义）四、投影与逼近函数的平方逼近 注意： 1）二范数，是在平均意义上的逼近，个别地方可能 误差很大； 2