（电工理论与新技术专业论文）小波神经网络在医学图像压缩中的应用研究.pdf

a p p l i c a t i o no fw a v e l e tn e t w o r ki nm e d i c a li m a g e c o m p r e s s i o n a b s t r a c t w i t ht h ee x t e n s i v ea p p l i c a t i o ni nc l i n i c a l ，t h ea m o u n to fd i g i t a lm e d i c a li m a g e ， s u c ha sx r a y , c t , m r i e t c i n c r e a s e sr a p i d l yd a ya f t e rd a y , t h ei m p o r t a n c ea n d n e c e s s i t y o fm e d i c a li m a g ec o m p r e s s i o nt e c h n i c a lb e c o m e sm o r ea n dm o r e s i g n i f i c a n t m e d i c a li m a g ec o m p r e s s i o ni sv e r yi m p o r t a n ti ni m a g es a v i n ga n d t r a n s m i s s i o ns y s t e m ，i tc a nn o to n l yi m p r o v et h ei m a g et r a n s m i s s i o nr a t e ，s h o r t e nt h e t r a n s m i s s i o nt i m e ，b u ta l s or e d u c et h es t o r a g ei nt h ei m a g es a v i n g h o w e v e r , m e d i c a li m a g e sa r ed i f f e r e n tf r o mc o m m o ni m a g e s ，t h e yh a v et h e i r o w nc h a r a c t e r i s t i c s m e d i c a li m a g ec o m p r e s s i o nt e c h n i c a lc h a n g e sm e d i c a li m a g e b i t m a pi n f o r m a t i o ni n t oa n o t h e re x p r e s s i o nf o r mw h i c hc a nr e d u c ed a t aa m o u n t t h e p u r p o s eo fi m a g ec o m p r e s s i o ni s t or e d u c et h er e d u n d a n ti n f o r m a t i o na n da v o i d s a v i n gt h es a m ei n f o r m a t i o nr e p e a t e d l y w a v e l e tn e t w o r ki sak i n do fn e wa r t i f i c i a la l g o r i t h mw h i c hc o m b i n et h e w a v e l e tt r a n s f o r m a t i o nw i t ht h en e u r a ln e t w o r k t h i sa l g o r i t h mh a sb e e na p p l i e d e x t e n s i v e l yt om a n yf i e l d sa l t h o u g hi t st h e o r yi sn o tp e r f e c ty e t t h i st h e s i sp r o p o s e s ak i n do fw a v e l e tn e u r a ln e t w o r ka l g o r i t h mw h i c hh a sb e e nu s e di nt h em e d i c a l i m a g ec o m p r e s s i o n ，t h ee x p e r i m e n tr e s u ks h o w st h a tt h em e t h o dh a sag o o d c o m p r e s s i o n e f f e c t k e yw o r d s ：i m a g ec o m p r e s s i o n w a v e l e tt r a n s f o r mn e u r a ln e t w o r k 插图清单 图1 1d p c m 图像编码系统， 图1 2 图像的小波分解过程示意图 图1 3 小波压缩图象的解码过程示意图 图1 4 小波压缩与j p e g 压缩失真率曲线比较 图1 5 神经网络结构 图2 一l 小波的伸缩波形 图2 2 小波变换自适应时频窗口 图2 - 4l e n a 图像m a l l a t 算法分解 图2 5l e n a 图像m a l l a t 算法分解 图3 1 神经元结构及其简化结构图 图3 2 单个神经元模型图 图3 3 四种常见的激活函数 图3 - 4 单层神经元网络模型 图3 5 多层神经网络模型 图3 - 6 多级反馈网络结构 图3 7 一个多层b p 网络结构 图4 1 由正交小波变换导出的小波网络 图4 2 由小波框架导出的小波网络 图4 3 由小波基拟合导出的小波网络 图4 4 小波网络压缩过程 图4 5b p 神经网络压缩效果 图4 - 6 小波神经网络压缩效果 图4 7 压缩比l ：2 的c t 图像压缩效果 图4 - 8 压缩比l ：4 的c t 图像压缩效果 图4 。9 压缩比1 ：8 的c t 图像压缩效果 o o“：2埒m笛弱凹卯丛凹弘卯粥耶舛弱钻弱弱 表格清单 表2 一l 部分d a u b e c h i e s 低通滤波器系数 表4 1 不同压缩方法的性能比较表 2 1 5 5 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研究成果。 据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰弓 过的研究成果。也不包含为获得 盒魍工些厶堂或其他教育机构的学位或证书面使 用过的材料。与我一同r ：作的同志对本研究所做的任何贡献均已在论文中作了明确的说明 并表示谢意。 学何论文作者签名：妄r l 孽签字日期：2 口。睁月f 日 学位论文版权使用授权书 本学位论文作者完全了解盒g b 王些太堂有关保留、使用学位论文的规定，有权保留 并向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和借阅。本人授权佥 墅上墼盘堂可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、 缩印域扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权托) 学位论文作者签名： 交辉 签字日期：年月日 学位论文作者毕业后去向： f 作单位 通讯地址 导师繇易目瓦矿 ，。 7 1 年 v 1 ： ： 肌 插 嗡 刚 电 邮 宇签 致谢 本论文是在李国丽教授的悉心指导和亲切关怀下完成的，李国丽老师渊 博的学识、严谨的治学态度、对科学研究孜孜不倦的追求以及高尚的人格使我 受益匪浅，是我学习的楷模。 在硕士论文完成期间，得到了生物医学实验室很多老师和同学的指导和 帮助。特别感谢胡存刚老师在生活和学习上给予了我很多帮助和支持。 此外，还要感谢李剑平、邓娜、王世芳等同学，他们也对研究工作提出 了很好的建议和指导。 最后感谢电气工程学院的老师及他们创造的良好的科研环境，在这种对 科学高峰永不休止的攀登精神的环境中，督促着我去不断上进，鼓励我去追求 更高的目标。 作者：刘辉 2 0 0 6 年5 月 第一章医学图像成像及压缩技术 1 。1 医学图像的发展历史 在现代医学诊断当中，医学影像早已成为不可或缺的重要手段之一。虽然 实现的方式不同，但是各种成像手段都能够在不切开身体的情况下，观察到身 体的内部组织，从而为医生诊断带来更多的方便和准确性。1 8 9 5 年威廉姆斯 伦琴无意中发现阴极射线管可以使一张涂有铂氰化钡的纸发光，即使把管子和 纸分放在两间隔开的房子里也是一样，伦琴认为管子一定放射出某种具有穿透 力的射线，他把这种未知射线命名为x 射线。不久，他又发现如果让x 射线穿 过人手，射向一个涂有化学物质的屏幕，里面的骨骼就会清晰地显现在屏幕上。 事实上，有史以来第一张x 射线人体解剖照片上照的正是伦琴夫人的左手。 此后的几十年节，x 射线发展成为广泛使用的诊断工具，因为骨头可以在 照片上清楚地被呈现为黑色背景上的白色物体，x 射线特别适用于检查骨折和 骨裂，同时它也可用来发现癌症肿瘤和呼吸道疾病，如结核以及各种其他的组 织异常。x 射线使用极其方便，且分辨率高，可以显示出0 1 m m 大小的细节， 因此很受欢迎。但另一方面，x 射线仅抓住了人体三维结构的一小片，且不善 于区分密度相近的组织，这使得某些身体特征在x 射线下不甚清晰。再有，任 何x 射线照射对人体总归是有害的，尽管今天所用的微小剂量已经几乎是绝对 安全的。 半个多世纪中，医学成像科学一直是随x 射线技术的进步而稳定但又缓慢 地发展着。可是在7 0 年代初期，由于新技术计算机x 射线层析成像法， 即c t ( c o m p u t e r i z e d t o m o g r a p h y ) 的出现，这门科学进入了高速发展时期。c t 首先要进行上千次从不同角度的x 光照相，取得的大量数据经计算机合成，能 构成身体任何部分的三维图像，医生可以指令计算机从任意方向显示出任何深 度上的二维断面图。c t 扫描给医学诊断带来了革命性的变化，例如它使医生能 看见一个受伤的头部是否有脑出血，或是癌症患者身上肿瘤的形状和程度。 自c t 丌始，系列新的医学成像工具相继问世，每一种耨方法都根据各 自不同的物理学原理揭示身体的不同信息，这些新技术的共同点在于都以计算 机为基础，从电子仪器收集的大量数据中构成图像，而不像x 光仅仅是用x 射 线代替光线在胶片上获得的照片。临床上常用的六种医学图像为：x 射线成像、 x 射线透视、c t 成像、核医学成像、磁共振成像以及超声波成像，其中较常用 的是x 射线成像、c t 成像和磁共振成像。 磁共振成像，既m r i ( m a g n e t i cr e s o n a n c ei m a g i n g ) 是8 0 年代初出现的提供 另一种完全不同的拍摄体内照片的方法，不同于让x 射线穿过体内，m r i 基于 强磁场和高频信号导致体内原子发放出它们自身的信息，通过收集和分析这些 信号，计算机可以构造出三维图像，像c t 一样，它们常常以二维断面图显示 出来。 1 2 医学图像压缩研究现状综述 目前大量使用于医学临床的医学图像主要有c t 成像、x 射线成像和m r i 成像等。 1 2 1 图像压缩中的数据冗余 以矩阵为基础的图像表示并不是一种有效的表达方式，在这种形式的图像 数掘中存在着很大的数据冗余，数据冗余是数字图像压缩中的一个中心问题。 对一幅图像若存在2 个不同的数据集可以表示它，其所需的数据量分别为n 】和 n 2 ，则第1 种表示相对于第2 静表示的数据冗余r d 及图像的压缩率c r 被定 义为： r d ：1 一土 c r c r ：里 n 2 若n l = n 2 ，则r d = 0 ，c r = i ，说明第1 种表示相对于第2 种表示无数据冗 余：若n l n 2 ，则r d 一1 ，c r e d o ，这意味着在第1 种表示中存在很大的数据 冗余。图像压缩的目的就是发现并消除这些数据冗余，尽量减少表示一幅图像 所需的数据量。 在图像压缩过程中，需要考虑的数据冗余主要有以下3 种类型： 1 空间冗余：图像中像素之间存在的相关性，这是数据冗余的一种重要形 式。 2 编码冗余：图像编码的单位数据量大于信息熵。 3 视觉冗余：超过人类视觉特性的信息编码数据。 1 2 2 医学图像压缩技术 医学图像的目的是在保证图像使用质量的前提下，将医学图像的位图信息 转变成另外一种能使数据量缩减的表达形式，其思路是一方面减少图像数据中 存在的冗余信息，避免表达同一信息的相关数据重复存储；另一方面，由于人 类的视觉系统能从极为杂乱的图像中抽象出有意义的信息，并以非常精炼的信 息形式传达到大脑，而且视觉系统对图像中的不同部分的敏感程度是不同的， 所以可以去除医学图像中对信息传输和整合影响小的部分，获取比较高的压缩 比。 从图像压缩还原的角度出发，图像压缩方法可分为两大类： 1 无损压缩( 1 0 s s l e s sc o m p r e s s i n g ) ，又称可逆编码( r e v e r s i b l ec o d i n g ) 2 有损压缩( 1 0 s sc o m p r e s s i n g ) ，又称不可逆编码( i r r e v e r s i b l ec o d i n g ) 医学图像是医学诊断和疾病治疗的重要根据，在临床上具有重要的应用价 2 值，确保医学图像压缩后的高保真度是医学图像压缩首要考虑的因素，所以医 学图像常采用无损压缩，因为它能够精确还原图像，但是无损图像压缩的缺点 是压缩比低。仅为2 4 ，面有损图像压缩的压缩比可高达5 0 ，甚至更高。所以 将这两种压缩法方法在保证使用要求的基础上结合起来，在获得高的压缩质量 的前提下提高压缩比，是当前医学图像压缩领域研究的热点。 j f 2 - 2 1 经典无损压缩技术： 自适应预测多重自回归模型法 2 1 ( a d a p t i v ep r e d i c t i v em u l t i p l i c a t i v e a u t o r e g r e s s i v em o d e l ，a p m a r ) a p m a r 使用了两个过程去除图像数据相关性：f 1 ) 将图像分割成许多小的 区域块，用国际标准j p e g 无损压缩算法中的七个预测器与空间变化多重自回归 ( s p a c e v a r i n gm a r s m a r ) 方法中的均值预测式相结合，从中自适应地选取最佳 预测器达到去除图像区块的数据相关性的目的：但) 使用多重回归模型( m a r ) 预测器进一步降低图像其它部分的冗余性，然后使用熵编码方法对每个块残差 值进行编码。a p m a r 适用于各种医学图像的无损压缩，例如对一组头部m r i 、 胸部c t 以及胸部x 射线图像使用a p m a r 压缩，与s m a r 压缩方法相比，压缩率 大约可提高1 0 。 相邻像素零编码扭j ( n e i g h b o u r i n gz e r oc o d i n g ，n z c ) n z c 算法利用图像像素间的相关性，通过消除像素间的冗余实现图像压缩。 该算法主要包括两步：( 1 ) 图像数据去相关，首先以z i g z a g 方式扫描被压缩的图 像，将图像数据变为一维向量形式，然后读出当前像素值并与下一个像素值比 较，若两个像素值相同，则将后一个像素值置为零，若像素值不同，则保留该 像素值，再与下一个像素进行比较，重复以上过程，直至处理完图像所有像素； ( 2 ) 对该图像的一维向量组中的数据进行熵编码，此算法应用的是霍夫曼算法， 例如用8 位灰度c t 和m r i 医学图像进行压缩实验，结果表明压缩算法可获取4 ： l 的压缩比。 基于图像分割的无损图像压缩方法f 4 j ( s e g m e n t a t i o n b a s e di o s s l e s si m a g e c o d i n g ，s l i c ) s l i c 使用了一种简单有效的嵌入生成区域程序，该程序能够对给定的图像 产生自适应扫描模式并进行图像分割，生成该图像的误差图像数据，中断索引 数据和高位种子数据，然后使用国际标准j b i g ( j o i n tb i l e v e li m a g ee x p e r tg r o u p l 算法进行编码。用两组不同灰度水平高分辨率的医学图像和一组低分辨率的普 通图像进行压缩实验，结果表明8 位灰度医学图像压缩后平均压缩率为5 ，1 0 位 灰度医学图像平均压缩率为2 7 6 ，而低分辨率韵普通图像获得平均压缩率为 1 6 3 ，因此s l i c 适用于高分辨率医学图像压缩。 差分脉冲编码调制预测编码 s l ( d i f f e r e n t i a lp u l s ec o d em o d u l a t i o n ， d p c m ) 1 9 5 2 年b e l l 实验室的o l i v e r 等人进行了线性预测编码理论研究，同年该室的 c u t l e r 取得了差值( 或差分) 脉冲编码调制( d p c m ：d i f f e r e n t i a lp u l s ec o d e m o d u l a t i o n ) 系统的专利奠定了真正实用的预测编码系统的基础。预测编码是根 据某一模型利用以往的样本值对于新样本值进行预测，然后将样本的实际值与 其预测值相减得到一个误差值对这一误差值进行编码。如果模型足够好且样 本序列在时间上相关性较强，那么误差信号的幅度将远远小于原始信号，从而 可以用较少的电平类对其差值量化，这样就得到了较大的数据压缩结果。 m i l l a r d 等人1 9 7 1 年将d p c m 方法引入到图像编码系统中，从而使预测编码 在图像编码中得到了广泛的应用。图1 一】是d p c m 图像编码系统的方框图。在这 一系统中首先对连续图像信号进行抽样，再对实际像素值与其估计值的差值进 行量化和编码，然后传输。通常对实际像素值取8 b i t 量化，而差值仅可取3 4 b i t 的代码编码，这样带宽可从常规p c m 的每像素8 b i t 压缩到d p c m 的每像素3 4 b i t 。 在基本的d p c m 编码器中，预测器是依据最小均方差准则而设计的最佳线性预 测器。接收端预测器与发送端的完全相同。 ( a ) 发送端 ( b ) 接收端 图1 1d p c m 图像编码系统 自8 0 年代以来随着研究的深入，依据最小均方差准则而设计的线性预测器 和量化器并不能获得较好的主观视觉效果。m u s m a n n 等人将自适应技术 ( a d a p t i v e ) f 入到d p c m 中，形成a d p c m ，在提高图像恢复质量、减少传输码 率方面取得了很好的效果。 1 - 2 2 2 有损压缩方法 无损图像压缩技术的压缩率只能达到2 4 ，为了提高图像压缩率，同时也 为了在提高压缩率的同时能够保留医学图像中有重要意义的部分，就要在对医 4 学图像中必须保真的图像部分进行无损压缩的前提下，对图像中其它部分进行 有损压缩，达到提高压缩率的目的。近年来，有损图像压缩技术得到了很大的 发展。 小波图像压缩技术1 6 1 多分辨率编码方法是d q c r o c h i e r e 等人在对语问信号分析时首次提出的，随 后n w o o d s $ o n e i l 将该方法应用到图像压缩上。小波变换编码属于多分辨率 编码，近年来被广泛地应用于图像压缩领域。小波图像压缩的基本思想是将被 压缩的图像分解成不同尺度下的“模糊的像”和对该“像”的细节补充，如图 l 一2 所示，x 代表输入图像数据，h 。和h 1 分别代表低通和高通滤波器。用m a l l e t 离散小波变换，建立正交镜像滤波器( h 。，h 1 ) 对原始图像数据沿两个坐标方向 分别滤波，并进行两取一的采样( 从两个点中取一个) ，使图像逐层分解，得到 各个层次的图像子块x l l 、x l h 、x h l 、x r m 。 x ih x h i - 图1 2 图像的小波分解过程示意图 然后对它们采取不同的压缩策略，完成图像数据的压缩编码。压缩数据解 码过程如图1 3 所示，图像子块x l l 、x l h 、x h l 、x h h 在两个坐标方向分别进行 插值和滤波重构，以恢复原图像。 图1 3 小波压缩图像的解码过程示意图 b r u c k m a n n 承i u h l 对8 位灰度、5 1 2x5 1 2 像素肺部c t 图像分别用小波压缩和 国际标准j p e g 压缩方法进行压缩，图i 4 表示其失真率对比曲线，可见在相同压 缩率下，小波压缩方法要l p d p e g 压缩方法重建图像质量好( 例如在压缩率为4 0 时，小波压缩方法比j p e g e , 缩方法图像信噪比增 j n 4 d b ) 。 压缩比 图1 - 4 小波压缩与j p e g 压缩失真率曲线比较 分形图像压缩技术【7 j 2 0 世纪7 0 年代美国数学家m a n d e l b r o t 首次提出分形概念，8 0 年代中后期， 美国数学家b a r n s l e y 提出了利用图像本身包含的自相似性进行压缩编码的分形 图像压缩技术，9 0 年代初j a c q u i n 实现了自动分形图像编码。 1 分形图像压缩编码和解码基本过程 目前的分形图像压缩方法基本上都是以j a c q u i n 的p i f s ( p a r t i t i o ne d i t e r a t e d f u n c t i o ns y s t e m s ) 算法为基础，压缩的一般过程是首先将给定的图像x 分割成互 不重叠的图像子块，称为排列块( r a n g eb l o c k ，r b ) ，然后依次对每个r b 进行匹 配，这一过程是通过从图像x 中提取的图像子块进行收缩映射来实现的。这些 从x 中提取的图像子块称作值域块( d o m a i nb l o c k ，d b ) ，其大小比相应的r b 大一 倍，且相互闽可以重叠。收缩映射有两部分构成：一是几何收缩映射，它将大 尺寸的d b 收缩成与r b 相同大小的块：二是灰度线性变换，它通过对像素块的 方向调整、对比度比例缩放以及亮度平移，为每个r b 都找到一令最优的d b ， 从而获得一组收缩映射w = w i 。对迭代函数系统w 的所有系数量化后的结果， 就是最终图像x 的分形压缩编码。解码过程比起编码过程要简单得多，任取一 幅图像x 0 作为初始图像，用分形编码所获得的w 对它进行迭代运算，直到迭代 结果收敛到某一固定图像为止。迭代过程与初始图像无关。般只需迭代1 0 次 即可很好地逼近原图像。 分形图像压缩技术是一种完全不同于传统图像编码的技术，它的主要优点 是压缩比高、解码速度快以及随压缩率的增大( 对同一压缩图像) 图像质量下降 晦l型世口峰比 的速度较慢，特别适合于自然景物图像的压缩，但它的主要缺陷是编码复杂和 编码时间过长，其大部分时间耗费在对i 啦搜寻最好的匹配d b 上。 为了克服以上的缺点，许多学者做了大量的理论和实践工作，提出了许多 好的优化方法。例如s a u p e 和h a 栅s t e i n 利用快速卷积将编码速度提高了5 7 2 倍 t s l ( r b ) k 小为1 6 1 6 ) 。w 抽g 和h s i e h 利用r b 之间的相关性，使用数据块间相关 搜索方法，大大缩短了搜索时间1 9 】。同时有的学者将分形编码与传统的编码技 术相结合，例立t l h a m z a o u i 和s a u p e 提出分形编码与矢量量化相结合的算法【l 。 近年来，分形编码与小波理论结合编码方法成为研究热点，有人提出了基于小 波变换的分形压缩算法，有效地利用小波树之帕j 和不同小波频带之间的相似性， 以达到最佳的压缩效果，并且取得了优于传统空间域的分形压缩算法性能。 神经网络编码1 神经网络理论是在现代科学研究成果的基础上提出来模拟人脑功能基本特 征的一门新学科，它不是人脑真实神经网络的全面描述，而是这种生物神经网 络的某种抽象、模拟和简化，目的在于探索人脑信息加工、存储和搜索的机制， 从而为人工智能、信息处理等学科的研究开辟一条新的技术途径。它既可以直 接用于图像压缩也可以闯接用于图像压缩，目前在图像数据压缩中使用最多的 神经网络是细腰型的三层反向传播( b p ) 网络，它由输入层，输出层和节点较 少的隐含层组成。网络连接如图1 5 所示。 图1 5 神经网络结构 采用b p 网络进行数据压缩就是强迫数据通过细腰网络的瓶颈，并希望在 瓶颈处获得较紧凑的数据表示。假定输入数据矢量的维数为n ，压缩后的数据 维数为1 t t m n ) ，这样就构置n 1 1 1 一n 型的三层b p 网络，其中输入层和输出层 均有n 个神经元，而隐含层有m 个神经元。压缩过程就是通过b p 训练算法对 所有的训练样本矢量调整网络的权重，使图像的重建误差e = i lx z 俨达到最小， 也就是说使重建图像在均方误差下尽可能地接近原始图像。通过训练所得到的 权矩阵w 。，w 2 类似于图像变换中的正反变换矩阵，一般情况下为了使网络的 规模保持在可以接受的范围内，需要对原始图像做分块处理( 如8 8 等) 。 1 3 本文的主要工作 本论文在小波理论和神经网络的理论基础上，通过结合两者优点，提出一 种小波神经网络算法，应用于医学c t 图像的压缩，得到了较好的压缩效果。 本文内容共分五章叙述： 第一章是本文的概述部分，着重论述了医学图像的发展历史、医学图像压 缩的必要性及医学图像压缩算法综述，并简述了本文的研究内容和论文组织安 排。 第二章是小波分析理论，主要内容包括多分辨率分析、小波变换快速算法 的实现、常用的小波函数。 第三章是神经网络理论，主要内容包括人工神经网络概念的提出、人工神 经网络的模型结构、人工神经网络的训练、反向传播网络结构。 第四章重点介绍本文作者的主要工作，分两大部分：1 对小波神经网络的 现状做了简单介绍。2 将小波神经网络应用于医学图像压缩，在仿真软件下得 到仿真数据，仿真结果表明算法有较好的压缩性能。 第五章是对全文的总结和展望，总结了所做的工作和成果，指出了研究的 不足和将来的研究方向。 g 第二章小波变换 2 1 傅立叶变换 在1 9 世纪，法国数学家j f o u r i e r 发现任何周期函数都可以表示为无限长周 期函数的和。很多年以后，这个发现又被普及到非周期函数，然后被应用到周 期的或者非周期的离散信号上。f o u r i e r 变换的特点是域变换，它把时域和频域 联系起来，把时域内难以显现的特征在频域中十分清楚地显现出来。频谱分析 的本质就是对f ( w ) 的加工和处理。 傅立叶公式为：f ( 甜) = f ( t ) e - j “d t 傅立叶反变换公式为：f ( t ) = 去，) e d c o 在傅立叶变换过程中，由于积分是从负无穷到正无穷，因此无论频率0 9 何 时出现都会影响到积分的结果。也就是说从傅立叶变换式中，我们无法得知各 频率的时间信息，这是傅立叶变换一个很大的缺点。 由于f o u r i e r 变换存在着不能同时进行时间频率局部分析的缺点，曾出现 许多改进的方法。1 9 4 6 年g a b o r 提出一种加窗的f o u r i e r 变换方法，它在非 平稳信号分析中起到了很好的作用。但g a b o r 变换的时一频窗口是固定不变的， 窗口没有自适应性，不适于分析多尺度信号过程和突变过程，而且其离散形式 没有正交展开，难以实现高效算法，这是g a b o r 变换的主要缺点，因此也就限 制了它的应用。 2 2 小波变换 小波分析是当前应用数学和工程学科中一个迅速发展的新领域。经过近1 0 年的探索研究，重要的数学形式化体系已经建立，理论基础更加扎实。与f o u r i e r 9 变换相比，小波交换是空间( 时间) 和频率的局部变换，因而能有效地从信号 中提取信息。通过伸缩和平移等运算功能可对函数或信号进行多尺度的细化分 析，解决了f o u r i e r 变换不能解决的许多困难问题。它已经成功应用于信号处理、 数值分析以及其他的正在研究的应用。 定义1 ：称l 2 ( r ) 是一个小波，如果满足允许条件 。：e 掣2 如 升 显然痧( o ) = lg ( x ) e 。7 d x = 矿( x ) 出= 0 o一0。o一 这意味着y ( 工) 在( o 。，+ 。) 上振荡，函数值有正有负，所以称为“波”。 所谓“小”，是因为幅度衰减得很快，故此得名为小波。 定姐计互1 攻爿= h 图2 1 小波的伸缩波形 a ：尺度( s c a l e ) ，一1 ：相当于频率。 口 定义3 ：l 2 ，其连续小波变换为 w f ( 口，6 ) = ，( x ) 瓣= ( 厂( 力，y 啪( 功) 有自适应性，能提取局部信息。 2 2 1 小波变换的时频局部化 w f ( a ，6 ) = = r 。厂( z ) i 口 - 1 2 ( 三兰) 出 a l o 、， 6 一d x 一日 ，l p，一2 ：节 = 去 = 去e 夕( w ) 。1 ，2 讲沙( 洲) e - i b w 咖 假设，( x ) 的时频重心、半径分别是r 、w 、a 和p ，则| ；f ，。，6 ( 石) 的 时域重心：口( x 十竺) = “+ 6 d 时域半径：a a 。， 频域重心：羔l 频域半径：全旦_ o 时域窗：( a x + b 一日，a x + b + 口f ) 频域窗：c 等一等，等+ 争 时频窗口的面积是常数4 。女，因此可以生成自适应时频窗口，小波变换 常被称作数学显微镜( 如图2 - 2 所示) 。 2 3 多分辨率分析 图2 - 2 小波变换自适应时频窗口 定义：空间l 2 陋) 中的一列闭子空间 j 。，称为l2 陋) 上的一个多分 辨分析或逼近如果满足下列条件： ( 1 ) 单调性： 一c _ 一。碜z ( 2 ) 逼近性：n 一= o uy ，= l 2 ( r ) j e ： e z ( 3 ) 伸缩性： “g ) 一“( 2 工) 一 ( 4 ) 平移不变性：0 ) e ju ( x 一) e ( 5 ) r i e s z 基： 3 9 v o ， g ( x 一) ik z m 成v o 的r i e s z 基，即v 碥 j kk 3 “( x ) = 吼g ( x a ) 且 爿删：- z l a 。1 2 卯删；，称g 为尺度函数 女 ( s c a l i n gf u n c t i o n ) 。 1 分析 按m a l l m ：高分辨率空问与低分辨率空间的差，即为一个小波。 所以，由v o 可得到v l ，v i 可得到v 2 ，以此类推可得到v 。空间。 故多分辨率分析只取决于一个函数g ( x ) ( 由g ( z ) 可以得到v o ) 。 2 不同子空间中函数间的关系( 如图2 - 3 所示) “( 工) 亡，u ( 2 x ) 一i 争“( 2 2 t x ) 一一2c ，u ( 2 x ) v o 同理可得： “( x ) 苗u ( 2 一。z ) 一的基为曲( 2 7 x 一七) ik z n i t _ = s p a n g ( 2 - 一x - k ) l t z “( 功一u ( x 一2 j 七) “2 x ) v oj ( 2 。g 一i ) ) j “2 j x - - 2 ，i ) “0 2 ，) 一 定理：j p ，扣b 一) i 七z 构成的规范正交基 ( 妒( x 一七) ，妒( 工一行) ) = 占h =忙 尼= 七聆 其中：e，g，=：-，2-1。，。e。：f；cn，rz咒t42)一；。)1” 可以证明：若j 妒，勋0 一k ) j 后z ) 构成的规范正交基，则 2 一必妒( 2 七z 构成巧的规范正交基。 妒坩0 ) ：2 一伊2 - i x _ 女) _ 卜尺度，k 平移。 由于_ + 为_ 中子空间 ) 巧= v j + 1 0 川- ，( 1 ) ，【0 + lj _ + i ( 2 ) + ，= + ，1 ( 巧+ ，在中的正交补) 。 由( 1 ) ：v 营f = z + ，z ，厶+ 由( 2 ) ：( z ， ) = o ，v f , 。 嘭+ 于是称称为小波空间，一称为尺度空间。 由( i ) 得 = 一+ 一。影+ t = + z o 髟+ z o ，+ 一2 巧o o + ，o 0 e + 一一。象， 若斗一c 。，即构成l 2 ( r ) 故： 三2 ( r ) = o 矾，上哦+ = 一田 3 由于：杉+ 上+ 而+ z 亡+ ；+ ，上+ z 可以推得： ，上，( ) 图2 - 3 尺度空间与小波空间的关系 2 , 4m a l l a t 算法1 1 3 i 1 9 8 7 年，m a l l a t a n d m e y e r 提出了多分辨分析( m u l t i r e s o l u t i o n a n a l y s i s ) ， 从而成功的统一了在此之前的s t r o m b e r g 、m e y e r 、l e m a r i e 和b a t t l e 提出的具体 小波函数的构造，研究了小波变换的离散化情形，并将相应的算法( m a l l a t 算 法) 应用于图像分解域重构，如图2 - 4 ，2 - 5 所示。 图2 - 4l e n a 图像m a l l a t 算法分解 图2 5l e n a 图像m a l l a t 算法分解 m a l l a t 算法相当于f f t ： r ( r ) = 是= ，。( 。曼j ) 说明：能量有限的函数均可用子小波基表示。 厂= f ，矿止觋( 工) j e 2 女e 2 小波系数的计算 假设信号f = 巧。o + 其中c j + l ， = d + i = 下面求：c j “ ，谚，+ l t e ，f = = ( i e z 州n ( x ) )、 = 用双尺度方程： 妒。( 工) = h m 。( z ) 令x = 2 1 7 x 一k ，得： 矿+ 1 ) 2f i ( 2j - i x t 一胁 ( 3 ) = j 2 叫q 7 2 烈2 ( 2 。4 上一句一肌) 州z j 妒。( z ) = 。+ 。( 石) 2 + ? 。( 石，) ( 4 ) m e zm 。e z 将( 4 ) 代入( 3 ) 得： 6 q 扎r2 = 2 荟q ， = c ， = c “一h m - 2 k = c j , m h m - 2 k 同样由关于的双尺度方程 “功= 脯。伤，。( 功 * z “t ) = 巴，如川，虬扎。) f e z d a 扎t = q ， = g m - 。k = 吒，i 分解公式：c ，+ 彰， c j ，。h 。一2 女 q 五 重构公式：c j t = = ( c 扎，竹刖( 曲+ 以。，“，( z ) ，纺，；) l e z ，e z， 2 荟q 扎，( 仍扎，( 砘仍，t ) + i z d s 扎，( 扎，( 珐吼，。) =q吐t(厅。吼，(n仍。)+办扎。(g。仍。(np“)le z m 西= 。 “ = 圳c j + 1 ，+ g 。 ，z i e z 2 ，d j + i ， 7 纺q w 、， + 厂 ， i i +乃 柑 | | 女 乏 原始信号的采集： 厂e 巧，( 砷= c o ，。( x ) e z 1 由于c 0 ，t 较难计算，所以近似取为：c 。= f ( k t ) 2 通常取有限数据，即：c o t ，= 0 , 1 ，2 k ，k = 2 ”， 由于c 。，。= c j , m + 2 k 瓦，还要用到数据c o 小c o - 2 。 肺e z 对数据的处理： 数据量 a 对数据进行周期延拓： b 对数据进行对称延拓 c 进行零点延拓，即：c o 。= o ，七芒 0 ，1 ，2 k q 扎。= q ，。h - 2 。 j 乃扎。= q ，。i m z l z c 0 一 q “ k = 0 ，1 ，2 ，k 2 1 力+ 1 k = 0 ，1 ，2 ， k 2 + 1 黼口二嚣裂孙理， 万* = 2 ， 可以证明：矗：o 合成( 重构) = 玩。c 川+ z g 。d j 。 月i 2 5 常用小波函数 2 5 1 哈尔小波【1 4 1 哈尔小波是出现最早也是最简单的一种小波，它的尺度函数为： 删= 艺 o x l 其他 图2 - 6 为哈尔尺度函数波形。 y j l _ _ _ _ _ - _ _ - 。1 。 - _ _ 一 i l 图2 - 6 哈尔尺度函数 哈尔小波函数定义为： ，女( 算) = 2 s i 2 妒( 2 。z 一 ) k = 0 , 1 ，2 2 。一1 其母小波的表达式为 f 1 妒( 工) 。 一1 1 0 0 x 1 2 1 2 x 1 其他 图2 7 为哈尔母小波的波形图。 9 x j y 1 1 图2 7 哈尔母小波波形 哈尔小波的尺度向量和小波向量分别为： 州加彤压蒜i 妒 1 2 ”：0 1 2门= 1 0 其他 x 2 5 2d a u b e e h i e s 小波【1 5 1 d a u b e c h i e s 为紧框架结构，其尺度函数和母小波函数如图2 - 8 、图2 - 9 所示。 图2 8d a u b e c h i e s 尺度函数和母小波函数( n = 2 ) 图2 9d a u b e c h i e s 尺度函数和母小波函数( n = 3 ) 表2 1 为d a u b e c h i e s 低通滤波器系数，表中以及图2 8 、图2 - 9 中n 为 支撑区间一半的长度，比如说d a u b e c h i e s 小波的支撑区间可能为尺度函 数妒= 0 ，2 n l 】，小波函数吵= 1 - n ，n 】，, 为滤波器系数长度。 表2 1 部分d a u b e c h i e s 低通滤波器系数 n h f 0 2 t t h e ；以 = 20，4 1 5 0 b 3 5 0 9 4 6 1 0 9 7 e i1 40 l6 2 9 0 i ? 1 4 0 2 5 6 4 9 i e 0 0 i ts 9 1 5 0 6 3 5 0 0 a 6 1 0 e - 0 0 1l5 4 7 2 柳5 4 5 9 1 4 3 e 0 0 1 2】5 8 4 q 6 4 9 0 5 3 8 9 0 4 e - 0 0 i2 4 4 6 1 0 0 0 6 9 1 狮4 5 0 8 e 一0 0 l 391 5 0 6 3 , 5 0 9 4 6 i 0 9 6i 一0 0 2 3一】9 7 8 7 5 i j i j7 8 2 = b 艟。0 0 2 r 一3 o2 3 5 2 3 3 3 考9 2 0 8 1 8 b o o i 4 一i 3 2 2 酆5 8 3 6 8 4 5 1 9 9 e - 0 0 l l57 0 6 5 8 4 5 7 9 1 贸2 1 8 e l 5 2 1 8 0 8 1 5 q 2 3 7 0 s 9 5 8 e - 嘲 2 3 0 5 l 必0 0 3 儿6 i e 0 0 i b 2 3 2 5 1 8 0 0 5 3 捌9 0 8 8 e - 0 0 2 3 9 5 4 6 7 2 0 7 8 4 1 趟7 l 捌配 774 9 3 4 9 4 6 6 5 1 9 0 7 1 4 e - 0 0 3 46 ，0 4 l 酗0 4 1 5 5 1 9 0 “抛 51 4 9 0 8 7 4 9 8 6 8 4 4 1 8 4 b 抛： 本章小结：简单介绍了信号处理中的傅立叶变换和小波变换内容，了 解了小波理论的应用数学性能，在小波理论中，由于m a l l a t 算法的快速简 便性使得小波变换得到广泛应用。基于小波变换的图像压缩方法是目前最 流行的图像压缩方法之一。由于小波变换良好的应用性能，通过将小波变 换和其它常用的压缩方法相结合是当前压缩方法中研究的热门领域。 第三章神经网络理论 3 1 人工神经网络概念的提出 入脑是宇宙中已知最复杂、最完