（计算机软件与理论专业论文）基于联想记忆的图像压缩方法研究及其性能评估.pdf

一一一“一 南京航空航天大学硕士学位论文 摘要 ，随着多媒体系统的发展，越来越多的海量数据，例如图像、视频和文本等要通 过信息通道进行交换，常常造成信息通道的阻塞。在这种情况下，高效率的数据压 缩，即采用较小的空间存储较多的数据，并且使解压后数据的噪声尽可能小就成了 一个急需解决的问题。少j 由于双向联想记忆( b a m ) 具有良好的纠错性能和存储容量，它们可以被用于 使用查表方式的数据压缩上。本文在cc w h g 提出的指数双向联想记忆( e b 舢哪、 多值指数双向联想记忆o 小，e b a 旧，以及我们提出的改进的指数双向联想记忆 ( i e b a m ) 的基础上，通过引入自相关项提出了一种新的双向联想记忆模型一一扩展 的指数双向联想记忆( e m v 出埘) ，推广了e b a m 和m v e b a m 。通过定义简单的 能量函数证明了它在同、异步方式下的稳定性，并通过计算机模拟证实了其性能优 越性。同时，采用类似的方法还提出了多个推广多值双向联想记忆模型，并给出了 相应的稳定性证明。最后，在图像压缩的应用中模拟证实了采用i e b a m 和e m v e b a m 进行数据压缩的效果在信噪比意义下比e b a m 和m v 出a m 的效果更好。 芦 ) ( 关键词： 神经网络，( 指数) 双向联想记忆，内连接推广，图像压缩 基于联想记忆的图像压缩方法研究及其性能评估 a b s t r a c t w i t ht h e d e v e l o p m e n to fm u i t i - m e d i a it e c h n 0 1 0 弘m o r ea n dm o r ed a t a m u s tb e e x c h a n g e dt 1 1 r o u g hn e t ，e g ，i m a g e ，v i d e o ，a n dt e ) ( t a n di to f t e nm a k e sn e tc o n g e s t i o ns o h o wt oc o m p r e s s i o nd a t a 、) l ，i t ha h i 曲c o m p r e s s i o n r a t eu s i n gas m a l la m o u n to f s p a c ea n d l o wd i s t o r t i o no f t h e d e c o m p r e s s i o n d a t ah a sb e e na nu n r e s o l v e d p r d b l e m s i n c eb a mh a sb e e np r o v e dt op o s s e s sh i g hc a p a c i t ya n df a u l tt o l e r a n c e ，i ti ss u i t a b l e t ob eu t i l i z e di nt h ed a t ac o m p r e s s i o nu s i n gt h et a b l e l o o k u ps c h e m e i nt h i sp a p e lb a s e d o nt h ec c w a n g se b a m ，m v b b a m a n do u r si e b a m ，w e p r o p o s ean e we x p o n e n t i a l b i d i r e c t i o n a la s s o c i a t i v e m e m o f y m o d e l e m e n e d e dm u l t i v a l u e d e x p o n e n t i a l b i d i r e c t i o n “a s s o c i a t l v em e m o r y m o d e l 正m v 出越田b ya d d i n ga na u t o - c o r r e l a t i o nt e 肿 ( o ra ni n t r a c o n n e “o n ) t o t h ee x p o n e n t s ，e ) 【t e n d i n gt h ee b a ma n dm 、，国怂嗄t h es t a b i l i t y o ft h ep r o p o s e dm o d e li sp r o v e ni ns y n c l r o n o u sa n da s y n c l l r o n o u su p d a t em o d e sw i t ha d e f i n e de n e 喀ym n c t i o n a j l dt h ec o m p u t e rs i m u l a t i o nr e s u l t sv e r i f yt h a tt h eg o o de 疏c to f e m v e b a ma tt h es a m et i m e ，w ep r o p o s e ds e v e r a le ) ( t e n e d e dm u l t i v a i u e db i d i r e c t i o n a l a s s o c i a t i v em e m o r ym o d e lu s i n gs i m i l a rm e t h o da n dp m v et h e i rs t a b i i i t i e s f i n a l i y ，t h e i m a g ec o m p r e s s i o ns i m u l a t i o nr e s u l t sv e r i f y t h a tt h ee 丘色c to fd a t a c o m p r e s s i o nw i t h i e ba ：ma n de l 小i 龟b a mi sm u c hb e t t e rt h a nt h o s ew i t l 、e b a ma n dm v e b a ma tt h e m e a n i n go f s n r k e y w o r d ： n e u r a l n e t w o r k s ；( e x p o n e n t ) b i d i r e c t i o n a l a s s o c i a t i v e m e m o r y i m r a c o n n e c t i o n ；e x t e n s i o n ；i m a g ec o m p r e s s i o n 南京航空航天大学硕士学位论文 第一章引言 自从四十年代计算机问世以来，计算机技术已经取得了长足的进步，并已广泛 的应用到了我们生活的各个方面，给我们的生活带来了极大的方便。目前，随着计 算机的飞速发展，人们越来越迫切的需要计算机能够具有人类的某种智能，即可以 智能化的学习、分析、存储和处理信息。这就是当前人类所面临的重大科技研究课 题之一，智能信息处理问题。 神经网络是近些年来发展及其迅速的一门边缘学科，它在信号处理、模式识别、 函数逼近、预测分析等方面都取得了巨大的成功，并已被广泛的应用到了这些方面。 简单的说，神经网络就是由大量的很简单的处理单元( 神经元) 广泛的相互联结而 形成的复杂网络系统。它通过从结构上模拟人脑来达到对信息进行智能处理的目的。 神经网络是一个高度并行的，非线形的，具有高度冗余度的系统。它可以模仿人脑 处理不完整的、不准确的、甚至处理非常模糊的信息，并能联想记忆，即从部分信 息中获得全部信息。同时，神经网络所具有的自学习，自组织能力，使神经网络能 在与外部数据的交互作用下，实现无法用当前的计算理论表达清楚的功能。 联想记忆( a s s o c i a t i v em e m o r v a m ) 与一般神经网络的不同之处在于，除了 也具有大规模并行分布处理和存贮的能力外，它还具有相似输入获得相似输出的能 力，通过动态演化回忆规则实现对畸变数据、不完全数据或带噪声数据的完整回忆 的能力。h o 两e l d 联想神经网络作为联想记忆模型典型己应用在组合优化等领域， 但由于其自身存储容量的局限性，它在模式识别、数据压缩等领域的应用受到了很 大的限制。由此众多研究者推出了众多的改进模型，其中，由k o s k o 【l 】提出的双向 联想记忆i d i r e c t i o n a la s s o c i a t i v em e m o r y b a m ) 模型是一种双层的异联想记忆神 经网络模型。 图1 一lb a m 的拓扑结构 占t 4 基于联想记忆的图像压缩方法研究及其性能评估 从上图可以看出，b a m 是由互连神经元构成的双层反馈神经网络，每一个位于 域e 中的神经元口i 与域b 中的所有神经元岛相连接。同时，位于b 中的每个神经 元玩也与e 中的每个神经元岛相连接，因而称之为双向连接。而同一层或域中的所 有的神经元互相之间不连接。这样在b a m 中，所有触突信息均保存在一个行p 的 权值矩阵中。 b a m 网络是双向运行的，对网络的一端输入信号妒，经过权值矩阵彤加权后 则可在另一端得到输出y d ，该输出少在经过权值矩阵彤加权后又在输入端生成x 7 ， 并重新输入如此反复，直到网络达到稳定为止。 自从k o s k o 1 】提出双向联想记忆仍a m ) 模型以来，众多研究人员研究了b a m 的存储和纠错特性。但采用相关存储规则的b a m 的存储容量同样也极为有限 2 ，3 】， 为此国内外学者做了大量的研究工作，提出了许多方法来提高双向联想记忆模型的 存储容量和纠错性能，其中比较著名的是c h i u e h 和g 0 0 d m a n 【4 提出的指数h 0 p f i e l d 联想记忆( e x p o n e m i a lh o p f i e l da s s o c i a t i v em e m o 呦、j e n g “口，【5 】提出指数双向联想 记忆模型( e b a m ) 和c cw a n g “口， 6 提出了多值指数双向联想记忆模型 q f v 出) 。在此基础上，陈 7 ，8 】提出了改进的指数双向联想存储器( i e b 舢订) ，不 仅放宽了连续性假定的要求，其性能也优于e b a m 和m e b a m 。 在本文中，我们在考察了上述模型的基础上利用 7 ，8 】的思想，通过在指数项中 引入自相关项( 或内连接) 提出了m v 如a m 的一个扩展模型，称为扩展的多值指数联 想记忆模型( e m v e b 圳) 。通过能量函数的引入证明了e m v e b a m 在同、异步方式 下的稳定性，并将其应用于图像压缩中。模拟实验的结果表明，我们提出的e m v e b a m 比m 、，e b a m 具有更好的性能。 南京航空航天大学硕士学位论文 2 1 数据压缩基础 第二章数据压缩技术综述 数据是信息的载体，对于给定量的信息可用不同的数据量来表示。这样，对于给 定量的信息，设法减少表达这些信息的数据量就是数据压缩，而压缩数据量的重要方 法就是消除冗余数据。 在数字图像中，存在着三种基本的冗余： l 、编码冗余 编码冗余就是对出现概率不同的象素用相同长度的代码进行编码。 2 、象素间冗余 象素间冗余表现在相邻象素之间、相邻行之间或相邻帧之间都存在较强的 相关性，因此各象素的值常能通过其相邻的象素的值预测出来。 3 、心理视觉冗余 产生心理视觉冗余的原因是眼睛不同的视觉信息具有不同的敏感度，有些 信息在通常的视感觉过程中说另外一些信息相比来说不那么重要，这些信息就 可以认为是心理视觉冗余的。 圈像压缩就是要减少或消除其中的一种或多种冗余，以达到采用尽可能少的数 据表示给定量信息的目的。 2 2 现有数据压缩技术 对数据压缩算法的研究已经有几十年的历史，至今已有众多研究者提出了多种 数据压缩方法，有些己成为国际上数据压缩的标准并实用之。目前常见的压缩算法 有矢量量化( v q ) ，j p e g ，m p e g ，基于小波的数据压缩，基于分形的压缩和基于 小波和分形的联合压缩等。 根据数据压缩方法解码结果对原数据的保真程度，可以分为可逆压缩和不可逆 压缩两大类： ( 1 ) 可逆压缩 可逆压缩也称作无失真编码或无噪声编码( n o i s e l e s sc o d i n g ) ，即信息在压缩和解 压缩过程中没有损失。 基于联想记忆的图像压缩方法研究及其性能评估 ( 2 ) 不可逆压缩 不可逆压缩是指信息经过压缩后并不能通过解压缩恢复原状，它常常能取得较 高的压缩率。 数据压缩 测 图2 1 数据压缩技术的简单分类 2 3 利用联想记忆进行数据压缩 由于双向联想记忆( b a m ) 具有的相似输入获得相似输出的能力，通过动态演 化回忆规则实现对畸变数据、不完全数据或带噪声数据的完整回忆，它可以被用于 数据压缩，压缩的效果取决于所采用的b a m 模型。一个具有高存贮容量、低回忆 误差率、强纠错性的b a m 自然成为首选的模型，也是达到有效压缩的关键。 在本文中使用的数据压缩方法属于不可逆压缩，在发送端采用有序直方图算法 ( o h ) 、加入桶概念的有序直方图算法( b o h ) 或模糊c 均值算法( f c m ) 抽取原始数 据的特征向量，选择其中重要特征向量的作为码书( c o d eb o o k ) 并对其编号，然后 将原始数据化分为小块，使用双向联想记忆( b 删) 将分块后的数据映射成码书编号 后通过传输信道传送到接收端：在接受端首先通过b a m 将码书编号恢复成码书，然 南京航空航天大学硕士学位论文 后按发送顺序重新排列，将数据恢复。 下面是本文采用的数据压缩算法的基本流程 原始数据复原数据 图2 互本文使用的压缩算法模型 基于联想记忆的图像压缩方法研究及其性能评估 第三章二值双向联想记忆模型 在本章中，我们首先介绍j e n g 盯以 5 】提出的指数联想记忆模型( e b - 址d ；进而 给出改进的指数双向联想记忆模型( i e b a m ) 的回忆规则；最后给出i e b 朋“的能量 函数并证明其稳定性。 3 1 指数双向联想记忆模型( e b a m ) 3 1 1e b a i 的回忆规则 假设我们有m 个模式对 ( _ ，x l 佤，艺l ，( 如，) ) 其中 x ，= g n ，一：，x 。) - 1 ，1 y y ，= ，y 。：，y 驴) _ 1 ，1 ) 9 x l x | ，i j ，袋a y yj ，i j 。 e b a i 的回忆规则如下 y 2 x t 6x l z o 6j f f z l ，和分别是j 和与的第七个分量，相应的 球 止 y y 营 矿 矿 【 l一 ，j、 盯冒 旷 矿 ， ， l 1一 南京航空航天大学硕士学位论文 儿和分别是j ，和e 的第五个分量，“一代表内积操作。 3 2 改进的指数双向联想记忆模型( i e b a m ) 3 2 1i e b a m 的回忆规则 同样对于给出的m 个模式对髂。，) ，：，y 2 ) ，阢，h ，i e b a m 的回忆规 则如下 y x 5 吖 l ，矿y 庸6 r “+ r ，r o ， 一l ，矿 l ：t l ，矿x 捕6 1 “ ，o 一l ，矿x 雎6 x “1 r o ( 3 3 a ) ( 3 3 b ) 上式中数据的定义见3 1 1 节。事实上，( 3 3 ) 式的导出是在指数项中增添了一 个自相关项，相当于增加了内连接，这种增加如同 7 ，8 一样，期望会增加存储能 量及改进纠错性能。 3 2 2i e b a m 能量方程及稳定性证明 在证明i e b a m 的稳定性以前，我们首先要证明引理 6 y 一6 1 6 ) 6 。( y j ) ，v x ，y r 由公式 厂( j ，) 一厂( x ) = ( y z ) 厂( 亭) ，善k ，j ，】 其中，o ) 是连续函数，可知 6 7 6 。= ( y 一曲h 1 6 6 0 对上式分两种情形讨论 ( 3 4 ) ( 3 5 ) ( 3 6 ) rzl r，、i 情形1 ：y x 此时孝x ，) ，一x 0 基于联想记忆的图像压缩方法研究及其性能评估 ( 1 ) 当6 l 时，6 0 6 。，并且l n 6 o ，所以1 n 6 6 1 n 6 x 6 。 6 7 一扩= 0 一曲x l n 6 x 矿 ( y x ) l n 6 6 。 不等式( 3 4 ) 成立。 ( 2 ) 当6 1 时，6 6 。，并且l n 6 o ，同样有l n 6 6 0 1 n 6 6 。 6 7 6 。= 一曲l n 6 矿 ( y x ) 1 n 6 6 。 不等式( 3 4 ) 成立。 情形2 ：y x 此时孝x ，y x 0 ( 1 ) 当6 1 时，6 0 6 ，并且l n 6 0 ，所以l n 6 驴冬l n 6 6 。 一矿= ( ) ，一功l n 6 一功l i l 6 扩 不等式( 3 4 ) 成立。 ( 2 ) 当6 l 时，驴扩，并且1 n 6 t ，； ( 2 ) 对码书y 用= 缸。：f _ 1 ，2 ， ，从迭代次数口= o 开始找出训练序列t 的最小 失真分割，即若 d ( x 。，x 拥) d ( x 。，x ，卅) 对所有的j = l ，2 ，j 都成立，则判定x 。r ，其中失真测度采用欧氏距离，即 1k 酝，瓦) = 专一) 2 、七= l 其中是第皿次迭代得到的码书y 卅中码字f 。的第七个分量；h 则为以的第七个 分量： ( 3 ) 计算平均失真 。= 专粪曲榔_ 。) 若 孚甄陬卟) 则输出l 作为码书，退出迭代过程；否则进行下一步； 基于联想记忆的图像压缩方法研究及其性能评估 一 ( 4 ) 求出各分割足的几何中心g ；，f = l ，2 ，；取四= 计1 ，令新码书 y 辨+ 。：以m + 。= g = 1 ，2 ，) 跳转到( 2 ) 4 2 有序直方图算法( o h ) 使用有序直方图算法的目的是为了抽取原始数据集合的特征向量。假设有我们 有一个原始数据向量集合4 = “，口：，a 。) ，其中q 月”，r = 一l ，+ 1 ) 。首先使 用向量直方图算法，即抽取4 中的向量，并统计其中每一个向量的重复次数。因此， 直方图映射函数日可以定义为 日：彳斗b ，b = 6 l ，6 2 ，一，6 ) 其中b 被称作直方图，是直方图的大小，并且有6 ，6 ，彳，6 ，岛如果，。 根据以上的定义，日操作将彳划分成组，每组是一个向量6 。在本文中，使用 “”f p ，) 表示向量6 在原始数据向量集合4 中的个数，即 c d ”门f ( 6 ，) = n o o f 吼爿，- t = l ，d ，c ，i = 6 。 很明显，向量6 ，的重复次数c 鲫”f ( 6 ，) 表明了这个向量的重要程度。在数据压缩 解压缩的过程中，我们将尽力的保持那些重复次数多的向量，以使解压缩后的数据 噪声尽可能的小。为了达到这个目的，我们再根据c d ”耐( 6 。) 对直方图b 进行排序 。胁b 斗g ，g = k ，g ：，岛 其中，c d 甜门f ( 9 1 ) c d 行f ( 9 2 ) - c o 村 f ( g k ) ，并且占，曰。 我们称g 为原始数据集合4 的有序直方图，g ，g ，f - 1 ，2 ，为原始数据集 合爿的有序的特征向量。 到这里，我们就得到了一个特征向量根据其重要程度( 即在原始数据中的重复 出现的次数) 排列的有序直方图。 南京航空航天大学硕士学位论文 4 3 使用b a m 压缩图像的方法 由于有序直方图方法可以从原始数据中抽取特征向量，所以可以将它和b a i 结 合起来进行数据压缩。其基本思想是利用b a m 的高存储容量和低错误概率，将有序 直方图中重要的特征向量存入b j m 。下面是算法的具体步骤 ( 1 ) 首先将图像划分成为边长为丑的正方形，然后将各个小块中的象素值按照 从左到右从上到下的顺序转换为一维向量，这样就生成了原始数据向量集合 一= 口l 口2 ，口d ) 。 ( 2 ) 使用有序直方图算法生成爿的有序直方图 ( 3 ) 从有序直方图g 中选择前个最重要的特征向量作为被编码和传送的向量 ( 即码书) ，这里。 ( 4 ) 为每一个选中的特征向量随机生成一个唯一的标记向量( 即码书编号) 。为 了标识。个特征向量，标记向量的维数p 应至少是l o g ，。 ( 5 ) 将每一个特征向量和其对应的标记向量作为输入模式对存入b a m ，然后用b a m 对原始数据中的每一个向量进行压缩，生成相应的标记向量。 ( 6 ) 在接受端收到标记向量后再使用b a m 将其对应的特征向量联想出来，并按照 原顺序排列，使数据恢复。 4 3 计算机模拟实验结果及性能比较 4 3 1 比较标准 为了取得一个客观的比较结果，我们分别定义信噪比和压缩率的计算公式为 肼艘= l o gl o c d 尺= 矗高i 件， 芸l 。岛，帆( 脬+ l o 。2 其中为原始图像中总的象素数，x 。表示原始图像中某一位置上象素的值，曼 ，。l 基于联想记忆的图像压缩方法研究及其性能评估 表示解压缩后相应位置上的象素的值，| _ i 表示绝对值，表示特征向量的个数。 下面是二值图像的特征向量个数和压缩率的关系表 l 删 81 63 26 41 2 82 5 6 i 45 2 6 83 9 2 3 3 0 9 82 5 2 22 0 7 31 6 8 4 l 81 8 1 6 71 2 6 4 28 9 4 36 1 6 94 0 3 l2 4 6 l 表4 1 二值图像的特征向量个数和压缩率的关系 4 3 2 模拟实验结果 在模拟试验中，我们使用了一个2 5 6 2 5 6 的原始图像( 见图4 1 ) ，分别用i e b a m 和e b a m 进行压缩，并将压缩的效果同使用标准矢量量化算法进行压缩的效果进行了 比较。 南京航空南尿舰至 航天大学 计算机系 图4 1 原始图像 南爻舷窄嘲勇 j 搋￥ 航天大学 计算机系 图4 2 ( a ) v q ( 丑蜃= 4 ，_ 3 2 ， 暖= 1 5 9 ) 南京航空航天大学硕士学位论文 南京航空南京航空 航天大学 ：计算机系 航天大学 计算机系 图4 2 ( b ) e b a m ( 鼠净4 ，1 6 ，脚识= 1 5 6 )图4 - 2 ( c ) i e b a m ( 肷= 4 ，- 1 6 ， 假= 1 7 0 ) 南京航空网尿瓶仝 航天大学 计算机系 图4 - 3 ( a ) v q ( b ：蜃= 4 ，j _ 3 2 ，识= 1 7 9 ) 南京航空南京航空 航天大学航天大学 计算机系计算机系 图4 3 ( b ) e b a m ( 雕，_ 4 ，3 2 ，趴碾= 1 7 0 )图4 3 ( c ) i e b 州( b k = 4 ，- 3 2 ，肌碾一1 8 3 ) 1 7 基于联想记忆的图像压缩方法研究及其性能评估 南京航空南尿如i i 仝 航天大学 计算机系 图4 4 ( a ) v q ( & 轻4 ，3 2 ， 碾= 2 0 2 ) 南京航空 航天大学 计算机系 南京航空陶尿颅l i 仝 航天大学 计算机系 图4 - 4 ( b ) e b a m ( 肷= 4 ，= 6 4 ， 碾= 1 8 5 )图4 - 4 ( c ) i e b a m ( 引e 4 ，_ 6 4 ，s ( r = 20 4 ) 南京航空甬尿瓶芏 航天大学 计算机系 图4 - 5 ( a ) v q ( 鼠b 4 ，k 3 2 ，鲫瓜= 2 1 7 ) 1 8 南京航空航天大学硕士学位论文 南京航空南京航空 航天大学航天大学 计算机系计算机系 图4 - 5 ( b ) e b a m ( b - ( = 4 ，j - 1 2 8 ，s 扎r = 20 5 )图4 - 5 ( c ) i e b a m ( b 转4 ，= 12 8 ，印限= 22 9 ) 从以上的实验结果可以看出，使用我们提出的i e b a m 进行数据压缩比使用e b a m 具有更好的效果，这说明我们提出的i e b a m 比e b a m 具有更高的存储容量和更强的纠 错能力。同时，使用i e b a m 对二值图像进行压缩的效果也优于标准矢量量化算法。 基于联想记忆的图像压缩方法研究及其性能评估 第五章多值双向联想记忆模型 在本章中，我们首先介绍c cw i n g “口，【6 提出的多值指数联想记忆模型 ( m v e b ) ；进而给出改进的多值指数双向联想记忆模型( e m v e b 删) 以及 e m v e b a m 的能量函数和稳定性证明；然后给出我们提出的其它一些双向联想记忆 模型，并证明其中的一个模型的稳定性；最后用模拟试验的方法比较m r e b a m 和 e m v 出a m 的性能。 5 1 多值指数双向联想记忆模型( m v e b a m ) 5 1 1m v e b a m 的回忆规则 慨，e l 化，n 一，阢，) ) ( 5 - 1 ) 五= 。，t ：，) 1 ，2 ，l ) ” l = b ，j ，：，) 1 ，2 ，l ) ， x 。 x j i j 并a y t y | ，j j 。 胪吖劳 睁。a ， 矿文瓷等 伊z n ， 其中j 和y 是输入的模式，6 l ，和分别是j 和以的第七个分量，相应的 儿和分别是j ，和e 的第五个分量，l | 为欧氏距离度量，以) 是如下的阶 南京航空航天大学硕士学位论文 梯函数 日( x ) = x d( 5 3 ) 其它 这里l 是阶梯函数级数，口是阶梯函数间隔。当d j o 。，并且l j 时， ( x ) zx ，r o 。之所以使用阶梯函数是因为( 5 3 ) 式中的x 可能不是正整数，因此 我们要将这个参数转换成距离其最近的正整数。 5 1 2m v e b a m 的能量方程及稳定性证明 在本节给出m v e b a m 的能量函数及其稳定性证明，证明分到，方向及j ，到j 方 向。对于j 到j ，方向，定义能量函数e 如下 e 。( z ，】，) ：兰o x x 。8 2 6 圳r _ r l 0 2 ( 5 4 ) i = l 然后，证明在j 发生变化时e 是减小的( 即h 变化，其余状态固定的异步更新 模式) 。计算。巨( z ，y ) 置( x ，y ) = v 以岛( ，y ) 缸。 x 廿) 6 一i r 一 1 2 ( x ：一x t ) =z(：垂a一一rt1)(x。一：l!筹 一t = l 其中t 是h 的后一个状态值，我们对上式分三种情形讨论 情形； x 。一： 劳 耳，所以h e l ( x ，y ) 矗，所以h e ( x ，y ) 圭 根据( 5 7 ) 式，此时x ： 0 。 、，i、l = 兰坠 髓一s 邕i 基于联想记忆的图像压缩方法研究及其性能评估 胪( 选湍 睁， 铲日 毫器 伊 其中麒) 的定义见( 5 3 ) 式，s ( ，矿，) 表示向量圪，y ，之间的相似度， s ( ，矿，。，) = 1 矿。一矿1 | 2 + | l 矿。一矿1 1 2 4 、第四种改进模型 口 0 。 胪吖 矿1 爿= ：+ 三，b = ：。主 ，口， 。 ( 5 1 6 a ) ( 5 1 6 b ) 南京航空航天大学硕士学位论文 5 3 2 第一种改进模型的稳定性证明 我们先给出此模型的能量函数 e ( x ，y ) ：一兰，6 一。j ( j ，一“) 2 ”f 。f ( y f 一蛳) 2 ( 5 一1 7 ) 假设仉与凹，分别是当前和下一个状态，定义两者的能量差为 e ( x ，y ) e ( z ，y )= e ( z ，y ) 一e ( x ，y ) 一6 一r 。孕。 q ( _ 一t ，) 2 卜i 。f 。，( 乃一”，) ： 。一。， 由不等式6 ，一矿q n 功扩抄一曲，v x ，y r 可知 e ( 五即1 n 6 兰6 一甲o “嘞) 2 ) _ 甲 6 f “叫) 融( 柏，) 2 ) 一叩鼎( 五耐) 伊1 9 ) 不失一般性，假设，= _ 】 时，吼( r ：一) 2 最大，则有 峄心；一h ) 2 _ 叩台心，一h ) 2 ) 口f ( x ：一x ) 2 一吼( 耳一) ) 2 代入到( 5 一1 9 ) 式得 颤e ( 置d 吼h 1 6 阮一讫) 兰6 一呷。b ( 砷嘲) 2 _ 叩、缸( m 训2 ) 设 k + 气一 ( 5 2 0 ) x 0 xm一 6 lm 一 基于联想记忆的图像压缩方法研究及其性能评估 x 。) 2 _ m 掣0 ，( y ，一y 一) 2 ) 兰6 呷刊2 _ “f 蛳) 2 ) = q 。 兰6 呷嘞) 2 卜甲川“： 代入到( 5 2 0 ) 式有 ，e ( x ，y ) 疗。l n 6 ( x ：一工 ) 【( 工：一q ) + ( 工一q ；) 】 ( 5 2 1 ) 同样我们对上式分三种情形讨论 情形，： 一丢 ： 根据( 5 1 3 ) 式，此时t = 日( g ) 吱一姨+ 圭= 日( q 。) 情形3 ： x 。一q 。一 肌函数的定义有一丢c h ( g ) 一q 圭， q 。+ 争o ，所以x e ( x ，y ) o 。 根据( 5 1 3 ) 式，t = 日( g ) 墨，根据函数的定义有一去 日( q ) 一q 去， ( 吱一幺) + ( h 一么) 】x ：一g 一 = ( g ) 一幺一要o ，所以j e ( x ，】，) o 。 同理可证y e ( z ，j ，) o 。同时( 5 一1 3 ) 式中定义的能量函数有界，所以回忆规 则保证了能量函数e ( ，y ) 随状态变化而逐渐减少，并最终收敛到局部最小点上。 因此，此模型是稳定的。 5 4m v e b a m 和e m v e b a m 的性能比较 为了比较m v 扭a m 和e m v 国a m 的存储容量和纠错性能，我们进行了如下模 拟实验。 r 岛 x a ， m一 6 七 x m 南京航空航天大学硕士学位论文 实验1 ：存储容量比较，设置网络参数b = 2 ，n = p = 8 ，l = d = 8 ，模式数m = 3 0 0 4 0 0 ，5 0 0 ，6 0 0 ，8 0 0 ，1 0 0 0 。比较正确回忆率，所得结果见图l 。 po 9 9 8 o 9 8 o 9 7 。 、 h jo 3 0 04 0 0 5 0 06 0 08 0 01 0 0 0 m 图5 1 地】忆率与m 的关糸 从图中可以看出，e m v e b a m 优于m v e b a m 。 实验2 ：纠错性能比较，对输入向量的某一位添加随机噪声。设置网络参数 ”印= 8 ，i d = 8 ，6 2 2 0 。 0 9 o 一0 8 o 7 0 6 ， 3 0 04 0 05 0 06 0 08 0 01 0 0 0 m 图5 2 有一位噪声数据时回忆率与m 的关系 实验3 ：6 对纠错性能的影响，对输入向量的某一位添加随机噪声。设置网络参 数玎7 = 8 ，三= d = 8 ，朋_ l 0 0 0 。 基于联想记忆的图像压缩方法研究及其性能评估 1 o 9 号 0 8 = 日 20 7 h o 6 。_ 一 2 o2 53 03 54 o4 5 5 0 b 图5 有一位噪声数据时回忆率与b 的关系 f + m 丙丽l - e m v e b a m i 从以上的实验结果可以看出，我们提出的e m v e b a m 比c cw a n gp ，以 6 提出的 m v e b a i 有更大的存储容量和更强的纠错能力。而且我们给出的e m v e b a m 稳定性的证 明方法具有一定的通用性，可以在此基础上做进一步推广，从而得出一系列类似的 双向联想记忆模型。 南京航空航天大学硕士学位论文 第六章利用多值双向联想记忆模型进行灰度图像压缩 在本章中，首先介绍从原始数据中抽取特征向量的加入桶概念的有序直方图算 法( b o h ) 和模糊c 均值算法( f c m ) ，然后介绍使用多值指数双向联想记忆模型对灰 度图像进行压缩的方法，最后，将我们所做的模拟实验结果给出。 6 1 提取图像特征向量的方法( b o h ，f c m ) 6 1 1 加入桶概念的有序直方图方法( b o h ) 由于将狄度图像划分成小块后，很少有两块完全相同的，所以在42 节中有序 直方图方法不能直接应用于灰度图像。于是，我们加入了“桶”的概念，即设定一 个桶半径，然后选定个桶中心，将所有落入桶半径范围内的向量归并到一起，并 统计每个桶中向量的个数，计算出每个桶中向量的几何中心，作为原始数据集合的 特征向量。下面给出具体的b o h 算法： 具体数据的定义见42 节 ( 1 ) 首先确定桶的半径6 和特征向量的个数。 ( 2 ) 根据4 1 节介绍的有序直方图算法( o h ) 求出原始数据集合爿的有序直方图 g 。 ( 3 ) 选取g 中的个向量，作为初始的桶中心。 ( 4 ) 将原始数据集合4 中的数据划分到个桶中，具体做法是如果怯一g 川c 6 2 ， 则将嘎划归到第，个桶。 ( 5 ) 求个桶的几何中心，作为将原始数据集合爿的个特征向量。 6 1 2 模糊c 均值方法( f c m ) 在4 1 节介绍的矢量量化算法，其算法本质就是要根据失真最小原则，决定如 何对尺。进行划分以得到合适的，个分块，以及如何从这，个分块( 足) 中选出它 基于联想记忆的图像压缩方法研究及其性能评估 们各自合适的代表矢量一。具体的说，就是寻找一个，元最佳量化器q ，使得平均 失真d ( q ) 最小。很自然的，我们想到了可以采用模式识别中的c 均值算法( c m ) 和模糊c 均值算法( f c m ) 对原始数据进行分类，并将求得的，个聚类中心作为原 始数据的代表矢量f 。下面介绍一下我们所采用的f c m 算法 首先，将有关符号定义如下：g ，f = 1 ，2 ，n ) 是疗个样本组成的样本集 合，c 为预定的类别数目，川，u ，= 1 ，2 ，c 为每个聚类的中心( 即原始数据的 代表矢量) ，( z ，) 是第j 个样本对于第- ，类的隶属度函数a 用隶属度函数定义的聚 类损失函数可以写为： ，= f ，酬j 堋川 ( ， ，2 j ，2 i 其中，6 ，o 是一个可控制聚类结果模糊程度的常数。 而在f c m 算法中要求每一个样本对于各个聚类的隶属度之和为l ，即 ，( _ ) = 1 ， f = 1 ，2 ，( 6 9 ) j = 1 在( 6 9 ) 式条件下求( 6 8 ) 式的极小值，令以对卅和，( x 。) 的偏导数为o ，可得必要 条件： 窆k 小，) h = l ，2 ，c ( 6 一1 0 ) ，c，=黯，=，z，”，=，z，一，c c e 一- - ， 丽。 = m 南京航空航天大学硕士学位论文 ( 3 ) 根据( 6 一1 1 ) 式计算每个样本对每个分类的隶属度函数( ) 。 ( 4 ) 利用当前的隶属度函数和( 6 1 0 ) 式更新各聚类中心! 。 ( 5 ) 计算j ；，并判断j ；一t ，夕1 占，如果成立则算法收敛，输出c 个聚类中 心肌! 作为特征向量，退出迭代；否则取，= ，+ 1 ，跳转到( 3 ) 。其中占是一个小常数， ，：1 = 一。 6 2 计算机模拟实验结果及性能比较 使用多值b a m 压缩灰度图像的方法同使用二值b a m 压缩二值图像的相似。 6 2 1 比较标准 对于灰度图像，我们重新定义信噪比和压缩率的计算公式为 册2 稍 上一l c d 尺= ( 6 1 2 ) r 8 羔l 。岛肌( 解8 + l 训) 。3 其中r 为原始图像中总的象素数，一表示原始图像中某一个象素的值，曼。表示 解压缩后相应位置上的象素的值，i 1 表示绝对值，表示特征向量的个数。 下面是灰度图像的特征向量个数和压缩率的关系表 l 僦81 63 26 41 2 82 5 6 | 43 9 3 1 42 8 3 4 62 1 1 9 51 5 8 1 51 1 4 0 97 7 5 8 l87 2 8 9 94 2 4 4 62 4 2 0 11 3 3 4 27 1 2 33 7 l o 表6 一l 灰度图像的特征向量个数和压缩率的关系 基于联想记忆的图像压缩方法研究及其性能评估 6 2 2 模拟实验结果 为了显示e m v e b a m 压缩解压缩算法的效果，我们使用了2 5 6 2 5 6 的标准l e n a 图像( 见图6 一1 ) ，首先采用了b o h 算法提取原始图像的特征向量，分别用e m v e b a m 算法和m v e b a m 算法进行压缩和解压缩；然后使用f c m 算法提取原始图像的特征矢量 再使用e m v e b a m 算法和m v e b a m 算法进行压缩和解压缩。同时，我们使用了标准的矢 量量化算法对图像进行了压缩，以比较压缩的效果。 图6 1 原始图像 首先，我们使用b o h 算法抽取原始图像的特征向量，然后用m v e b a m 和e m v e b a l 算法进行压缩，并将实验结果和标准的矢量量化算法产生的结果进行比较。在实验 中，桶半径6 = 1 0 ，下面是具体的实验结果 图6 2 ( a ) v q p = 1 6 ，s n r = 2 8 6 3 5 南京航空航天大学硕士学位论文 基于联想记忆的图像压缩方法研究及其性能评估 可以看出使用b o h 算法提取原始图像特征向量的效果并不好，但是我们提出的 e m v e b a m 算法的效果好于m v e b a m 算法。 随后，我们使用f 洲算法抽取原始图像的特征向量，再使用m v e b a m 和e m v e b a m 算法进行压缩，下面同样给出具体的实验结果 南京航空航天大学硕士学位论文 基于联想记忆的图像压缩方法研究及其性能评估 可以看出使用f c m 算法提取原始图像特征向量的效果是最好的，而且随着特征向 量的加大，由于 f v e b a m 在存储容量和纠错性能上的不足，恢复图像中出现了很多错 误的色块。而我们提出的e m v e b a m 的存储容量和纠错性能都比m v e b a m 都有了很大的 提高。 南京航空航天大学硕士学位论文 第