（计算机软件与理论专业论文）模糊形态尺度空间联想记忆的研究与应用.pdf

摘要 摘要 模糊形态尺度空间联想记忆的研究与应用 姓名：冉天保 专业：计算机软件与理论 导师：吴锡生 联想记忆是人类脑细胞的重要功能之一，人工神经网络的一个很重要的方面就是 模拟人类的联想记忆功能。2 0 世纪末，g x r i t t e r 等人提出的形态联想记忆网络是一 种较为有效的联想记忆方法，克服了经典联想记忆网络样本存储能力有限、联想记忆 需要多次迭代等缺陷，而且对含单一噪声的二值图像进行联想记忆运算时，有较好抗 噪能力，但它几乎没有抗随机噪声的能力。形态联想记忆网络及其各种改进型网络在 处理模糊性解释的问题上无能为力，为此b k o s k o 提出了模糊联想记忆，解决了网络 模糊性解释的问题，然而这种网络的存储能力极为微弱。一些学者将形态学和模糊联 想记忆网络相结合得到了模糊形态联想记忆网络，较好的解决了存储能力微弱的缺 陷，而且还具有很强的抗单一噪声能力，可它对随机噪声几乎没有任何抑制性，这一 缺陷限制了该网络的应用。 本文主要做了两方面的工作，一是将尺度空间和形态联想记忆网络结合得到一种 新的网络，对输入模式进行一定尺度下的腐蚀膨胀操作，构造出相应的腐蚀膨胀存 储矩阵，然后再进行联想记忆运算，结果表明它也具有优越的抗膨胀噪声或者腐蚀噪 声的能力，同时对随机噪声有一定的鲁棒性，而且推广到了对灰度图的处理，使得网 络具有了一定的抗随机噪声能力。 另一个是尺度空间和模糊形态联想记忆网络的结合，即基于尺度空间的模糊形态 联想记忆网络，这一新的方法保持了模糊形态联想记忆网络的优点，即：具有优越的 抗单一噪声能力和模糊性解释能力，而且还对二值图和灰度图的含随机噪声输入有了 一定的抑制。我们通过大量的仿真试验验证了上述结论。 关键词：数学形态学；联想记忆；神经网络；尺度空间；模糊联想记忆；存储矩阵： 图像处理 江南大学硕士毕业论文 a b s t r a c t t h er e s e a r c ho f f u z z ym o r p h o l o g i c a ls c a l es p a c e a s s o c i a t i v em e m o r i e sa n d i t sa p p l i c a t i o n n a m e ：r a nt i a n b a o m a j o r ：c o m p m e rs o f t w a r ea n dt h e o r y t u t o r ：町) 【i s h e n g a s s o c i a t i v em e m o r yi so n ei m p o r t a n tf u n c t i o no fh u m a nb r a i nc e l l s , a n do n ei m p o r t a n t a s p e c to fa r t i f i c i a ln c l l r a ln e t w o r ki st os i m u l a t et h ea s s o c i a t i v em e m o r yf u n c t i o no fh u m a n b e i n g s t h em o r p h o l o g i c a la s s o c i a t i v em e m o r i e sp r o p o s e db yg x r i t t e re ta la tt h ee n do f t h e2 0 “c e n t u r yi sa ne f f e c t i v ew a yt oo v e r c o m et h ed r a w b a c k sc l a s s i c a la s s o c i a t i v e m e m o r i e s ，s u c ha st h el i m i t e ds a m p l es t o r a g ec a p a c i t ya n dn e c e s s i t yo fi t e r a t i v em e m o r y i n a d d i t i o n , t h i sn e t w o r kh a sa d e q u a t ea n t i - n o i s ec a p a b i l i t yi np r o c e s s i n gb i n a r yi m a g e sw i t h s i n g l en o i s e ，b mi ts e e m si n a d e q u a t ei nd e a l i n gw i t hr a n d o mn o i s e m o r p h o l o g i c a la s s o c i a t i v e m e m o r i e sa n di t si m p r o v e dv e r s i o n sc a n n o te f f e c t i v e l yd e a lw i t ht h ei s s u eo fa m b i g u o u s i n t e r p r e t a t i o n , t h u sb k o s k op r o p o s e sf u z z ya s s o c i a t i v em e m o r i e s ，w h i c hs o l v e st h ei s s u eo f a m b i g u o u si n t e r p r e t a t i o nb u th a sq u i t ep o o rs t o r a g ec a p a c i t y p a p e r sb yc o m b i n i n g m o r p h o l o g ya n df u z z ya s s o c i a t i v em e m o r i e s ，p r o p o s ef u z z ym o r p h o l o g i c a la s s o c i a t i v e m e m o r i e s t h i sn e wn e t w o r ks o l v e st h ep r o b l e mo fp o o rs t o r a g ec a p a c i t ya n da l s oh a sa s t r o n ga n t i - n o i s ec a p a b i l i t ya g a i n s ts i n g l en o i s e ，b u tc a nh a r d l ys u p p r e s sa n yr a n d o mn o i s e , w h i c hi i m r si t sw i d eu t w ot h i n g , sa l ed o n ei nt h i sp a p e r ：f i r s t l y ，i tc o m b i n e ss c a l es p a c ea n dm o r p h o l o g i c a l a s s o c i a t i v em e m o r i e st og e tan e wn e t w o r k , w i t ht h e i n p u tp r o c e s sg o i n gt h r o u g ha e r o s i o n d i l a t i o ns t o r a g em a t r i xu n d e rap a l t i c u l a ls c a l eb e f o r et h ea s s o c i a t i v em e m o r y p r o c e s s i n g 1 1 l i sn e wn e t w o r kp r o v e st oh a v eo u t s t a n d i n gc a p a b i l i t ya g a i n s td i l a t i v eo re r o s i v e n o i s eb e s i d e si t sr o b u s t n e s s 艇脚r a n d o mn o i s eb u ta l s oi s a p p l i e dt op r o c e s s i n go f g r a y s c a l ei m a g e s e c o n d l y ，i tc o m b i n e ss c a l es p a c ea n df u z z ya s s o c i a t i v em e m o r i e st op 如妇af u z z y a s s o c i a t i v em e m o r i e sb a s e do ns c a l es p a c e w h i c hn o to n l ym a i n t a i n st h ea d v a n t a g e so f f u z 巧 a s s o c i a t i v e m e m o r i e s - - 一s t r o n g a n t i - n o i s o c a p a b i l i t ya g a i n s ts i n g l e n o i s ea n d f u z z y i n t e r p r e t a t i o na b i l 时一- b u ta l s os u p p r e s s e st h er a n d o mn o i s ei np r o c e s s i n gb i n a r yi m a g ea n d g r a y s c a l ei m a g e al o to fs i m u l a t i o ne x p e r i m e n t sh a v eb e e nc o n d u c t e dt ov e r i 匆t h ea b o v e c o n c l u s i o n k e yw o r d s ：m a t h e m a t i c sm o r p h o l o g y ；a s s o c i a t i v em e m o r i e s ；n e i l ：r a ln e t w o r k ；s c a l es p a c e ； f u z z y a s s o c i a t i v e m e m o r i e s ；s t o r a g em a t r i x ；i m a g ep r o c e s s i n g n 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地 方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含 本人为获得江南大学或其它教育机构的学位或证书而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明 确的说明并表示谢意。 签名：蛊型垒日期：弘亏年岁月f 珀 关于论文使用授权的说明 本学位论文作者完全了解江南大学有关保留、使用学位论文的规 定：江南大学有权保留并向国家有关部门或机构送交论文的复印件和 磁盘，允许论文被查阅和借阅，可以将学位论文的全部或部分内容编 入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存、 汇编学位论文，并且本人电子文档的内容和纸质论文的内容相一致。 保密的学位论文在解密后也遵守此规定。 签名： 导师签名：益迕兰 日期：年月 日 第一章绪论 1 1 概述 第一章绪论 由于冯诺依曼( y o nn e u m a n n ) 体系结构的局限性，数字计算机还存在一些尚无法 解决的问题。例如，基于逻辑思维的知识处理，在一些比较简单的知识范畴内能够建 立比较清楚的理论框架，部分地表现出人的某些智能行为，但是，在视觉理解、直觉 思维、常识与顿悟等问题上却显得力不从心。这种做法与人类智能活动有许多重要差 别。传统的计算机不具备学习能力，无法快速处理非数值计算的形象思维等问题，也 无法求解那些信息不完整、不确定性和模糊性的问题。为此人们一直在寻找新的信息 处理机制，人工神经网络就是其中的一种方法。 人工神经网络( a n n ) 是模仿脑细胞结构和功能、脑神经结构以及思维处理问题等脑 功能的新型信息处理系统。麦卡洛克( m c c u l l o c h ) 和皮茨( p i t t s ) 曾于1 9 4 3 年提出一种 叫做“似脑机器( i n d l i k em a c h i n e ) ”的思想，这种机器可由基于生物神经元特性的 互联模型来制造，这就是神经网络的概念，自此开始了对神经网络的研究，经过几起 几落，波浪式的发展，到2 0 世纪8 0 年代，主要是通过h o p f i e l d 网络的促进和反向传 播网络训练多层感知器的推广，人工神经网络的研究才再次兴起。由于人工神经元网 络具有复杂的动力学特性、并行处理机制、学习、联想和记忆等功能，以及它的高度 自组织、自适应能力和灵活性而受到自然科学领域学者的广泛重视。迄今为止，神经 网络的应用研究已取得了很大的成就。涉及的领域非常广泛，就应用的技术领域而 言，有计算机视觉，语言识别，理解与合成，优化计算，专家系统与人工智能等。涉 及的学科有神经生理学，认识科学，数学，心理学，信息科学，计算机科学，微电子 学，光学和生物电子等。随着人们研究的进一步深入，神经网络的应用必将扩展到更 加广阔的领域。 1 1 1 研究背景和意义 联想记忆( a s s o c i a t i v em e m o r y ) 是人类智能的一个非常重要的方面，如何模仿、探究 和利用这种功能具有重大意义模仿人脑的联想记忆功能，对人类的这种联想记忆进 行研究，除了有重要的理论价值外，在科技领域中也可以得到许多实际应用，比如人 脸和声音的识别、图像的恢复和增强以及通信中的纠错编码、寻址等。在模式识别技 术越来越被广泛的应用于众多重要的科学领域的时候，力求寻找出一个更有效的网络 模式和算法，使得对信息的联想记忆和图像的识别正确率能得到提高，有着十分重要 的意义。 形态学网络模式是由w i l s o n ( 1 9 8 9 ) 提出的一个与以往普通模式完全不同的模式。 其基本区别在于它的每一结点处使用通常的乘法和加法操作，在这之后，陆续有学者 对其进行研究并取得了一些成果。其中g x r i t t e r o 阁等人提出了一种新型的形态学神经 网络，其基本思想是：把乘法和加法操作用增强和最大化( 最小化) 操作取代，通过 由总数的最大化( 最小化) 取代数量的总和。由于形态学网络计算时在初始状态是非 线性的，结果导致形态神经网络的性能要比那些常规的神经网络模型具有很大的优越 性及生命力。相对于一般的联想记忆神经网络，研究人员发现将形态学联想记忆神经 网络应用于模式识别中能取得较理想的识别效果，并有很大的改进空间 同经典的联想记忆神经网络相比较，形态学联想记忆神经网络在存储能力上有了 显著的改进，而且在满足一定的条件下保证一步内回忆，但是它不能模糊性解释。为 了解决这一问题，b k o s k o 等人将模糊运算与模糊规则存储双重概念融合在一起，提出 了模糊联想记忆f a m 脚，它具备了良好的模糊性解释能力，然而存储能力很弱。文献 江南大学硕士毕业论文 【4 ，5 提出了模糊形态联想记忆网络f m a m ，在保证模糊性解释的前提下，不但提高了 存储能力，而且自联想f m a m 具有无限存储能力，并能保证在一步内完全回忆，具有 较强的抗单一膨胀噪声或单一腐蚀噪声的能力。但在实际中，噪声往往是既有膨胀又 有腐蚀，从而使得f m a m 抗随机噪声的能力很弱，在一定程度上限制了它的应用与推 广。 因此，选择此课题的目的和意义就是想在人工神经元网络及其在模式识别应用方 面上有所收获。一方面通过对形态联想记忆神经网络的学习，找出它的优缺点，并针 对它的缺陷提出改进的方案；另一方面通过对模糊形态联想记忆神经网络的学习，发 扬其抗单一噪声的优点，改进抗随机噪声能力微弱的缺陷，扩大它的应用范围。 1 1 2 联想记忆神经网络的发展 人工神经网络的研究始于1 9 4 3 年，然后得到了迅速发展。虽然到了2 0 世纪6 0 年 代末开始进入了十余年的沉寂时期，但是在众多学者、专家锲而不舍的努力下，持续 对人工神经网络进行研究探索，不断补充相应的理论知识、扩充应用范围。虽然研究 过程中出现了一个短暂的低潮期，但从总体上来说发展还是迅猛的，尤其是2 0 世纪8 0 年代以来，美国加州理工学院生物物理学家j j h o p f i e l d 于1 9 8 2 年提出了一个新的 神经网络模型【6 l h o p f i e l d 网络模型后，对神经网络的应用研究起了极大的推动作 用，也开拓了神经网络用于联想记忆和优化计算的新途径。联想记忆神经网络在若干 方面与人脑的联想记忆功能有相似之处：( 1 ) 这是一种并行分布式的存储机制，其中 不存在任何特定存储单元来存储某个特定的记忆，而所有的记忆项都分布存储在网络 中所有各对神经元之间的连接权中。( 2 ) 各记忆项的存储按照h e b b 学习律进行，即 相应于某个记忆项的任何两个神经元处于相同状态( 激发或抑制) 时，它们之间的连接 权值得到加强，反之便被削弱。( 3 ) 记忆的提取是联想式的，也就是说当输入一个原 记忆项的缺损样本( 其中某些内容发生了错失) 时仍能够正确地提取出原来存储的完整 无缺的记忆项( 当然，缺损不能非常大) 。联想记忆网络通过模拟人类的这种联想记 忆功能来实现模式识别，具有大规模并行处理及鲁棒识别的优点。 然而，由于h o p f i e l d 模型还存在以下几个缺陷， ( 1 ) 仅能存储处理二值样本； ( 2 ) 存储容量极为有限； ( 3 ) 需多次迭代，且存在伪稳态点。 所以，随后的研究主要侧重于克服h o p f i e l d 网络的缺点，及扩展其功能和应用领域等 方面。h o p f i e l d 联想记忆神经网络作为典型已应用在联想记忆、组合优化等领域，但 由于采用相关学习规则，限制了其存储容量，从而在模式识别方面的应用受到很大的限 制。鉴于此，许多研究者推出了相关的改进模型，典型的如k o s k o 提出了双向联想记 忆模型( b a m ) 啪，j e n g 提出了指数e b a m “，陈提出了改进型e b a m ( i c b a m ) 叫等。 每一种改进导致了联想记忆模型在存储容量与纠错性能上的不断提高， 从而更加适用 于模式识别等应用。近年来，致力于此方面研究的学者也有了很多的成果，比如姜惠 兰、孙雅明提出了异联想记忆h o p f i e l d 神经网络的模型，它提高了h o p f i e l d 网络对 样本的记忆存储能力。修春波、刘向东等提出的新型的双向联想记忆算法【l i l ，它利用 了输入元素的关联信息，能动态的调节权值矩阵，增加网络的适应能力，提高了网络 的性能。吴迪、赵鹤明等提出了基于联想记忆神经网络模型的b p 算法l “，该算法能降 低样本系统的训练次数，为b p 算法应用于实时性较高的场合提供了算法基础。为了克 服h o p f i e l d 网络的缺陷，m c a s e r m e i r o 等人提出了一个多值自联想反馈神经网络 ( m r e m ) 【l q ，它可以存储多值样本，利用扩大网络和增大模型的方法来避免落入伪 稳定点。m k m u e z z i n o g l u 等人提出的一种复合多状态h o p f i e l d 联想记忆网络【i q ，可以 存储一个完整的记忆集m ( m 可以有( 1 ，2 ，k ) 个值) ，该方法利用不等式集使每 2 第一章绪论 个记忆模型成为严格的二次能量函数的局部最小值。其神经元具有联合对称的权重， 并研究了该方法最大的矢量存储量，它可以用于灰度图像的去噪处理。还有文 1 5 ，1 6 ，1 7 分别从构建前馈联想记忆网络，改造自联想h o p f i e l d n n 模型及学习算法等 方面着手，不同程度地提高了联想记忆的存储容量。而r i t t e r 等人则从另一个角度， 借助数学形态学的基本运算，提出了一类基于数学形态学的联想记忆神经网络，其神 经元的激励规则、联想规则均不同于传统神经网络。他们的研究结果已表明：传统神 经网络能解决的问题，用形态学神经网络也可以解决。有许多学者从多个方面来对联 想记忆和模式识别的方法进行研究。比如在文献 2 中初步提到了核的方法，p e t e r s u s s n e r o ”“”将核的方法进一步应用于联想记忆网络。文 2 0 】利用最小平方形态联想记 忆模型，使联想记忆有了初步的抗随机噪声的能力。文献 2 1 ，2 2 提出了动态核的方 法，并应用于形态联想记忆网络，首先是研究了动态核的形态联想记忆网络的性质， 然后是在二值图和灰度图中的联想应用，并考虑了灰度图中的模式识别问题，利用动 态核的方法，使联想记忆具有了一定的抗随机噪声能力。还有张伟等提出了时滞杂 交双向联想记忆神经网络的全局指数稳定性，方法也比较新颖、独到。目前有许多学 者对联想记忆进行多个方面的研究，包括从增大网络的存储容量，提高网络的抗噪声 能力，扩大样本的种类及其它多方面的应用等。联想记忆网络经历了以下几个方面发 展： 乱在联想方法上，从自联想、双向联想发展到多向联想；从纯粹的联想记忆的研究 到与形态学相结合；在联想记忆适用的样本上，从二值图像样本，多值图像样本发展到 灰度图像样本等。 b 在提高联想记忆的网络容量方面把双向联想记忆的容量增大到了2 2 n 和2 “ c 在抗噪声能力方面，从对单一的膨胀或者单一的腐蚀噪声有较强的抑制作用到对 随机噪声有一定的抑制。 目前有关联想记忆网络方法还存在的主要问题有： 1 联想记忆和模式识别主要还是针对二值样本和多值样本，对灰度图像的处理方法 比较少，尤其是对彩色图像的处理，极为少见； 2 在对含有随机噪声样本的信号。抗噪声能力还比较弱，尤其是任意随机噪声，大 部分联想记忆方法处理的效果都不好 本文的主要目标之一就是将形态尺度空间和联想记忆神经网络相结合，得到一种基 于形态尺度空间的联想记忆方法，使之能够具有抗随机噪声的能力，且能推广应用于 灰度图像的联想记忆。 1 1 3 模糊联想记忆神经网络的发展 形态学联想记忆神经网络与经典联想记忆神经网络相比，存储能力得到了极大的 提高，而且可以保证在一步内完全回忆，但是在解释模糊性问题时形态学联想记忆神 经网络就无能为力了。为了使网络具有模糊性解释功能，b k o s k o 于1 9 9 2 年提出了模 糊联想记忆f a m ，它是模糊系统s ：p p ，有一种简单的似神经方法构造，而且 采用一个两层前馈多联想模糊分类器来存储任意的模糊空间模式对。f a m 将模糊运算 与模糊规则存储双重概念融合在一起，从而使其具备了良好的模糊性解释能力。然而 在无噪声的情况下，它的存储能力也很弱，即使是改进的f a m 在无噪声的情况下的存 储能力还是很弱，而且它的变形须使用相应的学习算法存储模式对，回忆也需要分多 步完成。考虑到模糊联想记忆和形态学联想记忆各自的优点，文献【4 ，5 】提出了一种新 颖的模糊联想记忆神经网络一模糊形态学联想记忆神经网络f m a m ，该网络将两者的 优点结合起来，一方面使得它具有模糊性解释的功能，另一方面又提高了网络的存储 能力。在满足条件的情况下，f m a m 可以保证在一步内回忆，而且该网络具有较强的 抗单一噪声的能力，但在处理随机噪声方面有所欠缺，几乎不抗随机噪声，这一缺陷 江南大学硕士毕业论文 限制了网络的应用。文献 2 4 】提出了模糊形态双向联想记忆网络，也可模糊性解释，并 能在一步内回忆，且实现了完全双向正确联想，另外还具有较强的抗腐蚀或者膨胀单 一噪声的能力，不足之处是对随机噪声的抗噪能力还不够。文献【2 5 ，2 6 】采用动态核的 方法分别对二值图和灰度图进行联想记忆和识别处理，得到了较为满意的结果，不但 对单一腐蚀噪声或者单一的膨胀噪声有极强的抑制，而且对随机噪声也有一定的容忍 性。 模糊联想记忆从一般模式到引入形态学模式经历了一个不断发展的过程，开始网 络将模糊运算与模糊规则存储双重概念融合在一起，使得网络具有了模糊性解释功 能，但存储能力很弱，限制了它的应用。接着先后提出了f m a m 和f b m a m 网络，他 们在具有模糊性解释的前提下，存储能力也得到了较大的提升，利用动态核的方法不 但使网络具有较强的抗单一噪声的能力，而且有一定的抗随机噪声能力，在二值图和 灰度图处理识别上取得了一定的应用。 本文的另一个主要目标是：将尺度空间和模糊形态联想记忆神经网络相结合，得 到一种新颖的模糊联想记忆方法，来提高网络的抗随机噪声能力，且将其应用于二值 图和灰度图的处理识别中 由于本文的重点是对联想记忆神经网络和模糊联想记忆神经网络的研究，故此下 面先简要介绍一下神经网络和联想记忆中的基本问题。 1 2h o p f i e i d 神经网络及联想记忆 美国加州工学院物理学家j j h o p f i d d 于1 9 8 2 年和1 9 8 4 年分别提出了两种神经元 网络模型，简称h n n ，一种是离散的随机模型，一种是确定型模型。h n n 模型是目 前得到了最充分研究和广泛应用的反馈神经元网络模型。h o p f i e l d 将“能量函数” ( 也称李雅普诺夫函数) 的概念引入分析人工神经元网络的稳定过程，使网络运行的 稳定性判断有了可靠和简便的依据，开辟了人工神经元网络应用于联想记忆和优化计 算等领域的途径。由于h o p f i e l d 网络与电子电路存在明显的对应关系，所以使得这种 网络易于理解和便于实现，从而，为神经元网络计算机的研究奠定了基础。 1 2 1h o p f i e i d 神经元网络 由于我们所用的图片的信息是二值的，即0 和1 ( 或- - 1 和+ 1 ) 所以所接触到 的相关的是离散型h o p f i d d 神经元网络。下面介绍有关离散型h o p f i e l d 网络的拓扑结 构和工作原理【2 7 - 2 明： 离散h o p f i d d 神经元网络( d h n n ) 是离散时间系统，它可以用一个加权无向量图 表示，图的每一边都附有一个权值，图的每个节点( 神经元) 都附有一阈值，网络的 阶数相应于图中的节点数。 h o p f i e l d 网络的基本结构如图1 1 所示，这种网络是一种单层网络，令网络由n 个 单元组成，l ，2 ，虬表示n 个神经元，请注意它们既是输入单元，又是输出单元， 其转移特性函数为z ，a ，工，门限值为b ，岛，以对于离散型h o p f i e l d 网络，各节 点一般选相同的转移函数，且为符号函数，即有 五( 力= 厶( 力= = 工( 曲= s g n ( x ) ( 1 1 ) 4 第一章绪论 w 。1 1 w 。，j| il，w ， w yi lf 彭哆 n jn n - i v 1 n v 2 ( t 一 。 x lx2)01)厶 图1 1h o p f i e l d 网络的结构 为分析方便期间，选各节点门限值相等，而且等于0 ，即 吼= 岛= = 以= o ( 1 2 ) 同时，x = “x 2 ，矗) ，x - 1 ，+ 1 ) ”为网络的输入； y = l ，y 2 ，以) ，y 1 ，+ 1 r 为网络的输出； k t ) = ( v d t ) ，v 2 ( t ) ，k ( f ) ) ，v ( t ) 一l ，+ 1 。为网络在时刻t 的状态，其中f 0 , 1 2 为离 散时间变量；为从f 到，的连接权值，h o p f i e l d 网是对称的，即有 y 口= w ，f ，_ ，e l ，2 ，磅( 1 3 ) 整个网络所有n 个节点之间的连接强度用矩阵w 表示，显然，w 为n x n 方阵。 由图可见h o p f i e l d 网为一层结构的反馈网络，能处理双极型离散数据( 即输入 z 一1 ，+ n ) ，及二进制数据( x o 1 ) ) 。当网络经过训练后，可以认为网络处于等 待工作状态，而对网络给定初始输入x 时，网络就处于特定的初始状态，由此初始状 态开始运行，可以得到网络输出即网络的下一状态。然后，这个输出状态通过反馈回 送到网络的输入端，作为网络下一阶段运行的输入信号，而这个输入信号可能与初始 输入信号x 不同，由这个新的输入又可得到下一步的输出，这个输出也可能与上一步 的输出不同。如此下去，网络的整个运行过程就是上述反馈过程的重复。如果网络是 稳定的，那么，随着许多次反馈运行，网络状态的变化减少，直到后来不再变化，达 到稳定。这时，在网络的输出端可以得到稳定的输出用公式表达如下 。删2 专) v j ( t + 1 ) 2 乃( w c j ( t ) 一巳) ”( 1 - 4 ) t = 1 其中 是由式( 1 1 ) 定义，为方便起见，一般0 ，取0 。从某个时刻t 之后网络 状态不再变迁，即有v ( t + 1 ) = v ( t ) ，那么，输出有： y = v ( t ) ( 1 5 ) 江南大学硕士毕业论文 网络神经元状态的演变有两种形式： ( 1 ) 异步( 串行) 方式 在某一时刻t ，只有某一神经元m 的状态按照( 1 4 ) 更新，而其余j 1 个神经元 状态保持不变，即 三 v ，o + 1 ) = s g 呱芝：h ( r ) ) ( 1 6 ) 面 对于某个特定得的j 单元来说，下式成立。 v ( f + 1 ) = v a t ) ( 1 7 ) 若以某种确定性次序来选择n j ，使其按照式( 1 6 ) 变化，那么，称顺序更新；若按照 预先设定的概率来选择神经元n j ，则称为随即更新。 ( 2 ) 同步( 并行) 方式 在任一时刻t ，部分单元按式( 1 4 ) 改变状态，其中有一种重要的特殊情况是在某 时刻，所有神经元同时按照式( 1 4 ) 改变状态，即 三 v y ( t + 1 ) = s 烈艺u ( ，) ) ， 1 2 ，n ( 1 8 ) +l-i 这时，也可把状态转移方程写成向量形式 k t + 1 ) = s g n ( k t ) w ) ( 1 9 ) 下面介绍几个与网络运行过程中状态变迁有关的基本概念： 网络的稳定性。如果从t = 0 的任一初始态“o ) 开始变化，经过有限时间t 以后， 网络的状态不再发生变换，即 o + a t ) = v ( f ) ，l 0 ( 1 1 0 ) 则称网络是稳定的。存储容量是指网络的稳定点个数。网络的吸引子：设t = 0 时，对 网络输入模式x 。网络处于状态“0 ) ，而在时刻t ，网络到达状态v m 。若v ( t ) 为网络的 稳定吸引子，否则称v m 为非稳定吸引子在非稳定吸引子中又有两种情况，一种是有 限环状态，指的是网络状态有规律地在某些状态之间振荡。二是混沌状态，指的是网 络无规律地在某些状态之间振荡。 吸引子的吸引域。对于某些特定地初始状态，网络按一定的运行规则最终可能都稳 定在同一个吸引子v ( 0 上，那么，称这种凡是经过一定时间能够稳定在吸引子v ( t ) 的所 有初始状态集合为v ( 0 的吸引域。吸引域半径是指包含在吸引域的最大h a m m i n g 球半 径。 稳定点越多，网络的联想和识别能力就越强。但是，稳定点数目的增加可能会引 起吸引域的减少，从而使联想功能减弱。稳定点在空间分布越均匀，吸引域越大，那 么，网络的容错能力和自适应能力就越强。收敛时间是指网络从某一起始状态进入稳 定点状态( 或者某一极限环) 所需的时间。 1 2 2 用于联想记忆 “联想”可以理解为从一种事物联系到与其相关事物的过程。在日常生活中，人们 从一种事物出发，自然地会联想到与该事物密切相关或者有因果关系的种种事物。神 经网络用于联想记忆存储器时，一般也有两个工作阶段联想存储及联想恢复。存 储阶段是网络的训练期。通过训练，选择合理的连接权值，将存储的内容分布式存储 于网络的连接权矩阵中存储的恢复则为输出单元输出己存的内容。例如：本章用 h o p f i e l d 网络作联想存储器，则存储阶段是通过训练，合理地选择连接权矩阵，使网络 稳定状态恰好为需联想记忆的一组状态集合v 这样在存储恢复时，无论网络的初态 怎样，均可使网络的稳定状态为v 中某一与网络初态在h 一距离意义上最近的那个稳 定点，即某一存储的内容具体地说，用作自联想记忆时，在存储训练阶段，若输入 6 第一章绪论 训练样本矢量4 ，4 ，共n 个样品模式，应选择合适的连接权矩阵，使4 ，4 分别 成为网络的n 个稳定状态点。这样，在存储恢复阶段，若输入为z = 4 + a a ，其中4 是第i 个学习模式( 已存储的一个内容) ，a a 是偏差项，代表输入信号的畸变失真或 已存储内容的部分缺损信息，则网络将从初态x 向某一稳定点运动，该稳定点恰好是 已存储的某一内容，故输出为y = 五，使缺损信息得以识别。在用作异联想存储器 时，记忆训练阶段，输入训练样本矢量4 ，以( 即需记忆的内容) ，选择合适的连接 权矩阵，使最，吃分别成为网络的m 个稳定状态点。在实际使用时，假定二组样本 a 和b 间有一定的对应关系：4 寸b ，( 4 和b ，分别为n 和m 维矢量) ，如个人姓名 和照片的对应关系。在存储恢复阶段，若输入j = 4 + a n ，网络应输出j ，= 占，即 可由4 联想出口，且允许4 带有噪声口 由于反馈型神经元网络会收敛于稳定状态( 吸引子) ，使它可以用作联想记忆存储 器，具体些说就是合理选择权系数，使得网络的稳定恰好是人们想存的一组状态m 。 若网络的初始状态在m 中，那么，网络的状态当然应该不变，如果它不在m 中，那 么，希望网络所达到的稳定状态应为m 中与初始在汉明距离意义上最近的状态。汉明 距离是指两个向量中对应元素不相同地个数，例如一和x 2 的汉明距离可用式 d n ( x l , x 2 ) = 丢扣例i2 撬 一般有自联想和异联想两种联想形式。自联想指的是由某种代表事物( 或者该事物 的主要特征或可能是部分主要特征) 联想到其所表示的实际事物。异联想指的是由某 一事物( 或该事物的主要特征或者可能是部分主要特征) 联想到与其密切相关的另 事物。 人脑中对给出一种事物得出其对应事物的途径有两种方式。一种是按时间顺序对相 关事物进行思考，例如，通过时间安排表示回忆某一阶段的工作。另一种就是通过事 物本质特征的对比来确定事物的属性，从提示信息或局部信息对事物进行回忆或确 认。这两种基本方式抽象成计算技术中按地址寻找和按内容寻找两种探索方法。按内 容寻找是基于事物全部或者部分特征来找到目标事物。寻找过程就是事物间特征对 比，而不必知道这些事物的具体存储地址。从匹配过程来看，这种方法不需要地址的 管理及变换，这就有可能提高查询速度。从观念上来看，这种方法接近人的思维的方 法，因为在人脑辨识决策过程中，绝大多数是基于事物之间的联系，也就是联想过 程。但是，这种方法在传统计算机上用确定性算法难以实现，而人工神经元网络却能 提供一种较好的实现方案。 1 3 主要工作与论文结构 1 3 1 本文的主要工作 0 x r i t t e r 等人将形态学和联想记忆网络相结合，提出了形态学联想记忆神经网 络，与经典联想记忆网络如h o p f i e l d 神经网络相比，它的存储能力得到了极大的提 高，而且可以在一步内完全回忆，对二值图像进行联想记忆时，较好地解决了含单一 噪声的二值图像的联想记忆问题，但对含随机噪声的二值图像却不能很好的联想记 忆。本文为了克服它的这一缺点，借用数学形态学尺度空间的相应属性，提出了基于 形态学尺度空间的方法，对二值图进行联想记忆处理时它具有很强的抑制单一噪声能 力，而且对随机噪声也由较强的鲁棒性。本文的这种基于尺度空间的思想适当改进 后，将该网络应用与灰度图的联想记忆处理，也取得了较理想的结果。不仅可以把含 7 江南大学硕士毕业论文 有单一噪声的灰度图象还原，而且可以把带一定随机噪声图像还原，即它具有一定的 抗随机噪声能力。仿真实验验证了该网络和方法具有良好的性能。 形态学联想记忆网络不能模糊性解释，为此不少国内外学者进行了不懈的研究， 先后提出了模糊联想记忆、形态模糊联想记忆等神经网络，在他们的努力下，模糊联 想记忆不断发展，先是解决了模糊性解释的问题，接着提高存储能力，后来是提高抗 噪声能力。本文另一个主要工作是：构造基于形态尺度空间的模糊联想记忆网络，并 将网络应用到二值图和灰度图的联想记忆，不管是对二值图还是对灰度图进行联想记 忆运算，该网络都具有较强的抑制单一噪声的能力，即可以把仅含有单一噪声的图像 恢复，而且具有一定的抗随机噪声的能力。仿真实验验证了该网络和方法具有良好的 性能。 1 3 2 本文的论文结构 第一章绪论。主要对人工神经网络、联想记忆网络及模糊联想记忆网络作了简单 的回顾和对目前的发展状态作了综述。简要论述了h o p f i e l d 神经网络及联想记忆等内 容。 第二章数学形态学尺度空间及模糊理论。主要介绍了数学形态学的基本概念和形 态学尺度空间具有的相应属性以及模糊理论中的部分基础知识。 第三章基于形态学尺度空间的联想记忆网络。将形态学尺度空间的概念引入联想 记忆神经网络，得到了一种新的方法，对二值图和灰度图进行联想记忆运算，取得了 较为理想的结果，突出了抗随机噪声的能力。经过大量的实验数据比较说明该方法具 有良好的抗噪性能。本章是本文的第一个重点内容。 第四章模糊形态尺度空间联想记忆神经网络。通过使用尺度空间的相关概念和属 性，得到了模糊形态尺度空间联想记忆网络，在处理二值图和灰度图中取得了较为满 意的结果，提高了网络抗随机噪声能力。经过实验说明该方法具有良好的性能。本章 是本文的另一个重要内容。 第五章结束语。总结本文所做的主要工作，并提出了迸一步的研究内容和设想 第二章敦学形态学尺度空间及模糊理论 第二章数学形态学尺度空间及模糊理论 2 1 数学形态学及尺度空间 本文研究的重点内容是形态学的联想记忆和模糊形态学联想记忆，有关联想记忆 和模糊联想记忆的基本知识和内容已经在前面章节作了简要介绍，数学形态学的基本 知识内容放在本章。我们主要从文献 2 9 】来回顾和复习其基本知识。 2 1 1 数学形态学的发展和基本运算 数学形态学( m a t h e m a t i c a m o r p h o l o g y ) 是近几十年来发展迅速的一门新兴学科。 1 9 6 4 年法国学者$ e r r a 对铁矿石的岩相进行了定量分析，以预测铁矿石的可轧性。几乎 在同时，m a t h e r o 研究了多孔介质的几何结构、渗透性及两者的关系，他们的研究成果 直接导致数学形态学雏形的形成。随后$ e r r a 和m a 也嚣。在法国共同建立了 f o n t a i n e b l e a u 数学形态学研究中心。在以后的几年的研究中，他们逐步建立并进一步 完善了数学形态学的理论体系，此后，又研究了基于数学形态学的图像处理系统。以 几何特性和结构特性的定量描述与分析为其主要研究内容，其基本思想和方法对图像 处理的理论和技术产生了重大影响。事实上，数学形态学研究构成一种新型的图像处 理方法和理论，形态学图像处理己经成为计算机数字图像处理的一个主要研究领域。 数学形态学在文字识别，显微图像分析，医学图像处理，工业检测，机器视觉等方面 都取得了许多非常成功的应用。 数学形态学处理是以几何学为基础的。着重研究图像的几何结构，这种结构表示 的可以是分析对象的宏观性质，也可以是微观性质。形态学研究图像几何结构的基本 思想是利用一个结构元素( s t r u c t u d n ge l e m e n t ) 去探测一个图像，看结构元素能否很好的 填放在图像内部，同时验证填放结构元素的方法是否有效。通过对图像内适合放入结 构元素的位置作标记，便可以得到关于图像结构的信息。这些信息与结构元素的尺寸 和形状有关。 数学形态学是一门建立在严格的数学理论基础上而又密切联系实际的科学虽然 其理论基础有些艰深，但基本观念却比较简单。它体现了逻辑推理与数学演绎的严谨 性。由于形态学具有完备的数学基础，这为实现形态学分析和处理算法的并行提供了 保证，大大提高了图像分析和处理的速度。用于描述数学形态学的语言是集合论，因 此，它可以提供一个统一而强大的工具来处理图象处理中所遇到的问题。利用数学形 态学对物体几何结构的分析过程就是主客体相互逼近的过程。利用数学形态学的几个 基本概念和运算，可将结构元灵活的组合、分解，应用形态变换序列来达到分析的耳 的。数学形态学方法比其他空域或频域图象处理和分析方法具有一些明显的优势。例 如，在图象恢复处理中，基于数学形态学的形态滤波器可借助于先验的几何特征信 息，利用形态学算子有效的滤除噪声，又可以保留图象中的原有信息。 膨胀和腐蚀是数学形态学的两种基本运算，他们可以简化图像数据，保持图像的 基本特征，并除去尺度上小于结构元素的细节，下面我们分别介绍膨胀和腐蚀这两个 基本运算。 一、膨胀 a ，b 为z 2 中的集合，妒为空集，a 被b 的膨胀，记为a o b ，0 为膨胀算子， 膨胀的定义为：彳国b = 缸i ( b ) ，n 彳奶， 该式表明的膨胀过程是b 首先做关于原点的映射，然后平移x a 被b 的膨胀是 雪所有x 平移后与a 至少有一