（信号与信息处理专业论文）基于克隆选择算法的pcnn关键参数自动设定算法研究.pdf

哈尔滨工程大学硕十学位论文 摘要 p c n n 为单层模型神经网络，不需要训练过程即可实现模式识别、图像 分割、目标分类等，因此非常适合实时图像处理环境。同时，p c n n 在处理 图像的同时将二维空间变量转化为一维时间脉冲序列。这样p c n n 模型向生 物实际神经网络更靠近了一步，与传统神经网络相比，它对输入信息处理能 力更强、性能更好，这就是直到今天其应用研究还在逐步深入的原因。尽管 p c n n 神经元模型较传统人工神经网络神经元模型前进了一步，但距离实际 生物神经网络还有很长一段距离，因为p c n n 模型需要确定较多的参数。截 止目前，其理论发展依然存在不足，在图像处理方面主要表现在图像处理效 果与模型参数之间的关系并不清晰，这是国内外学者积极关注的热点。 本文在详细阐述p c n n 原理的基础上，针对p c n n 参数设定过程中人机 交互工作量过大的缺点，提出了一种基于克隆选择算法的p c n n 参数自动设 定算法。该算法利用了克隆选择算法的解空间随机搜索能力，充分发挥了克 隆选择算法多样性、高变异性和依据适应度成熟的特点，在保证了p c n n 应 用效果的同时，大大的提高了p c n n 的应用效率。在一定程度上解决了p c n n 参数设定繁琐的困难。 在此基础之上，将本文提出的p c n n 参数自动设定算法成功应用到图像 处理中最重要的步骤之一图像分割上。仿真实验表明，本文提出的算法 在分割效果上略好于目前最新的p c n n 图像分割方法，在分割效率上远远高 于改进前的p c n n 图像分割方法。 关键词：脉冲耦合神经网络；克隆选择算法；p c n n 参数设定；图像分割 哈尔滨工程大学硕士学位论文 a b s t r a c t p c n ni sa s i n g l e l a y e rm o d e ln e u r a ln e t w o r kw h i c hc a l lr e a l i z et h ep a t t e r n r e c o g n i t i o n ，i m a g es e g m e n t a t i o n ，a n dt a r g e tc l a s s i f i c a t i o nw i t h o u tt r a i n i n gp r o c e s s ， s 0i ti sv e r yu i t a b l ef o rr e a l t i m ei m a g ep r o c e s s i n g m e a n w h i l e ，p c n nt r a n s f e r s t h et w o - d i m e n s i o n a ls p a t i a lv a r i a b l e si n t oo n e - - d i m e n s i o nt i m ep u l s es e q u e n c ei n t h es a m et i m eo fi m a g ep r o c e s s i n g s op c n nm o d e lg e t sc l o s e r 、航t l lb i o l o g i c a l p r a c t i c a ln e u r a ln e t w o r k , c e r t a i n l yi th a sas t r o n g e ri n p u ti n f o r m a t i o np r o c e s s i n g c a p a b i l i t ya n dab e t t e rp e r f o r m a n c e ，t h a ti st h er e a s o nw h yp r o f o u n dr e s e a r c h e s a b o u ti tm a i n t a i n i nt h en e e do fd e t e r m i n i n gm a n yp a r a m e t e r s ，a l t h o u g hp c n nn e u r o nm o d e l i sm o r ea d v a n c e dt h a nt r a d i t i o n a la r t i f i c i a ln e u r a ln e t w o r km o d e l i ts t i l lh a sa d i s t a n c ef r o mb i o l o g i c a l p r a c t i c a l n e u r a ln e t w o r k t i l ln o w , t h et h e o r e t i c a l i n s u f f i c i e n c ya n du n c l e a rr e l a t i o n s h i pb e t w e e ni m a g e - p r o c e s s i n ge f f e c ta n dm o d e l p a r a m e t e r si ni m a g ep r o c e s s i n ga s p e c ts t i l la r et h em a i nf o c u s e so fd o m e s t i ca n d f o r e i g ns c h o l a r s a f t e rad e t a i l e di n t r o d u c t i o nt ot h e o r yo fp c n n ，t h i sp a p e rp r o v i d e sap c n n a u t o m a t i c a l l yp a r a m e t e r s e t t i n ga l g o r i t h mw h i c hi sb a s e do nc l o n a ls e l e c t i o n a l g o r i t h m ，f o c u s i n go nt h ed i s a d v a n t a g e so ft h eh e a v yp c n np a r a m e t e r - s e t t i n g w o r k si nh u m a n c o m p u t e ri n t e r a c t i o np r o c e s s t h i sa l g o r i t h mt a k e sa g o o du s eo f r a n d o ms e a r c h i n ga b i l i t yo fs o l u t i o ns p a c eo fc l o n a ls e l e c t i o na l g o r i t h m ，a n df u l l y e x e c st h ep r o p e r t i e so fc l o n a ls e l e c t i o na l g o r i t h m sd i v e r s i t y , h i g hv a r i a b i l i t y , a n d f i t n e s sd e g r e e a c c o r d i n gm a t u r i t y i te n s u r e st h ea p p l i c a t i o ne f f e c t s ，a n da tt h e s a m et i m er a i s e st h es e r v i c ee f f i c i e n c yo fp c n ns i g n i f i c a n t l y o nt h eb a s eo fm e n t i o n e da b o v e ，p c n na u t o m a t i c a l l yp a r a m e t e r - s e t t i n g a l g o r i t h mi ss u c c e s s f u l l yu s e di ni m a g es e g m e n t a t i o n , w h i c hi so n eo nt h em o s t i m p o r t a n ts t e p so fi m a g ep r o c e s s i n g a ss i m u l a t i o nr e s u l t ss h o w s ，t h ep r o p o s e d 哈尔滨t 程大学硕士学位论文 a l g o r i t h mh a sa b e t t e rs e g m e n t a t i o ne f f e c t sa n dh i g h e rs e g m e n t a t i o ne f f i c i e n c y t h a nt h el a t e s tp c n n i m a g es e g m e n t a t i o na l g o r i t h m k e yw o r d s ：p u l s e - c o u p l e dn e u r a ln e t w o r k ；c l o n a ls e l e c t i o na l g o r i t h m ；p a r a m e t e r s e to fp c n n ；i m a g es e g m e n t a t i o n 哈尔滨工程大学 学位论文原创性声明 本人郑重声明：本论文的所有工作，是在导师的指导下， 由作者本人独立完成的。有关观点、方法、数据和文献的引用 已在文中指出，并与参考文献相对应。除文中已注明引用的内 容外，本论文不包含任何其他个人或集体已经公开发表的作品 成果。对本文的研究做出重要贡献的个人和集体，均已在文中 以明确方式标明。本人完全意识到本声明的法律结果由本人承 担。 作者( 签字) ：勿馓 日期：c f 年弓月日 哈尔滨工程大学 学位论文授权使用声明 本人完全了解学校保护知识产权的有关规定，即研究生在 校攻读学位期间论文工作的知识产权属于哈尔滨工程大学。哈尔 滨工程大学有权保留并向国家有关部门或机构送交论文的复印 件。本人允许哈尔滨工程大学将论文的部分或全部内容编入有关 数据库进行检索，可采用影印、缩印或扫描等复制手段保存和汇 编本学位论文，可以公布论文的全部内容。同时本人保证毕业后 结合学位论文研究课题再撰写的论文一律注明作者第一署名单位 为哈尔滨工程大学。涉密学位论文待解密后适用本声明。 本论文( 留在授予学位后即可口在授予学位1 2 个月后 口解密后) 由哈尔滨工程大学送交有关部门进行保存、汇编等。 作者( 签字) ：荡氢艮导师( 签字) ：哼零澎 日期：伊7 年多月f 娟吱0 0 7 年专月，占日 哈尔滨丁程大学硕七学位论文 第1 章绪论 1 1 论文研究的目的及意义 通过对猫等小型哺乳动物视觉皮层的研究而建立的e c k h o m i 】模型是脉 冲耦合神经网络( p u l s ec o u p l e dn e u r a ln e t w o r k ，以下简称p c n n ) 的基础， 经由j o h n s o n 和其他研究者【2 叫做了进一步变形而最终演化为p c n n 。p c n n 不同于传统的人工神经网络模型，它是通过模拟视觉皮层神经细胞的活动而 建立的神经网络模型，是对真实神经元的简化与近似，是目前最先进的神经 网络，也被称作第三代人工神经网络。p c n n 网络模型所具有的连接域特性 和动态阈值衰减特性能够使状态相似的神经元同步输出脉冲，这一点充分模 拟了哺乳动物视觉皮层神经元的生物特性，因而被广泛地应用在图像分割、 边缘提取、目标识别等图像处理方面。 同时，p c n n 是一种多参数神经网络模型，其应用效果的好坏在很大程 度上决定于参数的设置。p c n n 数学模型中各种门限系数、时间衰减常数、 链接系数等参数，控制着网络运行效率，对它们的恰当设置是一个不容忽视 的环节。但是到目前为止，p c n n 模型参数的选择基本还是靠经验设定，还 没有一种针对不同图像能够自动求得各参数最佳取值的算法，只能通过手动 实验分析来逐步设定，需要针对每一幅图像反复实验才能获得合适的数值， 导致人机交互的工作量很大，并且对处理结果的判定也会因人的主观评价不 同而产生较大的差异。因此如何合理计算参数是p c n n 理论研究亟待解决的 一个难题。 克隆选择算法( c l o n es e l e c t i o na l g o r i t h m ，c s a ) 7 是由d e c a s t r o 和v o n z u b e n 在2 0 0 0 年提出的一种优化算法，其灵感来自生物获得免疫的克隆选择 原理。克隆选择算法所具有的多样性、高变异率和依据适应度成熟( a f f i n i t y m a t u r i t y ) 等特点使其既能在全空间搜索避免了局部最优又有着较快的收敛速 度，在一定程度上解决了进化算法通常面临的早熟收敛问题。 哈尔滨工稗人学硕士学位论文 本文将对p c n n 近年来的研究进展以及已有的成功应用领域进行归纳总 结，分析对比各种改进算法存在的优缺点，并针对不足之处在深入理论分析 的基础上通过将克隆选择算法和p c n n 结合，利用克隆选择算法的解空间搜 索能力，来自动寻找p c n n 关键参数的最优值，从而自动完成关键参数的自 动设置。由此提出了一种基于克隆选择算法的p c n n 参数自动选取的实现方 案，并通过其在图像分割中的应用，验证了其可行性与先进性。 1 2 国内外研究现状 1 2 1p c n n 国内外研究现状 p c n n 来源于对哺乳动物猫的视觉皮层神经细胞的研究成果，具有同步 脉冲激发现象、阈值衰减及参数可控等优秀特性，在数字图像处理中具有广 阔的应用前景。下面对近年来p c n n 的发展情况做综述性的介绍。 1 9 5 2 年，h o d g k i n 与h u x l e y 开始了神经元电化学特性的研刭引，1 9 8 9 年， e c k h o mr 和g r a ycm 研究了猫的视觉皮层，提出了具有脉冲同步发放特性 的网络模型【9 , 1 0 j 。1 9 9 0 年，e c k h o m 根据猫的大脑皮层同步脉冲发放现象【l l 】。 提出了展示脉冲发放现象的链接模型。在对猴的大脑皮层进行的试验中，也 得到了类似的试验结果。1 9 9 4 年，j o h n s o n 发表论文，阐述了p c n n 的周期 波动现象及其在图像处理中具有的旋转、尺度、扭曲、强度不变性 1 2 , 1 3 】。通 过j o h n s o n 、p a d g e t t 、r a n g a n n a t h 等人的研究，先后对e c k h o m 提出的模型进 行了改进，就得到了p c n n 模型【1 2 。川。 1 9 9 8 年，l z h i k e v i c h 和e u g e n e m 对p c n n 模型从较为严格的数学角度 进行了分析【1 7 , 1 8 】，证明实际的生物细胞模型与p c n n 模型是一致的，所不同 的只是变量的坐标，给出了分析神经动力学的新方法，它将神经元映射成基 于相位的模型，指出脉冲频率有时也不携带信息，只是传输通道的一种标示 字，而携带信息的是相位调制，这是一个崭新的概念，其应用将远远超出神 经网络的领域，这对于通信路由选择及并行计算机的构造具有指导意义；2 0 0 0 2 哈尔滨工程大学硕士学位论文 年，p l e s s e r 和g e r a t n e 研究了噪声对时变信号p c n n 响应的影响，k i s t l e r 和 l e o 在同一时期提出了一种便于对两个邻接神经元点火特性相关性进行分析 的神经元模型。与此同时，d e c o 和s c h u r m a n n 给出了分析p c n n 网络神经 元点火概率分布的一种新方法【1 9 1 ，1 9 9 9 年，b r e s s l o f f 和c o o m b e s 对具有强耦 合p c n n 的动态行为进行了研究，指出在弱耦合情况下稳定的相位锁定状态 是如何随着耦合强度的增加而进入不稳定的；在同一时期，h h a k e n 从另 外的角度对p c n n 模型中相位锁定延迟效果作了研究，得出了相位锁定状态 的稳定性依赖于神经元之间的耦合，特别是依赖于它们之间的延迟时间的重 要结论【2 1 , 2 2 】；1 9 9 8 年，a h i s s a r 给出了通过神经元的相位锁定环实现时序编码 到频率编码的方法【2 3 】；1 9 9 9 年，b u r k i r 和c l a r k 给出了神经网络中神经元群 体的同步行为与其平均作用水平的关系1 2 4 1 ，同时提出了一种基于信息论准则 的p c n n 学习框架。 在应用方面，作为第三代人工神经网络，p c n n 有着非常广泛的应用。 自1 9 9 7 年以来，人们在p c n n 理论研究的基础上开始了p c n n 应用方面的 研究探索，涉及领域有图像分割r 2 5 , 2 6 】、图像分类【2 7 1 、最短路径求解【2 8 1 、凹点 检测【2 9 1 、目标识别【3 0 1 、图像融合【3 l 】、模式识别3 2 ，3 3 1 、噪声滤除3 4 。6 1 、车牌定 位【3 7 1 、语音识别【3 8 1 等。表1 1 统计了近1 0 年来在i e e e 和c n k i 上发表的以 p c n n 为主题的论文数量。 表l - l1 9 9 9 2 0 0 8 发表文章数量统计( 单位：篇数) 年份 1 9 9 92 0 0 02 0 0 12 0 0 22 0 0 32 0 0 42 0 0 52 0 0 6 2 0 0 7 2 0 0 8 i e e e6341 091 4862 43 4 c n k i251 21 61 71 42 04 6 尽管人们对p c n n 的理论及应用进行了研究，但仍然存在网络参数多、 复杂度高、需要用户交互设定等问题，其潜力和特性需要进一步挖掘。 1 2 2 克隆选择算法的国内外研究现状 近年来，由仿生学带动的信息科学的发展越来越受到人们的重视。如人 哈尔滨工程大学硕士学何论文 工神经元网络，遗传算法等都有着非常广泛的应用。人们不断地模拟生物体 的各种优秀特性并演变出新颖的计算机算法。其中，生物体的免疫系统以其 记忆性、多样性和特异性的优势被引入到计算机科学领域中。 早在1 9 5 8 年，b u r n e t 等人便提出了免疫系统的克隆选择学说，该学说认 为抗体是天然产物，以受体的形式存在于细胞表面，抗原可与其选择性地反 应。抗原与相应抗体受体的反应可导致细胞克隆增殖，该群体具有相同的抗 体特异性，其中某些细胞克隆分化为抗体生成细胞，通过抗体基因频繁的变 异和编辑，再经过免疫后得到改善，即亲和力成熟。另一些则形成免疫记忆 细胞以便参加之后的二次免疫反应【3 9 】。这个理论揭示了免疫系统的很多优秀 特性，逐渐引起了计算机科学家的重视并开始用计算机模拟免疫系统。 克隆选择概念最初在优化问题领域中应用广泛。最早注意到克隆选择在 函数优化问题上的应用价值的是b e r s i n i 。1 9 9 0 年他提出一种免疫补充机制 4 0 1 ，该方法模仿免疫系统的启发式动态过程，通过不断产生新个体，用于求 解函数的全局优化问题，获得了较好效果。 1 9 9 6 年，h i g h t o w e r 4 l 】在对抗体基因库和免疫多样性的研究过程中，从 b a l d w i n 效应的角度，考察了抗体的优化过程。文中指出b 细胞的克隆选择 能够产生类似b a l d w i n 效应，即：能够以更大的可能，将部分细胞抗体获得 良好特性传递给下一代，使得后代抗体的亲和力快速提高，在抗体多样性的 产生和抗体优化过程中起到重要的作用。该文证明了克隆选择过程具有较强 的优化能力。 1 9 9 7 年，c h u n 4 2 】将克隆选择算法用于r o s e n b r o c k 和s i n c 等函数优化问 题以及永磁同步电机的表面设计。结果显示，利用该算法进行复杂多模态函 数优化，效果比普通进化算法要好。 2 0 0 1 年t i m m s 4 3 】等人在b 细胞网络理论和克隆选择原理的基础上，提 出一种新的函数优化方法。该方法利用b 细胞网络，通过细胞间的相互作用 实现b 细胞自组织记忆，用克隆选择实现b 细胞模式进化更新。仿真结果表 明，将克隆选择方法与免疫网络相结合，能够有效减少计算冗余，节约计算 4 哈尔滨- t 程大学硕士学位论文 资源。 2 0 0 2 年c a r l o s 删等人以克隆选择为核心构造一种人工免疫系统，用于求 解多目标函数优化问题，并与三种有代表意义的多目标函数进化优化方法比 较，仿真结果显示，基于克隆选择的方法能够搜索和保存更多的p a r e t o 解。 同年，杜海峰【4 5 l 将克隆选择原理应用于函数优化问题求解，并对算法的全局 收敛性进行了分析。文中利用齐次有限马尔可夫链的分析方法，证明了基于 二进制编码的克隆选择算法是全局收敛的。 2 0 0 3 年，d ec a s t r o t 4 6 ，4 7 1 等人对克隆选择机理进一步浓缩和概括，提出一 种较为简洁的克隆算法。该算法包括一组抗原、一组b 细胞抗体、一组记忆 细胞。其基本操作是b 细胞的高变异克隆增生、最优模式的选择记忆。 2 0 0 4 年，y a o g u a n g 4 s ! 等人利用克隆选择算法对锅炉加热状态进行识别， 结果表明，所建立的模型能够对锅炉的不同热状态进行很好的区分识别，证 明了克隆算法具有很好的自学习和自适应能力。 2 0 0 6 年吴泽俊【4 9 1 等人提出了一种基于免疫的克隆选择算法。该算法采用 一种新的基因型与表现型的表达方式，利用全新的匹配方法，引入反向选择 算子，对人工免疫模型进行了有效的改进。 克隆选择方法具有较好的优化性能，它作为一种崭新的优化方法逐渐引 起了人们的注意，最近几年在模式识别领域中也逐渐得到应用，不过由于起 步较晚，其应用研究的深度和广度还有待于迸一步加强。这些成果显示了克 隆选择原理对于信息处理和问题求解具有广阔的应用前景。其与p c n n 结合 实现p c n n 参数的自动选取算法尚未发现具体文献。 1 3 主要研究内容及章节安排 本课题旨在对脉冲耦合神经网络近年来的研究发展进行总结，归纳算法 的成功应用领域和存在的不足，并针对模型参数选取需要人机交互复杂度高 的问题，在深入理论分析的基础上应用克隆选择算法对p c n n 进行优化，目 哈尔滨t 程大学硕十学位论文 的在于提高参数选取的效率并将改进后的p c n n 参数自动选取算法应用与图 像分割领域，并利用计算机进行仿真实现。 综合上述研究内容，本论文具体安排如下： 第1 章为绪论。首先介绍脉冲耦合神经网络研究目的、意义及国内外发 展现状，最后简要介绍本文的主要研究工作和内容安排。 第2 章将介绍脉冲耦合神经网络相关的基本理论，详细介绍了p c n n 的 模型、工作原理、基本特性以及p c n n 简化模型，为后续将要实现的p c n n 模型参数自动选取做了铺垫； 第3 章首先阐述克隆选择算法的仿生学基础原理，然后重点介绍克隆选 择算法的原理、实现步骤及其优点。 第4 章，详细阐述本文所设计的基于克隆选择算法的p c n n 参数自动设 定算法的实现步骤，重点说明改进算法在图像分割中的实现。 第5 章，仿真实验结果与分析，对本文设计的基于克隆选择算法的p c n n 参数自动设定算法应用到图像分割上，并进行了仿真试验，并通过大量的对 比实验，以图、表的形式，与目前先进的基于p c n n 的图像分割方法进行了 比较，给出了本文设计的改进算法的优越性。 最后本文将总结归纳作者一年来在脉冲耦合神经网络，克隆选择算法及 改进算法在图像分割中的应用中所作的工作，并对其不足和今后的发展进行 展望。 6 哈尔滨t 程大学硕十学位论文 第2 章脉冲耦合神经网络基本理论 2 1p c n n 原理及模型 人眼是人类从客观世界获取信息的重要器官。对于丰富多彩的外部世界 如何在人类视觉中形成的过程，视神经科学家们从视网膜到大脑皮层作了大 量的研究工作，取得了一系列研究成果，这些成果为研究基于视觉系统模型 而提出的脉冲耦合神经网络奠定了坚实的基础。 当人们看物体时，图像的可见光信息经过瞳孔和晶状体，落在视网膜上， 视网膜上的神经细胞在收到光刺激后，将光信号转变成生物电信号，通过神 经系统传至大脑。这些信号在大脑中恢复成图像，再根据人的记忆、经验、 分析、判断、识别等极为复杂的过程，构成人眼视觉。 尽管视觉系统很复杂，但它仍可以分成两个基本的部分，分别处理颜色 信息和形状( 或运动) 信息。图2 1 描述了这两个部分的基本模型【5 0 , 5 1 】，视 网膜上有亮度和颜色的传感器，接受图像信息并且在传输给视觉皮层之间进 行预处理。外侧膝状体( l g n ) 将图像分成包含亮度、对比度、频率的部分， 再传送给视觉皮层( 标记为v ) 。 视觉皮层部分包含着大部分的细节和处理过的图像信息，图2 1 中的v 2 包含的视觉图谱信息少于v 1 。v 3 v 5 可以看作独立处理色彩、静态或动态信 息的特殊部分。 在定性分析研究的同时，人们开始定量地模拟描述复杂的视觉系统。二 十世纪五十年代，h o d g k i n 和h u x l e y 研究哺乳动物视觉皮层细胞，提出了膜 电位的运行模型5 2 】： i = m 3 h g n , , ( e 一) + q ( e 一) + q ( e 一既) ( 2 一1 ) 7 哈尔滨下稗人学硕士学位论文 接收部分处理部分 图2 1 视觉系统模型中的信息流 i 是通过膜的粒子电流，m 是一个打开通道的概率，g 是纳、钾等离子的 电导系数，e 是电压值。i n 随时间的变化率为： 百d m = ( 1 一所) 一b s m ( 2 - 2 ) 其中，是小颗粒未通过通道的概率，屯是活动颗粒概率，和既都取 决与e 并且对纳和钾具有不同的值。 二十世纪六十年代初，人们将f i t zh u g h 和n a g u m o 的成果相结合，对神 经细胞膜及轴突进行理论分析和定量模拟，形成了f i t zh u g h - n a g u m o 模型。 该模型提出了每个神经元细胞和其他神经元细胞链接构成振荡器这一重要思 想，具有里程碑的意义。尽管人们对此模型进行研究，产生了各式各样的描 述形式，但此模型的核心部分都会在其中得到体现，它是各种研究成果的基 础。 哈尔滨t 程大学硕士学位论文 1 9 9 0 年，e c k h o m 根据猫的视觉皮层研究成果，结合同步脉冲发放现象， 提出了能够表现脉冲发放的链接模型，如图2 2 所示。此模型包括两个部分： 反馈部分和链接部分。反馈部分接受来自外部的刺激，链接部分接收局部的 刺激。把这两部分的电压值进行调制相加后，与阈值比较，从而决定是否发 放脉冲。 链接神经元 反馈神经元 ( a ) e c k h o m 模型 + 一 链接半径- 反馈半径 p c n n 输入 ( b ) p c n n 模型 图2 2 两种神经元模型 1 9 9 2 年，r y b a k 研究视觉皮层细胞，给出了有别于e c k h o m 模型的方程 9 哈尔滨工程大学硕士学位论文 式，式( 2 3 ) ( 2 5 ) 所示，它们的运行机理非常相似。神经元由x 和z 两 部分组成，它们与刺激s 相互作用。其中，f s 是内兴奋外抑制型链接，f 7 是 局部连接，f 是时间常数，h 是抑制因子，厂 是非线性阈值函数。 x s = f s 圆i i s ( 2 3 ) = f 。o z ， ( 2 - 4 ) z ：| ，2 s z x 7 一( 者) 彰一h i ( 2 - 5 ) 在视觉系统提供的信息传输和处理机制的基础上，运用视网膜的视觉信 息获取与预处理模型、大脑皮层视觉的信息处理模型、生物视觉系统的信息 传输与处理机理等知识，人们创造并发展了人工神经网络、机器视觉、人工 智能、模式识别、虚拟显示等新兴学科。在这航空航天、兵器制造、机器人 定位、汽车工业、医疗设备、安全防范、材料分析、化学分析、生命科学研 究等领域均发挥着越来越重要的作用。 接收域调制部分脉冲产生 图2 3p c n n 的基本模型 1 0 对其他襁 元的着出 哈尔滨t 程大学硕十学位论文 1 9 9 0 年，e c k h o m 等人通过对小型哺乳动物大脑皮层神经系统工作机理 的仔细研究，提出了战士脉冲发放现象的链接模型，在此基础上，得到了一 种能够解释猫等哺乳动物的大脑皮层实验中观察到的与同步行为特征有关的 简化一脉冲耦合神经网络( p u l s e c o u p l e d n e u r a ln e t w o r k p c n n ) 。 p c n n 的标准模型5 3 1 共分三部分：接收域、调制部分和脉冲产生部分。 其模型如图2 3 所示。 2 1 1 接收域 接收域接收来自其他神经元与外部的输入，接收域将接收到的输入通过 两个通道进行传输：一个通道用于接收包含外部输入信号的馈送输入 ( f e e d i n gi n p u t s ) ，其运算关系为： 弓( 七) - - e 一即g ( k 一1 ) + j s ：f ，+ v f ( m o y ( k 一1 ) ) 盯 ( 2 6 ) 另一个则用于接收来自其它神经元的链接输入( l i n k i n gi n p u t s ) ，其运算 关系为： l o ( k ) = p 一吼l q ( k i ) + v l ( k o y ( k 1 ) ) 口 ( 2 7 ) 式( 2 6 ) 和( 2 7 ) 中k 和m 是链接权重矩阵，o 表示卷积运算，r ( k ) 为神经元点火与否的信息，吼和为时间衰减常量，屹和珞为连接和馈送 常量，瓯为神经元接收的外部刺激。 2 1 2 调制部分 在调制部分，馈送输入e 和链接输入厶经过调制后产生神经元的内活 动项，其运算关系为： ( 七) = 巧( 七) ( 1 + 厶( 砌 ( 2 - 8 ) 式中，为神经元的内部活动项，而为链接调制常量，利用链接输入 对馈送输入进行调制是p c n n 神经元之间进行通信的关键。根据前面的假设， 馈送输入的时间常数小于链接输入的时间常数，即信号巴的变化比信号厶 慢。因此，在短时间内，相乘调制得到的内部活动项，就近似为一快速变化 l l 哈尔滨下程大学硕十学位论文 的信号叠加在一个近似常量的信号上，接着，u ，输入到脉冲发生部分，只要 链接输入乞不为零，就会大于馈送输入易。 2 1 3 脉冲产生部分 脉冲产生部分由阈值调节器、比较器和脉冲生成器组成。阈值随着输出 而改变，当神经元输出一个脉冲，神经元的阈值口，就通过反馈迅速得到提高， 见式( 2 9 ) ；当神经元的阈值谚，超过u 。时，脉冲产生器就会被关掉，停止发 放脉冲。接着，阈值就开始指数下降，当阈值低于以，时，脉冲产生器被打开， 神经元就被点火，即处于激活状态，输出一个脉冲或脉冲序列。若神经元每 次点火时，只输出一个脉冲，则脉冲产生部分的比较器与脉冲产生器可由一 阶跃函数s t e p ( ) 来代替，见式( 2 1 0 ) 。 岛( 后) = e - c t o o o ( k 1 ) + 巧( 尼一1 ) ( 2 9 ) 艺( k ) = s t e p ( 吲= 托絮岁协 其中，为时间衰减常量，为阈值常量，而e ，( j | ) 却是动态阈值。 显然，脉冲耦合神经元模型不同于传统的神经元模型：( 1 ) 神经元的输 出幅值与内部活动项的强弱无关，但其输出脉冲频率却受控于内部活动项的 大小；( 2 ) 传统神经元的输入是各自输入的加权和，而脉冲耦合神经元的输 入是其内活动项，也即馈送输入和链接输入的非线性组合。 2 2p c n n 的工作原理 脉冲耦合神经网络( p c n n ) 是一个单层的二维神经网络，它的基本单 元是脉冲耦合神经元( p u ls ec o u p l e dn e u r o n ，p c n ) 。p c n n 由p c n 并行互 联而成，每一个神经元都跟它周围相邻的神经元根据一定的连接权值相关联。 它是一个复杂的非线性动力学系统，提供了一种有效的模拟手段来研究网络 中同步脉冲的动力学性质。 1 2 哈尔滨工程大学硕+ 学位论文 2 2 1 无耦合链接的情况下的p c n n 运行行为 在无链接的情况下，即= 0 ，见图2 4 所示，p c n n 的运行行为是各个 神经元相互独立运行的组合。对于任意一个独立的神经元，设其外部刺激为 x 0 ( x 为该神经元对应的图像象素的亮度) 。由于，= 0 时的阈值o ( 0 ) = 0 ， 从而“( 0 ) = x ( 0 ) 一p ( 0 ) 0 ，使神经元输出成为高电平，这一高电平输出使阈 值9 0 ) 迅速增加至设定幅值常数圪，通常这一设定值 x ，从而又使神经 元输出成为低电平。因此在t = 0 时该神经元输出一个脉冲( 也称为点火一次) ； 在e ( o 随时间从指数衰减至x 期间，该神经元的输出始终保持低电平，直 到p ( f ) = x ，该神经元重新点火，这样不断进行下去。因此该神经元的输出在 外部激励z 的作用下，以一定频率振荡，称这一频率为该神经元的自然频率， 其对应的振荡周期记为t ( x ) ，则明显地有t ( x ) = r ol n ( x ) ，其中为起始时 间常数。 由此可知，在将图像象素对应于p c n n 的神经元，且在各个神经元不相 连接的情况下，亮度越高的象素对应的脉冲耦合神经元越早点火，亮度越高 的象素对应的神经元的振荡频率越大。同时相同亮度输入的神经元在同一时 刻点火，因此这时的p c n n 是将图像象素映射为含有时问特性的点火图，即 每一时刻的点火图对应为同一亮度强度的象素图，而不同时刻的点火图对应 于不同亮度强度的象素图。 图2 4 无耦合链接的p c n n 神经元输出脉冲示意图 哈尔滨t 程大学硕十学位论文 2 2 2 耦合链接的情况下的p c n n 运行行为 有耦合链接的情况，即0 ，p c n n 各神经元之间存在相互影响，见图 2 5 所示。我们从两个相互链接的神经元的运行行为开始讨论。设神经元瓴，) 和( p ，q ) 的亮度激励分别为和x w ，且不失一般性，设，= 0 时这两个神经元 同时点火，由于而 x w ，使神经元( f ，j ) 在神经元( p ，q ) 之前首先点火，其点 火时间为，= t ( x q ) 。由于神经元( f ，_ ，) 和( p ，q ) 之间有链接关系，以及神经元 ( f ，j ) 在t = t ( x q ) 点火，使得产生链接信号钿，从而使神经元【p ，g j 的输入信 号由原来的x 朋变为，= 丁( ) 时刻的x 粥( 1 + f l l 册) ，因此在神经元【7 ，j 点火 后，由于神经元与神经元( p ，q ) 之间的链接关系，可视为神经元( p ，g ) 对应 象素的亮度从 朋提升到x w ( 1 + 三胛) 。我们知道，在t = 0 时刻神经元( f ，j ) 和 ( p ，g ) 的同时点火，使得它们的阈值在点火后的一段时间里有岛= 。明显 地，当 a ， x t , q ( 1 + f i l m ) = 岛= e x p ( 一 ) ( 2 - 1 1 ) 时，神经元在r = t ( x o ) + a t 阀值快速提高，然后 按照式( 2 1 6 ) 进行衰减，直到再次点火， 岛( t ) = e 一。岛( 七一1 ) + ( t 1 ) ( 2 - 1 6 ) 当p c n n 用于图像处理时，它为一个单层连接的二维网络，神经元与像 素点一一对应，如图2 6 所示。每个像素点的亮度值输入到相应的神经元， 神经元的点火对应像素点的点火。 目镕 r - i5 时x x 月日_ 经t t = h 耸二值日镕 图2 6 p c n n 处理流程 如果从欢度值来解释图像分割，那么分割就是从复杂背景中分离出感兴 趣目标的相似灰度值像素的过程。用p c n n 进行图像分割时，像素点与p c n n 神经元一一对应，并通过链接通道与其他神经元相连。p c n n 丌始运行时， 哈尔滨t 稗大学硕士学位论文 亮度值大的像素点对应的神经元先点火，发放出脉冲，通过脉冲的传播，使 得对应像素点亮度值相似且空间位置相邻的神经元发放出同步脉冲。这样， 相似的多个神经元对应着图像中相同的区域，这就是利用p c n n 脉冲传播特 性实现图像分割的机理。p c n n 为单层模型神经网络，这点有别于传统多层 网络，因此非常适合实时图像处理环境。p c n n 直接来自于哺乳动物视觉特 性良好研究成果，基于p c n n 的图像分割完全依赖于图像的自然属性，不用 预先选择处理空间范围，与其他方法相比，这是一种结合视觉特性的具有重 要发展前景的更自然的图像分析方法。但是，p c n n 参数的选择直接决定着 分割图像的性能，通常参数选定情况下，最佳分割效果的获得需要通过人工 交互方式才实现，这不但破坏了p c n n 不需要训练过程的优点，而且增加了 实际处理的时间，削弱了p c n n 处理速度快的优点，因此，找到一种可以自 动设定关键参数的算法对p c n n 的理论研究和实际应用具有非常重要的现实 意义。 2 5 本章小结 自上个世纪9 0 年代以来，基于哺乳动物视觉机制的视觉仿生图像处理技 术成为活跃的研究领域，得到了众多研究者的重视，其中脉冲耦合神经网络 是一个突出的例证。虽然是一种新型网络模型，但由于它的生物学背景，使 它在图像处理领域得到了广泛的应用。所以在本章我们安排了四节内容对 p c n n 的模型结构、工作原理、基本特性和简化p c n n 模型进行了详尽的分 析，为后续的p c n n 模型参数自动设定算法的提出做了铺垫。 哈尔滨丁程大学硕十学位论文 第3 章克隆选择算法的理论研究 1 9 7 4 年，j e m e 最先提出了克隆选择学说( c l o n es e l e c t i o nt h e o r y ) 5 9 1 ， 后由b u m e t 进行了发展和完善阐述，主要内容如下： ( 1 ) 机体内存在识别多种抗原的细胞系，其细胞表面具有识别抗原的受 体。 ( 2 ) 抗原进入体内后，选择相应受体的免疫细胞使之活化，增殖形成抗 体产生细胞及免疫记忆细胞。 ( 3 ) 胎生期免疫细胞与自己抗原相接处则可被破坏，形成耐受状态。 ( 4 ) 免疫细胞系可突变，产生出同自己抗原发生反应的细胞因子，可形 成自身免疫。 这一学说的优点在于它对获得性免疫的三大特点识别、记忆和自身 禁忌都得到了圆满的解释。克隆选择算法( c l o n es e l e c t i o na l g o r i t h m ) 是由d e c a s t r o 和v o n z u b e n 在2 0 0 0 年在克隆选择学说的基础上提出的一种新型算 法。生物免疫系统中，一旦病原体侵入肌体就被分解为抗原片段，b 淋巴细 胞能够产生相应的抗体与抗原结合，同时活化、增殖和分化，产生浆细胞， 通过中和、溶解和调理等作用，最终使抗原从体内清除。另有一些b 细胞变 成了长期存活的记忆细胞，它通过血液、淋巴和组织液循环，为下一次快速、 高效地消除相同或者类似抗原引起的感染奠定了基础。 3 1 免疫系统的生物学基础 人类和其他生物的免疫系统是一个由许多执行免疫功能的器官、组织、 细胞、分子以及淋巴循环等组成的复杂系统，其基本作用是保护自身，抵抗 外来病原体和自身癌变细胞威胁。也就是说，免疫系统的主要功能是识别并 清除从外界环境中入侵的病原体及其产生的毒素和内环境中因基因突变产生 的肿瘤细胞，实现免疫防卫功能，维持内环境的稳定。从本质意义上说，免 疫系统的基本功能是识别和排除“异己”，维持自身一致性。 2 4 哈尔滨t 程大学硕十学位论文 3 1 1 生物免疫系统概述 免疫系统由免疫器官、免疫细胞、免疫分子和淋巴循环网络组成。免疫 器官分为中枢免疫和外周免疫器官。免疫细胞泛指执行免疫功能的各种细胞， 包括t 细胞、b 细胞、吞噬细胞，自然杀伤( n k ) 细胞等与免疫响应有关的细 胞，免疫细胞都来源于造血干细胞，免疫细胞的成熟过程实际上是造血干细 胞的发育分化过程。免疫分子是免疫细胞合成和分泌的执行免疫功能的各种 分子的统称，包括抗体、补体、细胞因子、主要组织相容性复合体等。淋巴 循环网络为免疫细胞和分子进行免疫响应和免疫补充提供了一个流动的环 境，它与血液循环系统相联系。简单介绍一下免疫系统和免疫响应的几个重 要概念。 ( 1 ) 抗原( a n t i g e n ，简称a g ) - 抗原是一组能被淋巴细胞识别的有机物质， 包括多肽、脂质酸等小分子。抗原决定簇的成分、数目和空间构型决定了抗 原的特异性，也是细胞识别的标志和免疫反应具有特异性的物质基础，它与 相应淋巴细胞表面的抗原受体结合，激活淋巴细胞引起免疫响应：它也可以 与游离的抗体等发生特异性结合，导致抗原被清除。 ( 2 ) 抗体( a n t i b o d y ，简称a b ) ：抗体是一种能特异识别、结合和清除抗原 的免疫球蛋白分子。b 细胞识别抗原后，经过活化和克隆扩增之后，一部分 分化成为浆细胞，浆细胞大量地分泌具有相同特异性的抗体。不同的