（计算机应用技术专业论文）脉冲耦合神经网络在模式识别中的应用.pdf

塑墨一一 摘要 本文主要研究了脉冲耦台神经网络( p c n n p u l s ec o u p l e dn e u r a ln e t w o r k ) 在模式识别中的应用。首先结合p c n n 的同步脉冲发放和侧抑制特性，提出了 基于改进型p c n n 的图像凹点检测算法，该算法是一种自适应而有效的图像凹 点检测方法，并且较好地仿真了人类视觉系统；然后，结合信息传递和信息耦合 特性，将p c n n 扩展成p c n n s f p c n n 网络群) ，提出了一种基于p c n n s 的图像 融合算法，能够将多令传感器获取的同一目标的图像信息融合到一幅图像中，有 效模拟了人类视觉系统；另外，结合p c n n 的同步脉冲发放特性、捕获特性和 波的传播竞争特性，开拓地将p c n n 用于模式分类中，提出了基于耦合神经元 点火捕获抑制特性的分类方法和改进的约束距离下的p c n n 分类方法，前者可 实现对样本空间中任意复杂分布训练样本的稳健非线性分类，而后者能够消除训 练样本中刺点对分类的影响；最后，结合累积差分图像思想、p c n n 波的形成与 传播特性，通过各神经元之间连接取向来选择与控制自动波的流向，将p c n n 用 于运动视觉分析中的运动轨迹模拟及运动方向检测。这些算法不仅是对p c n n 潜质的深度挖掘，同时也是对p c n n 在模式识别应用中的有益探索。 关键词：脉冲耦合神经网络模式识别凹点分类约束距离 a b s t f 8 c a b s t r a c t t h i st h e s i si n v e s t i g a t e st h ea p p l i c a t i o n so fp c n ni np a t t e r nr e c o g n i t i o n f i r s t l y , t h ep a p e r , c o m b i n i n gt h ec h a r a c t e r i s t i co fs y n c h r o n o u sp u l s eb u r s t sa n di n h i b i t i o nw i t h t h em o d i f i e dp c n nm o d e l ，p r e s e n t saw a yo ff i n d i n gt h ef o v e a t i o np o i n t si nt h e i m a g e sa d a p t i v e l ya n de f f e c t i v e l y ，a n ds i m u l a t e st h eh u m a nv i s i o ns y s t e m s e c o n d l y ， p c n ni se x t e n d e dt op c n n s ，b a s e do dt h e p r o p e r t i e so fi n f o r m a t i o nc o u p l ea n d t r a n s m i s s i o n ，a na l g o r i t h mt h a ti su s e dt of u s ei m a g e so ft h es a n l et a r g e tg o tb ys e v e r a l s e n s o r st oa n i m a g e i s p r e s e n t e d t os i m u l a t et h eh u m a nv i s i o n s y s t e m t h i r d l y , c o m b i n i n gt h ep r o p e r t i e so fs y n c h r o n o u sp u l s eb u r s t s ，c a p t u r e ，a n dt r a n s m i s s i o na n d c o m p e t i t i o no fw a v e s ，t h ep a p e rp r e s e n t s t w o w a y s o fc l a s s i f i c a t i o n ，o n ei sa n a l g o r i t h mb a s e do nt h ep r o p e r t i e so f n e u r o nt oc a p t u r ea n di n h i b i tt oc l a s s i f yt h ed a t a t a k i n g o na n yc o m p l e xu n l i n e a rd i s t r i b u t i o n r o b u s t l y , t h e o t h e ri sb a s e do i lt h e r e s t r i e t e dd i s t a n c ea n dm o d i f i e do ft h ef o r m e rt or e m o v et h ei n f l u e n c eo fi n f e r i o r s a m p l e si nc l a s s i f i c a t i o n ；f i n a l l y , b a s e do nt h ea c c u m u l a t i v ed i f f e r e n c ep i c t u r e s ，a n d t h ef o r m i n ga n dt r a n s m i s s i o no fp c n n w a v e ，s e l e c t i n ga n dc o n t r o l l i n gt h ed i r e c t i o no f a u t o w a v eb yc o n n e c t i n gt h en e i g h b o u r i n gn e u r o n s s e l e c t i v e l y , t h ep a p e rp r e s e n t saw a y t os i m u l a t et h et r a c k so fm o v i n g o b j e c ta n dd e t e c tt h em o v i n gd i r e c t i o n t h u s ，w en o t o n l yr e v e a lt h ei n h e r e n ta b i l i t yo fp c n n ，b u t a l s oe x p l o r et h ea p p l i c a t i o n so fp c n ni n p a t t e r nr e c o g n i t i o n k e yw o r d s ：p u l s e - c o u p l e dn e u r a ln e t w o r k s ，p a t t e r nr e c o g n i t i o n ，f o v e a t i o n p o i n t ，c l a s s i f i c a t i o n ，r e s t r i c t e d d i s t a n c e 创新性声明 y 5 8 3 3 8 1 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取缛的研究 成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中不 包含其他人已经发表或撰写过的研究成果i 也不包含为获得西安电子科技大学或 其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做 的任何贡献均已在论文中做了明确的说明并表示了谢意。 申请学位论文与资料若有不实之处，本人承担一切相关责任。 本人签名 骀錾到 日期) 卯铲f ； 关于论文使用授权的说明 本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：研究 生在校攻读学位期间论文工作的知识产权单位属西安电子科技大学。本人保证毕 业离校后，发表论文或使用论文工作成果时署名单位仍然为西安电子科技大学。 学校有权保留送交论文的复印件，允许查阅和借阅论文；学校可以公布论文的全 部或部分内容，可以允许采用影印、缩印或其它复制手段保存论文。( 保密的论文 在解密后遵守此规定) 本学位论文属于保密，在年解密后适用本授权书。 本人签名：罂墨丞 导师签名：亨善驴关 日期兰2 1 生i ：i 日期， 缸，3 第一章绪论 第一章绪论 随着社会的进步和科学技术的飞速发展，可以预言，人类社会的一个重要发 展方向便是智能化，其意义在于减轻或代替人们的脑力工作，或是完成人们不能 执行的任务。分类识别是人类最重要的基本活动之一，在人类的曰常生活、社会 活动、科研生产以及学习、工作中无时无处不在进行着分类识别。以研究分类识 别理论和方法为主要任务的学科模式识别，其目标是创造能进行分类识别决 策的智能机器系统以代替人类的分类识别工作，因此正受到学术界和各应用领域 的极大关注。 人工神经网络是由大量的基本单元神经元刚e u r o n ) 相互联接而构成的非 线性动态系统，每个神经元结构和功能比较简单，而由其组成的系统却可以非常 复杂，具有生物神经网络的某些特性，在自学习、自组织、联想及容错方面具有 较强的能力，能用于识别和决策。人工神经网络作为模式识别技术之一，独特的 优势在于其在学习过程中具有自动提取特征的能力，所以在信息处理和智能科学 中有着极其重要的地位i l j 。 脉冲耦合神经网络( p u l s e c o u p l e d n e u r a l , n e t w o r k s p c n n ) 是e c k a h o r n 提出 的一种解释在猫大范围的大脑皮层中实验观察到的与特征有关同步行为的简化模 型】，其神经元的构成具有鲜明的特色：变阈值、内部行为的乘积耦合及分支树 的漏电容积分加权求和等，这使得p c n n 具有同步脉冲发放、共振与信息传输等 特性，已被证实在模式识别上有重要的应用p 4 j 。 本文基于脉冲耦合神经网络的基本模型及其特性，提出了一些应用于模式识 别方面新颖而有效的方法。 1 1 凹点检测及其发展状况 对人类视觉系统的分析表明，人的视觉很大，但人的视觉并不是在全部范圈 内以同样的优先度同时工作的，在视网膜的中心存在个很小的中央凹区( f o v e a ) ，这个区域虽小，但感光细胞的密度却高出周围区域的3 0 倍以上，达到每平方毫 米1 5 万以上，也是人眼视力最好的部分。视网膜上各区域的空间分辨率是不一样 的，根据需要，人可以通过眼球的自身运动机能，将高分辨率的中央凹区对准环 境中最需要仔细“注视”的区域，在该区域，视觉系统以较高的分辨率来处理信 息，以得到物体的细节，这就是视觉的选择性注意机制，其涉及到信息处理中对 脉冲耦合神经网络在模式识别中的应用 不同空间位置信息与不同处理要求的优先级问题，对优先级高的信息应优先处理 竺 9 1 0 口 。 这里借助人眼对图像的理解来研究人眼的选择性注意机制，以达到对人眼跳 跃式扫描和对信息按优先级进行检测机能的模拟。人眼认识图像是在图像上不断 地扫描以获取图像信息的过程即为凹( f o v e a t i o n ) ，这些扫描到的点即为凹点 ( f o v e a t i o n p o i n t ) 。由于凹点大多数位于边缘和角上，其包含了图像很大一部分信 息，因此为其在自动目标识别及机器视觉领域的应用提供了良好的基础。j m ， k i n s e r 首先将目标在凹点处的放射性变换作为目标的特征成功地运用于亲笔鉴 定等目标识别系统中lj “，证实了凹点有着广阔的应用前景，但目前国内对此研究 较少。 1 2 图像融合及其发展状况 随着检测、识别、决策与跟踪等问题越来越复杂，传统的单传感器检测识别 系统往往无法满足实际的需求，于是，人们考虑运用多种传感技术或多个同一类 的传感器联合起来，同时观测目标、协同工作，这就是多传感器系统，其不仅利 用多个传感器观测目标，还要对其观测数据进行联合处理得到最终结果，其关键 技术就是数据或信息融合”j 。 当前融合处理算法按技术原理分有：统计决策型算法、聚类分析型算法、模 糊识别型算法、人工神经网络法、人工智能型算法和滤波跟踪型算法等。 图像融合是将同一对象的两幅或更多幅图像合成到一幅图像中，以便它比原 来任何一幅都能更容易地为人们所理解，即融合图像应该包含每个原始图像的特 点，以及尽可能多的视觉信息；它能有效的利用图像信息，提高目标识别的可靠 性和自动化水平。目前这一技术多应用于多频谱图像理解、医学图像处理、遥感 图像处理和天气预报等领域中，在这些场合中，同一物体部件的图像往往是使用 不同的机理采集得到的”j 。 1 3 模式分类及其发展状况 在模式识别中，利用已知类别的训练样本进行学习产生各类决策域的判决界 面，依据待识别样本所处的子区域而确定其类别，即为分类。分类功能的完成包 括分类器的设计和分类器的训练。目前应用较多的分类方法有：b a y e s 准则作为 一种统计模式识别方法【1 3 】，在样本的分布密度函数、各类样本出现的先验概率和 判决风险函数信息已知时，使分类的平均风险最小；由v a p n i k 首先提出针对二分 第章绪论 类问题的支持向量机( s u p p o r tv e c t o rm a c h i n e ) 方法y l , 以结构风险最小为准则， 将输入空间的非线性可分问题通过输入空间的点积运算和事先设计的核函数，映 射到高维空间中的线性可分问题，并用线性分类器加以分类：给定输入空间的训 练样本集，其可以找到能将输入空间中的二类训l 练样本以最大边界( m a r g i n ) 分 开的最优分类超平面；等方法。 由于分类是模式识别中至关重要的步骤，因此对分类方法的研究也一直是模 式识别中研究的热点。 1 4 运动检测及其发展状况 根据动态图像或时变图像序列的分析，来确定空间运动物体的结构，或物体 与观察者之间的相对运动参数，是当前计算机视觉研究领域中十分热门的课题。 目前，在运动视觉中对时变图像或动态图像的基本分析方法可分为两大类i i m ： ( 1 ) 利用在三维空间中物体运动所引起图像平面像素数据的紊乱性，建立像素 强度的时空变化关系，然后再估计物体的空间位置或运动参数。 ( 2 ) 对由三维空间中运动物体投影到图像平面所得到的一组时变图像序列，以 二维的光流或相应的参考点的变化来表示，然后利用该表示模型由二维图像数据 推导出运动物体的三维结构和物体与观察者之间的相对运动参数。 当前主要的研究算法有：光流( i m a g ef l o w ) 是运动物体的被观测表面上的 像素点运动的瞬时速度场，携带了物体可见表面的深度、曲率和取向的重要信息， 以及有关景物中物体与传感器系统之间相对运动的关系，其主要是利用图像序列 中强度数据的时域变化和相关性来确定各自像素位置的“运动”；美国加州大学 的蔡( c h u a ) 教授等提出的胞元神经网络( c n n ) 模型，除具有大规模非线性模 拟系统的特性外，同时又具有细胞自动机的动力学特性，其利用各神经元的邻近 连接来模拟皮层功能柱间的局部动态交互，完成一维运动信息到二维运动信息的 融合、检测，其最具吸引力的特点是：它的传播特性使得这个局部连接的网络可 以抽取出全局特征；等方法。 1 5 本文结构与安排 1 5 1 本文的主要工作 作者在别人研究p c n n 的基础上，致力于研究p c n n 在模式识别方面的应用。 本文将侧抑制引入p c n n ，使得神经元的输出是负脉冲，这样，当某神经元 脉冲耦合神经网络在模式识别中的麻阐 点火后，使周围神经元滞后点火或不点火，借助于此提出了峰值检测模型，检测 出图像中的局部极大值，并结合p c n n 自适应图像分割能力，提出了一种改进的 凹点检测算法；然后，根据p c n n 的第二感受野是一个良好的信息传输通道并且 通过指数衰减系数进行信息的耦台，引入p c n n s 网络群，提出了一种图像融合 算法；另外，将p c n n 的捕获特性及同步脉冲发放等特性应用于特征空间的模式 分类，并提出了基于耦合神经元的分类算法；最后，借助于p c n n 波的形成与传 播特性，提出了一种基于脉冲耦合神经网络的运动检测算法。 1 5 2 本文的结构 本文的内容主要包括了脉冲耦合神经网络在图像凹点检测、图像融合、模式 分类以及运动检测中的应用研究。 本文的具体内容安排如下： 第一章引出脉冲耦合神经网络，并介绍了模式识别中几个应用方面的当前进 展状况。 第二章提出p c n n 峰值检测模型，并基于此提出了凹点检测的改进算法。 第三章介绍了图像融合的一些基础概念及p c n n 应用于图像融合的基本原理 及方法。 第四章介绍了p c n n 应用于模式分类的机理，并提出了一种合理而有效的分 类方法。 第五章在第四章所提分类方法的基础上进行改进，提出了一种改进的分类方 法。 第六章结合累积差分图像思想，提出了基于p c n n 的运动检测方法。 结束语为整个论文的工作总结，在简单回顾了论文工作的基础上，对脉冲耦 合神经网络的进一步研究提出一些个人的看法。 本论文的研究工作是在国家自然科学基金资助项目( n o 6 0 0 7 1 0 2 6 ) 、国防科技 预研跨行业基金资助项目( n o 0 0 j 1 4 4 d z 0 1 0 6 ) 、信息处理与智能控制教育部重 点实验室开放基金资助项目( n o t k l j 0 0 0 5 ) 的支持下完成的。 第二章基于脉冲耦合神经网络的凹点检测 第二章基于脉冲耦合神经网络的凹点检测 本章针对传统p c n n 图像分割方法削弱每一分割部分内部层次性的不足， 提出输出为s i g m o i d a l 函数的p c n n 改进模型；为了检测出图像峰值，将p c n n 基本模型进行改进，得出用于峰值检测的p c n n 改进模型；在这两个改进模型基 础上，提出了基于p c n n 的凹点检测算法。 2 1p c n n 应用于图像凹点检测的基本原理及改进模型 2 1 1p c n n 应用于凹点检测的基本性质 p c n n 能够应用于图像凹点检测，来源于p c n n 几个独特的性质： ( 1 ) 同步脉冲发放特性。每个神经元有一个输入( 对应于图像中一个像素的 灰度值) ，并与其它神经元的输出有连接，对应于亮像素的神经元可以比暗像素对 应神经元更快地点火；对于 0 时，当一个神经元点火时，它会将箕信号的一 部分( 正的能量) 送至其邻近的神经元上，从而这一连接会引起邻近神经元比其 自然点火方式更快地点火，这样就导致了在图像的一个大的区域上产生同步振荡， 因此得到p c n n 一个非常重要的性质：以相似性集群产生同步脉冲。这一性质的 运用对于进行图像分割等具有非常重要的应用意义。 ( 2 ) 侧抑制。对于 = u 。曲l k 。v t “2 d 卢= m a x ( p 】2 ，瓜( - 】) ) ( 4 8 ) ( 4 9 ) ( 4 1 0 ) ( 4 1 1 ) ( 4 1 2 ) 4 , 1 4 并行网络之间的竞争机制运行行为 对于未知类别的神经元，将其连至每一个神经网络上，每个神经网络对它都 有捕获作用，即竞争对其捕获，若某个网络对其先捕获，使之先点火，则该神经 元就归属于将其捕获的网络所对应的类。对于未知类别的神经元m ，对应每一类 均有一个馈送输入e ，每类对该神经元有一个链接输入厶，这样假定该神经元属 于膏类时，便有一个点火时刻“。并行网络之间的竞争机制运行行为描述为式 ( 4 1 3 ) 、( 4 1 4 ) 。 t = 一l o g ( f 女+ ( 1 + + l ) ) 口口 ( 4 - 1 3 ) 脉扑耦台神经网络在模式识别中的应用 m d l 厂f 。= m i n ( _ 1 ，f 2 ，f )f 4 - t 4 ) 4 1 5p c n n 分类具体实现 每个训练样本对应一个p c n n 神经元；p c n n 的每一类训练样本构成一个神 经网络功能区，对应一个模式；每个功能区对其他功能区有一定的抑制功能( 侧 抑制实现) ；列于一个未知类别的神经元( 测试样本) ，各功能区对其并行竞争捕 获( 竞争机制实现) ，若某个功能区对该测试样本刺、激撮大使其点火，则该神经元 就归属于该功能区( 即判断出该样本属于这一类) 。p c n n 的分类网络很好地模拟 人类大脑的功能区域性、自组织特性及神经元兴奋刺激规律。 4 2 实验结果及分析 第四章基于脉冲耦台神经网络的分类器设计( 1 ) 一2 t 图4 3 中( a ) 为二类分类问题，其中红色+ 为一类，红色，为另一类， 黑色线务为分类线；0 ) 为二类分类问题，其中红色+ 为类红色。为另 一类，黑色线条为分类线；( c ) 为三类分类问题，其中蓝色。十为一类，绿色 为一类，红色07 为一类，黑色线条为分类线；图4 4 中( a ) 为二类分类问题，其 中红色+ 为一类，红色为另一类，黑色线条为分类线：( b ) 为三娄分类问 题，其中蓝色+ 为一类绿色为一类，红色。0 为一类，黑色线条为分 类线：图4 5 中( a ) 采用常规参数时的三类分类问题，其中蓝色+ 为一类，绿色 为一类，红色0 为一类，黑色线条为分类线；( 6 ) 对图4 5 ( a ) 中样本采用 修正“时的分类结果，其中蓝色+ 为一类，绿色为一类，红色。1 3 为 一类，黑色线条为分类线； 脉冲耦合神经网络在模式识别中的应用 表4 1 雷达目标数据识别结果 长 训练测试测试结果测试结果测试结果 样本样本( 常规参数)( 修正)( 修正吒。) 个数个数训练测试训练测试训练测试 样本样本样本样本样本样本 b 5 21 6 1 1 6 l1 0 0 1 0 0 1 0 0 1 0 0 1 0 0 9 9 3 8 q 51 5 51 5 51 0 0 9 1 6 1 l o o 9 2 9 0 1 0 0 9 22 6 q 72 2 62 2 51 0 0 9 4 2 2 1 0 0 9 1 1 l 1 0 0 9 7 3 3 合计5 4 25 4 l1 0 0 9 5 1 9 1 0 0 9 4 2 7 1 0 0 9 6 4 9 表4 2i r i s 数据识别结果 羹 训练测试测试结果测试结果测试结果 样本样本( 常规参数)( 修正)( 修正耽。) 个数个数训练测试训练测试训练测试 样本样本样本样本样本样本 类1 2 52 51 0 0 l o o 1 0 0 1 0 0 l o o 1 0 0 类2 2 52 51 0 0 9 6 1 0 0 9 6 1 0 0 9 2 类32 52 5 1 0 0 9 2 1 0 0 9 2 l o o 1 0 0 合计 7 57 51 0 0 ，9 6 1 0 0 9 6 1 0 0 9 7 3 3 由以上结果可见，基于p c n n 的分类器对训练样本具有强学习能力，即使在 混叠睛况下对于训练样本也能够实现1 0 0 的识别率( 见图4 4 的( a ) 、( b ) 以及 表4 1 、表4 2 的识别结果) 。尽管如此，在具体的应用中，应尽量提供反映该类 在特征空间边缘及密集区的样本，尽量减少混叠区域的样本，毕竟混叠区域一般 很小，而且处于混叠区域的样本会影响网络的学习能力； 当提供的各类的训练样本个数差别较大时，训练样本个数较多的类学习能力 强，对分类结果及分类线造成的影响见图4 5 ( a ) 、( b ) ，因此如果各类样本出现的 先验概率相等时，就要考虑这一因素，使用修正的p k ( 若各类的训练样本个数 分别为q ，c 2 ，q = m i n ( c i ，c 2 ，c ) ，则修正的选为( c f 一1 ) c ) ，但当提 供的各类训练样本个数本身就反映了各类事件发生的先验概率时，应使用常规的 和屹 ( 、均选为1 ) 。 第四章基于脉冲耦合神经网络的分类器设计( 1 ) 4 3 结论 本章基于脉冲耦合神经元提出的分类方法，有效解决了分类中的混叠问题、 各类训练样本的数目差别大造成的负面影响及参数选择的不稳定性问题。 在运用这种方法进行分类时，常规参数一般会有一个较好的结果，但是考虑 到先验概率、各类训练样本个数的差别及混叠，适当的调整、屹。会对分类结 果有所改善。 脉冲耦台神经网络在模式识别中的应用 第五章基于脉冲耦合神经网络的分类器设计( 2 ) 第四章所述的基于耦合神经元点火捕获抑制特性的分类方法是一种有效而 可行的分类方法，有着强学习能力，但是若提供的训练样本中存在刺点，则是一 种过学习的缺陷。本章所提分类方法继承了第四章所述分类方法的优点，并引入 约束距离的概念消除训练样本中刺点对分类造成过学习的影响。 5 1 基于耦合神经元点火捕获抑制特性的分类器分析 基于耦合神经元点火捕获抑制特性的分类器设计方法，由于其在估算密度 x 。时取的是特征空间中样本间欧氏距离的倒数之和，如( 5 1 ) 式所示，连接权 w ，取的是距离平方的倒数之和，如( 5 - 2 ) 式所示，所以当乙类某- - n 试样本f ( 如 图5 1 中上方黑色小圈括起来的绿色训练样本点) 混叠于甲类训练样本( 红色样本 点) 之中时，则测试样本m ( 与训练样本点f 对应特征空间中的同点) ，在乙类这 一条件假设下，其计算得到的距离趋于0 ，因此其倒数趋于无穷，密度估计x 。趋 于无穷，而连接权w i ，也趋于无穷，这样得到在乙类这一条件假设下m 的内部行为 趋于无穷；而在甲类这一条件假设下，得到朋的内部行为并没有在乙类这一条件 假设下的内部行为大，所以在竞争机制下，样本m 自然会被乙类竞争到，会判为 乙类，而从实际考虑，一般训练提供的样本应具有典型性，但这一点往往是很难 做到的，这样提供训练样本点，这些造成混叠的点是经常存在的，而如前所述的 基于耦合神经元点火捕获，抑制特性的分类器能够完全正确的鉴别测试样本m ，在 分类时，该方法将混叠点，附近的区域( 如黑色小圈括起来的部分) 进行了过学习， 判为乙类区域，这就是刺点的负作用；虽然这符合分类的基理( 就是要求根据训练 样本进行这样的学习) ，而在实际中并不要求这样，并不能因为提供了训练样本点 f 这样不具有典型性的样本点( 即刺点，或者认为这一样本点是噪声样本点) ，为了 照顾到这一刺点，而影响了一些区域正确的判断( ( 如黑色小圈括起来的部分) 。因 此应该进行改进，克服这种过学习的缺陷，或者说能够消除刺点对整个训练过程 的影响。 = 士 i l “妇 = 1 司 ( 5 1 ) ( 5 2 ) 第五章基于脉冲耦台神经网络的分类器设计( 2 ) 5 2 约束距离下的p c n n 分类方法 5 2 1 改进机理分析 在计算特征空间中样本点之间的距离时采用了简单的欧氏距离方法，距离的 倒数与距离的关系是双曲线在笛卡尔坐标第一象限的分支距离的倒数在距离趋 于0 时趋于无穷大，因此在进行密度估计时，某个靠近测试样本点的训i 练样本点 将会对该测试样本点的密度估计给予的贡献最大，越靠近，贡献越大尤其是距 离接近于0 时，得到的贡献是无穷，因此它以偏盏全，淹没了其他样本的贡献， 这虽然对于完全可分的情况是非常有利的，但对于混叠较严重的情况，是极其不 利的。因此需对距离的计算公式在距离趋于0 时进行修正。 约束距离的引入旨在解决当距离趋于0 时距离的倒数不再趋于无穷，使得训 练样本存在混叠时，刺点样本周围小范围内的测试样本并不因为该刺点造成误判。 采用原分类方法刺点样本对分类结果的负影响会由于训练样本的具体分布不同而 有所不同，这里使用约束距离来定性描述，记约束距离为k ，则对距离的修正公 式如( 5 3 ) 式所示，当距离d 大于约束距离k 时，d 不变；当距离d 小于约束 距离k 时，d 修正为约束距离k ，图示如图5 2 ( a ) 所示( 修正前为红色曲线所示， 修正后为绿色曲线所示) ，相应地距离的倒数如图5 2 ( b ) 所示。 d 2 = d i + ( k d 1 ) + s g n ( k d i ) ( 5 3 ) 脉冲耦合神经网络在模式识别中的应用 5 2 2 约束距离的p c n n 分类方法实现 约束距离的p c n n 分类方法就是在使用基于耦合神经元点火捕获抑制特性 的分类方法分类之前，选择一个合适的约束距离k ，然后在使用基于耦合神经元 点火捕获抑制特性的分类方法进行分类的过程中，将任何计算特征空间中样本之 间的距离均按( 5 3 ) 式进行修_ i _ f ，其他计算部分和基于耦合神经元点火捕获， 抑制特性的分类方法中相应的部分相同。 5 2 3 两种方法之间的关系 由式( 5 3 ) 可以看到，当取约束距离k 为0 时，采用( 5 3 ) 式进行距离 修正前后的距离是相同的。因此当取约束距离k 为0 时，约束距离的p c n n 分类 方法就是基于耦合神经元点火捕获抑制特性的分类方法。 5 3 试验结果及分析 5 3 1 试验结果 第五章基于脉冲耦合神经网络的分类器设计( 2 ) 图5 3 为二类分类问题，其中红色。+ 为甲类，绿色为乙类，黑色线 条为判决界面，( a ) 是采用基于耦合神经元点火捕获抑制特性的分类方法获得的判 决界面，其中黑色小圈中的区域判为乙类；( b ) 为约束距离方法在约束距离等于 0 0 5 时获得的判决界面；图5 4 为二类分类问题，其中红色+ 为甲类，绿色 为乙类，黑色线条为判决界面，( a ) 是采用基于耦合神经元点火捕获i 抑制特性的分 类方法获得的判决界面，其中黑色小圈中的区域判为甲类；( 们为约束距离方法在 约束距离等于00 5 时获得的判决界面；图5 5 为二类分类问厨，其中红色+ 为甲类，绿色为乙类，黑色线条为判决界面，( 8 ) 是采用基于耦舍神经元点火 捕获t 抑制特性的分类方法获得的判决界面，其中黑色小圈中的区域判为甲类；( 6 ) 为约束距离方法在约束距离等于o0 5 时获得的判决界面；图5 6 为三类分类问题， 其中蓝色+ 为甲类，绿色。古为乙类，红色为丙类，黑色线条为判决 界面，( a ) 是采用基于耦台神经元点火捕获，抑制特性的分类方法获得的判决界丽， 其中黑色小圈中的区域判为乙类，( 6 ) 为约束距离方法在约束距离等于o 0 5 时获得 的判决界面。 5 3 2 实验分析 由以上的实验可见，当约束距离k 取的较小时，即扩大了混叠样本对其邻近 区域测试样本密度估计的贡献；而随着约束距离k 的增大，这种贡献将降低，但 是当约束距离k 增大到超过两类大群样本之间的距离时，将会严重影响分类结果。 因此，对约束距离k 的取值，应有所限制。一般取为混叠样本与最近的异类样本 的距离的0 5 到1 0 倍为宜。 第五章基丁脉冲耦合神经网络的分类器设计( 2 ) 5 4 结论 本章所提约束距离的p c n n 分类方法囊括了基于耦合神经元点火捕获抑制 特性的分类方法的优点，同时又是对该方法的进一步延伸，克服了基于耦合神经 元点火捕获抑制特性的分类方法过学习的缺陷，能够消除刺点训练样本点对训练 过程的影响。但在运用这种方法进行分类时，应合适选择约束距离k 。 壁翌塑垒塑丝堕塑生丝墓堡型生塑堡幽 第六章基于脉冲耦合神经网络的运动检测 图像运动估计是动态场景分析的基础，现在已经成为计算机视觉新的研究热 点。对许多应用来说，检测图像序列中相邻两帧图像的差异是非常重要的步骤。 场景中任何可察觉的运动都会体现在场景图像序列的变化上，如能检测这种变化， 就可以分析其运动特性。如果物体的运动限制在平行于图像平面的一个平面上， 则可以得到物体运动特性定量参数的很好估计h 。本章在累积差分思想提取序列 图像运动特征的基础上，借助于p c n n 来模拟物体的运动轨迹，并检测运动物体 的运动方向。 6 1 提取序列图像运动特征的累积差分思想 6 1 1 差分图像1 2 4 i 图像运动意味着图像变化。运动估计算法中的一个基本依据是图像强度的变 化，可以用图像序列中相邻时间的一对图像的差来表示强度的相对变化。检测相 邻两帧图像序列之间变化的最简单方法是直接比较两帧图像对应像素点的灰度 值。在这种最简单的形式下，帧f ( x ，y ，j ) 与f ( x ，y ，k ) 之间的变化可以用一个二值 差分图像d p ，k f ( x ，y ) 表示： d p j k f ( x , y ) = 剁八五弘呈儿p r ( s _ 1 ) 式中r 是阈值。 在差分图像中，取值为1 的像素点被认为是物体运动或光照变化的结果。这 里假设帧与帧之间配准或套准得很好。式( 6 1 ) 运算只涉及对应像素强度的比 较运算，因此这种算法是相当简单的，并且适合于并行实现。图像差分在某种程 度上反映了景物的较高层次性质或蕴含在图像平面上的传感器运动的变化。 6 1 2 累积差分图像0 2 4 前面的差分图像运算中应用了时变图像数据的两幅连续时间样本( 或帧) 。重 复使用差分方法，计算出的输出图像表示了在感兴趣的时涮间隔上的累积运动历 程，而且图像变化信息遍及整个差分结果图像。累积差分图像方法( a c c u m u l a t i v e 第六章基于脉冲耦台神经嘲络的运动检测 d i f f e r e n c ep i c t u r e a d p ) ，其基本思想是通过分析整个图像序列的变化( 而不仅仅 是分析两帧图像之间的变化) 来提取图像运动特征。累积差分图像可分为一阶累 积差分图像( f a d p ) 和二阶累积差分图像( s a d p ) 。 一阶累积差分图像形成过程为：将图像序列的每一帧图像与一幅参考图像进 行比较，当差值大于某一闽值时，就在累积差分图像中加1 。通常将图像序列的 第一帧作为参考图像，并且置累积差分图像f a d 只的初始值为0 。这样，在第k 帧 图像上的累积差分图像朋d 只( x ，y ) 为 f 0k ：0 础d 只( 。，y 卜i f a d p , 一i ( x ，y ) + 础 ( x ，y ) 其它 6 2 图6 1 是利用累积差分图像检测的结果示意图。 二阶差分图像的构造为：对应于第n 帧= 0 , 1 ，v 且n 1 ) 的二阶差分图像在 ( x ，y ) 位置的值为1 ，表明在这个位置上第月一1 帧和第月帧的一阶差分图像 f a d p 具有不同的符号。 s a d p , 加惦删吼“量4 警。“ ( 6 - 3 ) 用于运动特征提取的差分图像的最大特点是它的简单性。差分图像最有效的 应用是对图像进行全局粗略处理，以便将解释的注意力引向场景中出现”活动”的 区域。场景中事件的粗略信息也可由差分图像中的某些特征来提取。 6 2p c n n 及其运动检测 脉冲耦台神经网络在模式识别中的应用 6 2 1 反映时间和空间连接的p c n n 改进模型及自动波 模型反馈连接的外部刺激修改为： s m ( f 。) = f a d p s ( ，。) ( 6 - - 4 ) 模型的其他几个公式不变。 如果一个神经元的外部刺激没有处于任何其它神经元的自动波传播带内，则 该神经元将在网络运行过程中发生自然点火，从而形成自动波的波源；而处于任 何一个其它神经元的自动波传播带内的神经元，其点火都将是由其它神经元自然 点火所产生的自动波的传播所致。神经元的自然点火形成了自动波的波源。自动 波的波源的形成相当于在不同位置( 自然点火神经元) 、不同时刻向平静的液面 ( p c n n ) 投入小石子，使得对应位置液面介质发生振动( 神经元的自然点火) 。 神经元的捕获点火形成了自动波的传播，其传播是有条件的，即沿着自然点火神 经元所生成的自动波传播带方向传播。 6 2 2 p c n n 模拟物体的运动轨迹 当图像作为p c n n 的外部刺激时，存在着波的形成与传播现象，即如果一个 神经元在点火后能在一个时间段得到抑制，而在这段时间区间内该神经元的点火 通过连接使得相邻神经元被激活而点火，这一过程不断进行下去，则这个神经元 的点火所产生的输出振动将被不断地扩散和传播开来，从而形成网络中由最先点 火神经元为波动中心的振动波的传播。根据物体运动图像得到的累积差分图像， 由于每幅图像都要和参考图像相减，这样累积差分图像中物体运动起始位置对应 的灰度值最大，而终止位置则最小，这样就自然地形成了一个波动区域，当累积 差分图像送给p c n n 作为外部刺激时，p c n n 中对应灰度较大的像素的神经元先 点火，然后点火的神经元通过连接使得相邻神经元被激活而点火，这一过程不断 进行下去，则这些神经元的点火所产生的输出振动将从物体运动的起始位置传播 到终止位置，而此时波传播的整个轨迹就是物体运动的轨迹。 6 2 3p c n n 检测物体的运动方向 累积差分图像为p c n n 创造了良好的自动波传播条件，但是由于连接权矩阵 的元素是欧氏距离平方数的倒数，是一个对称矩阵，这样在波源被点火后，其 会向相邻的几个方向的邻近神经元传递能量因此波的传播可能是四散的，而且 第六章基于脉冲耦合神经网络的运动检测 是自适应的，尽管此特性极其有利于图像分割等等，但在实际当中，物体的运动 方向不是一个绝对的方向，这样给估计物体的运动方向造成了很大的困难，然而 可以从上下左右四个方向分量来看待这个问题，如物体向右运动到哪，向左又运 动到哪。 这样对连接权矩阵进行改进，在波的传递过程中强制使得某个方向的波继 续传播，而其他方向的波抑制掉，这里采用以下方案： ( 1 ) 改进连接权矩阵，如式( 6 5 ) 所示 【0a l 0 w = 口2 1 。3 0 a 40 如果检测向上的运动，则取a 。= 1 ，a ：= a ，= t 。= 0 ；如果检测向下的运动 a 4 = 1 ，a 2 = a 3 = a i = 0 ；如果检测向左的运动，则取a ：= 1 ，a l = q = a 4 = 0 检测向右的运动，则取a 3 = 1 ，a 2 = a i = a 4 = 0 ； ( 6 5 ) ，则取 ；如果 ( 2 ) 选择链接输入工为： 毛( n ) = ( n 一1 ) ( 6 6 ) k ， 使得点火的神经元给予邻近的神经元能量提升只能是短时的； ( 3 ) 由于得到的累积差分图像的灰度值是以1 递减的，在波源自然点火后， 其他神经元的点火方式为： 巧( n ) = x ( ( s i g n ( u 。( n ) 一瓦( n ) + 1 ) 2 ) x ( ( s i g n ( l 。( n ) 一o ) + d 2 ) ( 6 - - 7 ) 式中s i g n 为符号函数，伽为取整函数，这里要求点火的神经元当前时刻必须有邻 近的神经元给予能量提升，即限制了非波源的神经元自然点火，而且由于连接权 矩阵的选择使得点火神经元仅向一个邻近方向的神经元传递能量，这样就限制 了波只能向指定的某一个方向传播。 6 3 实验结果及分析 6 3 1 实验结果 脉”榴冲经州维m 棋，识别小r r l 竹i l j 第，、章基于脉冲耦台神经网络的运动检测笪 豳6 3 基于耦台神经网络对运动方向的检测 圈6 3 为对图片中一模拟运动物体的运动方向检测结果，其中i g l ( a ) 为第一帧图像( 亦 为参考图像) ，( b ) 为最厅一帧图像，( c ) 为累积整分图像的运动特征提取结果，( d ) 、( 0 、 ( 0 、 ( g ) 分别为检洲向匕、向下、向左、向右的运动悬终位置； 6 3 2 实验分析 由图6 2 的实验可见，借助p c n n 对累积差分思想提取到的运动图像特征一一 累积差分图像进行点火，自适应地形成了自动波，并且自动波沿着物体运动的方向 传播下去，恰好模拟了物体的运动轨迹；而图63 中借助于p c n n 对各个方向自动 波的控制，有效检测到物体向各个方向的运动及在各个方向上的最终运动位置，但 是可以看到上述的运动数据只是一些仿真数据，并且假定物体的运动是刚性的，而 现宴中物体的运动变化足复杂的，需要考虑到许多因素包括场景的变化、摄像机 的运动、光照的变化、各帧图像之间的配准等等；尽管如此，p c n n 还是体现了独 特的性能，其在运动匿像特征提取后的后续处理中发挥着重要作用。 6 4 结论 本章基于脉冲耦合神经网络在图像中自动波的形成、传播和控制，结合累积 差分图像思想对运动图像特征提取，有效模拟物体运动轨迹和检测物体的运动方 向。在使用p c n n 时，还需要继续探讨一些实际问题：如连接权矩阵的大小以 及如何设置使自动波更为细致等等。 结束语 结束语 在科学技术迅猛发展并兼有智能化发展趋势的今天，智能信息处理技术正融 入人类生产实践和日常生活的各个领域，而模拟人脑智能特点和结构的人工神经 网络在此方面表现出了强有力的生命力，并具有广阔的应用前景，因此非常有必 要对其进行深入的研究，以便得到解决实际问题的智能化方法。 本文在对p c n n 基本模型进行有效改进的基础上，提出了一些行之有效的智 能化方法： ( 1 ) 引入侧抑制机制得到p c n n 的峰值检测模型，在此基础上形成凹点检测 算法，能够检测出图像中反映图像较大信息最的凹点，同时有效模拟了人眼凹的过 程： ( 2 ) 将p c n n 扩展成p c n n 并行网络群( p c n n s ) ，并在网络之间引入信息传递 通道，形成图像融合算法，能够将多个传感器获取的同一目标的图像信息融合到一 幅图像中，有效地模拟了人类视觉系统； ( 3 ) 提出p c n n 竞争波的思想，结合p c n n 的同步脉冲发放特性、捕获特性及 波的形成与传播等特性，将p c n n 开拓性地用于模式分类中，提出了基于耦合神 经元点火捕获抑制特性的模式分类方法及其改进的约束