（应用数学专业论文）时滞cohengrossberg神经网络稳定性分析.pdf

摘要 摘要 神经网络在信号处理、动态图像处理、人工智能和全局优化等问 题中有非常重要的作用。近年来，神经网络的动力学问题引起了学术 界的广泛关注。神经网络平衡解或周期解的稳定性( 包括渐近稳定性、 指数稳定性、绝对稳定性、周期稳定等) 有深入的研究，也得到了一 系列深刻的结果。在稳定性的研究中，最广泛使用的方法是l y a p u n o v 方法它把稳定性问题变为某些适当地定义在系统轨迹上的泛函稳 定性问题，并通过这些泛函取得相应的稳定性条件。稳定性条件就其 表述形式至少可分为四种，即参数的代数不等式、系数矩阵的范数不 等式、矩阵不等式和线性矩阵不等式( l m i ) 等。 本文通过构造l y a p u n o v 泛函的方法，分析时滞c o h e n g r o s s b e r g 神经网络( c g n n ) 的稳定性。在非常数激活函数单调不减、满足 l i p s c h i t z 连续的情况下，得到了时滞c g n n 的全局渐近稳定性及全 局指数稳定性条件。此方法同样适用时滞c g n n 的特殊模型时滞细 胞神经网络( d c n n ) 、h o p f i e l d 神经网络( h n n ) 及时滞h o p f i e l d 神经网络( d m 州) ，可以证明这些模型的平衡解是全局渐近稳定的 及全局指数稳定的。通过和其他文献结果的比较，发现本文的方法不 仅可以保证各类模型的平衡解的全局渐近稳定性，更能保证其全局指 数稳定性。本文同时推广了文献 1 的一些结果，使这种方法适用的 范围更加广泛。 关键词 时滞c o h e n g r o s s b e r g 神经网络，全局渐近稳定，全局指数 稳定，l y a p u n o v 泛函 硕f ：学位论文a b s t r a c t a bs t r a c t n e u r a ln e t w o r k s p l a y a ni m p o r t a n tr o l e i n s i g n a la n di m a g e p r o c e s s i n g ，a r t i f i c i a li n t e l l i g e n c ea n do p t i m i z a t i o n r e c e n t l y , m o r ea n d m o r ea t t e n t i o n sh a v eb e e np a i dt ot h es t u d yo ft h ed y n a m i c so fn e u r a l n e t w o r k s t h er e s e a r c h e so nn e u r a ln e t w o r k sf o rs t a b i l i t yo fe q u i l i b r i u m a n dp e r i o d i cs o l u t i o nh a v eb e e nd e e p e n e d ( i n c l u d i n ga s y m p t o t i cs t a b i l i t y , e x p o n e n t i a ls t a b i l i t y , a b s o l u t es t a b i l i t y , p e r i o d i cs t a b i l i t y , a n ds oo n ) ，a n d as e r i e so fs i g n i f i c a n tr e s u l t sh a v eb e e no b t a i n e d i nt h es t u d yo fs t a b i l i t y , t h em o s tc o m m o nm e t h o di sl y a p u n o va p p r o a c h ，w h i c hc h a n g e ss o m e s t a b i l i t yi n t ot h ef u n c t i o n a ls t a b i l i t yd e f i n e do ns y s t e mt r a j e c t o r yp r o p e r l y a n dt h r o u g ht h i sf u n c t i o nw eo b t a i nc o r r e s p o n d i n gs t a b i l i t yc o n d i t i o n s ， w h i c hc a nb ed i v i d e di n t of o u re x p r e s s i o nf o r m sa tl e a s t ，t h a t i s ，t h e p a r a m e t e r so fa l g e b r a i ci n e q u a l i t y , c o e f f i c i e n tm a t r i xn o r mi n e q u a l i t y , m a t r i xi n e q u a l i t i e s ，l i n e a rm a t r i xi n e q u a l i t i e s ，a n ds oo n i nt h i sp a p e r , l y a p u n o vf u n c t i o n a li s p r o p o s e df o ra n a l y z i n gt h e s t a b i l i t yo fd e l a y e dc o h e n g r o s s b e r gn e u r a ln e t w o r k s ( c g n n ) g l o b a l e x p o n e n t i a ls t a b i l i t yc o n d i t i o n sa r eo b t a i n e df o rt h ed e l a y e dc g n nw h e n t h en o n c o n s t a n ta c t i v a t i n gf u n c t i o n sa r em o n o t o n en o n d e c r e a s i n ga n d l i p s c h i t zc o n t i n u o u s t h i sm e t h o da l s oa p p l i e st ot h es p e c i a lm o d e l d e l a y e dc e l l u l a rn e u r a ln e t w o r k s ( d c n n ) ，h o p f i e l dn e u r a ln e t w o r k s ( i - r r 州) a n dd e l a y e dh o p f i e l dn e u r a ln e t w o r k s ( d h n n ) o ft h ed e l a y e d c g n n w - ec a na l s o p r o v e t h e i r g l o b a la s y m p t o t i cs t a b i l i t ya n d e x p o n e n t i a ls t a b i l i t y c o m p a r i n gw i t ho t h e rd o c u m e n t s ，w ec a nf i n dt h a t t h em e t h o do ft h i sp a p e rc a nn o to n l ye n s u r et h eg l o b a ls t a b i l i t yo ft h e e q u i l i b r i u ms o l u t i o nf o rv a r i o u sm o d e l s ，b u ta l s og u a r a n t e et h e i rg l o b a l e x p o n e n t i a ls t a b i l i t y a tt h es a m et i m e ，t h er e s u l t so fa r t i c l e 1 a r e e x t e n d e df o rw i d e ra p p li c a t i o n k e yw o r d s d e l a y e dc o h e n g r o s s b e r gn e u r a ln e t w o r k s ，g l o b a l a s y m p t o t i c a ls t a b l e ，g l o b a le x p o n e n t i a ls t a b l e ，l y a p u n o vf u n c t i o n a l i i 原创性声明 本人声明，所呈交的学位论文是本人在导师指导下进行的研究 工作及取得的研究成果。尽我所知，除了论文中特别加以标注和致谢 的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不 包含为获得中南大学或其他单位的学位或证书而使甩过的材料。与我 共同工作的同志对本研究所作的贡献均已在在论文中作了明确的说 明。 作者签名：莹彪量!日期：j 塑l 年月且日 关于学位论文使用授权说明 本人了解中南大学有关保留、使用学位论文的规定，即：学校 有权保留学位论文，允许学位论文被查阅和借阅；学校可以公布学位 论文的全部或部分内容，可以采用复印、缩印或其它手段保存学位论 文；学校可根据国家或湖南省有关部门规定送交学位论文。 作者签名：莹垫至! 导师签名盔崖日期：盟年旦月卫日 硕上学位论文 第一章绪论 第一章绪论 1 1 问题研究的背景及意义 神经网络分为两类：一类是生物神经网络，另一类是人工神经网络。生物神 经网络是自然界中的一种客观存在的、由生物神经网络中神经细胞按照一定的连 接方式连接而形成的网络，如人脑神经系统是到目前为止所发现的最具有智慧的 生物神经网络；人工神经网络是近二十年来发展极为迅速的一门边缘学科，其目 的是依据人脑的工作机理制造出能完成或模拟人脑复杂智能活动的智能机器作 为对人类智能研究的重要组成部分，它已成为神经科学、脑科学、心理学、认知 科学、计算机科学、数理科学等共同关心的焦点。 人工神经网络的研究始于二十世纪四十年代，1 9 4 3 年心理学家w a r r e ns m c c u l l o c h 和数学家w a l t hh p i t t s 建立了神经元数学模型( 称为m p 模型) ，心理 学家h e b b 于1 9 4 9 年提出的学习规则，即“神经元之间的连接是可以变化的，通 过刺激使神经元的连接加强”等建立了神经络研究的基础，并在后来的各种神经 网络模型的建立中起了重要的作用。后来有一些学者坚持着对神经网络的研究， 如g r o s s b e r g 在1 9 6 9 年提出了自适应共振的a r t 模型，f u k u s h i m a 和w e r b o s 分 别于1 9 8 0 年提出了神经认知网络理论，k o h o n e n 在1 9 8 4 年提出了自组织映射理 论并对联想存储器进行了研究，a m a r i 则致力于神经网络数学理论的研究所有这 些具有开创性的研究成果虽然在当时并未产生影响，但为神经网络此后的发展奠 定了理论基础，真正带来神经网络研究兴盛时期的是生物物理学家h o p f i e l d 于 1 9 8 2 年和1 9 8 4 年发表在美国科学院院刊上的两篇举世瞩目的论文。h o p f i e l d 在 其论文中提出了仿人脑的神经网络模型，即著名的h o p f i e l d 模型，通过引入广义 能量函数和使用l a s a l l e 不变原理给出了网络的稳定性的判据，证明了在联结权 矩阵对称时网络能稳定于若干平衡点。如果把网络的各个平衡点设想为存储于该 网络中的信息，则网络的稳定性将保证这一网络的动力学性质随时间推移前进到 这些平衡之一，从而具有联想记忆的性质。它不同于把信息孤立地存储于互不联 系的存储单元中，而是存储于整个网络的拓扑结构中，因此是分布式存储，从而 有较大的容错能力。h o p f i e l d 教授还指出每一个神经元可以用运算放大器来实 现，因此，整个络可用电子线路模拟，这一方案为其工程实现指明了方向。1 9 8 5 硕1 ：学位论文 第一章绪论 年，h o p f i e l d 教授所在的加州理工学院与贝尔实验室合作研制成功了有2 5 6 个神 经元的网络，同时开拓了神经网络用于联想记忆和优化计算的新途径。尽管 h o p f i e l d 可能不是真正的神经生物系统模型，但是它们包涵的原理( 即在动态的 稳定网络存储信息的原理) 是极其深刻的。 近年来，神经网络的研究已经形成了一个发展热点，研究工作者提出和研究 了多种神经网络的模型、算法和应用问题并完成了许多有意义的工作。人工神经 网络研究兴盛时期的到来也得益于h o p f i e l d 在世界各地讲学鼓励有才华的科学 家、数学家和科技人员加入神经网络的研究行列。与h o p f i e l d 几乎同时，以 r u m e n l h a r t 和m c c h e l l a n d 为首的十多人组成的并行分布理( p d p ) 研究小组对 从尺”到r 4 的高维非线性映射用前馈网络( 即b p 网络) 权的优化选择实现了映 射的逼近，从而使人工神经网络的研究进入了一个新的高潮时期。 1 9 8 7 年，第一个国际神经网络协会成立，后来以神经网络为主题，或列入 其它计算机方向( 特别是人工智能) 的国际会议每年召丌。第三届神经网络年会 1 9 8 9 年6 月于华盛顿召开，有w i d r o w 、k o n h o n e n 、h o p f i e l d 等上千人参加。近 年来，我国学者也积极投入到这一领域并取得了许多骄人成绩。但是，总的来说， 我国的神经网络研究起步较晚，我国于1 9 8 9 年1 0 月在北京召开一个非正式的神 经网络会议，称为神经网络及其应用讨论会，并印制了一本文集。在1 9 9 0 年1 2 月和1 9 9 1 年1 2 月，分别召开了全国第一、第二两届神经网络学术会议，第十五 届中国神经网络大会( c n n c 2 0 0 6 ) 于2 0 0 6 年0 8 月1 0 同1 2 同在哈尔滨工程 大学举行。 细胞神经网络( c e l l u l a r n e u r a ln e t w o r k 简记为c n n ) 就是由l o c h u a t l 3 1 和 l y a n g l 4 9 】于1 9 8 8 年提出的神经网络模型之一，与一般神经网络一样，它是一个 大规模非模拟系统，其特点是神经元之间局部连接，电路便于实现v l s i ，输出 信号函数是分段线性函数，具有双值输出、运行速度快等优点，已应用于图像处 理、模式识别、优化控制、信号控制、信号处理、方程求解、计算技术等领域， 且其新的应用领域在不断被发现。细胞神经网络对应的数学模型就是微分、差分 方程系统。对应不同的应用，就要研究这些微分、差分方程系统的不同的动力学 性质。其中稳定性扮演重要的角色，利用动力系统的吸引子和电子电路的实现来 完成某些智能优化计算、联想记忆、学习算法，从而，对稳定性理论感兴趣的已 远远不止数学、力学、自动控制专业的学者。在稳定性的研究中常常出现时滞， 因为在神经元的信息传递过程中应该存在时滞，而时滞意味着网络模型应该与过 去时间的神经元状态有关，这也正反映了大脑本身的特点。在现有的神经网络模 型上引入轴突信号传输时滞，那么相应的动力学系统就变成了带时滞的非线性动 力学系统，因而他们的动力学性质将变得非常复杂，其动力学行为有可能演变到 2 硕一i ：学位论文第一章绪论 稳定的平衡点，有可能产生周期震荡或混沌。 近年来，神经网络中非线性动力学理论及其应用的研究得到了飞速的发展， 并与其它许多学科领域相互渗透。数学中许多分支已被用于神经网络系统的分 析，如矩阵论，群论，泛函分析，组合数学，计算数学，运筹学，概率论以及数 理统计，微分几何乃至范畴理论和符号构造等人们正在通过将这种网络系统的 动力学性质的理论分析和生物实验，计算机模拟结合起来研究这种网络，这些研 究不仅有助于理解神经网络系统理论的依据与背景，而且提供应用的基本思想及 可能的途径这些研究对于推动计算机科学，人工智能与模式识别领域的发展以 及计算机，人工生命的研究具有十分重要的科学意义，对涉及复杂的智能计算与 检索，图像识别，景物理解，智能检测和控制的工业生产，国防，医学等领域具 有重要的应用价值。 纵观当代新型科学技术的发展历史，人类在征服宇宙空间、基本粒子、生命 起源等科学领域的进程之中历经了崎岖不平之路，我们也会看到，探索人脑功能 和神经网络的研究将伴随着重重困难的克服而r 新月异。 1 2 神经网络研究现状 神经网络研究是一个众多学科领域交汇的系统工程，从而需要这些交叉学科 科研工作者的共同参与。至今为止，国内外人工神经网络研究工作者已建立了大 量的网络模型，并对其进行了研究。在这些模型中，又相当大一部分为微分方程 模型，如著名的h o p f i l e d 模型，c o h e n g r o s s b e r g 模型，c e l l u l a r ( 细胞) 神经网 络模型等。这些模型绝大部分由工程技术学科的研究工作者所建立，它们的研究 由于缺少应用数学工作者，特别是微分方程研究者的充分参与，使得多年来对这 些模型的动力学行为的研究主要呈现在数值模拟方面，致使众多模型的动力学行 为至今仍未得到充分的揭示，特别是对具有时滞的微分方程神经网络模型，其动 力学行为的定性研究更少。而由于网络中神经元之间信号传输需要一定时间的客 观事实，微分方程神经网络模型中具有时滞更加符合客观实际。因此，人工神经 网络的深入研究迫切需要一批应用数学工作者，特别是微分方程研究者的加入。 一般来说，神经元的输入输出关系是非线性的，其动力学性能也呈现为非线性。 因此，神经网络模型具有丰富的动力学行为，如平衡点、周期解、混沌、分叉等。 当神经元的模型，突触的连接分布，阈值分布决定后，这个神经网络的动力学特 性也就决定了。当某一时刻神经元的状态决定后，其状态将按动力学方程发生转 移，向某一稳定状态靠近。这种实际上可观测的状态称为吸引子。如果吸引子不 硕 ：学位论文第一章绪论 随时间发生变化，则称为系统的稳定平衡点。针对不同的应用领域，要求我们设 计出具有相应动学行为方式的神经网络。如对于执行联想记忆功能的网络，要求 平衡点的数目越多越好，因为平衡点的数目越多，网络的记忆储存量就越大。而 对于执行优化计算功能的网络则要求平衡点越少越好，最理想的状况是具有唯一 的平衡点，该平衡点将是相关能量函数的最小值点，也即问题的最优解。另外， 神经网络还能以动态吸引子( 周期解，极限环，奇怪吸引子) 的行为方式储存记 忆，理论和实验表明，人类大脑有相应的行为方式。因此动态吸引子的研究也是 神经网络动力学的重要方面。如果在给出初值的情况下，模型的解能收敛到相应 的平衡点或周期解处，使网络功能稳定，因此稳定性是设计具有上述每一种功能 的神经网络的前提。而时滞的引入往往会对神经网络的稳定性产生重要影响。这 就要求我们对时滞神经网络模型平衡点、周期解的存在性以及稳定性进行研究， 研究结果将为神经网络的设计和应用提供理论依据。 反馈人工神经网络是人工神经网络研究中具有非常重要地位的一类网络目 i i f 在己经提出的反馈网络模型中，最成功、最受人们关注而且相对成熟的模型有 两种：一种h o p f i e l d 网络，另一种是细胞神经网络。 h o p f i e l d 网络分为两种，一种是离散h o p f i e l d 网络( d i s c r e t eh o p f i e l dn e u r a l n e t w o r k s ，简记为d h n n ) ，另一种是连续h o p f i e l d 网络( c o n t i n u o u sh o p f i e l d n e u r a ln e t w o r k s ，简记为c h n n ) 。d h n n 是h o p f i e l d 在1 9 8 2 年首先提出的， 而c h n n 是h o p f i e l d 在1 9 8 4 年提出来的。h o p f i e l d 网络的提出以及成功应用为 神经网络的第二次兴起和发展起了极大的促进作用。h o p f i e l d 网络目前是研究反 馈神经网络的基础，国内外有许多学者从事这方面的研究，无论是在理论上，还 是在应用上，都取得了非常丰富的结果。h o p f i e l d 网络已被广泛应用于各种组合 优化计算，模式识别，联想记忆，信号处理和图像处理等许多领域。 d h n n 模型是研究整个反馈离散人工神经网络的基础，因而受到神经网络 领域内许多学者的极大关注由于d h n n 模型在组合优化、函数逼近、模式识别 等领域都有广泛的应用，而这些应用的前提是网络必须是收敛的因此，研究反 馈网络的最基本最主要的问题之一是稳定性问题，即网络的收敛性问题，也就是 说，任给网络的初始状态，网络最终是收敛到稳定吸引子，环吸引子，还是混沌 ( c h a o s ) 吸引子目前，有关d h n n 的稳定性和极限环的研究结果已有许多， 但多数是围绕连接权矩阵是对称或反对称以及阈值为零来进行的当然研究的主 要演化方式是异步、同步和部分同步。作为d h n n 模型的推广，带有延迟项的 d h n n 的吸引子的研究引起人们的关注，也取得了一些结果。 h o p f i l e d 模型，c o h e n g r o s s b e r g 模型，c e l l u l a r ( 细胞) 神经网络模型等已 有的研究结果表明这些模型可能具有如下三种动力学行为： 4 硕1 ：学位论文第一章绪论 ( 1 ) 收敛：当时间越来越长时，轨道收敛于某个平衡点或稳定状态，一部分 或全部的轨道趋于平衡点集； ( 2 ) 振荡：部分或全部轨道渐近地趋向于一个周期( 或极限环) 的轨道； ( 3 ) 混沌：通常比较粗略地规定其轨道在有界的范围内长期演化后趋于一些 对初值极端敏感依赖的不变集上( 通常称为奇怪吸引子) 游荡运动。 从人工神经网络现有的多种动力学模型数值模拟和理论分析，也从人们的心 理状态及部分的实际应用需要出发，第一种收敛的动力学行为研究得比较多且较 深入。人们总认为动力学行为最终应当是得到信息或者可能是产生信息，很自然 希望这一信息是抓得住的形式，即稳定状态的平衡点，并且这种稳定状态的获取 可以很有用，例如模式识别、组合优化、把打印文件转化为口头语言等等。 1 3 时滞神经网络的稳定性研究状况 神经元的信息传递过程中应该存在时滞，而时滞意味着网络模型应该与过去 时间的神经元状态有关，这也正反映了大脑本身的特点。在现有神经网络模型上 引入轴突信号传输时滞，那么相应的动力学系统就变成了带时滞的非线性动力学 系统，因而它们的动力学性质将变得非常复杂，其动力学行为有可能演化到稳定 的平衡点，有可能产生周期振荡或混沌。 j 下由于具有时滞的人工神经网络模型在组合优化，联想记忆，模式识别，信 号处理，自动控制等工程技术领域方面的独特优越性，近十年来围绕具有时滞的 人工神经网络模型的结构和特性的研究越来越受到重视，其中一类连续的时滞神 经网络模型( d n n s ) 是非常重要的网络，它包含著名的连续h o p f i e l d 神经网络 模型和c n n 细胞神经网络模型。至今为止，关于这类模型绝大多数研究结果都 集中在网络的静态吸引子( 平衡点类型) 存在性，收敛性和稳定性问题，而对于 这类模型动态吸引子，如极限环( 周期轨道) ，奇怪吸引子等复杂性动力学行为 的研究则相对较少。另外，已有的大多数文献主要是集中在具有一致的网络参数 和外部输入模拟，涉及到随时问变化的网络参数或者外部输入模拟的研究结果是 比较少的。为了更实践地模拟生物系统的演化过程和人工智能系统规律，应该考 虑到外部干扰和控制的影响，尤其是在周期变化的环境中的影响。 显然在相应的时滞神经网络模型中令时滞为零，那么此时滞神经网络模型退 化为相应的神经网络模型。然而在实际建模时，人们很自然地忽略小时滞，而将 时滞动力系统约简为一般动力系统，然而从动力学的角度看，这样做是不可靠的。 存在这样的时滞动力系统，其约简的系统的平衡点是不稳定的，但对任意时滞， 5 硕l ：学位论文 第一章绪论 其时滞系统的平衡点是稳定的，反之亦然。对于周期解的存在性也有类似的结论。 一个时滞神经网络模型存在h o p f 分甜时，其约简的无时滞系统却可以不产生 h o p f 分岔。因此，在许多情况下，必须直接研究时滞神经网络模型。 时滞对系统的动态性质有很大的影响，例如，时滞常常导致系统失稳，又如， 时滞系统一般有无穷多个特征值，从而从一个侧面说明时滞系统是无穷维的。非 线性时滞神经网络模型比用无时滞神经网络模型有着更加丰富的动力学行为，例 如，一个神经元自治时滞系统会产生分岔和混沌，但对无时滞系统来说，一阶系 统和二阶自治系统都是不可能产生混沌。 近几年，各种带时滞神经网络，如时滞h o p f i e l d 网络【堪1 ，【1 9 1 【4 5 h 捌、时滞细胞 神经网络【4 5 1 - 4 8 l 和时滞双向联想记忆模型【1 5 卜【 】，【3 5 l 相继提出，这些模型的各种稳 定性已进行了研究，如局部稳定性 3 3 1 ，【5 1 】、全局稳定性1 2 2 1 ，f 2 7 卜【3 0 1 、绝对稳定性0 9 1 ，【2 5 】 和指数稳定性 1 2 j f 1 7 1 f l s i 】，1 2 5 j ，1 2 6 】i a h ，【4 0 】，f 4 3 】，m 1 ，时滞细胞神经网络就是一个非光滑的 时滞微分方程系统，对这类网络就某些非对称模板类，可以研究其绝对稳定性问 题。关于网络稳定性研究不仅没有统一的方法可循，而且许多研究结果也时常具 有交叉和重复的内容。在现有研究时滞神经网络稳定性的方法中最广泛使用的是 l y a p u n o v 方法。它把稳定性问题变为某些适当地定义在系统轨迹上的泛函稳定 性问题，并通过这些泛函得到相应的稳定性条件。这些条件就其表述形式至少可 分为4 种，即参数的代数不等式f 4 1 】- 【4 3 1 、系数矩阵的范数不等式 6 5 1 、矩阵不等式 【5 4 】【6 5 1 和线性矩阵不等式( l m i ) 等。其中，由于l m i 方法对系统参数的限制相 对较少而且易于验证，近年来，l m i 方法在稳定性理论中得到了大量的应用。另 一方面，根据是否包含时滞参数，稳定性条件又可以分为两类：依赖于时滞的稳 定性条件和不依赖于时滞的稳定性条件。早期的大多数研究基本上局限于时滞无 关的稳定性研究，显然，这对无害的小时滞神经网络是非常苛刻的。l i a o 在多篇 文章中提到这个问题，并对时滞h o p f i e l d 神经网络提出了一系列时滞相关的稳定 性条件 5 2 1 。由于时滞神经网络稳定性问题的复杂性，人们不可能针对一大类系 统得到一组完美的稳定性判据。因此，为了实践上的应用和理论的完美，人们不 断提出新的判断规则来弥补理论上的这种欠缺。 一个预先设计好的系统，由于模型误差、外部扰动和实现时出现的参数波动 等不可避免的不确定因素，它的稳定性常常会被破坏。如果一个系统的不确定因 素仅仅来自参数的扰动或波动，并且这种扰动或波动都是有界的，那么我们称这 种系统为区间系统1 9 9 8 年，l i a o 和y u 首次研究了区间h o p f i e l d 神经网络的鲁 棒稳定性 1 9 1 。近年来，关于带常量时滞和时变时滞的神经网络的全局鲁棒稳定 性的结果已经有了不少报道，参见文献 4 2 ，6 8 ，6 9 】。 6 硕上学位论文 第一章绪论 1 4c o h e n g r o s s b e r g 神经网络模型的提出以及相关模型研究的进展 c o h e n g r o s s b e r g 神经网络是c o h e n 和g r o s s b e r g 在1 9 8 3 年提出来的，由于 被广泛地应用于模式识别、可设定的按内容寻址存储、记忆与信号处理、图象处 理与计算技术等，有关c o h e n g r o s s b e r g 网络的研究已越来越引起人们的关注。 当神经网络用来求解方程或解决最优控制等问题时，要求对每一个外部输 入，网络都存在惟一的、全局渐近稳定平衡点。关于h o p f i e l d 神经网络、细胞神 经网络的全指数稳定性有很多结果。相对来 兑，c o h e n g r o s s b e r g 神经网络的全 局指数稳定性结果就少多了。而且我们发现大多数文献所研究c o h e n g r o s s b e r g 神经网络的全局指数稳定性都是在输出函数有界且大部分都是在常数时滞的前 提下获得。由于在无界输出函数情况下平衡点的存在性难以保证且变时滞的情形 下平衡点稳定性不容易判定。因此，掘我们所知，在变时滞与无界输出函数的情 形下有关c o h e n g r o s s b e r g 神经网络的全局指数稳定性研究还非常少见。事实上， c o h e n g r o s s b e r g 神经网络包含了h o p f i e l d 神经网络、细胞神经网络。所以，研 究c o h e n - g r o s s b e r g 神经网络的全局指数稳定性具有更加重要的价值。 本文考虑的是连续型c o h e n g r o s s b e r g 神经网络，通常是用一个常微分方程 系统来描述的，如下 垦凳型= 一q ( t ) 【6 ( ) 一杰勺( _ ( f ) ) + u i 】，f = l ，2 ，玎 ( 1 1 ) “ = i 其中：刀2 是神经网络的单位数目，u i 指第f 个神经元状态变量，a i ( ) ，反( ) 是实 数域上的连续函数，x ；表示第f 个神经元的活动状态，矩阵c = ( c i ，) 表示神经元 之间的连结强度，如果输出神经元，兴奋( 或者抑制) 神经元f ，则c 0 ( 或者 c 0 ) ，f ：r 专r 表示信号传输函数。 时滞c o h e n g r o s s b e r g 神经网络也被广泛的研究，考虑到生物神经元在进行 信号传输过程中存在诸如细胞时滞、传输时滞及突触时滞等原因，y ee ta l t 4 l 】中 对连续的c o h e n - g r o s s b e r g 模型引入了时滞，其具体的模型为： 鱼磐：一以，( t ( f ) ) 6 ( t ( f ) 一窆c 乃( ( _ o ) ) 一主办乃( ( _ ( 卜一乃) ) + z i 】，f = 1 ，2 ，疗 j = lj = l ( 1 2 ) 其中r 。 0 表示第f 个神经元发出信号到第，个神经元接受信号的时间； c = ( c j ) 。和d = ( d f ，) 脚分别是连接权矩阵和时滞连接权矩阵。 最初证明c o h e n g r o s s b e r g 神经网络模型的平衡解是全局渐近稳定时，用的 最多的方法是假设常数矩阵是对称矩阵。近几年来，王教授和邹教授【4 1 通过对模 7 硕i j 学位论文 第一章绪论 型( 1 1 ) 中a i ( ) ，包( ) ，( ) 的限制，用矩阵的方法证明了平衡解的全局渐近稳定 性。后来陈玉明教授用m 矩阵证明了在常数矩阵为非对称矩阵的情况下，时滞 c o h e n g r o s s b e r g 神经网络模型f 3 】的平衡解的全局渐近稳定性。袁坤【2 l 用非光滑 线性分析的方法了时滞c o h e n g r o s s b e r g 神经网络模型的平衡解的全局渐近稳定 性，同样运用了线性矩阵不等式来证明结论。黄立宏教授f 5 】的文章中，用布朗不 动点原理及矩阵不等式方法分析了时滞c g n n 的全局指数稳定性及其周期解的 存在性。 当口( x ( f ) ) = 1 ，6 ( x ( f ) ) = p x ( t ) 时，c o h e n - g r o s s b e r g 神经网络模型就可以转换 为时滞细胞神经网络，即d c n n 系统： 薯( f ) = 一只t ( f ) + 勺乃( ( _ o ) ) + 吒乃( ( _ ( f o ) ) + “， i = 1 ，2 ，n ( 1 3 ) j = l ，= i 式中：“，表示第f 个神经元在f 时刻的状态变量；p ，勺，叱，“，是常数；c ，表 示第，个神经元在t 时刻的输出对第i 个神经元的影响强度；d 。表示第，个神经元 在t f ，时刻的输出对第f 个神经元的影响强度；f ，表示沿第歹个神经轴突的传递 时滞，它是非负常数；p ，表示在与神经网络不连通并且无外部附加电压差的情 况下第f 个神经元恢复独立静息状念的速率；z ( 一( f ) ) 表示第个神经元在t 时刻 的输出函数。 显然，c o h e n - g r o s s b e r g 细胞神经网络还能缩减为应用广泛的h o p f i e l d t y p e 神经网络 7 1 ，其模型如下： c ：掣= 一警+ 窆硼啪) ) + 刈_ 1 ， (14)j=t 2 对神经元f ，g 0 、r f 0 分别是神经放大器的输入电容和电阻。u ；是大于零的 常数，是从外部系统输入的。矩阵丁表示神经元之间的连接强度。 在电子通讯中时间延迟是不可避免地会出现在电子神经网络由于有限的开 关速度的放大器，就出现了时滞。时滞f 0 最早由m a r c u s 和w e s t e r v e l t 2 1 】提出， 带时滞的微分方程系统如下： e 掣= 一半+ 窆j = l 矾啪叫) + “， 对于神经网络( 1 4 ) 和( 1 5 ) 及相关的其他一些模型被大量的研究，主要结果 有对平衡解的全局渐近稳定和全局指数稳定性的研究。 硕j j 学位论文第一章绪论 1 s 本文的主要工作 本文主要对时滞神经网络及其动态行为进行了较深入的研究，其内容涉及时 滞c g n n 、d c n n 、h n n 、c n n 的全局渐近稳定性和全局指数稳定。利用l y a p u n o v 泛函的稳定性并结合不等式方法讨论了时滞c g n n 的渐近稳定性，并发现我们 获得的准则是与时滞无关的，也称为无害时滞。至今为止，大部分已有的关于时 滞细胞神经网络的全局稳定性判据是与时滞无关的f 3 j - f 7 】，如何建立时滞无关稳定 性判据，是一个很重要的研究课题。 本文通过构造一种新的l y a p u n o v 泛函方法，分析时滞c g n n 的稳定性。在 非常数激活函数单调不减、满足l i p s c h i t z 连续的情况下，得到了时滞c g n n 的 全局渐近稳定性及全局指数稳定性条件。此方法同样适用c g n n 的特殊模型 d c n n 、h n n 及d h n n ，可以证明这些模型的平衡解是全局渐近稳定的和全局 指数稳定的。通过和其他文献结果的比较，发现本文的方法不仅可以保证各类模 型平衡解的全局渐近稳定性，更能保证它们的全局指数稳定性。本文各章节的安 排如下： 第一章为绪论，先简述了神经网络的背景及意义。神经网络动态行为研究的 现状，然后概述了时滞神经网络稳定性研究状况，及时滞c g n n 的提出和相关 模型研究的进展，最后总结了本文的主要工作。 第二章简要介绍了本文中所用到的一些基本定义和定理，主要包括稳定性的 各种概念、特征、描述方法及其判定方法，然后对l y a p u n o v 泛函进行了简单的 介绍，给出了一些解的稳定性判定定理。 第三章首先用两种方法分别证明时滞c g n n 模型的全局渐近稳定性。第一种 方法是用矩阵不等式，证明了时滞c g n n 模型的全局指数稳定性。第二种方法 是通过构造l y a p u n o v 泛函，用一种较新颖的方法来分析时滞c g n n 的全局渐近 稳定性。接着用第二种方法继续证明了时滞c g n n 全局指数稳定性。 第四章我们用第三章所构造l y a p u n o v 泛函的方法来证明时滞c g n n 模型的 特殊模型d c n n 、h o p f i e l d 神经网络以及d h n n 的平衡解是全局指数稳定性。 并且通过和别的文献的所用方法的比较，尤其是跟应用m 矩阵方法所得到的结 论相比，发现本文的方法所得到的结论的特殊情形就是用m 矩阵得到的结论。 推广了文献 1 】中的一些结果，使此方法适用的模型范围更加广泛。 第五章总结了全文的主要结果。 9 硕l ：学位论文 第二章预备知识 2 1 引言 第二章预备知识 稳定性的概念，最早源于力学。一个刚体或一个力学系统具有某一平衡状态 在有微小的干扰力作用下。这种平衡念或者几乎保持，或者受到破坏，这就是稳 定与不稳定的雏形。但是，人们普遍认为，稳定性的一般理论和方法的形成，是 开始于俄国数学力学家l y a p u n o v 在1 8 9 2 年完成的博士论文运动稳定性的一般问 题。他将由p e a n o 、b e n d i x s e n 和d a r b o u x 等人建立的微分方程解对初值和参数 的连续依赖性这一概念，由自变量( 时间) 在有限区间上变化拓宽到无穷区问之 上，科学地给出了系统中运动是稳定和渐近稳定的概念：他从类似系统总能量的 物理概念得到启发，提出了后来被人们称为l y a p u n o v 函数的概念，将一般n 阶 微分方程组中扰动解渐近性质的讨论归结为讨论一个能量函数( l y a p u n o v 函数) 及其对系统的全导数的一些特性的研究。成功地避开了讨论n 阶微分方程组的解 的困难，从而建立了稳定性理论研究的框架。 2 2 稳定性的概念 本节的相关内容及定理证明参见参考文献【5 5 与 5 9 】。 考虑用微分方程描述的一般非自治系统： i d x = f ( t , x ) ，x ( ) = x o ，x e r ” ( 2 1 ) 口l 满足解的存在惟一定理的条件，其解x ( f ) = x ( t ，t o ，x o ) 的存在区间是满足( 埘，棚) ， f ( t ，x ) 还满足条件 f ( t ，o ) = 0 ( 2 1 ) 保证x ( f ) = 0 是( 2 1 ) 的解，我们称它为零解。 定义2 1 若对任意给定的占 0 ，都能找到万( s ，t o ) ，使得当i ix 。l l 艿( s ，t o ) 时 ( 2 1 ) 的解x ( f ，岛，而) 满足 l i x ( t ，t o ，x o ) f i 0 ，都能找na ( e ) ，使得当| fx oi l t o + r 时，有 l ix ( t ，t o ，x o ) f l 0 , v t o 1 , 3 a ( e ，t o ) 0 ，当f fx oi f 0 , 3 c t o ，v t o ，3 m ( 6 ) 0 ，当| | x o | l 艿时，v t t o ，有 l lx ( t ；t o ，x o ) 临m ( a ) e 吨“- f 0 ) 硕l ：学位论文第一二章预备知识 则称( 2 2 ) 的零解是全局指数稳定的， 注2 2 稳定性概念是一个局部性概念，即在零解的一个领域内研究扰动的 影响；稳定是在同步意义下讨论，即在同一时刻比较零解和扰动解的差异；稳定 性涉及的区间是无穷的，即要求不等式对所有的t t o 都成立；稳定性仅考察初 始值的变化对解的影响。 注2 3 根据以上定义，不难得到各种稳定性，吸引性之间的关系： ( 1 ) 一致渐近稳定j 一致稳定j 稳定； ( 2 ) 一致吸引j 等度吸引j 吸引； ( 3 ) 全局一致渐近稳定j 全局拟一致渐近稳定j 全局等度渐近稳定j 全局 渐近稳定； ( 4 ) 全局指数稳定j 指数稳定一致渐近稳定j 拟一致渐近稳定j 等度渐 近稳定渐近稳定稳定；且有：全局指数稳定j 全局一致渐近稳定j 全局拟 一致渐近稳定全局等度渐近稳定全局渐近稳定； ( 5 ) 对于自治系统而言，平凡解稳定与一致稳定等价；平凡解等度渐近稳定 与渐近稳定等价；平儿解一致渐近稳定与指数稳定等价； 反之则不一定成立。 2 3l y a p u n o v 函数 1 8 9 2 年，a v i l y a p u n o v 在著作运动稳定性的一般问题中提出了两中方 法：第一种方法，把一般解表示成某种级数形式，研究其稳定性。即所谓的 l y a p u n o v 第一方法( 也称为l y a p u n o v 间接方法) ；第二种方法是寻找具有某种 性质的辅助函数( 即l y a p u n o v 函数) 矿：i x q 寸r ，直接根据方程右端函数判 定解的稳定性，称为l y a p u n o v 第二方法( 也称为l y a p u n o v 直接方法) 。l y a p u n o v 第一方法由于实用上的限制，很少发展。而l y a p u n o