（运筹学与控制论专业论文）时滞cohengrossberg神经网络的稳定性分析.pdf

摘要 神经网络在信号处理，动态图像处理，人工智能和全局优化等问 题中有非常重要的作用。近年来，神经网络的动力学问题引起了学术 界的广泛关注。神经网络平衡解或周期解的稳定性( 包括渐近稳定性、 指数稳定性、绝对稳定性、周期稳定性等) 有深入的研究，也得到了 一系列深刻的结果。在稳定性的研究中，最广泛使用的方法是 l y a p u n o v 方法，它把稳定性问题变为某些适当地定义在系统轨迹上 的泛函稳定性问题，并通过这些泛函取得相应的稳定性条件。这些稳 定性条件就其表述形式至少可分为四种，即参数的代数不等式、系数 矩阵的范数不等式、矩阵不等式和线性矩阵不等式( l ) 等。 本文中我们研究了时滞c o h e n g r o s s b e r g 神经网络的稳定性问 题，首先在不要求激活函数可微和有界的情况下，利用线性矩阵不等 式( l ) 结构和同胚定理证明了平衡解的存在唯一性，得到了一个 依赖于时滞的充分条件保证了解的全局渐近稳定性。接着，我们用一 个新的包含积分项的l y a p u n o v 泛函讨论了时滞c o h e n g r o s s b e r g 神经 网络的全局渐进稳定性，利用文献 6 7 的证明方法，得到了一个新的 用线性矩阵不等式表示的条件保证了解的存在唯一性及时滞独立的 全局渐近稳定性。这一方法的特点是在线性矩阵不等式的条件中引入 了一些辅助的矩阵项，使我们的分析具有灵活性。这些方法同样适用 于时滞c g n n 模型的特殊模型时滞h o p f i e l d 神经网络，可以证明它的 平衡解的全局渐近稳定及存在唯一性。 关键词时滞c o h e n g r o s s b e r g 神经网络，全局渐近稳定性，线性矩阵 不等式，l y a p u n o v 泛函 a bs t r a c t n e u r a ln e t w o r k sp l a ya ni m p o r t a n tr o l ei ns i g n a la n di m a g e p r o c e s s i n g ，a r t i f i c i a li n t e l l i g e n c ea n do p t i m i z a t i o n r e c e n t l y ，m o r ea n dm o r e a t t e n t i o n sh a v eb e e np a i dt ot h es t u d yo ft h ed y n a m i c so fn e u r a ln e t w o r k s t h er e s e a r c h e so nn e u r a ln e t w o r k sf o rs t a b i l i t yo fe q u i l i b r i u ma n d p e r i o d i cs o l u t i o nh a v eb e e nd e e p e n e d ( i n c l u d i n ga s y m p t o t i cs t a b i l i t y , e x p o n e n t i a ls t a b i l i t y , a b s o l u t es t a b i l i t y , p e r i o d i cs t a b i l i t y , a n ds oo n ) ，a n d as e r i e so fs i g n i f i c a n tr e s u l t sh a v eo b t a i n e d i nt h e 咖d yo fs t a b i l i t y , t h e m o s tc o m m o nm e t h o di s l y a p u n o va p p r o a c h ，w h i c hc h a n g e ss o m e s t a b i l i t yi n t ot h ef u n c t i o n a ls t a b i l i t yd e f i n e do ns y s t e mt r a j e c t o r yp r o p e r l y a n dt h r o u g ht h i sf u n c t i o n a lw eo b t a i nc o r r e s p o n d i n gs t a b i l i t yc o n d i t i o n s ， w h i c hc a nb ed i v i d e di n t of o u re x p r e s s i o nf o r m sa tl e a s t ，t h a ti s ，t h e p a r a m e t e r so fa l g e b r a i ci n e q u a l i t y , c o e f f i c i e n tm a t r i xn o r mi n e q u a l i t y , m a t r i xi n e q u a l i t i e s ，l h a e a rm a t r i xi n e q u a l i t i e s ，a n ds oo n i nt h i sp a p e r , w ei n v e s t i g a t et h es t a b i l i t ya n a l y s i sp r o b l e m sf o r d e l a y e dc o h e n g r o s s b e r gn e u r a ln e t w o r k s ( d c g n n s ) f i r s t l y , w i t h o u t a s s u m i n gt h ed i f f e r e n t i a b i l i t ya n db o u n d e d n e s so fa c t i v a t i o nf u n c t i o n s ， a n du s el i n e a rm a t r i xi n e q u a l i t y ( l m i ) f r a m e w o r ka n dh o m e o m o r p h i s m t h e o r e mt op r o v et 1 1 ee x i s t e n c ea n du n i q u e n e s so ft h ee q u i l i b r i u m ，a n d d e r i v en e wd e l a y i n d e p e n d e n ts u f j f i c i e n tc o n d i t i o ne n s u r i n gg l o b a l a s y m p t o t i cs t a b i l i t yo ft h en e t w o r k s t h e n ，w ec o n s i d e rt h ep r o b l e mo f g l o b a la s y m p t o t i c a ls t a b i l i t y f o rd c g n n sw i t han e wl y a p u n o v f u n c t i o n a lc o n t a i n i n ga ni n t e g r a lt e r mo fs t a t ef 0 rd c g n n s ，b yu s i n gt h e m e t h o d so f 6 7 ，n e wl m i b a s e dc o n d i t i o n sf o rt h ee x i s t e n c eo fau n i q u e e q u i l i b r i u mp o i n ta n di t sd e l a y - d e p e n d e n tg l o b a la s y m p t o t i cs t a b i l i t ya r e d e r i v e d ak e yf e a t u r eo ft h i sa p p r o a c hi st h ei n t r o d u c t i o no fs o m e a u x i l i a r ym a t r i xt e r m si nt h el m i b a s e dc o n d i t i o n s t h i si n t r o d u c t i o n s f l e x i b i l i t yi na p p l y i n gt h ec r i t e r i ai nt h ea n a l y s i s t h e s em e t h o d sa l s o a p p l yt ot h es p e c i a lm o d e ld e l a y e dh o p f i e l dn e u r a ln e t w o r k so ft h e d c g n n s w r ec a na l s op r o v ei t sg l o b a la s y m p t o t i cs t a b i l i t ya n de x i s t e n c e a n du n i q u e n e s so ft h ee q u i l i b r i u m k e yw o r d s d e l a y e dc o h e n g r o s s b e r gn e u r a ln e t w o r k s ，g l o b a l a s y m p t o t i c a ls t a b i l i t y , l i n e a rm a t r i xi n e q u a l i t y , l y a p u n o vf u n c t i o n a l n 硕士学位论文 第一章绪论 第一章绪论 1 1 问题研究的背景及意义 神经网络的发展历史已有6 0 多年，他是一门交叉学科，涉及生物学，生理 学，电子，计算机科学，数学和物理学等学科，这些学科相互结合，相互渗透和 相互推动。神经网络是当前科学理论研究的主要“热点 之一，他的发展对日前 和未来的科学技术的发展将有重要的影响。 长期以来，人们想尽方法了解人脑的功能，试图使用物理可实现的系统去模 拟人脑，完成类似人脑的工作。神经网路就是采用物理可实现的系统模仿人脑神 经细胞的结构和功能的系统。 神经网络分为两类：一类是生物神经网络，另一类是人工神经网络。生物神 经网络是自然界中的一种客观存在的、由生物神经系统中神经细胞按照一定的连 接方式连接而形成的网络，如人脑神经系统是到目前为止所发现的最具有智慧的 生物神经网络。人工神经网络是在神经生理学和神经解剖学的基础上，利用电子 技术、光学技术等模拟生物神经网络的结构和功能原理而发展起来的一门新兴的 边缘交叉学科，简称为神经网络( n e u r a ln e t w o r k s ) 。它是由大量简单的基本元件 一神经元相互连接而成的非线性系统。每个神经元的结构和功能比较简单，而大 量神经元组合而成的系统所产生的行为却非常复杂。神经网络在处理自然语言理 解、图像识别、智能机器人控制等方面具有独到的优势。与冯诺依曼计算机相 比，神经网络更加接近人脑的信息处理模式。神经网络理论突破了以传统的线性 处理为基础的数字电子计算机的局限，标志着人们开始考虑利用赖以生存的非线 性世界，来探索和研究诸如人脑等复杂的系统。 人工神经网络的研究始于二十世纪四十年代，1 9 4 3 年心理学家w a r r e ns m c c u l l o c h 和数学家w a l t hh p i t t s 建立了神经元数学模型( 称为m p 模型) ，心 理学家h e b b 于1 9 4 9 年提出的学习规则，即“神经元之间的连接是可以变化的， 通过刺激使神经元连接加强”等建立了神经网络的研究基础，并在后来的各种神 经网络模型的建立中起了重要作用。后来有一些学者坚持着对神经网络的研究， 如g r o s s b e r g 在1 9 6 9 年提出了自适应共振的a r t 模型，f u k u s h i m a 和w e r b o s 分别于1 9 8 0 年提出了神经认知网络理论，k o h o n e 在1 9 8 4 年提出了自组织映射 理论对联想存储器进行了研究，a m a r i 则致力于神经网络数学理论的研究。所有 这些具有开创性的研究成果虽然在当时并未产生影响，但为神经网络此后的发展 奠定了理论基础，真正带来了神经网络研究兴盛时期的是生物物理学家h o p f i e l d 硕士学位论文第一章绪论 于1 9 8 2 年和1 9 8 4 年发表在美国科学院院刊上的两篇举世瞩目的论文。h o p f i e l d 在其论文中提出了仿人脑的神经网络模型，即著名的h o p f i e l d 模型，通过引入广 义能量函数和使用l a s a l l e 不变原理给出了网络的稳定性依据，证明了在连接权 矩阵对称时网络能稳定于若干平衡点。如果把网络的各个平衡点设想为存储于该 网络中的信息，则网络的稳定性将保证这一网络的动力学性质随时间的推移前进 到这些平衡之一，从而具有联想记忆的性质。它不同于把信息孤立地存储于互不 联系的存储单元中，而是存储于整个网络的拓扑结构中，因此是分布式存储，从 而有较大的容错能力。h o p f i e l d 教授还指出每个神经元可以用运算放大器来实 现，因此，整个网络可以用线路模拟，这一方案为其工程实现指明了方向。1 9 8 5 年，h o p f i e l d 教授所在的加州理工学院与贝尔实验室合作研制成功了有2 5 6 个神 经元的网络，同时开拓了神经网络用于联想记忆和优化计算的新途径。从而激励 了世界上众多有华的科学家，数学家和工程技术人员加入到神经网络的研究行 列。尽管h o p f i e l d 可能不是真正的神经生物系统模型，但是它们的包涵原理( 即 在动态的稳定网络存储信息的原理) 是极其深刻的。 近年来，神经网络的研究已经形成了一个发展热点，研究工作者提出和研究 了多种神经网络的模型、算法和应用问题并完成了许多有意义的工作。人工神经 网络研究兴盛时期的到来也得益于h o p f i e l d 在世界各地讲学鼓励有才华的科学 家、数学家和技术人员加入神经网络的研究行列。与h o p f i e l d 几乎同时，以 r u m e n l h a r t 和m c c h e l l a n d 为首的十多人组成的并行分布理( p d p ) 研究小组对 从r ”到r ”的高维非线性映射用前馈网络( b p 网络) 权的优化选择实现了映射的 逼近，从而使人工神经网络的研究进入了一个新的高潮时期。 1 9 8 7 年，第一个国际神经网络协会成立，后来以神经网络为主题，或列入 其他计算机方向( 特别是人工智能) 的国际会议每年召开。第三届神经网络年 1 9 8 9 年6 月于华盛顿召开，有w i d r o w 、k o n h o n e n 、h o p f i e l d 等上千人参加。近 年来，我国学者也积极投入到这一领域并取得了许多骄人成绩。但是，总的来说， 我国的神经网络研究起步较晚，我国于1 9 8 9 年1 0 月在北京召开一个非正式的神 经网络会议，称为神经网络及其应用讨论会，并印制了一本文集，在1 9 9 0 年1 2 月和1 9 9 1 年1 2 月，分别召开了全国第一、第二届神经网络学术会议，第十五届 中国神经网络大会( c n n c 2 0 0 6 ) 于2 0 0 6 年0 8 月1 0 日1 2 日在哈尔滨工程大学 举行。 细胞神经网络( c e l l u l l 3 1 1 n e u r a ln e t w o r k 简记为c n n ) 就是由l o c h u a 1 j 和 l y a n g 2 j 于1 9 8 8 年提出的神经网络模型之一，与一般神经网络一样，它是一个 大规模模拟系统，其特点是神经元之间局部连接，电路便于实现v l s i ，输出信 号函数是分段线性函数，具有双值输出、运行速度快等优点，已应用于图像处理、 2 硕士学位论文第一章绪论 模式识别等许多领域中1 3 州，且其新的应用领域在不断被发现。细胞神经网络对 应的数学模型就是微分、差分方程系统。对应不同的应用，就要研究这些微分、 差分方程系统的不同的动力学性质。其中稳定性扮演重要的角色，利用动力系统 的吸引和电子电路的实现来完成某些智能优化计算、联想记忆、学习算法，从而， 对稳定性理论感兴趣的已远远不止数学、力学、自动控制专业的学者。在稳定性 的研究中常常出现时滞，因为在神经元的信息传递过程中时滞是不可避免的，而 时滞意味着网络模型应该与过去时间的神经元状态有关，这也正反映了大脑本身 的特点。在现有的神经网络模型上引入轴突信号传输时滞，那么相应的动力学系 统就变成了带时滞的非线性动力学系统，因而他们的动力学性质将变的非常复 杂，其动力学行为有可能演变到稳定的平衡点，有可能产生周期震荡或混沌。 近年来，神经网络中非线性动力学理论及其应用的研究得到了飞速的发展， 并与其他许多学科领域相互渗透。数学中许多分支已被应用于神经网络系统的分 析，如矩阵论，群论，泛函分析组合数学，计算数学，运筹学，概率论以及数理 统计，微分几何乃至范畴理论和符号构造等，人们正在通过将这种网络系统的动 力学性质的理论分析和生物实验，计算机模拟结合起来研究这种网络，这些研究 不仅有助于理解神经网络系统理论的依据与背景，而且提供了应用的基本思想及 可能的途径，这些研究对于推动计算机科学，人工智能与模式识别领域的发展以 及计算机，人工生命的研究具有十分重要的科学意义，对涉及复杂的智能计算与 检索，图像识别，景物理解，智能检测和控制的工业生产，国防，医学等领域具 有重要的应用价值。 纵观当代新型科学技术的发展历史，人类在征服宇宙空间、基本粒子、生命 起源等科学领域的进程之中历经了崎岖不平的道路，我们也会看到，探索人脑功 能和神经网络的研究将伴随着重重困难的克服而日新月异。 1 2 神经网络现状研究 神经网络的研究是一个众多学科领域交汇的系统工程，从而需要这些交叉学 科科研工作者的共同参与。至今为止，国内外人工神经网络研究工作者已建立了 大量的网络模型，并对其进行了研究。在这些模型中，有相当大一部分为微分方 程模型，如著名的h o p f i e l d 模型，c o h e n - c r r o s s b e r g 模型，c e l l u l a r ( 细胞) 神经 网络模型等。这些模型绝大部分有工程技术学科的研究工作者的充分参与，使得 多年来对这些模型的动力学行为的研究主要呈现在数值模拟方面，致使众多模型 的动力学行为至今仍未得到充分的揭示，特别是对具有时滞的微分方程神经网络 模型，其动力学行为的定性研究更少。而由于网络中神经元之间的信号传输需要 硕士学位论文第一章绪论 一定时间的客观事实，微分方程神经网络模型中具有时滞更加符合客观实际。因 此，人工神经网络的深入研究迫切需要一批应用数学工作者，特别是微分方程研 究者的加入。一般来说，神经元的输入输出关系是非线性的，其动力学性能也呈 现为非线性。因此，神经网络模型具有丰富的动力学行为，如平衡点、周期解、 混沌、分叉等。当神经元的模型，突触的连接分布，阀值分布决定后，这个神经 网络的动力学特性也就决定了。当某一时刻神经元的状态决定后，其状态将按动 力学方程发生转移，向某一稳定状态靠近。这种实际上可观测的状态称为吸引子。 如果吸引子不随时间发生变化，则称为系统的稳定平衡点。针对不同的应用领域， 要求我们设计出具有相应动力学行为方式的神经网络。如对于执行联想记忆功能 的网络，要求平衡点的数目越多越好，因为平衡点的数目越多，网络的记忆储存 量就越大。而对于执行优化计算功能的网络则要求平衡点越少越好，最理想的状 态是具有唯一的平衡点，该平衡点是相关能量函数的最小值点，也即问题的最优 解。另外，神经网络还能以动态吸引子( 周期解，极限环，奇怪吸引子) 的行为 方式储存记忆，理论和实验表明，人类大脑有相应的行为方式。因此动态吸引子 的研究也是神经网络动力学的重要方面。如果在给出初值的情况下，模型的解能 收敛到相应的平衡点或周期解处，使网络功能稳定，因此稳定性是设计具有上述 每一种功能的神经网络的前提。而时滞的引入往往会对神经网络的稳定性产生重 要影响。这就要求我们对时滞神经网络的设计和应用提供理论依据。 反馈人工神经网络是人工神经网络研究中具有非常重要地位的一类神经网 络。目前在已提出的反馈网络模型中，最成功、最受人们关注而且相对成熟的模 型有两种：一种是h o p f i e l d 神经网络，另一种是细胞神经网络。 h o p f i e l d 神经网络分为两种：一种是离散h o p f i e l d 神经网络( d i s c r e t e h o p f i e l dn e u r a ln e t w o r k s ，简记为d h n n ) ，另一种是连续h o p f i e l d 神经网络 ( c o n t i n u o u sh o p f i e l dn e u r a ln e t w o r k s ，简记为c h n n ) 。d h n n 是h o p f i e l d 在 1 9 8 2 年首先提出的，而c h n n 是h o p f i e l d 在1 9 8 4 年提出来的。h o p f i e l d 网络的 提出以及成功应用为神经网络的第二次兴起和发展起了极大的促进作用。目前 h o p f i e l d 网络是研究反馈神经网络的基础，国内外有许多学者从事这方面的研 究，无论是在理论上，还是在应用上，都取得了非常丰富的结果。h o p f i e l d 网络 已被广泛应用于各种组合优化计算，模式识别，联想记忆，信号处理和图像处理 等许多领域。 d h n n 模式是研究整个反馈离散人工神经网络的基础，因而受到神经网络 领域内许多学者的极大关注。由于d h n n 模式在优化组合、函数逼近、模式识 别等领域中有广泛的应用，而这些应用的前提是网络是收敛的。因此，研究反馈 网络的最基本最主要的问题之一是稳定性问题，即网络的收敛性问题，也就是说， 4 硕士学位论文第一章绪论 任给网络的初始状态，网络是收敛到稳定吸引子，还是混沌( c h a o s ) 吸引子。 目前，有关d h n n 的稳定性和极限环的研究结果已有许多，但大多数是围绕连 接权矩阵是对称或反对称以及阀值为零来进行的。当然研究的主要演化方式是异 步、同步和部分同步。作为d h n n 模型的推广，带有延迟项的d h n n 的吸引子 的研究引起人们的关注，也取得了一些成果。 h o p f i e l d 模型，c o h e n - g r o s s b e r g 模型，c e l l u l a r ( 细胞) 神经网络模型等已 有的研究结果表明这些模型可能具有如下三种动力学行为： ( 1 ) 收敛：当时间越来越长时，轨道收敛于某个平衡点或稳定状态，一部 分或全部的轨道趋于平衡点集； ( 2 ) 振荡：部分或全部轨道渐近的趋向于一个周期( 或极限环) 的轨道； ( 3 ) 混沌：通常比较粗略的规定其轨道在有界的范围内长期演化后趋于一 些对初始极端敏感依赖的不变集上( 奇怪吸引子) 游荡运动。 从人工神经网络现有的多种动力学模型数值模拟和理论分析，也从人们的心 理状态及部分的实际应用需要出发，第一种收敛的动力学行为研究的比较多且较 深入。人们总认为动力学行为最终应当是得到信息或者可能是得到信息，很自然 希望这一信息是抓得住的形式，即稳定状态的平衡点，并且这种稳定状态的获取 可能很有用，例如模式识别、组合优化、把打印文件转化为口头语言等等。 1 3 时滞神经网络的稳定研究状况 神经元在信息传递过程中应该存在时滞，而时滞意味着网络模型应该与过去 时间的神经元状态有关，这也正反映了大脑的特点。在现有的神经网络模型上引 入轴突信号传输时滞，那么相应的动力学性质也将变的非常复杂，其动力学行为 有可能演化到稳定的平衡点，也有可能产生周期振荡或混沌。 正是由于具有时滞的人工神经网络模型在组合优化，联想记忆，模式识别， 信号处理，自动控制等工程技术领域方面的独特优越性，近十年来围绕具有时滞 的人工神经网络模型结构和特性的研究越来越受到人们的重视，其中一类连续的 时滞神经网络( d n n s ) 是非常重要的网络，它包含著名的连续h o p f i e l d 神经网 络模型和细胞神经网络模型( c n n ) 。至今为止，关于这类模型绝大多数研究结 果都集中在网络的静态吸引子( 平衡点类型) 的存在性，收敛性和稳定性方面， 而对于这类模型的动态吸引子，如极限环( 周期轨道) ，奇怪吸引子等复杂性动 力学行为的研究则相对较少。另外，已有的大多数文献主要集中在具有一致的网 络参数和外部输入模拟，涉及到随时间变化的网络参数或者外部输入模拟的研究 结果是比较少的。为了更具体的模拟生物系统的演化过程和人工智能的系统规 硕士学位论文第一章绪论 律，应该考虑到外部干扰和控制的影响，尤其是在周期变化的环境中的影响。 如果在相应的时滞神经网络模型中令时滞为零，那么此时滞神经网络模型退 化为相应的无时滞神经网络模型。在实际建模时，人们很自然地忽略小时滞，而 将时滞动力系统约简为一般动力系统，然而从动力学的角度看，这样做是不可靠 的。事实上，存在这样的时滞动力系统，其约简的系统的平衡点是不稳定的，但 对任意时滞，其时滞系统的平衡点是稳定的，反之亦然。对于周期解的存在性也 有类似的结论。一个时滞神经网络模型存在h o p f 分岔时，其约简的无时滞系统 却可以不产生h o p f 分岔。因此，在许多情况下，必须直接研究时滞神经网络模 型1 5 】 6 1 ，1 7 1 0 时滞对系统的动态特性有很大的影响，例如，时滞常常导致系统失稳，又如， 时滞系统一般有无穷多个特征值，从而从一个侧面说明时滞系统是无穷维的。非 线性时滞神经网络模型比用无时滞神经网络模型有更加丰富的动力学行为，例 如，一个神经元自治时滞系统会产生分岔和混沌，但对无时滞系统来说，一阶系 统和二阶自治系统都是不可能产生混沌。 近几年，各种带时滞的神经网络，如时滞h o p f i e l d 神经网络【5 】，9 1 0 l 、时滞 细胞神经网络【1 1 】- 【”】和时滞双向联想记忆模型【1 6 卜【1 9 】相继提出，这些模型的各种稳 定性已被广泛地研究，如局部稳定性 2 0 1 , 1 2 、全局稳定性1 2 2 h 2 6 1 、绝对稳定性1 2 7 1 , 2 8 】 和指数稳定性1 2 9 卜【3 7 j 等。鉴于许多用途各异的时滞神经网络模型形式上与标准的 时滞动力系统有一定差距，这些网络的稳定性问题一般都采用特殊的手段来处 理，如前面所说的，时滞细胞神经网络就是一个非光滑的时滞微分方程系统，对 这类网络就某些非对称模板类，可以研究其绝对稳定性问题。由于目前尚未出现 关于时滞神经网络系统的统一模型，网络稳定性的研究不仅没有统一的方法可 循，而且许多研究结果也时常具有交叉和重复的内容。在现有研究时滞神经网络 稳定性方法中最广泛使用的是l y a p u n o v 方法。它把稳定性问题变为某些适当定 义在系统轨迹上的泛函稳定性问题，并通过这些泛函得到相应的稳定性条件。这 些条件就其表达形式至少可分为四种，即参数的代数不等式 3 s h 4 1 】、系数矩阵的 范数不等式f 4 2 1 、矩阵不等式【4 2 j 4 3 l 和线性矩阵不等式1 4 4 卜【4 5 j ( l m i ) 其中，由于 l m i 方法对系统参数的限制相对较少而且易于验证，近年来，l m i 方法在稳定 性理论中得到大量应用。另一方面，根据是否包含时滞参数，稳定性条件又分为 两类：依赖于时滞的稳定性条件和不依赖于时滞的稳定性条件。早期的大多数研 究基本上局限于时滞无关的稳定性研究，显然，这对无害的小时滞神经网络是非 常苛刻的。l i a o 在多篇文章中提到这个问题，并对时滞h o p f i e l d 神经网络提出 了系列时滞相关的条件 4 6 1 。由于时滞神经网络稳定性问题的复杂性，人们不 可能针对一大类系统得到一组完美的稳定性判据。因此，为了实践上的应用和理 6 硕士学位论文 第一章绪论 论的完美，人们不断地提出新的判断规则来弥补理论上的这种欠缺。 一个预先设计好的系统，由于模型误差、外部扰动和实现时出现的参数波动 等不可避免的不确定因素，它的稳定性常常会被破坏。如果一个系统的不确定因 素仅仅来自参数的扰动和波动，并且这种扰动或波动都是有界的，那么我们称这 种系统为区间系统。1 9 9 8 年，l i a o 和y u 首次研究了区间h o p f i e l d 神经网络的鲁 棒稳定性【4 7 1 。近年来，关于带常量时滞和时变时滞的神经网络的全局稳定性的 结果已经有了不少报道，参考文献 4 8 】， 4 9 。 1 4c o h e n g r o s s b e r g 神经网络模型的提出以及相关模型研究进展 c o h e n - g - r o s s b e r g 神经网络是c o h e n 和g r o s s b e r g 在1 9 8 3 年提出来的，由于 被广泛的应用于模式识别、可设定的按内容寻址存储、记忆与信号处理、图像处 理与计算技术等，有关c o h e n - g r o s s b e r g 神经网络的研究已越来越引起人们的关 注。 当神经网络用来求解方程或解决最优控制等问题时，要求对每一个外部输 入，网络都存在唯一的、全局渐近稳定的平衡点。关于h o p f i e l d 神经网络，细胞 神经网络的全局指数稳定性有很多结果。相对来说，c o h e n - g r o s s b e r g 神经网络 的全局指数稳定性结果就少多了。而且我们发现大多数文献所研究的该神经网络 的全局指数稳定性都是在输出函数有界且大部分都是在常数时滞的前提下获得。 由于在无界输出函数下平衡点的存在性很难保证且变时滞的情形下平衡点的稳 定性不易判定。因此，据我们所知，在变时滞与无界输出函数的情形下有关c o h e n g r o s s b e r g 神经网络的全局指数稳定性研究还非常少见。事实上，c o h e n - g r o s s b e r g 神经网络包含了h o p f i e l d 神经网络、细胞神经网络。所以，研究c o h e n - g r o s s b e r g 神经网络的全局指数稳定性具有更加重要的价值。 本文考虑的是连续型c o h e n - g r o s s b e r g 神经网络，通常是用一个常微分方程 系统来描述的，如下 掣：一q ( 薯) i6 ( t ) 一窆c ：l 乃( _ ( ，) ) 螺l ，江l ，2 ，阼 ( 1 - 1 ) l j = ij 其中疗2 是神经网络的单位数目，甜。是指第f 个神经元的状态变量，q ( ) ，勿( ) 是实数域上的连续函数，薯表示第f 个神经元的活动状态，矩阵c = ( c ，) 表示神 经元之间的连接强度，如果输出神经元，兴奋( 或者抑制) 神经元i ，则c 0 ( 或 者c 0 ) ，f ：r 专r 表示信号传输函数。 时滞c o h e n g r o s s b e r g 神经网络也被广泛的研究，考虑到生物神经元在进行 信号传输过程中存在诸如细胞时滞、传输时滞及突触时滞等原因，y ee ta l t 3 8 1 中 7 硕士学位论文第一章绪论 对连续的c o h e n g r o s s b e r g 模型引入了时滞，其具体模型为 竺笋= 一口i ( 毛o ) ) 【6 l ( 五) 一白( _ ( f ) ) 一吒乃( _ ( ，一巧) ) + 】，f = 1 ，2 ，刀( 1 - 2 ) “ = lj ；l 其中f 盯0 表示第f 个神经元发出信号到第j 个神经元接收信号的时间；c = ( ) 和d = ( d ，1 分别是连接矩阵和时滞连接权矩阵。 最初证明c o h e n g r o s s b e r g 神经网络模型平衡解的全局渐近稳定时，用的最 多的方法是假设常数矩阵是对称矩阵。近年来，王教授和邹教授【5 0 】通过对模型 ( 1 1 ) 中q ( ) ，匆( ) ，乃( ) 的限制，用矩阵的方法证明了平衡解的全局渐近稳 定性。后来陈于明教授用m 矩阵证明了在常数矩阵为非对称矩阵的情况下，时 滞c o h e n g r o s s b e r g 神经网络模型【5 1 】平衡解的全局渐近稳定性。袁坤【5 2 】用非光滑 线性分析的方法分析了时滞c o h e n g r o s s b e r g 神经网络模型的平衡解的全局渐近 稳定性，同样运用了线性矩阵不等式来证明结论。黄立宏教授1 5 3 j 的文章中，用 布朗不动点原理及矩阵不等式方法分析了时滞c g n n 全局指数稳定性及周期解 的存在性。 当口( x ( ，) ) = 1 ，6 ( x ( f ) ) = ( ，) 时，时滞c o h e n g r o s s b e r g 神经网络模型就可 以转换为时滞细胞神经网络，即d c n n 系统： y q = - p l x , ( ，) 嘻c ：f 乃( _ ( ，) ) + 喜吃乃( _ ( _ ) ) 怖，2 ，刀( 1 - 3 ) 式中：表示第f 个神经元在，时刻的状态变量；髟，气，略，是常数；表 示第个神经元在t 时刻的输出对第f 个神经元的影响强度；z ，表示第，个神经元 在t f ，时刻的输出对第f 个神经元的影响强度；f ，表示第，个神轴突的传递时 滞，它是非负常数；e 表示在与神经网络不连通并且无外部附加电压差的情况下 第f 个神经元恢复独立静息状态的率；乃“( ，) ) 表示第j 个神经元在f 时刻的输出 函数。 显然，c o h e n - g r o s s b e r g 神经网络还能缩减为应用广泛的h o p f i e l d 型神经网 络m ，其模型如下： e 掣= 一半+ 窆j - i 乃乃( _ ( ，) ) 怖 2 ，刀 ( 1 - 4 ) 对神经元f ，e 0 ，冠0 分别是神经放大器的输入电容和电阻。珥是大于零的 常数，是从外部系统输入的，矩阵丁表示神经元之间的连接强度。 在电子通讯中时间延迟是不可避免地会出现在电子神经网络中，由于有限的 开关速度的放大器，就出现了时滞。时滞f 0 最早由m a r c u s 和w e s t e r v e l t ”】提 出，带时滞的微分方程系统如下： 8 硕士学位论文 第一章绪论 e 掣= 一半+ 扣( 砒叫) i = 1 , 2 , - - - , n 对于神经网络( 1 4 ) 和( 1 5 ) 及相关的其他一些模型被大量的研究， 有对平衡解的全局渐近稳定性和全局指数稳定性的研究。 1 5 本文的主要工作 ( 1 - 5 ) 主要结果 本文主要对时滞神经网络及其动态行为进行了较深入的研究，其内容涉及了 时滞c o h e n g r o s s b e r g 神经网络和时滞h o p f i e l d 神经网络解的存在唯一性及全局 渐近稳定性。本文分别利用同胚映射原理和反证法证明了上述系统解的存唯一 性，构造新的l y a p u n o v 泛函用线性矩阵不等式( l m i ) 的形式分别给出了时滞相关 和时滞无关的时滞c g n n 模型和时滞h n n 模型的全局渐近稳定性的充分条件。 本文各章节的安排如下： 第一章为绪论，先简述了神经网络的背景及意义。神经网络动态行为研究的 现状，然后概述了时滞神经网络稳定性研究的状况，及时滞c g n n 的提出和相 关模型研究的进展，最后总结了本文的主要工作。 第二章为预备知识，简要介绍了本文中所用到的一些基本定义和定理，主要 包括稳定性的各种概念、特征、描述的方法及其判定方法，然后对l y a p u n o v 函 数进行了简单的介绍，以及l y a p u n o v 泛函的稳定性的一些判定定理。 第三章首先用同胚映射原理证明了时滞c o h e n g - r o s s b e r g 神经网络解的存在 唯一性的条件，接着我们建立新的l y a p u n o v 泛函、得到了时滞c o h e n - g r o s s b e r g 神经网络时滞无关的全局渐近稳定性条件，最后我们用反证法和新的l y a p u n o v 泛函得到了依赖于时滞的全局渐近稳定性条件，并且我们的条件都是用线性矩阵 不等式的形式给出的。而且对于后一种方法同样能得到不依赖于时滞的全局渐近 稳定性条件。 第四章我们用第三章的方法讨论了时滞h o p f i e l d 神经网络的解的存在唯一 性，并构造新的l y a p u n o v 泛函利用第三章的方法给出了时滞h o p f i e l d 神经网络 的时滞相关和时滞无关的全局渐近稳定性条件。 第五章总结了全文的主要结果。 9 硕士学位论文 第二章预备知识 2 1 引言 第二章预备知识 稳定性的概念，最早源于力学。一个刚体或一个力学系统具有某一平衡状态 在有微小的干扰力作用下。这种平衡态或者几乎保持，或者受到破坏，这就是稳 定与不稳定的雏形。但是，人们普遍认为，稳定性的一般理论和方法的形成是开 始于俄国数学家、力学家l y a p u n o v 在1 8 9 2 年完成的博士论文运动稳定性的一 般问题。他将由p e a o n 、b e n d i x e n 和d a r b o u x 等建立的微分方程的解对初值和 参数的连续依赖性这一概念，由自变量在有限区间上的变化拓宽到无穷区间上， 科学地给出了系统中运动的稳定性和渐近稳定性的概念；他从类似系统总能量的 物理概念中得到启发，提出了后来被人们称为l y a p u n o v 函数的概念，将一般刀阶 微分方程组中对扰动解渐近性质的讨论归结为讨论一个标量l y a p u n o v 函数及其 对系统的全导数的一些特性的研究，成功地避开了讨论刀阶微分方程组的解的困 难，从而构建了稳定性理论研究的框架。 2 2 稳定性的概念 本节的相关内容及定理证明参见参考文献【5 6 】和【5 7 】。 考虑用微分方程描述的一般非自治系统： 石d x = 巾，x ) ，x ( f o ) = ， x ( 2 - 1 ) ( 2 - 1 ) 满足解的存在唯一性定理的条件，其解x ( f ) = x ( r ，t o ，x o ) 的存在区间是满 足( 咱，佃) ，s ( t ，x ) 还满足条件 厂( ，o ) = o 保证x ( ，) = o 是( 2 - 1 ) 的解，我们称它为零解。 定义2 1 若对任意给定的s o ，都能找到万( g ，t o ) ，使得当0 x o l i 0 都能找到万( s ) ，使得当| | 确i i t o + 丁时，有 i l x ( t ，f 0 ，) 0 t o ，i i x l i o 时，甜( s ) 和w ( s ) 是正定的且甜( o ) = w ( o ) = o ， “( s ) 专，s - - ) o o 。若存在正定函数y ( f ，x ) c g o ，r 1 ，满足 “( i f 矽( o ) j f ) y ( ，) 攻：一) ( ，矽) 一w ( 0 矽( o ) 1 1 ) 且y ( r ，0 ) = 0 ，则( 2 1 ) 的零解是全局渐近稳定的。 2 5 本章小结 本章介绍了论文研究中需要用到的一些基本定义及定理。其中包括了稳定性 的一些概念和定义；介绍了l y a p u n o v 函数及其稳定的概念和判定方法，渐近稳 定的概念和判定方法。 1 4 硕士学位论文 第三章时滞c o h e n g r o s s b e r g 神经网络的全局渐近稳定性 第三章 时滞c o h e n g r o s s b e r g 神经网络的全局渐近稳定性 3 1 引言 c o h e n g