（应用数学专业论文）几类神经网络的稳定性分析.pdf

摘要 时滞神经网络是神经系统的个重要组成部分，它具有十分丰富 的动力学行为。鉴于它们在信号处理、动态图像处理、人工智能和全 局优化等问题中的重要应用，近年来时滞神经网络的动力学问题引起 了学术界的广泛关注。本文主要对几类时滞神经网络的全局渐近稳定 性进行了一系列的研究，取得了一些较深刻的结果。具体有以下三个 方面： 1 ) 时滞细胞神经网络的稳定性分析 通过构造l y a p u n o v 泛函和利用泛函微分方程稳定性理论及不等 式方法，得到了常时滞与变时滞细胞神经网络的与时滞大小无关的全 局渐近稳定性的充分判据。改善了原有的结果。 2 ) 时滞c o h e n g r o s s b e r g 神经网络的渐近稳定性分析 通过建立适当的l y a p u n o v 泛函，利用y o u n g 不等式和引入一些 实参数，得到了时滞c o h e n g r o s s b e r g 神经网络全局渐近稳定性的一 系列新的充分判定准则。且在某些条件下，时滞是无害的。 3 ) 变时滞的2 个神经元系统的渐近稳定性分析 通过构造l y a p u n o v 泛函，利用不等式分析技巧，得到了变时滞 的2 个神经元系统平衡点的全局渐近稳定性的一些新的充分条件。为 时滞递归神经网络提供了一些新的稳定性判定准则。 关键词神经网络，时滞，全局渐近稳定性，l y a p u n o v 泛函，不等式 a b s t r a c t t h ed e l a y e dn e u r a ln e t w o r k se x h i b i t i n gt h er i c ha n dc o l o r f u l d y n a m i c a lb e h a v i o r sa r ei m p o r t a n tp a r to ft h ed e l a y e dn e u r a ls y s t e m s d u et ot h e i ri m p o r t a n c ea n dp o t e n t i a la p p l i c a t i o ni ns i g n a lp r o c e s s i n g ， i m a g ep r o c e s s i n g ，a r t i f i c i a li n t e l l i g e n c e ，o p t i m i z i n gp r o b l e m sa n ds oo n ， t h ed y n a m i c a li s s u e so fd e l a y e dn e u r a ln e t w o r k sh a v ea t t r a c t e dw o r l d w i d e a t t e n t i o ni nr e c e n ty e a r s t h e s et h e i e sm a i n l yf o c u so nt h eg l o b a ls t a b i l i t y f o rs e v e r a l d e l a y e d n e u r a ln e t w o r k s m o r e s p e c i f i c a l l y , t h e m a i n c o n t r i b u t i o n sa r ea sf o l l o w s ： 1 ) t h ea n a l y s i so fs t a b i l i t yf o rt h ec e l l u l a rn e u r a ln e t w o r k sw i t hd e l a y b yc o n s t r u c t i n gn o v e ll y a p u n o vf u n c t i o n a l ，u s i n gt h es t a b i l i t yt h e o r y o ff u n c t i o n a ld i f f e r e n t i a le q u m i o n s ，a n dc o m b i n i n gw i t ht h et e c h n i q u eo f i n e q u a l i t ya n a l y s i s ，w eo b t a i n e dt h es u f f i c i e n tc r i t e r i aw h i c hw i t ha n d w i t h o u tt i m e - v a r y i n gd e l a y sf o rt h eg l o b a l l ya s y m p t o t i cs t a b i l i t yo ft h e n e u r a ln e t w o r k ，i n d e p e n d e n to ft h ed e l a y s t h e s ec o n c l u s i o n sh a v e e x m n d e dt h er e s u l t si nt h eg i v e nr e f e r e n c e s 2 ) a s y m p t o t i cs t a b i l i t yo fc o h e n g r o s s b e r gn e u r a ln e t w o r k s b a s e do nt h ec o n s t r u c t i o no fan e wl y a p u n o vf u n c t i o n a l ，b ya p p l y i n g t h ey o u n gi n e q u a l i t ym e t h o d ，a n di n t r o d u c i n gm a n yr e a lp a r a m e t e r s ，a s e r i e so fn e wa n du s e f u lc r i t e r i af o rt h eg l o b a l l ya s y m p t o t i cs t a b i l i t yo f c o h e n - g r o s s b e r gn e u r a ln e t w o r k sa r ed e r i v e d 砀ed e l a y su n d e rs o m e c o n d i t i o n sa r eh a r m l e s s 3 ) d e l a y d e p e n d e n ta s y m p t o t i cs t a b i l i t yo f at w o n e u r o ns y s t e mw i t h d i f f e r e n tt i m ed e l a y s t h r o u g hc o n s t r u c t i n gl y a p u n o v f u n c t i o n a la n d a p p l y i n g t h e t e c h n i q u eo fi n e q u a l i t ya n a l y s i s ，w eo b t a i ns u f f i c i e n tc r i t e r i a t oe n s u r e g l o b a la s y m p t o t i cs t a b i l i t yo ft h ee q u i l i b r i u mo ft h en e u r a ln e t w o r k o u r r e s u l t sh a v eg i v e ns o m en e wc r i t e r i af o rd e l a y e dn e u r a ln e t w o r k s k e yw o r d sn e u r a ln e t w o r k ，t i m ed e l a y s ，s t a b i l i t y , l y a p u n o vf u n c t i o n a l ， t h ei n e q u a l i t yt e c h n i q u e n 原创性声明 本人声明，所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。尽我所知，除了论文中特别加以标注和致谢的 地方外，论文中不包含其他人已经发表或撰写过的研究成果也不包含 为获得中南大学或其他单位的学位或证书而使用过的材料。与我共同 工作的同志对本研究所作的贡献均已在在论文中作了明确的说明。 作者签名：丝日期：丛年月业日 关于学位论文使用授权说明 本人了解中南大学有关保留、使用学位论文的规定，即：学校有 权保留学位论文，允许学位论文被查阅和借阅；学校可以公布学位论 文的全部或部分内容，可以采用复印、缩印或其它手段保存学位论文； 学校可根据国家或湖南省有关部门规定送交学位论文。 作者签名：差垒捣师签名二盈整日期：塑! 阵卫月 中南大学硕士学位论文 第一章绪论 第一章绪论 神经网络的发展历史已有6 0 多年，它是- f l 交叉学科，涉及生物学、生理 学、电子、计算机科学、数学和物理学等学科，这些学科相互结合，相互渗透和 相互推动。神经网络是当前科学理论研究的主要“热点 之一，它的发展对目前 和未来的科学技术的发展将有重要的影响。 长期以来，人们想方设法了解人脑的功能，试图使用物理可实现的系统去模 拟人脑，完成类似入脑的工作。神经网络就是采用物理可实现的系统模仿人脑神 经细胞的结构和功能的系统。 神经网络分为两类：一类是生物神经网络，另一类是人工神经网络。生物神 经网络是自然界中的一种客观存在的、由生物神经系统中神经细胞按照一定的连 接方式连接而形成的网络，如人脑神经系统是到目前为止所发现的最具有智慧的 生物神经网络；人工神经网络是在神经生理学和神经解剖学的基础上，利用电子 技术、光学技术等模拟生物神经网络的结构和功能原理而发展起来的- f - j 新兴的 边缘交叉学科，简称为神经网络( n e u r a ln e t w o r k s ) 。它是由大量简单的基本元件 神经元相互连结而成的非线性动态系统。每个神经元的结构和功能比较简 单，而大量神经元组合而成的系统所产生的行为却非常复杂。神经网络在处理自 然语言理解、图像识别、智能机器人控制等方面具有独到的优势。与冯诺依曼 计算机相比，神经网络更加接近人脑的信息处理模式。神经网络理论突破了以传 统的线性处理为基础的数字电子计算机的局限，标志着人们开始考虑利用赖以生 存的非线性世界，来探索和研究诸如人脑等复杂的系统。 1 1 神经网络的研究概况 神经网络的研究历史可追溯至本世纪初4 0 年代。1 9 4 3 年，美国心理学家 w s mc c u l l o c h 和数理逻辑学家w p i t t s ，在分析总结神经元基本特性的基础上首 先提出神经元的数学模( 称之为m p 模型) ，这种模型有兴奋和抑制两种状态， 可以完成有限的逻辑运算。这种模型虽然很简单，但是它为以后神经网络模型的 建立以及理论研究奠定了基础。1 9 4 9 年，d o h e b b 根据心理学中条件反射机理， 提出了神经元间连接强度变化的规则，即如果两个神经元都处于兴奋状态，那么 它们之间的突触连接强度就会得到加强。这是最早建立的神经元学习规则，现在 称为h e r b 规则，至今仍为许多学习算法所采用。1 9 5 8 年，e r o s e n b l a t t 首次引进 了“感知器( p e r c e p d o n ) 的概念，它是由阈值性神经元组成，试图模拟动物和人 脑的感知和学习能力。1 9 6 0 年，b w i d r o w 和m h o f f 发表了“自适应开关电路 中南大学硕士学位论文 第一章绪论 的论文。在该文中，他们提出了自适应线性元件网络，简称为a d a l i n e ( a d a p t i v e l i n e a re l e m e n t ) 。这是一种连续取值的线性加权求和阈值网络。他们还提出了 w i d r o w h o f f 算法，后来这个算法被称为l m s ( 1 e a s tm e a ns q u a r e ) 算法，在数学上 就是所谓的最速下降法。这种算法在后来的误差反向传播( b a c k - - p r o p g a t i o n ) 算 法及自适应信号处理系统中有着广泛的应用。1 9 6 9 年，m m i n s k y 和s p a p e r t 出 版了名为c p e r c e p t r o n ) ) 的专著。书中论证了简单的线性感知机功能是有限的， 它不能解决如“异或( x o r ) 这样的基本问题，并且指出，对于多层网络还找不 到有效的计算方法。m i n s k y 断言这种感知器无科学研究价值可言，包括多层的 也没有什么意义。这些论点使得当时相当一批研究人员对于神经网络的前景失去 信心。然而更主要的原因是传统的v o nn e u m a n n 型数字计算机正处在发展的鼎 盛时期，人工智能得到迅猛发展并取得令人瞩目的成就，人们都陶醉于数字计算 机的巨大成功之中，从而掩盖了发展新型模拟计算机和人工智能技术的必要性和 迫切性。尽管如此，仍有不少学者在极端艰难的条件下致力于神经网络的研究， g r o s s b e r g 等提出了自适应共振理论；芬兰的k o h o n e n 提出了自组织映射； f u k u s h i m a 提出了神经认知机网络理论；a m a r i 则致力于神经网络有关数学理论 的研究；a n d e r s o n 提出了b s b 模型；w e b o s 提出了b p 理论，从而为神经网络 研究和发展奠定了理论基础。 1 9 8 2 年，美国加州工学院物理学家j j h o p f i e l d 在美国科学院院刊上发表了 一篇十分重要的文章，引起了巨大的反响。他所提出的h n n 模型即全连接神经 网络模型( 现称为h o p f i e l d 模型) 在网络的理论分析和综合上达到了相当的深度。 随后，一大批研究非线性电路的科学家，物理学家及生物学家在理论和应用上对 h o p f i e l d 网络进行了比较深刻的讨论和改进，形成了8 0 年代中期以来神经网络 的研究热潮。1 9 8 8 年，美国加州大学的l o c h u a 和l y a n g 受到细胞自动机 ( c e l l u l a ra u t o m a t a 的启发，在h o p f i e l d 网络的基础上提出了一种新颖的神经网络 模型细胞神经网络( c e l l u l a rn e u r a ln e t w o r k s ，简记为c n n ) 。这是一种局域连 接的网络，网络中的基本单元称为细胞，它可由电子电路构成。c n n 就是由许 多相同结构的细胞经适当排列组合而成的神经网络。网络中的每个神经元只与自 己最临近的神经元相连接( 连接范围由邻域数决定) 。与h o p f i e l d 网络一样，c n n 网络也是反馈型神经网络。由于c n n 具有局域连接性，因此它非常适合超大规 模集成电路( v 1 s i ) 实现。所有这些特征使得细胞神经网络在模式识别、图像处理、 信号处理等众多领域中获得了广泛的应用。现在，许多国际著名杂志及会议都已 将有关c n n 的内容单独列出这足以显示人们对于它的重视程度。目前，c n n 已 成为一个新的学科分支，正在日益引起众多研究者的重视： 2 中南大学硕上学位论文 第一章绪论 1 2 神经网络动态行为研究的历史与现状 从网络结构上来看，神经网络可以分为前馈网络( f e e d f o r w a r dn e t w o r k s ) 和反 馈网络( f e e d b a c kn e t w o r k s ) 两大类。h o p f i e l d 模型和细胞神经网络模型都属于反馈 型网络。而反馈型网络的应用都是与其动态性能相关的。例如：h o p f i e l d 网络用 于优化时，要求网络只具有唯一的一个平衡点，该平衡点对应于待求解的目标， 而且随着时间的增长，要求网络的所有状态都趋近于这个平衡点，从数学上看， 就是要求网络必须是全局稳定( 包括渐近稳定或指数稳定) 的；细胞神经网络用于 图像处理时，希望网络的平衡点尽可能的多，这样可以将处理后的结果存储于这 些平衡点上，而且网络的状态在长时间后也要趋近于某个平衡点，这对应于系统 是完全稳定的；细胞神经网络用于保密通讯时，要求网络是混沌的，这样可以利 用混沌的高度复杂的伪随机性进行加密。因此，研究反馈型神经网络的动态行为 具有十分重要的理论及现实意义。下面，我们简要介绍一下神经网络动态行为研 究的历史及现状。 1 9 8 2 年，h o p f i e l d 将非线性动力学中的l y a p u n o v 函数引入到神经网络的稳 定性研究中，并称之为“能量函数 ，从而使人们对这类非线性模型的稳定性研 究有了明确的判据。自此以后，构造合适的能量函数并利用相应的l y a p u n o v 判 定定理来给出网络稳定性的充分条件成为最重要也是最基本的工具。但遗憾的 是，至今人们也没有找到一种普适的构造方法，因而实践中只能依赖个人的经验。 在早期的研究中，通常假设神经元之间的突触连接权矩阵是对称矩阵，这显然与 实际不符合，更加合理的假设是放弃对连接权矩阵对称的假设，即连接权矩阵可 以是非对称的，通过对原始的能量函数加以修改，人们获得了许多稳定性准则。 除此之外，人们还发现，非对称的连接会使网络的动力学行为更加丰富。从使用 的方法上来看，多数采用的仍是l y a p u n o v 函数法，除此之外，还有利用矩阵测 度理论研究了h o p f i e l d 模型的全局指数稳定性，提出了一系列的充分条件，这为 稳定性的研究提供了新的方法。 1 9 8 8 年l o c h u a 和l y a n g 6 3 1 提出了细胞神经网络，与h o p f i e l d 模型相比， 细胞神经网络在拓扑结构上是局域连接的。神经元的激励函数不是连续光滑的 s i g m o i d 函数而是存在不可导点的分段线性函数，这些特点使细胞神经网络的硬 件实现变得容易，并很快应用到了包括图像处理、模式识别等许多领域中。由于 细胞神经网络良好的应用前景，因此有必要对它的动态特性加以研究。在 l 0 c h u a 等的原文中讨论了反馈模板对称情况下的完全稳定性。m g i l l i 及 e a s a v a c i 和j v a n d e w a l e 6 4 分别给出了反馈模板非对称时网络完全稳定的充分 条件，从而扩充了l o c h u a 的结论。随后，s a r i k 等 6 6 1 给出了确保网络完全稳 中南大学硕上学位论文 第一章绪论 定的一个猜想，在文献【6 7 】中给出了证明。从方法上看，证明网络是完全稳定的 方法大致有三种：第一种是基于l y a p u n o v 函数法，通过选择一个与网络输出有 关的l y a p u n o v 函数，设法证明该函数的有界性及单调性，最后利用网络的激励 函数的性质获得证明；第二种方法是依据著名的l a s a l l e 不变原理；第三种是基 于数学分析中的b a t t e l l e 引理及其各种变形。以上三种证明方法可参见文献【6 3 】。 全局稳定性的证明依然是根据个人的经验通过构造合适的l y a p u n o v 函数进行证 明。 在研究稳定性的同时，人们也在进行着如极限环、混沌等其它动态行为的研 究。人们希望极限环形式的吸引子可以应用于周期性运动的控制以及可转化成周 期模式表达事务的识别，特别是后者用于图像等复杂静态模式的识别可望带来计 算上的优势。而将具有混沌动力学的神经网络用于信息处理时，可望能够提高信 息处理的效率和柔性，从而实现更加智能化的信息处理系统，为最终实现智能计 算机开辟可能的途径。因此神经网络中有关这方面的研究受到了大批研究者的关 注文献 2 1 q 研究了h o p f i e l d 网络的振荡问题，e z o u 等【6 】给出了一个反号模板 ( o p p o s i t e s i g nt e m p l a t e ) 的两神经元的非自治细胞神经网络存在混沌吸引子的例 子，随后他们又给出了一个三神经元的自治细胞神经网络存在混沌的例子【5 】。 m g i l l i 7 研究了具有时滞的两神经元的细胞神经网络的极限环及混沌现象。此 外，1 9 9 0 年，k a i h a r i 等【3 】提出了混沌神经元( c h a o t i cn e u r o n s ) 的模型，这个模 型考虑了神经元本身的非线性动力学的混沌行为，通过分析可知该神经元在较广 的参数范围内都具有混沌解，这对于理解人脑的动力学机理以及建立新的混沌神 经网络模型具有重要的意义。1 9 9 5 年，l c h e n 等【4 】在h o p f i e l d 模型的基础上， 借鉴模拟退火算法的思想，提出了暂态混沌神经网络( t c n n ) 模型。该模型中既 存在混沌动力学又存在类似于h o p f i e l d 网络的梯度下降动力学，它的混沌行为是 暂态的，可以为后来的梯度下降动力学提供较好的搜索初值，因而这种模型在用 于优化时有良好的性能( 如收敛速度可调、具有逃离局部极小的能力等) 。 1 3 时滞神经网络的稳定性研究状况 众所周知，在神经元的信息传递过程中应该存在时滞，而时滞意味着网络模 型应该与过去时间的神经元状态有关，这也正反映了大脑本身的特点。在现有神 经网络模型上引入轴突信号传输时滞，那么相应的动力学系统就变成了带时滞的 非线性动力学系统，因而它们的动力学性质将变得非常复杂，其动力学行为有可 能演化到稳定的平衡点，有可能产生周期振荡或混沌。 如果在相应的时滞神经网络模型中令时滞为零，那么此时滞神经网络模型退 4 中南大学硕士学位论文 第一章绪论 化为相应的神经网络模型。在实际建模时，人们很自然地忽略小时滞，而将时滞 动力系统约简为一般动力系统。然而从动力学的角度看，这样做是不可靠的。事 实上，容易举出反例 1 3 1 ，存在这样的时滞动力系统，其约简的系统的平衡点是 不稳定的，但对任意时滞，其时滞系统的平衡点是稳定的，反之亦然。对于周期 解的存在性也有类似的结论。一个时滞神经网络模型存在h o p f 分岔时，其约简 的无时滞系统却可以不产生h o p f 分岔。因此，在许多情况下，必须直接研究时 滞神经网络模型。 时滞对系统的动态性质有很大的影响，例如时滞常常导致系统失稳，又如时 滞系统一般有无穷多个特征值，从而从一个侧面说明时滞系统是无穷维的。非线 性时滞神经网络模型比用无时滞神经网络模型有着更加丰富的动力学行为，例 如，一个神经元自治时滞系统会产生分岔和混沌。但对无时滞系统来说，一阶系 统和二阶自治系统都是不可能产生混沌。 近几年，各种带时滞神经网络，如时滞h o p l f i e l d 网络( 例如文献 3 2 3 4 , 4 1 ，5 9 ) 、 时滞细胞神经网络( 例如文献 6 5 6 7 】) 和时滞双向联想记忆模型( 例如文献 【3 5 , 4 3 ，4 4 1 ) 相继提出，这些模型的各种稳定性也已进行了研究，如局部稳定性 ( 例如文献 3 3 ，5 1 】) 、全局稳定性( 例如文献 3 2 3 3 ，3 8 ，3 9 ，5 2 ，5 8 】) 、绝对 稳定性( 例如文献【8 ，3 9 】) 和指数稳定性( 例如文献1 5 6 5 7 ，5 8 5 9 ，6 0 6 1 】) 等； 鉴于许多用途各异的时滞神经网络模型在形式上与标准的时滞动力学系统有一 定差距，这些网络的稳定性问题一般都采用特殊的处理手段来对待，如前面所说， 时滞细胞神经网络就是一个非光滑的时滞微分方程系统，对这类网络就某些非对 称模板类，可以研究其绝对稳定性问题。由于目前尚未出现关于时滞神经网络系 统的统一模型，关于网络稳定性研究不仅没有统一的方法可循，而且许多研究结 果也时常具有交叉和重复的内容。在现有研究时滞神经网络稳定性的方法中最广 泛使用的是l y a p u n o v 方法。它把稳定性问题变为某些适当地定义在系统轨迹上 的泛函稳定性问题，并通过这些泛函得到相应的稳定性条件。这些稳定性条件就 其表述形式至少可分为4 种，即参数的代数不等式( 例如，文献 4 1 ，4 3 1 ) 、系数 矩阵的范数不等式( 例如，文献 6 5 1 ) 、矩阵不等式( 例如，文献 5 4 ，6 5 1 ) 和线性矩 阵不等式( l m i ) 等。其中，由于l m i 方法对系统参数的限制相对较少而且易于验 证，近年来，l m i 方法在稳定性理论中得到了大量的应用。另一方面，根据是否 包含时滞参数，稳定性条件又可以分为两类：依赖于时滞的稳定性条件和不依赖 于时滞的稳定性条件。早期的大多数研究基本上局限于时滞无关的稳定性研究， 显然，这对“无害 的小时滞神经网络是非常苛刻的。l i a o 在多篇文章中提到这 个问题，并对时滞h o p f i e l d 神经网络提出了一系列时滞相关的稳定性条件 5 2 1 。 然而，由于时滞神经网络稳定性问题的复杂性，人们不可能针对一大类系统得到 5 中南大学硕上学位论文第一章绪论 一组完美的稳定性判据。因此，为了实践上的应用和理论的完美，人们不断提出 新的判断规则来弥补理论上的这种欠缺。 众所周知，对一个预先设计好的系统，由于模型误差、外部扰动和实现时出 现的参数波动等不可避免的不确定因素，它的稳定性常常会被破坏。这样，我们 在设计系统时必须考虑系统的鲁棒稳定性。如果一个系统的不确定因素仅仅来自 参数的扰动或波动，并且这种扰动或波动都是有界的，那么我们称这种系统为区 间系统。1 9 9 8 年，l i a o 和y u 首次研究了区间h o p f i e l d 神经网络的鲁棒稳定性【1 9 】。 近年来，关于带常量时滞和时变时滞的神经网络的全局鲁棒稳定性的结果已经有 了不少报道，参见文献 4 2 ，6 8 ，6 9 。 神经网络是一种复杂的非线性系统，其动力学属性十分广泛。本文主要涉及 到平衡点的存在性和唯一性、全局稳定性( 渐近稳定性、指数稳定性) 以及鲁棒稳 定性等问题。目前以及今后一段时间，关于时滞神经网络动力学行为的理论研究 可能主要集中在以下几个方面： 时滞对神经网络的稳定吸引域的影响： ( 时滞) 神经网络的局部稳定性以及局部吸引域的研究； 时滞神经网络的分叉和混沌研究； 对其它类型的神经网络的研究，例如：模糊神经网络，脉冲神经网络，随 机神经网络等。 1 4 本论文的主要工作 本论文主要围绕时滞神经网络和时滞细胞神经网络的动态行为进行了较深 入的研究，其内容涉及d c n n 的全局渐近稳定性，它是在原有基础上进行了扩 展；利用l y a p u n o v 稳定性并结合不等式方法讨论了不同类型的c o h e n g r o s s b e r g 神经网络的渐近稳定性并发现我们获得的准则是与时滞无关的，也称为无害时 滞；研究了带变时滞两个神经元系统的渐近稳定性，我们的研究没有破坏神经激 活函数是单调、连续和可微的条件。本文各章节的安排如下： 第一章为绪论。首先简单阐述了神经网络的发展概况，神经网络动态行为研 究的历史与现状，然后概述了时滞神经网络稳定性研究状况，最后，概述了本文 的主要研究工作。 第二章简要介绍了本文工作中所用到的一些基本理论，主要包括稳定性的各 种概念及其判定方法、特征以及描述方法等。 第三章本章先研究了一般时滞细胞神经网络的渐近稳定性。利用l y a p u n o v 方法及不等式技巧得到了全局渐近稳定性的充分判据，推广和改进了现有文献得 的结果。接着对于变时滞神经网络的全局渐近稳定性利用泛函微分方程稳定性理 6 中南大学硕士学位论文第一章绪论 论及不等式技巧，得到了新的判别准则。该准则只要求激活函数是l i p s c h i t z 连 续的，而不要求可微，有界等。 第四章研究了c o h e n g r o s s b e r g 神经网络模型的渐近稳定性，通过构造 l y a p u n o v 方法得到了渐近稳定的判定条件。在既不要求连接权矩阵是对称的， 也不要求激活函数和自信号函数是单调的和可微的情形下，通过构造一个新颖的 l y a p u n o v 泛函，得到了多离散时滞c o h e n g r o s s b e r g 神经网络存在唯一的平衡点 和全局渐近稳定性的充分的判定条件。这些判定条件是和时滞的大小无关的，并 且时滞在这些条件下是无害的。扩充了原有已知结果。 第五章研究了带不同时滞的2 个神经元系统的渐近稳定性，通过构造 l y a p u n o v 泛函得到了带不同时滞的2 个神经元系统平衡点的渐近稳定性的一些 新的充分条件。 第六章总结与展望。 7 中南大学硕士学位论文第二章预备知识 2 1 引言 第二章预备知识 本章主要介绍论文中所用到的一些基本理论，主要包括稳定性的概念及其判 定定理等。 稳定性的概念，最早源于力学。一个刚体或一个力学系统具有某一平衡状态， 在有微小的干扰力作用下，这种平衡态或者几乎保持，或者受到破坏，这就是稳 定与不稳定的雏形。但是，人们普遍认为，稳定性的一般理论和方法的形成，是 开始于俄国数学力学家l y a p u n o v 在1 8 9 2 年完成的博士论文“运动稳定性的一般 问题 。他将由p e a r l 、b e n d i x s e n 和d a r b o u x 等人建立的微分方程解对初值和参 数的连续依赖性这一概念，由自变量( 时间) 在有限区间上变化拓宽到无穷区间之 上，科学地给出了系统中运动是稳定和渐近稳定的概念；他从类似系统总能量的 物理概念得到启发，提出了后来被人们称为l y a p u n o v 函数的概念，将一般n 阶 微分方程组中扰动解渐近性质的讨论归结为讨论一个能量函数( l y a p u n o v 函数) 及其对系统的全导数的一些特性的研究。成功地避开了讨论n 阶微分方程组的解 的困难，从而建立了稳定性理论研究的框架。 2 2 稳定性的几个概念 本节的相关内容及定理证明参见参考文献【l 】。 考虑用微分方程组描述的_ 般非自治系统： y = g ( t ，) ，) ( 2 1 ) 其中qcr “，q 为含原点的f 空间的n 维开子集，gec 1 x q ，r “】保证方程组 解的唯一性。 设y = 认f ) 是( 2 1 ) 式的一个未受扰动的解，即烈岛) = 是已知的，y = 伊( f ) 是( 2 1 ) 式的任意一个已被扰动的解，即y ( f ) = + 作变换：工( f ) = ) ，( f ) 一a t ) 则 ( 2 1 ) 式化为： 工。= g ( t ，j + 认f ) ) 一g ( t ，烈f ) ) = f ( t ，j ) ( 2 2 ) 设，c i x f l ，r “】，保证( 2 2 ) 式的右行解的整体存在唯一性，对任意的t 当且仅当l = 0 ，f ( t ，工) 兰o ，从而工= 0 是( 2 2 ) 式的平凡解。因此，不失一般 性，今后，只研究( 2 2 ) 式的平凡解的稳定性。 8 中南大学硕士学位论文第二章预备知识 以“f 气，而) 表示方程( 2 2 ) 满足初始值i p = 而的解，设“f ，f o ，而) 在 t f 0 上有定义。严格地说，x ( t ，t o ，x o ) 是t ，t o ，矗的函数，不过，经常视岛，x o 为 参数，从而在研究i f ，t o ，x o ) 作为t 的函数的渐近性质时，就必须精细地考虑关于 k ，矗是否一致的问题，故有以下各种不同的稳定性定义。 定义2 1 称方程( 2 2 ) 的平凡解是稳定的，若v o ，v 气，3 8 ( e ，t o ) ，w o ， 当 o ，3 8 ( e ) ，当i l 上o l l o ， 当i l 而i i l _ t o + 丁( ，t o ，而) 时，有0 x ( f ，t o ，x o ) n e 。即x ( t ，t o ，) 一o 。 称方程( 2 2 ) 的平凡解是等度吸引的，若等度吸引定义中的t 仅依赖于气，而，不 而 0 ，盯 0 都很小。 注2 2 根据以上定义，不难得到各种稳定性，吸引性之间的关系： ( 1 ) 一致渐近稳定j 一致稳定稳定； ( 2 ) 一致吸引j 等度吸引吸引： ( 3 ) 全局一致渐稳j 全局拟一致渐稳j 全局等度渐稳j 全局渐稳； 9 中南大学硕士学位论文 第二章预备知识 ( 4 ) 对于自治系统而言，平凡解稳定与一致稳定等价；平凡解一致渐近稳定 与渐近稳定等价。 2 3l y a p u n o v 函数 如果方程( 2 2 ) 的解是可以得到的，则其解的稳定性可以根据定义直接获得。 然而，这种情形在实际中极少见。因此，有必要寻找其它方法可根据方程右端的 函数直接判定其稳定性。 1 8 9 2 年，a v i l y a p u n o v 在著作运动稳定性的一般问题中提出了两中方 法：第一种方法，把一般解表示成某种级数形式，研究其稳定性即所谓的 l y a p u n o v 第一方法( 也称为l y a p u n o v 间接方法) ：第二种方法是寻找具有某种性 质的辅助函数( 即l y a p u n o v 函数) y ：，q r ，直接根据方程右端函数判定解的 稳定性，称为l y a p u n o v 第二方法( 也称为l y a p u n o v 直接方法) 。l y a p u n o v 第一方 法由于实用上的限制，很少发展。而l y a p u n o v 第二方法的优点在于避开求解n 阶 非线性微分方程组的困难而改为讨论两个函数y 与y 的性质，并对y 作为时间的 函数做出估计从而使问题得以解决。对于非线性系统和变参数系统，由于可以根 据其近似线性定常系统或根据系统中能量等第一积分来构造l y a p u n o v 函数，加 之l y a p u n o v 方法又常同最优控制、自适应控制及系统设计等领域密切相关，因 而使这一方法在众多领域中展现出很好的应用前景。就作为理论研究来说， l y a p u n o v 第二方法也已经超越了讨论常微分方程的范围，而成为定性理论、动 力系统及系统理论的研究对象和方法。 所谓l y a p u n o v 函数v ：，q r ，是指满足下述一般性假定的函数： ( 1 ) y ( f ，工) c i x f l ，r 】，即y 是一阶分块连续可微或一阶连续可微的； ( 2 ) v ( t ，0 ) 兰0 ，v f i 设qc 尺4 ，q 为含原点的r 4 空间的以维开子集，c t a ，r i ，w ( o ) = 0 。 定义2 9 称函数w ( x ) 在q 上正定( 负定) 。若在q 上w ( x ) 0 缈( 工) 0 ) ， 且( 工) = 0 仅有零解j = 0 。 正定，负定函数统称为定号函数。 定义2 1 0 称函数w ( x ) 在q 上半正定( 半负定) 。若在q 上， w ( 工) 06 v ( x ) 0 ) ，且w ( 工) = 0 仅有非零解x = x o 0 。 半正定( 半负定) 函数又称为常正( 常负) 函数：常正( 常负) 函数统称为 常号函数。 定义2 1 l 称函数v ( t ，j ) 、w ( x ) 在i x d 上为变号的。若v ( t ，x ) 、w ( x ) 在其 定义域上可正可负。 1 0 中南大学硕j ：学位论文第二章预备知识 定义2 1 2 称函数w ( x ) 在尺“上为无穷大正定。若w ( x ) 正定，且0 工0 时， 蕴涵w ( x ) 一佃。 定义2 1 3 称函数v ( t ，功ec 1 x ，r 】为正定( 负定) 的。若存在正定( 负定) 函数w ( x ) ，使v ( t ，工) w ( 工) 【y ( f ，工) w ( 工) 】在，q 上成立，且v ( t ，0 ) = 0 ；称 v ( t ，z ) 在i x d 上半正定( 半负定) ，若v ( t ，工) 0 【一v ( t ，工) 0 】。 定义2 1 4 称函数v ( t ，x ) 具有无穷小上界，若存在正定函数w ( x ) 使 i v ( t ，工) i w ( 工) ；称v ( t ，石) 具有无穷大下界，若存在无穷大正定函数w e ( 工) 使 i v ( t ，工) i w ；( 工) 。 2 4 稳定性判定定理 l y a p u n o v 直接法是整个稳定性理论的核心方法，l y a p u n o v ( 18 9 2 ) 提出的 稳定性定理，渐近稳定性定理及2 个不稳定性定理，奠定了运动稳定性基础，被 誉为基本定理。 定理2 1 对于系统( 2 2 ) ，若在某区域q = ( f 。曲：f t o ，i l x l l o 使得 k ( “) 一( v ) l 以k v i 成立。 显然乃是r 上的有界连续函数，特别地，如果( “) = 互l ( i “+ l i 一卜一l i ) ，则乃 显然具有( 日。) 和( 日2 ) 的性质。 设“= ( 1 l i ，“2 ，) 是d c n n ( 1 ) 的平衡点，并作变量替换y j ( f ) = ( f ) 一u i 。 ( i = 1 ，2 ，n ) ，则( 3 1 ) 可化为 疗 m ( f ) = - c l 咒( f ) + 嘞( f j ( u + “( t ) ) - f j ( u ) ) + ( 乃 j + “，o 一0 ) ) 一f j ( u j ) ) ( 3 2 ) 户i t = i 易知，系统( 3 2 ) 的零解的稳定性对应了系统( 3 1 ) 的平衡位置雎的稳定性。 3 2 常时滞细胞神经网络的稳定性分析 定义3 1 称“ - ( u i , u ：，u n 。) 是系统( 3 1 ) 的平衡点，如果满足 - q u ；。+ ( 嘞+ 圻( u ) + i = o ，i = 1 ，2 ，厅。 ( 3 3 ) j = l 引理3 1 m 1 对于神经元输出函数乃( j = 1 ，2 ，厅) ，如果具有性质( 日。) 和 ( 日2 ) ，则d c n n ( 3 1 ) 必存在唯一的平衡点。 引理3 2 1 2 1 设输出函数乃( j = l ，2 ，以) 满足性质( q ) 和( h ：) ，则系统( 3 1 ) 的所有解在【0 ，扣) 均有界。 引理3 3 ( b a r b a l a t ) 1 3 1设函数f ：r + 寸r 一致连续，且，g o ，佃) ，则 ，l i r a 们) = o 。 定理1 对d c n n ( 3 1 ) ，若输出函数乃( j = l ，2 ，疗) 满足以上假设( q ) 和( 日2 ) ，且系统参数嘞，g j ( i ，j = l ，2 ，n ) rp l 满足下列条件之一： ( i ) 陋j ( i a 0i + i i ) ( p - d + a , ( 1 a 乒6 ，fi ) 】 p q ( f f ) ( p - i ) ( i a 0i + ，i i ) + ? l a i 峭i i 】 p q ( f 豇) ( p - 1 )