（计算数学专业论文）几类神经网络模型的动力学分析.pdf

摘要 本文探讨了几类神经网络的动力学行为。首先，我们给出了离散型细胞神 经网络存在全局吸引的概周期序列解和肛概周期序列解的新结果。我们的结果 是基于神经网络的参数，不仅容易验证而且能为神经网络在实际应用中的实时 计算提供出相应的数值估计。我们还进一步发展了适用于具有分段常数项微分 方程的w a 三e w s k i 类型拓扑方法，并利用它来研究具有分段常数项神经网络解的 定性行为。其次，通过利用l a y p u n o v 泛函和不等式技巧我们给出了具有非线性 脉冲的双向联想记忆神经网络平衡点的存在性和全局指数型稳定性。此外，我 们还探讨了具有有限分布时滞的脉冲双向联想记忆神经网络指数型周期吸引子 的动力学行为。最后，我们研究t c o h e n g r o s s b e r g 神经网络的一些动力学特性。 通过利用l a y p u n o v - k r a s o v s k i i 泛函和同胚映射原理，我们得到了具有传输时滞 和h e b b i a n 类型学习行为的二阶c o h e n g r o s s b e r g 神经网络平衡点稳定性的一些 结果。我们的结果不仅给出了平衡点的全局指数型p - 稳定，还给出了神经元在学 习过程中的指数型收敛行为。对于具有分布时滞的脉冲c o h e n - g r o s s b e r g 神经 网络，我们给出平衡点稳定性的充分条件不仅容易验证，而且我们不需要行为 函数的可逆性和激活函数的有界性。我们的结果适用于一般c o h e n - g r o s s b e r g 神 经网络的应用和设计。 关键词：神经网络模型，离散模型，概周期序列解，平衡点，全局稳定性。 a b s t r a c t i nt h i st h e s i s w ei n v e s t i g a t ed y n a m i cb e h a v i o r so fs e v e r a lc l a s s e so fn e u r a l n e t w o r k s f i r s t w ed e r i v en e wc r i t e r i af o rt h ee x i s t e n c ea n dg l o b 出a t t r a c t i v i t y o fa l m o s tp e r i o d i cs e q u e n c es o l u t i o na n dn - a l m o s tp e r i o d i cs e q u e n c es o l u t i o no f d i s c r e t e - t i m ec e l l u l a rn e u r a ln e t w o r k s t h e s ec r i t e r i ab a s e do ns y s t e mp a r a m e t e r s a r ee a s yf o ru st oc h e c k 0 u rr e s u l t sc a na l s op r o v i d eu sw i t hr e l e v a n te s t i m a t e s o nh o w p r e c i s es u c hn e t w o r k sc a np e r f o r md u r i n gr e a l - t i m ec o m p u t a t i o n si na p - p l i c a t i o n s f u r t h e r m o r e ，w ed e v e l o pat o p o l o g i c a la p p r o a c ho fw a 2 e w s k i - t y p e w h i c hi ss u i t a b l ef o rd i f f e r e n t i a le q u a t i o n sw i t hp i e c e w i s ec o n s t a n ta r g u m e n tt o i n v e s t i g a t eq u a l i t a t i v eb e h a v i o ro fc e h u l a rn e u r a ln e t w o r k sw i t hp i e c e w i s ec o n - s t a n ta r g u m e n t s e c o n d l y b yu s i n gl a y p u n o v - k r a s o v s k i if u n c t i o n a la n di n e q u a l - i t yt e c h n i q u e ，s o m es u f f i c i e n tc o n d i t i o n sf o rt h ee x i s t e n c ea n dg l o b a ls t a b i l i t yo f e q u i l i b r i u ma r ea t t m n e df o rb i d i r e c t i o n a la s s o c i a t i v em e m o r y ( b a m ) n e u r a l n e t - w o r k sw i t hn o n l i n e a ri m p u l s e s t h ee x p o n e n t i a ls t a b i l i t yo fp e r i o d i cs o l u t i o n s f o rb a mn e u r a ln e t w o r k sw i t hf i n i t ed i s t r i b u t e dd e l a y si sa l s od i s c u s s e d a t l a s t ，w ed i s c u s sd y n a m i c a lp r o p e r t i e so fc o h e n g r o s s b e r gn e u r a ln e t w o r k s b y u s i n gl a y p u n o v - k r a s o v s k i if u n c t i o n a la n dh o m e o m o r p h i s mm a p p i n g ，s o m e n e w s u f f i c i e n tc o n d i t i o n sa r ee s t a b l i s h e df o rg l o b a le x p o n e n t i a lp - s t a b i l i t yo fau n i q u e e q u i l i b r i u mf o rs e c o n do r d e rc o h e n g r o s s b e r gn e u r a ln e t w o r k sw i t ht r a n s m i s s i o n d e l a y sa n da nu n s u p e r v i s e dh e b b i a n t y p el e a r n i n gb e h a v i o r m o r e o v e r ，t h el e a r n - i n gd y n a m i cb e h a v i o ro fn e u r o n si sa l s og i v e n f o ri m p u l s i v ec o h e n g r o s s b e r g n e t w o r k sw i t hd i s t r i b u t e dd e l a y s ，t h eo b t a i n e dr e s u l t so fs t a b i l i t yo fe q u i l i b r i u m a r ee a s yt ov e r i f y , m e a n w h i l ew er e m o v et h eb o u n d e d n e s so fa c t i v a t i o nf u n c t i o n s a n di n v e r t i b i l i t yo ft h es u i t a b l eb e h a v e df u n c t i o n s i ti sb e l i e v e dt h a tt h e s er e s u l t s a r es u i t a b l ea n du s e f u lf o rt h ed e s i g na n da p p l i c a t i o n so fg e n e r a lc o h e n g r o s s b e r g n e t w o r k s k e y w o r d s ：n e u r a ln e t w o r k s ，d i s c r e t et i m em o d e l ，a l m o s tp e r i o d i cs e q u e n c e s o l u t i o n ，e q u i l i b r i u m ，g l o b a ls t a b i l i t y 插图 2 1 连续型神经网络( 2 1 9 ) 的动力学行为 3 1 2 2 离散型神经网络( 2 1 1 0 ) 的动力学行为 3 2 2 3 概周期序列解分量 z 1 ( n ) 和连续分量z 1 ( t ) 的比较 3 2 2 4 概周期序列解分量 z 2 ( n ) 和连续分量z 2 ( t ) 的比较 3 3 2 5 系统( 2 2 1 0 ) 的概周期序列解z 4 9 2 6 系统( 2 2 1 0 ) 的0 2 一概周期序列解z 5 0 2 7 系统( 2 2 1 0 ) 的0 2 一概周期序列解丁和系统( 2 2 8 ) 连续解t 的比较 5 0 2 8 系统( 2 2 1 0 ) 的o 0 1 一概周期序列解z 和系统( 2 2 8 ) 连续解z 的比较 5 1 2 9 连续型神经网络( 2 3 1 3 ) 的动力学行为 6 4 2 1 0 混合神经网络( 2 3 1 4 ) 在多面集最1 内存在一个解 6 5 2 1 1 混合神经网络( 2 3 1 4 ) 在多面集忍内存在一个解 6 5 2 1 2 混合神经网络( 2 3 1 4 ) 的动力学行为 6 6 4 1 具有学习行为和传输时滞的c g n n ( 4 1 1 2 ) 的动力学行为1 1 3 4 2 具有学习行为和传输时滞的c g n n ( 4 1 1 2 ) 突触学习动力学行为1 1 3 第一章绪论 1 1引言 近几十年来，随着计算机、航天科技、机械工程和测控技术等诸多应用学 科的发展，人们对于复杂系统动力学研究非常的迫切，探求在各种不确定和非 线性因素影响下复杂系统状态的演化规律成了各种应用科学发展急需解决的问 题。因此动力学在研究深度和广度上都得到了重要的发展，新的研究领域也不 断的出现，如分歧、混沌动力学、h a m i l t o n 系统、高维系统的伞局摄动以及非光 滑系统等等。由于现实世界动力系统的复杂性以及人们在实际应用中需要对系 统状态的实时检测、控制的需要，研究非线性动力系统的复杂行为成为非线性 科学中一个长久不衰的重要课题。自从上世纪四五十年代开始，人类出于对自 身神经系统研究和信息处理智能化的需要，逐步发展起来一门新兴的学科，即 人工神经网络。由于神经网络是基于模拟人脑神经系统工作机理而提出来的， 它在处理信息方面更接近人脑的信息处理模式，并且具有其自身的特点：它不 仅能处理连续的模拟信号，也能处理混沌的、不完全的模糊信息；基于分布式 的工作原理，各个部分相互协调、参与运作；具有简单的处理单元、海量的神经 元和复杂的结构，因此它具有很好的容错性、海量的计算能力、很强的学习能 力和自适应性等优点。正是由于神经网络具有这些传统计算机等信息处理系统 所不具备的优势，因而它在智能控制、信号处理、优化计算、模式识别和智能计 算上具有重要的应用价值。伴随着神经网络在各个不同领域的应用，不可避免 地出现了扩散、周期或者概周期扰动、随机扰动、脉冲、时滞、混沌以及分歧等 现象。这些因素导致了在神经网络实际应用中，人们无法准确、有效地对神经 系统进行实时的状态检测、控制，给应用带来了困难。因此探求神经网络复杂 的动力学行为，不仅能为神经网络的实际应用提供必要的理论基础，也能推动 神经网络的研究在深度和广度上得到长足的发展。 1 2 神经网络概述 人们对于神经网络的研究从2 0 世纪4 0 年代就开始了。1 9 4 3 年，精神病学 家、解剖学家m c c u l l o c h 和数学家p i t t s 结合神经生理学和数理逻辑的研究提出 2 几类神经网络模型的动力学分析 了一种人工神经网络模型 2 1 4 1 ，简称m p 模型。该神经元模型假定遵循一种 所谓“有或无”( a l lo rn o n e ) 规则，原则上可以计算任何可计算的函数。这是 一个意义重大的结果，它标志着神经网络和人工智能学科的诞生。神经网络 的第二个重要发展是在1 9 4 9 年h e b b 出版了行为组织学，他第一次清楚地说 明了突触修正的生理学学习规则。这本书成为学习系统和自适应系统的计算 模型发展的重要理论基础。后来计算机科学家r o s e n b l a t t 提出了感知器模型网 络 2 1 5 】以及w i d r o w 和h o f 醍出了自适应线性神经元模型 2 1 6 以及6 一学习规则， 也在很大程度上推进了神经网络的发展。然而自从六十年代人工智能创始人 之一的m i n s k y 和p a p e r t 提出了感知器式的神经网络对于认知群不变性无能为 力的观点后，许多学者把研究兴趣转移到了人工智能和数字计算机上。神经网 络的研究在7 0 年代陷入了低谷。八十年代，美国学者h o p f i e l d 吸取了w i e n e r 控 制论中关于应用统计力学方面的思想，把统计力学和学习系统联系起来研究 神经网络，取得了丰硕的成果。特别是在1 9 8 2 年，他利用能量函数发展出一套 利用回归网络实现计算的方法，他的模型就是非常著名的h o p f i e l d $ 经网络模 型 2 1 7 1 。该网络模型基于磁场结构特征提出来的，可以用微电子器件来实现。这 种神经网络模型通常可以用如下微分方程来描述： g 掣：一警4 - 妻巧鸲z 1 2 ，”。 1 j = 1 其中电阻尼和电容g 并联，模拟生物神经元的特性；电阻1 正f 则模拟突触特性； 电压讹表示第i 个神经元的输入；运算放大器k = g i ( u ) 表示输出。h o p f i e l d 神经 网络模型的引入成为神经网络研究领域一个重要的里程碑。 受到h o p f i e l d 神经网络理论的启发，1 9 8 8 年美国著名学者c h u a y s q y a n g 提出 了细胞神经网络模型 4 ，6 】： c 掣：一掣+ a i , j ；k , l v y k l 2 c ( k o e n , - ( i d ) + ： e ，j ；k ，t v , , k l ( t ) + z q ，1 i m ，1 j n ， c ( k ，o e n r ( i s ) 输出方程为 v y i 3 ( t ) = ，( u 嘶( ) ) ，l i m ，l j n ， 其中( ) ，v 可k t ( t ) 和v u k l ( t ) 分别表示细胞c ( i ，j ) 状态、输出和输入信号( 或者电 压) ；z i j 表示偏差电流( 或者阈值) ，c 和见分别表示线性电容和电阻，a i ，讹l 和b i ，讹f 第一章绪论3 分别表示反馈算子和控制算子，称a 囊t ，为自反馈算子，为输出函数，一般由 分段线性函数f ( o ) = ；( i p + 1 i i p 一1 i ) 给出。细胞神经网络是目前最流行的人 工神经网络之一，它的每一个基本电路单元称为一个细胞，包含线性电容、线 性电阻、线性和非线性控制电源及独立电源。在网络中，每一个细胞只与其临 近的细胞直接相互作用，由于网络连续时间动力性的传递作用，没有直接联系 的细胞也存在间接的影响。通过将细胞按照一定的方式重新排列，该模型从形 式上也可改写为： 型d t - - - - r i l l i 售q 洲删地i = 1 , 2 , - - - , n , 其中珏i 表示第i 个细胞的状态；厶是由输入、控制模块和偏差构成的常数，表示网 络的输入；厶为输出函数，或称为激活函数。在生物神经网络中，存在着细胞时 滞、传递时滞以及突触时滞等现象。在人工神经网络中，在信号传递、电路中的 开关等方面不可避免也会出现时滞。因此，r o s k a 和c h u a 3 9 在细胞神经网络中 引入线性时滞模块和非线性模块，得到了以下非线性时滞细胞神经网络： c 掣= 一掣+ a i d ；k , t ( v y “巩) ， + 鼠j ；七，l ( 钆斛( ) ，u 喇( 亡) ) c ( 南，f ) r r “j ) + a 0 走l ( v v k i ( t 一下) ，口痢( 亡) ) ” c ( 血，) r r a j ) + 芝_ 二b 易；七，t v u 凫d ( t 一丁) + 锄，1 i m ，1 歹n ， c ( 七，z ) r ( j ) 当模块为线性时，通过对细胞重排，时滞细胞神经网络在形式上可以改写为： 掣：一讹+ 妻a i j f j ( u j ) + 壹n 弓f j ( u j ( 亡叫) 地i - 1 ，2 ，仡。 j = lj = l 上述时滞细胞网络模型在文献中被广泛研究。由于网络电路中放大器的有限开 关速度和电路误差的时滞都是连续的，因此上述模型自然地被推广到以下具有 变时滞的细胞神经网络： 掣= 1 乱球) + 壹a , j ( u ， ) + 壹。捌啪一们) ) ) + 厶，i = 1 , 2 , - - - ，n 4 几类神经网络模型的动力学分析 关于时滞神经网络的动力学研究成果很多，我们可以参考相关文献f 1 2 ，4 ，6 ，2 2 3 由于细胞神经网络是一个大规模非线性模拟系统，它具有细胞之间的局部连接、 分段线性的输出信号和连续实时信号处理等特点，从而便于实现大规模集成电 路，提高运行速度。因此它在图象处理、生物视觉以及信号处理等领域有广泛 的应用。因此以下具有变系数的一般模型： 掣= - - r i 蜊+ 壹n 以) f j ( u ，( t - 碘) ) ) j = l + ( t ) 翰(ts)乃(s)ds+圳，江1，2，礼t i 一1 ，- a ( t ) 、7 在细胞神经网络理论研究以及其他领域的应用方面更具有代表性，引起了学 者们的广。泛关注。上述时滞细胞神经网络模型包含了周期、概周期、离散时滞、 变时滞、有限分布时滞以及无穷分布时滞的细胞神经网络，其相关动力学研 究包含了平衡点、周期解以及概周期解的存在唯一性和全局指数型( 渐进) 稳定 性 1 2 ，1 1 1 5 ，1 7 ，4 1 ，2 2 5 - 2 3 8 】。值得我们关注的是，h a r r e r 和n o s s e k 2 4 4 提出了以 下离散时间的细胞神经网络： z 妇( n ) = a 漱z y 七z ( n ) +s i j ；k , l 让削( 几) + 勺， c ( k ，o e n r ( i , j )c ( k ，t ) e n ，( i , j ) 输出方程为 i1 ，x k l ( n ) 1 ， y k l ( n ) = g ( x k z ( n 一1 ) ) = x k l ( t l 一1 ) ，当( 礼) i 1 ， l 一1 ，x k l ( n ) - 1 关于该离散时间的细胞神经网络模型介绍、理论研究和实际应用，我们可以参 考h a r r e r 和n o s s e k 2 4 4 2 4 5 及其所引文献。对于离散时间的细胞神经网络推广 模型的系统研究，我们可以参考文献 1 7 2 0 ，5 2 ，7 5 】细胞之间的连接是局部的神 经网络都可以称为是细胞神经网络，不同的细胞动力性和细胞之间的耦合规 律对应着不同类型的细胞神经网络，目前这方面的研究包含了r t d 细胞神经 网络 2 2 9 2 3 1 1 ，高阶细胞神经网络【2 3 1 】，自控细胞神经网络【2 3 2 2 3 3 1 ，基于信息 交换的细胞神经网络 2 3 4 2 3 5 j ，w t a 细胞神经网络 2 3 6 1 ，分流抑制细胞神经网 络 1 5 ，2 3 7 】，模糊细胞神经网络 2 2 7 - 2 2 8 】以及脉冲细胞神经网络 2 3 8 1 等等。 第一章绪论5 在此期间，k o s k o 也提出了被称为双向联想记忆神经网络的模型 2 1 8 - 2 1 9 ： e 莲 s ( y j ) + 五， b i j s ( x j ) + 五， 这种网络由i 和j 两层构成，每层有m 个神经元组成。该模型描述了神经网络在 进行联想时，网络可以实现在两层神经元之间来回传递信息，从而模拟人脑异 联想的思维方式。后来h i n t o n 等人提出了b o l t z m a n n 机模型2 4 6 】，b o l t z m a n n 机 是由随机神经元组成的随机机器，它的两个突出特征就是随机神经元( 可见部 分功能组和隐藏部分功能组) 和对称的突触连接。b o l t z m a n n 机具备有学习能力 的目的就是产生一个神经网络，根据b o l t z m a n n 分布对输入模式进行正确的建 模。特别是它借助统计物理方面的理论和方法来引入模拟退火算法，非常适用 于设计分类和学习算法方面的研究。关于模式识别以及算法方面的研究，r o b e t h e c h t n i e l s e n ( 参见文献 2 4 6 ) 将特征映射网络与基本竞争型网络结合起来构 成的反向传播神经网络( 简称c p 网络) 也是一种重要的神经网络模型，它们对于 模式分类、学习算法、数据压缩以及统计分析等有重要的应用价值。最后值得 我们一提的是1 9 8 3 年c o h e n 和g r o s s b e r g 提出了竞争、合作模型用以产生自组织、 自适应的神经网络模型，臣p c o h e n g r o s s b e r g 神经网络模型f 5 ，2 2 0 ： r m 1 面a x i = - d i ( x 讣一玩( 戤) + c j g j ( z j ) 1 lj = lj c o h e n 和g r o s s b e r g 建立的是包括时间连续的h o p f i e l d 神经网络作为特例，评 价按内容寻址记忆的一般原则。吸引子神经网络具有一个与众不同的特征 就是以自然的方式证明自己处于网络非线性动力学中，在这种背景下产生 的c o h e n g r o s s b e r g 定理对以后神经网络动力学研究产生了重要的影响。由 于c o h e n g r o s s b e r g 神经网络对于聚类、联想记忆、并行计算以及优化问题有 广泛的用途，很多学者如c a oe ta 1 1 3 3 ，w a n g 和z o u 1 3 4 - 1 3 5 1 ，c h e n 和r o n g 1 3 6 - 1 3 7 ，l u 和c h e n 1 3 8 ，s o n g 和c a o 1 3 9 ，l i a oe ta 1 【1 4 0 ，y u a n 和c a o 【1 4 1 ， r o n gf 1 4 2 ，y ee ta 1 【1 4 3 等系统地研究了其相关的稳定性质并取得了丰硕的成 果。 神经网络从m c c u l l o c h 和p i t t s 的早期研究算起已走过了很长一段路，而 对于2 0 世纪8 0 年代神经网络兴趣的复兴要归功于h o p f i e l d 在1 9 8 2 年发表的文 6几类神经网络模型的动力学分析 章 2 1 7 和r u m e l h a r t 以及m c l e l l a n d 在1 9 8 6 年出版的两卷集著作工具：综合心 理学的实验。近几十年来，神经网络得到了迅速的发展并且已确立了它们作为 根植于神经科学、心理学、数学、物理学和工程的交义学科地位，它不仅仅研究 范围不断的扩大，而且还将渗透到更多不同的应用领域。总之，一方面目前神 经网络在动力学方面的研究，需要不断的吸收其他领域的新方法、新理论来加 以应用和发展。另一方面，神经网络是基于模拟神经系统机理而提出的数学模 型，它的发展必然需要神经科学、心理学和认知科学等领域的科学研究不断地 深入从而相互推进，在理论、设计和应用上继续深入。 1 3 研究现状 自从神经网络被提出来之后，其动力学方面的研究一直是神经网络理论研 究的一个重要方面。国内有如j d c a o ，l h h u a n g ，t p c h e n ，z b x u ，a p c h e n ，z d w a n g ，x f l i a o ，y k l i ，w l l u ，z g z e n g ，j w a n g ，d y x u ，z d t e n g ，h y z h a o ，s j g u o 等学者们一直致力于神经网络的动力 学方面的研究，并取得了丰硕的成果( 参见 2 2 1 2 2 3 ) 。作者就结合本文的研究内 容，介绍几类神经网络模型动力学方面的研究状况。自从c h u a 并口y a n g 提出细胞 神经网络模型f 4 ，6 1 以来，有关细胞神经网络动力学方面的研究结果非常多。许 多学者通过利用l y a p u n o v 函数，m 一矩阵理论，谱理论，比较原理，线性矩阵不 等式，非光滑分析，不等式技巧，拓扑度等各种不同的方法分别研究了细胞神 经网络平衡点的存在唯一性和全局指数型( 渐近) 稳定性，周期解以及概周期 解的存在性和全局稳定性等等，我们可参见文献1 2 ，4 ，6 ，1 1 1 6 细胞神经网络 模型也由原来研究自治情形到现在研究了非自治情形，由原来没有考虑时滞到 现在研究了一大类具有离散时滞、变时滞、有限分布时滞以及无穷分布时滞的 神经网络模型，模式上由原来的单个平衡点到现在研究了多个稳定的平衡点、 多个局部吸引的周期轨道等等( 参见 1 ，1 1 1 2 ，1 4 ，4 1 ，2 2 4 2 2 6 1 ) 。模型本身也逐步 发展到r t d 一细胞神经网络 2 2 9 2 3 1 1 ，高阶细胞神经网络 2 3 1 1 ，自控细胞神经网 络 2 3 2 2 3 3 1 ，基于信息交换的细胞神经网络 2 3 4 - 2 3 5 1 ，w t a 一细胞神经网络 2 3 6 】， 分流抑制细胞神经网络 1 5 ，2 3 7 ，模糊细胞神经网络 2 2 7 - 2 2 8 1 以及脉冲细胞神经 网络 2 3 8 1 等等模型。在神经网络的实际应用和数值模拟仿真中，神经网络的离 散化是必不可少的。我们通常采用的是e u l e r s g l r u n g e - k u t t a 方法，这往往会出 现伪平衡点或者伪稳定行为f 4 9 5 1 】值得注意的是文献 1 7 - 2 0 使用半离散技巧 第一章绪论 7 来导出离散神经网络模型并系统地研究了离散型神经网络平衡点存在性和全局 稳定性并指出在不需要对离散步长加以限制下，离散模型能有效地保持连续型 神经网络的动力学行为。然而这些结果仅局限于自治的网络，关于非自治细胞 神经网络离散模型的研究不多，特别是在概周期环境下细胞神经网络离散模型 的研究更是少见。 对于双向联想记。i z ( b a m ) 神经网络，许多学者如k o s k o 9 1 9 2 ，g o p a l s a m y 和h e 9 3 ，c a o 9 4 ，9 6 ，9 9 1 0 0 ，l i a o 9 5 1 ，l i 9 8 1 ，l i u 1 0 3 】以及相关文献p 0 4 - 1 0 6 ，1 1 6 - 1 2 1 1 深入地研究了b a m 神经网络平衡点的存在性及其稳定性的判据条 件。其g o p a l s a m y 和h e 9 3 禾u j 用l y a p u n o v 泛函方法讨论了b a m 神经网络的稳 定性：c a u d 9 6 】则分析了在信号传输时滞下b a m 神经网络的指数型稳定性和周 期振动解；d a n i e lw c h oe ta 1 1 1 6 】利用线性矩阵不等式和具有时滞、脉冲的 微分不等式研究了高阶脉冲b a m 神经网络得到了平衡点的全局指数型稳定的 判据；关于脉冲b a m 神经网络的相关结果，我们也可以参考文献 9 7 - 9 8 ，1 0 3 ，1 0 , 5 - 1 0 6 1 。近来也有很多学者考虑了b a m * * 经网络的鲁棒指数型稳定，h o p f 分支以 及具有反应扩散或随机的b a m 神经网络 2 4 0 - 2 4 3 然而具有时滞和非线性脉冲 的b a m 神经网络动力学行为报道的不多，这类神经网络不仅包含普通脉冲神经 网络还包含非脉冲神经网络。 自从c o h e n - g r o s s b e r g 神经网络5 ，2 2 0 被提出来以后，由于其在模式识别、 联想记忆、并行计算以及优化问题有着广泛的用途，很多学者和科研人员系 统地研究了其相关的动力学行为( 包含平衡点、周期解以及概周期解等等) ， 女i c a oe ta 1 1 3 3 ，w a n g 和z o u 1 3 4 ，1 3 5 ，c h e n 和r o n g 1 3 6 - 1 3 7 ，l u 和c h e n 1 3 8 ， s o n g 和c a o 1 3 9 ，l i a oe ta 1 1 4 0 ，y u a n 和c a o ，r o n g 1 4 2 】，y ee ta 1 1 4 3 等等。 其中y ee ta 1 1 4 3 将时滞引入t c o h e n g r o s s b e r g 神经网络并分析了以下模型 的稳定性： 。，、广k t l 1 掣= 飞( 硎) l b i ( x i ( t ) ) 一屹缈( ( t 一仉) ) l ，江l ，2 ，仃， l k = 0j = l j y u a n 和c a o 1 4 1 】，c h e n 和r o n g 1 3 6 1 ，w a n g 和z o u 1 3 5 分别利用了非光滑分析， 线性矩阵不等式，r a z u m i k h i n 技巧讨论了上述系统的渐近稳定性；l u 和c h e n 1 3 s 贝0 分析了上述系统的绝对全局稳定性。然而对于具有学习行为的c o h e n g r o s s b e r g 神 经网络 1 6 9 1 的研究结果不多。在h e b b i a n 类型学习过程中，c o h e n g r o s s b e r g 神 经网络平衡点的稳定性以及突触的学习动力学行为值得我们去探讨。关于具有 8几类神经网络模型的动力学分析 时滞的脉冲c 0 h e n g r o s s b e r g 神经网络模型也有大量的研究结果，我们可以参考 ：丈献 1 s 0 - 1 9 7 ，2 0 4 2 1 3 及其所引文献。然而大部分文献 1 3 4 - 1 3 5 ，1 4 0 ，1 7 5 ，1 9 8 ：i 孺 要酊1 的存在性和激活函数的有界性，这就限制了c o h e n g r o s s b e r g 神经网络的 应用范围。通过利用不同的分析手段去掉这些限制条件是c o h e n g r o s s b e r g 神经 网络在理论上和实际应用中值得去解决的问题。 1 4 本文的主要工作与创新点 1 4 1 主要研究内容 本文主要通过利用概周期理论、l a y p u n o v - k r a v s o v s k i i 泛函、m - 矩阵相关结 果、不等式技巧以及拓扑方法研究了几类神经网络模型复杂的动力学行为，包 括概周期序列解，仡一概周期序列解以及平衡点的存在性和稳定性等。全文分为 五章： 第一章概述了神经网络的发展j 力史以及目前的研究现状，指出了本文所研 究神经网络动力学的意义。 第二章我们分三节着重分析了离散型细胞神经网络的动力学行为。在第一 节中，我们考虑了以下离散型细胞神经网络模型： 以川一如矿“呐+ 1 1 - e - 矿 k ( n ) 萎协胤删州n ，) 一4 - ， 通过利用概周期序列的相关理论，我们讨论了离散模型( 1 4 1 ) 解的有界性、吸 引性及概周期序列解的存在性和全局吸引性，并给出了相关的充分判据。我们 的结果包含了周期序列解的情形。( 本节中定理的假设条件见相应各章节) 定理2 1 2 假设条件( 玩) 和( 玩) 成立，则离散模型( 1 4 1 ) 有唯一全局吸引 的概周期序列解x ( n ) ：( z ，( n ) ，z 2 ( 孔) ，一，z m ( n ) ) tc q 第一章绪论 9 z t ( c 凡+ 1 ，圪) - - x , ( n k ，e ，c p ( 一? + ”一吼c u ，砒) + ，隆( s ) 椭叫m ) e x p ( 一，n + 1 一啦c ，d u ) d s ， c 1 4 2 ， 通过提出肛概周期序列概念及给出相应的基本性质，我们得到了离散模 型( 1 4 2 ) 存在唯一全局吸引的k 一概周期序列解的结果： 定理2 2 2 假设条件( h 1 ) 和( 仍) 成立。离散模型( 1 4 2 ) 存在唯一的k 一概周期 序列解是全局吸引的，如果条件( 凰) ：。m s ，a ：x 。、+ 薹d o 岛) 1 成立。 定理2 2 3 假设条件( h i ) 和( 凰) 成立。离散模型( 1 4 2 ) 存在唯一的，c 概周 期蒯解是全局指数型删的，如果c 阶，m a x e - r * a i * - t - k ) t 成 当k = 1 时，我们的结果包含了概周期序列解的存在性和全局吸引性。 在第三节中，我们首先利用收缩原理研究了具有分段常数项的非线性微分 方程： 也( t ) = 夕( t ) + f ( 陋】，u ( 】) ) ， ( 1 4 3 ) 相应的初始条件为 u ( a ) = 仳口，( a ，乱口) q ( o ) ( 1 4 4 ) 我们得到了w a 三e w s k i 类型的结果： 定理2 3 1 如果对于每个k n ( o ) ，我们都有 ( i ) q ( 后) 在( 七，口) 一空间里是开的有界子集且简单连通的； ( i i ) v ( t ，u ) n 轨迹导数在棚七，七+ 1 上所有的点都是正的； 1 0 几类神经网络模型的动力学分析 ( i i i ) 存在一个丌七3 x o v 女, 七+ 1 到a q ( 七) 上的收缩映射。 则初值问题( 1 4 3 ) ，( 1 4 4 ) 存在一个解对所有的o 都有( ，让( t ) ) q 模型 通过利用正规多面集的概念，我们给出了具有分段常数项的细胞神经网络 百d x d t ) ：咱( 阶删) + 妻呲嗍( + 圳 ( 1 4 5 ) j = l 解的存在性定理： 定理2 3 1 假设关于系统( 1 4 5 ) 是正规的，则系统( 1 4 5 ) 存在一个连续 的解对于t 0 ，) ，i = 1 ，2 ，礼，我们有 啦( t ) 孔( t ) 屈( ) 当没有外界输入时，我们得到了以下离散细胞神经网络 a x i ( 老) = 一a i ( k ) x ( 老) + b , j ( k ) f j ( x j ( k ) ) ( 1 4 6 ) j = l 解的存在性结果： 推论2 3 2 假设( 七，z ) 岛( 七) ( k n ) ，t k ，k + 1 ) ，我们都有 i a i ( k ) x i + 6 巧( 七) 乃( 巧) 屈( t ) ， 当皿i ( t ，( k ，z ) ) = 屈( t ) 则系统( 1 4 6 ) 存在一个序列解 z ) ) 罢。满足对于后ni = 1 ，2 ，n ，我们都 有 q i ( 南) 戤( 七) 屈( 七) 第三章我们研究了两类双向联想记忆( b a m ) 神经网络模型。在第一节中， 第章绪论 我们研究了具有传输时滞和非线性脉冲的b a m 神经网络模型： 砚( 亡) = 一p i ( x t ( t ) ) + c l j f j ( y j ( t ) ) j = l p + p , j j ( y j ( t 一) ) + r i ，t 0 ，t t k ， j = l 玩( 如) = 厶( 甄( t k ) ) 。i = 1 7 27 。，几，k = 1 ，2 ， ( 1 4 7 ) y j ( t ) = - a ( y j ( t ) ) + ed j 吼( 戤( t ) ) i = 1 n + eq j i g i ( x i ( t 一乃 ) ) + 勺，t 0 ，t t k ， i = 1 a y j ( t 七) = 以( 可j ( 如) ) ，j = 1 ，2 ，p ，七= 1 ，2 ， 其中非线性脉冲具有以下形式： 8 ) 一x ：) d s ， ( s ) 一坊) d s ， ( 1 4 8 ) 通过利用m 矩阵和谱理论，我们得到了平衡点的存在唯一性以及解的估计式： 定理3 1 1 假设条件( h 1 ) 一( h 2 ) 成立。如果p ( ) 1 ，其中= c - 1 7 - d ，“= ( o n x n2 卜b a m 神经恻存在唯一的平衡点。 定理3 1 2 假设( 皿) 和( 吼) 成立，p l 且脉冲算子厶( 甄( t ) ) ，乃( 协( ) ) 满 足( 1 4 8 ) ，则存在正常数a 和m 1 使得系统( 1 4 7 ) ，( 1 4 8 ) 的解z ( t ) 对于t ( t k ，t k + 1 】，七z + 有 o 和z ( w ) q ，w ( 一o 。，0 】， 我们有 f 妻k ( 幻一蚓+ 壹姒幻一坊f 、 m e 0 壹；一蚓f + 壹慨一刚、 显然脉冲条件( 1 4 8 ) 可以有以下估计形式 i t 正i ( 七+ o ) 1 1 1 一m 七1 1 ( t 七) i - i - i 鼠( s ) i i 咄( s ) l d s ， v t k 一1 i v j ( t k - i - o ) i 1 1 一t k l l v j ( t k ) l + t ki 坞( s ) i i ( s ) i d s ， 1 49 ， ( ) t ， t 一l i = 1 ，礼，j = 1 ，p ，k z + 则我们得到两个不同的结果： 定理3 1 3 假设条件( h 1 ) - ( h 5 ) 成立且有p ( 加 1 ，如果脉冲算子厶( 玩( ) ) 和乃( 协( t ) ) 满足( 1 4 9 ) ，则存在正常数入和m l 使得系统系统( 1 - 4 7 ) ，( 1 4 8 ) 的 解z ( z ) ，对于t ( t 知，t k + 1 】，尼z + 有以下不等式成立 0 有 r n p 、r r t p 、 t 喜k 以) 一l + 善协o ) - 坊哆肌。弋善l l 忱川引l + 蔷i | 奶一刚， 第一章绪论1 3 在第二节中，我们考虑以下具有有限分布时滞的周期脉冲b a m 神经网络： 觑( z ) = 一a i ( t ) 翰( ) + c i j ( t ) f 3 ( y j ( t ) ) j = l 口 u + f p , j ( s ) f j ( y j ( t s ) ) d s + n ( t ) ，0 t 三， j = l0 a x i ( t k + 1