（应用数学专业论文）时滞静态神经网络模型的全局动力行为研究.pdf

时滞静态神经网络模型的全局动力行为研究 摘要 人工神经网络是目前国内外学者广为关注的一个相当活跃的研究领域，递归 神经网络作为人工神经网络的一种重要类型它在智能控制、模式识别、图像处理 非线性优化计算、传感技术等众多领域都有广泛的应用。由于受人为因素以及神 经元放大器有限转化速度和技术水平等客观因素的影响，运行中的网络出现时滞 现象是不可避免的。时滞现象不但会降低网络的传输速度而且常常会引起网络的 不稳定性，所以，研究具有时滞的神经网络系统的动力行为尤为重要。 根据系统基本变量选取的不同，递归神经网络的数学模型可分为静态神经网 络和局域神经网络。目前关于递归神经网络的研究大多集中于局域神经网络模 型，而静态模型的研究相对较少。然而，许多重要的神经网络却归结于静态模型。 因此，研究静态模型具有重要的理论意义和实用价值。对此，本文讨论了静态神 经网络模型，研究了其全局动力行为。 文章结构如下：本文分为五章，第一章是概论，首先介绍神经网络的背景知 识，然后介绍递归神经网络的相关知识和研究进展及本文问题。 第二章利用拓扑度理论和线性矩阵不等式的技巧研究了一类变时滞静态神 经网络全局指数稳定性，并给出实例说明本文给出的稳定性判据的实用性。 第三章利用l y a p u n o v 泛函研究了有限区间上s 一分布时滞静态神经网络模型 的全局指数鲁棒稳定性。 第四章介绍m a t l a b 在神经网络研究中的应用，建立了一种新豫i 型神经网络 的学习规则，这种规则能够保证，只要样本模式是可分的，通过此方法能得到使 样本可分的神经网络的权矩阵。利用m a t l a b 验证了第二章判据的正确性。 第五章提出今后研究的方向。 本文所得结论推广了已有文献的结论；介绍的方法实用有效，在理论和应用 上都有一定的价值。 关键词：变时滞；s _ 分布时滞；静态神经网络；全局指数鲁棒稳定性；全局 指数稳定性；拓扑度；学习算法。 gio b aid y n a mic aib e h a vio rso fs t a ricn e u r a in e t w o rk m o d elsw it htim ed eia y s a b s t r a c t a r t i f i c i a ln e u r a ln e t w o r ki sav e r ya c t i v er e s e a r c ha r e ai nr e c e n t y e a r s r e c u r r e n tn e u r a ln e tw o r k s ，a sa ni m p o r t a n tt y p eo fn e u r a ln e t w o r k s c a nb ea p p l i e di np a t t e r nr e c o g n i t i o n ，o p t i m i z a t i o n ，i m a g ep r o c e s s i n g ， a u t o m a t i c c o n t r o ls y s t e m s ，s i g n a lp r o c e s s i n ga n ds oo n t i m e d e l a y sa r e i n e v i t a b l ed u et ot h ea r t i f i c i a lf a c t o r s ，t h ef i n i t es w i t c h i n gs p e e do f a m p li f i e r sa n dt e c h n i c a ll e v e l ，a n ds oo n t i m ed e l a y sn o to n l yr e d u c e t h ev e l o c i t yo ft r a n s m i s s i o n ，b u ta l s oc a u s ei n s t a b i l i t ya n dp o o r p e r f o r m a n c eo fn e u r a ln e t w o r k s s oi ti si m p o r t a n tt or e s e a r c hd y n a m i c a l b e h a v i o ro fn e u r a ln e t w o r kw i t ht i m ed e l a y s b a s i n go nt h ed i f f e r e n tb a s i cv a r i a b l e s ，t h em a t h e m a ti c a lm o d e l o f n e u r a ln e t w o r k sc a nb ed i v i d e di n t ot w ot y p e s l o c a lf i e l dn e u r a ln e t w o r k m o d e l sa n ds t a t i cn e u r a ln e t w o r km o d e l s m o s tc u r r e n tr e s e a c h e sa b o u t r e c u r r e n tn e u r a ln e t w o r k sf o c u s e do nt h el o c a lf i e l dm o d e l s h o w e v e r ， s t a t i cm o d e l sa r ew i d e l yr e p r e s e n t i v e m a n yu s e f u ln e u r a ln e t w o r k sa r e m o d e l e da ss t a t i cm o d e l s s oi t i si m p o r t a n tt oi n v e s t i g a t et h es t a t i c m o d e l s i nt h i sp a p e r ，t h ea u t h o rg e n e r a l i z e st h es t a t i cm o d e l sa n d i n v e s t i g a t e st h e i rg l o b a ld y n a m i c a lb e h a v i o r s t h i sp a p e ri so r g a n i z e da sf 0 1 1 0 w s c h a p t e rli n t r o d u c e st h eg e n e r a l k n o w l e d g eo fn e u r a ln e tw o r k sa tf i r s t t h e ni st h er e l a t i v ek n o w l e d g e a b o u tr e c u r r e n tn e u r a ln e t w o r k sa n ds o m eq u e s ti o n sa b o u tt h i sp a p e r b a s e do nt o p o l o g i c a ld e g r e et h e o r ya n dt h e ii n e a rm a t r i x i n e q u a li t y ( l m i ) a p p r o a c h ，i nc h a p t e r2 ，an e wc r i t e r i o no fg l o b a l e x p o n e n t i a ls t a b i l i t yf o rs t a t i cn e u r a ln e t w o r k si sd e r i v e d ，a n da n e x a m p l ei se x p l o i t e dt os h o wt h eu s e f u l n e s so ft h e d e r i v e dl m i b a s e d s t a b i l i t yc o n d i t i o n s i nc h a p t e r3 ，t h ea u t h o ri n v e s t i g a t e st h eg l o b a le x p o n e n t i a lr o b u s t s t a b i l i t yo fs t a t i cn e u r a ln e t w o r km o d e l sw i t hs - t y p ed i s t r i b u t e dd e l a y s o naf i n i t ei n t e r v a l ，w ep r e s e n tat h e o r e ma n das e r i e so fc o r o ll a r y sb y u s i n gl y a p u n o vf u n c t i o n a la n de x p o n e n t i a ls t a b i l i t yt h e o r e m s c h a p t e r4i n t r o d u c e st h ea p p li c a ti o no fm a r l a bi nn e u r a l n e t w o r k s t h ea u t h o re s t a b l i s h e dan e ws t u d ya r i t h m e t i ca b o u tm r i n e t w o r k s 。a n dt h i sa r i t h m e t i cc b j lg u a r e t e e ni ft h em o d eo fs a m p l e si s p a r ti b l e ，t h e nw ec a ng e tt h en e u r a ln e t w o r k s w e i g h tm a t r i xb yt h e m e t h o d w eh a v ee s t a b l i s h e da n di tc a ng u a r e t e e nt h es a m p l ei sp a r t i b l e a n da t l a s t ，w eu s em a t i a bt o o l sv a l i d a t e dt h ee x a m p l eo fc h a p t e r2 i sc o r r e c t i nc h a p t e r5 ，s o m ep o s s i b l ew o r k sc a nb ed o n ea r eli s t e d t h er e s u l t si nt h i sp a p e rg e n e r a l i z er e l a t i v ep a p e r sa n da r ev e r y g e n e r a l ；t h ei n t r o d u c e dm e t h o d sa r ev e r yp r a c t i c a l s ot h i sp a p e ri s s i g n i f i c a n ti nb o t ht h e o r ya n dp r a c t i c e k e yw o r d s ：t i m e - v a r y i n gd e l a y s ；s - t y p ed i s t r i b u t e dd e l a y s ；s t a t i c n e u r a in e t w o r k ：t o p o i o g i c a ld e g r e e ：g i o b a ie x p o n e n t i a ls t a b i ii t y ：g i o b a l e x p o n e n t iair o b u s t s t a bi ii t y ：s t u d ya rit h m e t ic - 独创声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其 他人已经发表或撰写过的研究成果，也不包含未获得 2 或其他教育机构的学位或证书使用过的材料。与 我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表 示谢意。 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，有权保留并 向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和借阅。本人 授权学校可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用 影印、缩印或扫描等复制手段保存、汇编学位论文。( 保密的学位论文在解密后 适用本授权书) 学位论文作者签名： 陆酾 签字日期：珈g 年5 月习日 学位论文作者毕业后去向： 工作单位： 通讯地址： 导师签字：戳e ，7 签字日期：如5 年箩月节日 电话： 邮编 时滞静态神经网络模型的全局动力行为研究 1 概述 人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k s ，缩写a n n ) 是模拟人脑神经网 络的结构和功能一种信息处理系统。 1 1 人工神经网络简介【卜3 】 现在已形成从符号和联接的两大方面来研究人类的智能，正像明斯基在1 9 9 0 年的文章中指出“这两方面都是同一事业的一部分n 】，。 人的智能来自于大脑，大脑是由大量的神经细胞或神经元组成的。每个神经 元可以看成是一个小的处理单元，这些神经元按照某种方式互相连接起来，构成 了大脑内部的生理神经元网络，他们中各神经元连接的强弱，按照外部的激励信 号作自适应变化，而每个神经元又随着接收到的多个信号的综合大小呈现兴奋或 抑制状态。神经元是信息处理系统的最小单元。人类的大脑是由大约1 0 心至1 0 “ 个神经细胞( 神经元) 组成。虽然神经元的类型有很多种，但其基本结构相似， 神经元是由细胞体、树突、轴突、突触四部分组成，如图1 - 1 所示。 图卜1 生物神经元结构 鬻鞘 细胞体神经元的控制中心，响应并解释来自各个树突的信息，然后通过轴 突输出信息。 时滞静态神经网络模型的全局动力行为研究 树突神经元的信息输入端，接受并解释来自其他神经元轴突的化学信息。 一旦树突接受了一定的信息组合，即向细胞体发出信号。 轴突神经元信息输出端，传送一种称为动作电位的电信号，释放化学信息 给相邻神经元的树突。一个神经元的轴突可以分支伸延与数百个其它神经元相连。 突触包括突触前( 成分) 、突触间隙、和突触后( 成分) 三个部分。突触前 ( 成分) 通过化学接触或者电接触，将信息传往突触后受体表面，实现神经元的 信息传输。 一种通用神经元模型，见图1 - 2 。 图1 - 2 人工神经元结构 输入x = ( 五，z ：，x 。) r 人工神经元的输入端将来自其他人工神经元的信息 引入，也可将自身的输出信号或外部信息引入。 权重w = ( w 玎) 枷输入对神经元的影响大小由权重来反映，从一个神经元到 另一个神经元的信号强度也由它们之间的连接权重加以调节，权重直接影响从一 个神经元到另一个神经元的作用量。 连接函数w x 将各输入量与对应的权重进行处理，并将处理结果送至传递函 数。最常见的连接函数是加权求和函数。 传递函数，( 暇) 也称为作用函数、活性函数，将连接函数的结果映射为神 经元的输出。目前，人们已经提出了许多种传递函数。 2 时滞静态神经网络模型的全局动力行为研究 输出】，= f ( w x ) 传递函数作用的结果，一个神经元只有一个输出值。 相应的，人工神经元按照一定的拓扑结构相互连接组成的网络被称为人工神 经网络。 1 2 本人工作简介 递归神经网络的数学模型构成了一个动力系统，其动力行为可被广泛应用于 联想记忆，优化计算，鲁棒控制，模式识别等领域。递归神经网络稳定性的研究 是当前一个非常活跃的领域，国内外许多学者发表了很多相关的论文。本人将重 点放在两种时滞的静态神经网络模型上，对其全局动力行为进行研究。此外，本 人还涉及利用m a t l a b 编程实现一种简单易行又能保证收敛的算法，利用所给算法 得到了使样本可分的一组权向量。 1 2 1 反馈型神经网络的数学模型 神经网络根据网络结构( 神经元间连接方式) 的不同，可以分为：前馈网络 ( f e e d f o r w a r dn e t w o r k s ) 和反馈网络( f e e d b a c kn e t w o r k s ) ，反馈网络又称递归网 络( r e c u r r e n tn e t w o r k s ) 。 递归神经网络可分为离散型和连续型，其模型分别对应了离散动力系统和连 续动力系统。 离散型h o p f i e l d 神经网络模型 麟黧孟名 连续型递归神经网络以模拟量作为网络的输入输出量，各神经元采用并行方 式工作，更易于由简单的电子线路实现，许多模型被相继提出。例如，h o p f i e l d 将他的离散型模型推广为连续型模型，提出了可以由电子线路实现的连续型 h o p f i e l d 网络模型 q 鲁一埚+ 喜呐h ? 2 ， 3 时滞静态神经网络模型的全局动力行为研究 将前馈网络中深受欢迎的误差反向传播( b p ) 算法应用到递归网络而产生的 的递归b p 网络( r e b p t y p en n s ) 模型1 1 f 鲁= 吖朋t ( 窆l - , z m ) ， ，2 ， ld 缎x i - - t 3 t x i + 挚m 一。江1 2 ，棚， 【鲁一协+ 扣m 乩2 ，m 1 2 2 局域神经网络模型与静态神经网络模型 根据基本变量的不同选择，连续型递归神经网络的数学模型可以分为局域神经网 络模型( l o c a lf i e l dn e u r a ln e t w o r k sm o d e l s ) 和静态神经网络模型( s t a t i cn e u r a l n e t w o r k sm o d e l s ) 两类。 局域神经网络模型将神经元内部状态作为基本变量，其基本形式为 f 警一北) + 喜岫q ( 卅“= 1 2 ， ( 1 - 1 ) 常见局域神经网络模型有：双向联想记忆( b a m ) 模型，细胞神经网络( c n n s ) 模型，h o p f i e l d 神经网络模型。 静态神经网络模型将神经元的外部状态作为基本变量，其基本形式为 f 警一加m 。( 喜惭蛳，2 ( 1 2 ) 其常见模型有：递归b p 网络( r e b p t y p en n s ) 模型，脑中盒( b s b ) 模型等。 目前，递归神经网络模型已经被深入的研究，并取得了众多成果。但大部分是 基于局部神经网络模型进行的，静态神经网络模型的动力学性质还未被深入讨论。 由于静态神经网络有广泛代表性，对其进行深入研究具有理论和应用两方面的价 值。文献【1 0 】和 1 1 1 提出了一种比较的方法，证明了( 1 1 ) 和( 1 2 ) 之间具有对应平衡 点的稳定不变性，并由此得出了系统( 1 2 平衡点的一些性质。但作者在讨论中未 考虑时滞对系统的影响。本文将对( 1 2 ) 进行推广，研究含时滞静态神经网络模型 4 时滞静态神经网络模型的全局动力行为研究 的全局动力行为。 1 2 3 预备知识 变时滞静态神经网络模型基本形式为 警邓( f ) 删堋喜喇h ) ， 其中n 代表神经元的个数，而( f ) 表示第i 个神经元在t 时刻的状态变量，a i ( f ) 表示 在与神经网络不连通并且无外部附加点压差的情况下第i 个神经元恢复孤立静息 状态的速率，表示从第，个神经元到第f 个神经元的连接权重，乃( ) 表示对第f 个神经元作用函数，；j c t ) 第f 个神经元与第j f 个神经元在f 时刻的传递时滞，l i ( t ) 表示第i 个神经元在t 时刻的偏流。 定理1 1 李雅普诺夫定理圩( l y a p u n o vt h e o r e m ) 考虑动力系统 工( f ) = 厂( 工( f ) ) ， ( 1 3 ) 其中，厂：w r “是开集wcr “上的c 1 影射。 设i w 是( 1 1 ) 的一个平衡点若v ：u 专r 是定义在i 的邻域ucw 上的一个 连续函数，在u i 上可微，且使得 ( a )y ( x - - ) = 0 ，v ( x ) 0 当x i ； ( b )矿( 工) s0 ，当工u i 时；则i 是稳定的。 此外，若还满足 ( c )矿( 工) 午- i = ：1 ，2 ，l ； 露 畅。 ( t 5 ) 上【- 一 1 ，f = 1 , 2 ，厅； a i 窆( + w 一) ( t 6 ) ，置l 2 口i 1 f = 1 , 2 ，蔻 定义1 1 设厂( 工) 和g ( d 是在【口，纠上定义的两个有界变差函数。在 口，6 】中 插入分点口= x , o 工2 t o ，它是一个可微的函数，且满足 一 、 0 f ( f ) f ，矛a 1 。 ( 2 - 2 ) 2 1 平衡点的存在性定理 定理2 1 若激励函数z ，i = 1 ，2 ，n 满足全f 面l i p s c h i t z 条件，即 v 矗，磊r ，i = 1 , 2 ，刀 且满足 ( h 2 ) c = a 一町l 一形+ 是个m _ 矩阵。 这里时= ( 1 w ：| ) ，+ = ( 1 w ；i ) 脚，l = d i a g ( 1 t ，l ：，1 。) ，= d i a g ( o 。，仃：，吒) 7 蹦 一 点 幅引鲥怿 i、， 酗皖讯戡 一 一 ) ) 皤皤世 时滞静态神经网络模型的全局动力行为研究 那么( 2 1 ) 存在平衡点。 证明：由( h i ) ，我们得到： l 五( 主咿0 ，) h 壹1 w u j l + i 胛。) i ， lj - iij = l k 皇w ；u j + i 。) i o ，满足：i i ) i i - 0 ，和对于任意的时滞 0 j 一是o l = t + 国批( m ( 3 - 1 ) 1 一，( 五) j - l ， 【y i ( c r + 秒) = 破( d ，t 仃，0 c 卜r ( 旯) ，0 1 ，i = 1 , 2 ，万 其中，旯acr 为参数，仃r ，谚( 臼) c 卜，( 力，0 】，i = l ，2 ，万w 玎( 口，乃是 o 卜厂( 旯) ，o 】上的不减的有界变差函数， ，y j ( t + o ) d w o ( 0 ，旯) ( i ，j = 1 , 2 ，n ) l e b e s g u e - s t i e l t j e s 可积，存在正的常数厂，a f ，一a i ，w ， ( i ，= 1 , 2 ，n ) ，使得v 元人，0 a i a i ( 旯) a i ，0 r ( 旯) 厂， 由 l e b e s g u e - s t i e l t j e s 积分的定义可知： o ，d w o ( o ，d5w ； 0 ， 时滞静态神经网络模型的全局动力行为研究 _ _ 一l 一 万 o 使得系统( 3 一1 ) 的解( 其初始值为孑( f ) ) 对于范数l i i i ：满足 愀f ) 一工0 ： m e 7 州，则称此平衡点全局指数鲁棒稳定 为了建立我们的结果，引用下面两个引理： 引理3 1 若厂( f ，口) 在【口，b ；c ，d 】上连续，w ( d 是【c ，d l 上的不减的有界变 d 差函数，咖( 臼) = w o ，或者 屈口，一岛w o 歹毒l 因此，存在实数p ，口满足： 屈( 当一p ) - q e 岛1 4 ； 0 ，或者 设歹。( 力：( ) r 。( 砂，y 2 ( f ) ，) ，。( f ) ) 是系统( 3 一1 ) 的平衡点，v 孑( l ， 多( f ) = ( ) ，i ( f ) ，y 2 ( f ) ，y 。( f ) ) r 是系统( 3 1 ) 的一个解，设三= 萝一y 。定义如下的 l y a p u n o v 泛函： v ( f 力：窆屈( 瞰f ) p + 窆姒j ( 北t 弘) 垆- e d s ) d w 盯( 口，乃) ) i 司 ，= l 一，t 工) t + o 由于o 厂( a ) ，4 w 玎( 口，五) = h ( 一厂( 旯) ，五) ，0e - r ，一，( 见) 】，贝i j 峋( 口，却可延 拓为卜r ，0 】上的非减有界变差函数，且 巨誓c 叫叫 h 幺儿 1 5 0 霹 w 屯 岛 。一 g 一 、jp 口一 ， 屏 时滞静态神经网络模型的全局动力行为研究 令 “( 愀r ) l = 剑三( f ) 妒， y ( 愀f ) o m u ) ：窆_ ( 帜f ) l l m u p a + 杰毛( ，( j f i 乏( f ) k ；烈一彩d s ) d w i j ( o ，名) ) ) ， i = ii - - z一，t + o 其中= m i n l 叠如 屈 0 ，= m a x l 螂。 屈) 0 ，z | = z ( t + d ，b 【一厂，o 】， 忙( f ) 0 是1 欧氏范数，愀f ) j i m 蜢是最大值范数。 显然 搿( 帜f ) i y ( z ，f ) v ( 帜f ) k ) ，“( 0 ) = ，( 0 ) = o 。 由引理3 2 可知，y ( 乏，f ) 沿系统( 3 - i ) 的解的d i n i 右上导数为： d y + 童屈( & 盘i z l ( f ) i + 已矗( 一口，( 动i z 如) i + l 五( 窆亍( z j ( f + d + ) ，；) 咖 ，( 只+ l ) i = l ii - t 一，( 工) ，(喜一只：嘶“i)愕k,叫f舢zj(t)e占(-口ldwtjo 0 徊棚 i o l z ，( h 乡) g 盘l ( 秒，) ) 窆孱( & & i z 心) l + g & ( 叫；( 妨l z i ( f ) l + 屯妻 l z ，( 爹+ b ) l d w j j ( o ，) i l lj = l 一，t 舢 窆屈( 1 z l ( f ) 比万- 口j ( 锄+ 窆屯弛( f ) e - 仍l z w , , w ，埘 i 越，= l 一，五) = 窆屈( 1 z 如) 妒( 万一姒句) + 杰屈p a 窆t l z ) l ，e - 帮d w u ( b ，五) ) f 誊l i - - i ，i l 一，工) 1 6 ”、， 兄9 ，l 妒 挑 已 、， 伊+t ，l z o 川哪 一 一 、- ， 兄9 ，l 叮 咖 埘 烈 g 、，o z )。n 川哪 一 ，l 七 。触 + 时滞静态神经网络模型的全局动力行为研究 屈( 1 z ；o ) p 青( 万一堡；) + r e 膏屈t l z j ( f ) i 以 i = 1 i 越 ，_ l 私( d p a ( 屈盹p 嚷彤，w 二 ：窆( ( 堡；一回屏一r 杰岛七，w 二) p a 际f ) 1 i dj - l s - l i i 艺( ) u 。 这里尺= p ，l = r a i n 龇2 卅( ( 刍一回屈- r 色七j w ；) o ( 3 3 ) 显然，当l 归( f ) 8 o ，因此，e l a ( 3 3 ) ，我们可知包p 毋1 1 乏( * ) 1 1 - - - v ( * ) y ( 0 ) 。由 定义3 1 ，系统( 3 一1 ) 的平衡点指数稳定( 3 1 ) 。由的任意性可知，歹全局指 数稳定。因此系统( 3 一1 ) 全局指数鲁棒稳定。证毕。 由m 一矩阵的充分条件 1 6 ，1 7 可得： 推论3 1 若系统( 3 1 ) 满足( t 1 ) 和( t 3 ) ，( t 4 ) ，( t 5 ) ，( t 6 ) 中的任一条， 则系统( 3 一1 ) 全局指数鲁棒稳定。 。 1 7 时滞静态神经网络模型的全局动力行为研究 4m a tla b 在神经网络研究中的应用 m a t l a b 是一套功能强大的，运用效率很高的数学工具软件。它集成了程序设 计、数值计算、图形绘制、输入输出、文件管理等多项操作，具有编程效率高、 使用方便、扩充能力强、交互性好、便于移植等特点。下面我们分两节具体介绍 m a t l a b 在神经网络研究中的应用。 4 1m a tia b 求解泛函微分方程 m a t l a b 是一种面向科学和工程的高级语言，允许用数学形式上语言编写程 序，比其他编程语言更接近人们书写计算公式的思维习惯，编写简单，易学易懂， 效率高。而且m a t l a b 提供了方便的绘图功能，便于我们从直观上理解运算结果。 使用m a tl a b 7 的d d e 2 3 命令可以方便快速地求解滞后型泛函微分方程( 组) 等= f ( t , x , x t ) ，只需给出方程( 组_ ) 向量场厂p ，而毛) 的具体描述和求解区闫，就可 以计算出方程组的解，详情参阅 4 7 ， 4 8 。下面我们用m a t l a b 仿真第二章中我 们举的例子，来验证其正确性。 首先建立一个描述向量场f ( t ，工，薯) 的文件内容如下： 第一步：定义描述函数的文件“d d e f u n m ： f u n c t i o nv v = d d e f u n ( t ，y ，z ) y l a g l = z ( ：，1 ) ： v v = 一3 1 1 6 ，1 2 ：1 2 ，- 3 1 1 6 * y ( 1 ) ：y ( 2 ) + - 1 4 ，1 4 ；1 4 ，t 4 * y l a g l ( 1 ) ：y l a g l ( 2 ) ： 第二步：定义描述时滞的文件“d e l a y s m ： f u n c t i o n m m 。d e l a y s ( t ，y ) 姗= t 一l 2 ) s i n t ，6 2 ； 下面是使用另一个文件“t e s t m ”定义各参数，求解并绘图，内容如下： c l e a r c l c c l f s o l ：d d e s d ( d d e f u n ， d e l a y s ， 1 ：4 ， o ，2 0 ) y i n t = d e v a l ( s o l ，li n s p a c e ( 0 ，1 0 ，5 0 0 ) ) f i g u r e ( 1 ) s u b p l o t ( 3 ，1 ，1 ) ，p l o t ( 1 i n s p a c e ( 0 ，1 0 ，5 0 0 ) 。y i n t ( i ，：) ) ：x l a b e l ( t ) ，y l a b e l ( x 1 ) 。a x i s ( 01 001 2 ) s u b p l o t ( 3 ，l ，2 ) ，p l o t ( 1 i n s p a c e ( 0 ，l o ，5 0 0 ) ，y i n t ( 2 ，：) ) ：x l a b e l ( t ) ，y l a b e l ( x 2 ) s u b p l o t ( 3 ，l ，3 ) ，p l o t ( y i n t ( 1 ，：) ，y i n t ( 2 ，：) ) ：x l a b e l ( x l ) ，y l a b e l ( x 2 ) ，a x i s ( 01 20 1 8 时滞静态神经网络模型的全局动力行为研究 4 ) h o l do f l m a b e l ( f i g 4 - 1 ) 运行结果见图“f i g 4 一l ” f i g 4 - 1 4 2m ri 型神经网络的一种新的训练算法 4 2 1 预备知识 m r i 型神经网络是一种非常有用的分类工具，一直以来我们使用所谓的y r i 规则来训练这种网络，职i 规则是以最小扰动原则和梯度下降法为基础的，看起 来很直观但它的收敛性很难得到证明，所以找到一种简单易行又能保证收敛的方 法是很有意义的。下面我们从几何角度来更清楚的认识这种网络： 设给定r 1 个n 维的样本模式磊，磊，己。隐层中有m 个神经元。对每 一个磊( i = 1 ，2 ，以) ，存在n 维空间中的过原点的超平面肘；，使得v r m i 有 r 掌磊= 0 ，这样肘；把n 维空间分成与磊的内积大于0 和小于0 两部分。于是过 1 9 时滞静态神经网络模型的全局动力行为研究 原点的超平面m 。，膨：，肘。把空间进行了分割。在分割成的任何一个区域q 。 中， v 白，磊q i ，s g l l ( 厶磊) = s g n ( g 磊) ( f = 1 , 2 ，万) ( 4 1 ) 所以在这种意义下，q 。中每一个元素