（运筹学与控制论专业论文）若干类神经网络的稳定性分析.pdf

电子科技大学硕士学位论文 摘要 由于神经网络在应用方面的巨大潜力，很多学者都致力于神经网络的理论 研究， 取得了不少好的成果。 本论文内容主要涉及 h o p f e l d型神经网络和细胞 神经网络两类神经网络的稳定性研究。其中包括:无时滞和具有时滞的一阶和 二阶 h o p fi e l d神经网络的 稳定性，以 及具有常时 滞的 广义细胞神经网 络的 稳定 性的研究。 本文的主要创新之处可以 概述如下: 1 . 首先在第二章第一节，理清了 对于一阶 h o p fi e l d神经网 络稳定性研究 的发展脉络，并提纲挚领地列举了各阶段国内外众多文献在这一领域的研究成 果。 在随后的 第二节中， 主要 针对一类具 有时 滞的 一 阶 h o p fi e l d神经网 络 进行 了 分析讨论。在这一部分中，我们放弃了 激励函 数必须是可微的要求，只需它 满 足l ip s c h i tz 连 续条 件即 可; 我 们 利 用矩阵 分析 理 论和b r o u w e r 不动 点 定 理， 得到了系统平衡点存在唯一的充要条件:另外，研究稳定性问题常见的方法是 构造l y a p u n o v 函 数 进行分析， 但是我 们采用了 常 数变易 法， 得到了 另外一 种 类 型的 稳定性判定条件，从而利用比 较容易计算的原系统线性部分的 基解矩阵来 控制非线性部分，使系统稳定。 2 在第三章， 本文 研究了国 内 外文 献较少 涉及的 高阶h o p f i e l d神经网 络 模型。由于高阶神经网络相对于一阶神经网络要复杂的多，到目 前为止人们在 研究高阶神经网络时一般都假设其所有激励函数是导函数有界的光滑函数，甚 至还要加上单调递增等条件.同 样， 我们将其减弱为“ 有界且满足l i p s c h i tz条 件” ， 然后得到了该系统平衡点 存在唯一的充分条件; 在第三节中，通过降阶处 理， 我们得到了该系统全局渐近稳定的一类充分条件。 3 ， 第四章的研究对象是具有常时滞的广义细胞神经网络。细胞神经网络 有着广泛的应用前景，而对原始模型进行改进得到的广义细胞神经网络则更加 便于网络的硬件实现。我们同样利用常数变易法和 “ 第一破坏点的不可能性” 等分析思想得到了 此类系统指数渐近稳定的 判定条件， 该条件简洁且易于验证， 对神经网络的设计有指导意义。 关键词 渐近稳定 h o p f i e ld神经网 络 细胞 神经网 络 广义细胞 神经网络 时 滞 指数渐近稳定 电子科技大学硕士学位论文 ab s t r a c t s i n c e n e u r a l n e t w o r k s h a v e e n o r m o u s p o t e n t i a l i n w i d e v a r i e t i e s o f a p p l i c a t i o n s , m a n y s p e c i a l i s t s a n d s c h o l a r s a p p l y t h e m s e l v e s t o t h e r e s e a r c h o f t h e t h e o r y a n d a c h i e v e m a n y p e r f e c t p r o d u c t i o n s . i n t h i s d i s s e r t a t i o n , w e p e r f o r m t h e s t a b i l i t y r e s e a r c h o f h o p fi e l d n e u r a l n e t w o r k s 口 d i m) a n d c e l l u l a r n e u r a l n e t w o r k s ( c n n s ) t h e m a i n c o n t e n t s o f t h i s d i s s e r t a t i o n i n c l u d e : t h e s t a b i l i t y a n a l y s i s f o r a c l a s s o f f ir s t - o r d e r a n d a c l a s s o f s e c o n d - o r d e r h n n s w i t h o u t a n d w i t h d e l a y s , r e s p e c t iv e l y , t h e s t a b i l i t y a n a l y s i s f o r a c l a s s o f g e n e r a l i z e d c n n s w i th c o n s t a n t d e l a y s t h e m a i n o r i g i n a li t i e s i n t h i s p a p e r c a n b e s u m m a r i z e d a s f o l l o w s : 1 . f i r s t l y , i n t h e fi r s t s e c t i o n o f t h e s e c o n d c h a p t e r , w e c l e a r u p t h e d e v e l o p m e n t a l p r o c e s s o f th e s t a b i l i t y r e s e a r c h a b o u t t h e f i r s t o r d e r h n n s , a n d t h e n l i s t t h e i n v e s t i g a t i o n a l p r o d u c t i o n s o f i n t e r n a l a n d e x t e r n a l l i t e r a t u r e s i n t h i s fi e l d . i n t h e f o l l o w i n g s e c t i o n w e a n a l y z e t h e s t a b i l i t y o f a c l a s s o f h n n s w i t h d e l a y s . i n t h i s s e c ti o n w e d i s c a r d t h e d e ma n d t h a t t h e a c t i v a t i o n f u n c t i o n s mu s t b e d e r i v a b l e a n d o n l y r e q u e s t th e m t o b e l i p s c h i t z c o n t i n u o u s . t h e n e c e s s a r y a n d s u f fi c i e n t c o n d i t io n f o r t h e e x i s t e n c e o f a u n i q u e e q u i l i b r iu m o f t h i s s y s t e m i s a c h i e v e d b y a p p l y i n g t h e m a t r ic e s a n a l y s i s a n d b r o u w e r t h e o r e m . 玩 a d d i t i o n , w e a d o p t t h e m e t h o d o f v a r i a t i o n s o , t h e p a r a m e t e r s , t h o u g h c o n s t r u c t i n g l y a p u n o v f u n c t i o n w a s a u s u a l o n e t o i n v e s t i g a t e s t a b i l i t y . c o n s e q u e n t ly , a n o t h e r k i n d o f c o n d i t i o n e n s u r i n g t h e s t a b i l i t y o # th e s y s t e m i s a c h i e v e d . a c c o r d i n g l y , t h e f u n d a m e n t a l s e t o f s o l u t i o n o f t h e l i n e a r p a r t o f t h e o r i g in a l s y s t e m c a n b e u s e d t o c o n t r o l th e n o n l i n e a r p a r t a n d t h e n m a k e t h e s y s t e m s t a b l e . 2 . i n t h e t h i r d c h a p t e r t h e h i g h - o r d e r h n n s m o d e l t o w h i c h i s s c a r c e ly r e f e r r e d in t h e i n t e r n a l a n d e x t e r n a l l i t e r a t u r e s w i l l b e t a lk a b o u t . a s t h e h i g h - o r d e r n e u r a l n e t w o r k s a r e m o r e c o m p l e x t h a n t h e f i r s t - o r d e r o n e s , b y f a r , t h e d e r i v a ti v e o f t h e a c t i v i t y f u n c t i o n s i n s y s t e m a r e u s u a l l y as s u m e d b e l im it a r y a n d m o n o t o n i c in c r e a s i n g e v e n . s i m i l a r l y , a ft e r m o d i f y i n g t h e p r e c o n d i t i o n w e a s s u m e t h a t t h e a c t i v i t y f u n c t i o n s a r e l i m i t a r y a n d l ip s c h it z c o n ti n u o u s o n l y . c o n s e q u e n t l y , t h e s u f fi c i e n t c o n d i t i o n f o r t h e e x i s t e n c e o f a u n i q u e e q u i li b r iu m o f th i s s y s t e m w i l l b e a c h i e v e d . i n t h e t h i r d s e c t i o n a k i n d o f c o n d i t i o n e n s u r i n g t h e g l o b a l as y m p t o t i c i i 电子科技大学硕士学位论文 s t a b i l i t y o f t h i s s y s t e m i s a c h i e v e d b y d e g r a d i n g t h e o r d e r o f t h e o r i g in a l s y s t e m . 3 . t h e p r o j e c t r e s e a r c h e d i n t h e f o u r th c h a p t e r i s t h e s t a b i l i t y o f g e n e r a li z e d c n n s w i t h c o n s t a n t d e l a y s . t h e a p p l i e d p r o s p e c t o f c n n s i s e x p a n d i n g . i n o r d e r t o b e r e a li z e d e a s i l y i n h a r d w a r e , t h e g e n e r a l i z e d c n n s i m p r o v e d o n t h e o r i g i n a l c n n s e m e r g e d i n 1 9 9 6 . s i m i l a r l y , t h e c o n d i t i o n e n s u r i n g g l o b a l e x p o n e n t i a l s t a b i l i t y i s g i v e n b y a p p l y in g t h e m e t h o d o f v a r i a t i o n s o f th e p a r a m e t e r s a n d t h e i d e o l o g y o f i m p o s s i b i l i t y o f t h e f i r s t b r e a k d o w n . s i n c e t h e c o n d i t i o n i s l a c o n i c a n d e a s y t o v a l i d a t e , i t p r o v i d e fl e x ib i l i t y i n t h e d e s i g n o f n e u r a l n e t w o r k s . k e y w o r d s : h o p f i e l d n e u r a l n e t w o r k s ( h n n s ) , c e l l u l a r n e u r a l n e t w o r k s ( c n n s ) , g e n e r a l i z e d c e l l u l a r n e u r a l n e t w o r k s , d e l a y , a s y m p t o t i c s t a b i l i t y , e x p o n e n t i a l s t a b i l i ty . i i i 独 创 性 声 明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。 据我所知， 除了文中特别加以标注和致谢的地 方外， 论文中不包含其他人已经发表或撰写过的研究成果， 也不包含 为获得电子科技大学或其它教育机构的学位或证书而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明 确的说明并表示谢意。 签名:走 _ _日 期 : -a 7 p q -年 调、 关于论文使用授权的说明 本学位论文作者完全了 解电 子科技大学有关保留、 使用学位论文 的规定，有权保留并向国家有关部门或机构送交论文的复印件和磁 盘， 允许论文被查阅和借阅。 本人授权电 子科技大学可以 将学位论文 的全部或部分内 容编入有关数据库进行检索， 可以 采用影印、 缩印或 扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签名 故q -t导师签名 4 -i lv l 日期: 祝 汀 冬年 17 , 月)! 日 电子科技大学硕士学位论文 第一章引言 1 . 1人工神经网络简介 当 您看这篇毕业论文的时候，就正在使用一个复杂的生物神经网络。 您有 一个约为1 0 1 个神经元的高度互联的 集合帮助您完成阅 读、 呼吸、 运动和思考。 科学家们才刚刚开始对生物神经网络的工作机理有所认识。这便引出了下面一 个问题:既然我们己经对生物神经网络有了一个基本的认识，那能否利用一些 简单的 “ 人工”神经网络构造一个小系统，然后对其进行训练，从而使它们具 有一定的功能呢? 在2 0 世纪4 0 年代， 科学家w a r r e n m c c u l l o c h 和w a l t e r p i t t : 的工作i i i 己 经 对这一问 题做出了肯定的回答。 人们把用电子方法、光学方法或其他生物物理 化学方法仿照生物神经网络所构造出来的神经网络称为 “ 人工神经网络， 。本文 所讨论的神经网络均是指人工神经网络。 神经网络研究的实质是向人脑学习的问题。1 9 8 2年，美国加州工学院生物 物理学家 h o p f i e ld提出了一种神经网络模型一一h o p fi e ld神经网 络模型 ( h n n s ) t2 1 ， 有 利地 推动了 神经网 络的 研 究， 同 时h o p f i e ld 还引 入“ 计 算能 量函 数”的概念，给出了网络稳定依据和电子电路实现。自 此之后，不同类型的神 经网络纷纷出 现。人工神经网络的理论和应用研究，形成了世界性的热潮，这 些都为神经计算机的研究奠定了基础。 1 .2人工神经网络的应用 人工神经网络作为一种非常重要的技术手段在许多科学领域中有着出色的 表现。 现在， 它作为一门新兴学科已为我们所熟悉，并己成为计算智能学的核 心内容。 曾有报道说， a s t o n 大学用神经网 络来进行文献研究， 可以 通过它识别个人 的写作风格， 研究人员用它比较了 莎士比 亚和他同时代人的著作。另有电视节 目 报道了意大利的研究结果，他们用神经网络测试橄榄油的纯度。这些例子从 一个侧面说明了神经网络有着极其广泛的 应用领域，它不仅可以广泛应用于工 电子科技大学硕士学位论文 程、科学和数学领域，也可以应用于医学、商业、金融和文学领域。神经网络 在众多领域的广泛应用，使它极具吸引力。同时，基于高速计算机的快速算法， 也可以用神经网络解决过去许多计算量很大的复杂工业问题。这些新进展为神 经网络的研究注入了活力。在过去一二十年中，人们发表了成千上万研究神经 网络的论文，其相关理论及应用研究的重大意义已得到越来越多科学工作者的 广泛认同。 1 .3动力学系统中的稳定性概念 稳定的概念出现的历史很悠久了，早在十七世纪就出现过托里斯利原理， 即当物体仅受重力的作用，重心位置最低的时候其平衡是稳定的，反之则是不 稳定的。稳定性理论是从力学问题研究中建立起来的，它出现于人工神经网络 这一学科产生之前，是研究动态系统中的过程 ( 包括平衡位置) 对于干扰是否 具有自 我保持能力的理论。 俄罗斯著名数学家l y a p u n o v 院士是第一个给运动稳 定性以数学定义并普遍而系统地解决了运动稳定性问题的学者。他用十七年的 辛勤劳动， 在 1 8 9 2年写出了 著名的博士论文 运动稳定性的一般问题 ，从此 奠定了稳定性理论的坚实基础。 稳定性的重要意义，可想而知。小至一个具体的控制系统，大至一个社会 系统、金融系统、生态系统，总是在各种偶然或持续的千扰下进行的，承受这 种干扰之后，系统能否保持运行或工作状态，而不至于失控，或摇摆不定，至 关重要。而对于神经网络而言，由 于网络的输出是时间的一个函数， 对于给定 的输入，网络的响应可能是收敛到一个稳定的输出，也可能振荡、无限的增大， 或是遵循一种混乱的模式。因此，一个神经网络系统若想在工程中发挥作用就 必须具备稳定性， 在神经网络的设计和分析中，稳定性的分析是极为重要且必 不可少的一个环节。 1 . 4 h o p f i e l d 神经网 络的 产 生及其意 义 从上世纪四十年代神经网 络产生至今，它的发展并非是一帆风顺的，曾 经 出 现过多次起伏。 在六十年代中期，由于误解， 人们对神经网络的研究前景很 电子科技大学硕士学位论文 不乐观。但是，在二十世纪八十年代初期神经网络研究重新兴起，这在很大程 度上归 功于美国 生物物理学家j .j .h o p fi e l d 的 工作， 他提出了以 他的 名字命名的 h o p f i e ld 神 经网 络。由 于j .j .h o p f i e l d 不 但 是一 个 著 名的 物理 学 家， 而 且 也 在 生 物学上有着丰富的经验， 又长期与v l s i 芯片的设计者们保持联系， 所以他提出 的h o p f i e ld 神经网 络不仅在其实现上， 同 时 也在其 应用上都体 现了 实践的 精神， 这同时也鼓舞了很多物理学家以 及其他科学家和工程师开始注意对神经网络的 研究。这对神经网络发展的推动作用是举足轻重的。 与 他的 实践观点一致， j .j .h o p fi e l d以电 路的 形式提出了 他的 模型。 原始 基 本模型如图 1 - 1 所示。 放大器 反 向 _ 7 物出i 电阻摇 图1 - 1 h o p fi e ld 神 经网 络的电 路 模型 每个运算放大器及其相关电 阻/ 电 容网络代表一个神经元。 神经元有两组输 入。 第一组是恒定的外部输入， 用电 流i t , i z , 一 表示。 第二组来自 其它运算 放 大器的 反 馈连 接。 从k ir c h h o ff 的电 流定 律 可 推导出h o p fi e ld 神 经网 络 模型的 数学表达式，我们将在第二章中详细表述。 h o p fi e l d 神经网 络及其众多 变形之 所以 受到众多 学者 ( 例如: 数学 家、 物理 学家和计算机科学家)的关注，是因为它们在模式识别、联想记忆、并行计算 和解决困难的最优化问题上都具有极其优越的潜能。 h o p f i e l d 神经网 络的 理 论研 究 主要 集中 在三 个问 题:( 1 ) 平 衡点的 存在 性; ( 2 ) 吸引性;( 3 ) l y a p u n o v稳定 性。 原始的 h o p f i e l d 一神经网 络是不 含时 滞的 非 线性常微分方程组，是一种理想的 模型。由 于神经网络中普遍存在时滞现象， 电子科技大学硕士学位论文 这样不仅会降低网络的传输速度，而且会导致网络的不稳定。因此，研究具有 时滞的神经网络系统的渐近行为具有更强的实用性。在本文中，我们就针对以 上三个方面， 对 h o p fi e l d神经网 络原始模型的一些变形 ( 时滞及高阶情况) 进 行了分析。 1 .5细胞神经网络的产生及简介 细 胞 神 经网 络( c n n s ) 由 美国 电 子 学 家l .o .c h u a 和、 a n g l l l 受h o p f ie l d 神经 网络的直接影响和细胞自 动机的启发，于1 9 8 8 年提出的一种大规模的非线性模 拟电路。 c n n s 是由很多称为 “ 细胞”的基本单元组成的，一个 “ 细胞” 是一个 非线性电路单元，通常包含线性电容、线性电阻、线性和非线性压控电流源。 它的结构与细胞自动机相似，即每个 “ 细胞”只与它的邻近 “ 细胞”有连接， 也称为局部连接性，这是 c n n s最基本的 特性。正是由 于这一特点， 其硬件实 现比一般的神经网络容易得多。关于c n n s 的 连接方式及电路图如下所示。 图1 - 2 二维c n n s 连接示意图。 每一个小方框c ( ii ) 代表一个细胞单元。 e ., c + 了 自)。 木 凡 是台)一什 + )jp 凡 i -p . i aj 1肠q j a a 图1 - 3 c n n s 电路模型 电子科技大学硕士学位论文 其中， 为线性电容; r , r 和r , 均为线性电阻;i 是独立的外部输入电流: i xv ( i , j ; k , l 和今( i , j ; k , l ) 均 是 压 控 线 性电 流 源 ， 且 有 i (i,j ;k ,l) = a (i,j ;k ,l)v , ， i , ,(i,j ;k ,l) = b (i,j ;k ,l)v a : i ,. 一 ( v r, ) f (v, ) ; f 为 分 段 线 性 函 数 ， 且 有 f (x ) = ( v 2 ) 卞 十 理 一 卜 一 劝 : 凡 是 独 立 的 电 压 源 口 因而，c n n s 的状态方程为数学模型 _ d v 1 c 二匕 二一 v _+ d t凡 ， (k 艺 a (i,j ,k ,l )% (t) +艺 b (i,j ,k ,l)v ., (t) + i ( 1 - 1 ) 1 i m, 1 j 5 n 输出方程 、 一 告 (、 + 1i- iv, 一 ，i) ， ( 1 _ i _ m , i j 川; 输入方程 、 二 引引“ ( 1 _ z _ m , ， _ j 外 约束条件 (v , (0 )i 5 1, iv , i :g 1 ， (1 - i 0 其实，在实际讨论中， 相当一部分结果可以 取消约束条件及参数矩阵对称 的假定， 使得 c n n s 模型显得简洁、 便于数学分析。例如， 如下方程所描述具 有常时滞的c n n s 模型. : x f(t) 一 二 : (t) + 玄 .f ! ( x (t) ) + j b yf j (x ,( t - z 1 ) ) + i , ( 1 -2 ) ! = 1 j 月 c i 0 , i 二 1 , 2 ， 一， n . 其中、 是网 络中 神经元的 个数，x ; ( t ) 表示第i 个神经元在t 时 刻的 状态变量 以x j ( t) ) 表 示 第 j 个 神 经 元 在 时 刻 的 输 出 ， 且 满 足 电子科技大学硕士学位论文 f,(-) = .f (x ) 一 告 (lx + 1l- lx 一 ，) a气 ， 吞 是 常 数， a 表 示 第i 个 神 经 元 在t 时 刻 的 输出 对 第i 个 神 经 元 的 影 响 强 度， 气 表 示 第.i 个 神 经 元 在 t - z i 时 刻 的 输 出 对 第 i 个 神 经 元 的 影 响 强 度 ， 吞 是 对 第 i 个 神 经 元 的 偏 置 ， ti 是 非 负 常 数 ， 几 表 示 在 于 神 经 网 络 不 连 通 并 且 无 外 部 附 加电压差的情况下第i 个神经元恢复孤立静息状态的速率。 在第四章中，我们将详细讨论上述方程的动力学性质及稳定性条件，还将 就一类改进的c n n s :广义细胞神经网络展开详细的讨论。 电子科技大学硕士学位论文 第二章一阶h o p fi e l d 神经网络 2 . 1一阶连续型h o p fi e l d 神经网 络简介 j t h o p f i e l d 在1 9 8 4 年发表的 文献 2 中 提出了h o p f i e l d 连续确定型模型( 其 电 路模型见第一章图1 - 1 ) ， 它的 状态方程由 式( 2 - 1 ) 描述: f _ d u从 i 标=_一 “ _，。 ; a 0 g , k v d 十 艺 t ,j v j + 1 ; ( 2 - 1 ) 文中 定 义:g i 扣 ， ) 是s 型函 数， 具 有 两 条 渐近 线;叹 。 是 细 胞 膜的 输入电 阻， r , 4 是 膜 传 输电 阻 ， i , 是 外 加 电 流 ， u 是 第i 个 神 经 元 的 输 入电 压 ， v i 是 放 大 器的输出电压， 文献 2 中， 乓是 第j 个 神 经 元与 第i 个 神 经 元 之间 的 连 接 权 值。 作者利用如下的能量函数 一 i=t!一合 tyvivjj=1 资 f g, (z)dz-i,一 来 研 究 系 统 ( 2 - 1 ) 的 稳 定 性 问 题 ， 此 时 要 求 t y 一 t j , 对 能 量 函 数 求 偏 导 ， 可 得 到 c , d u , / d t 二 一 8 e ( v ) l o? v i 二 1 , 2 ， 一， n( 2 - 2 ) 从 而， 确 定 ( 2 - 1 ) 的 稳定 性 解 演 化到了 求e ( v ) 的 局 部极小点， 因 而系 统( 2 - 1 ) 是 全 局稳定的。 h o p fi e l d 利 用能 量函 数 法 证明 网 络的 稳 定 性， 在 数 学上 首 创性 地提出 了 利 用 电 子电 路可以 实现的微分方程的流去求解非线性代数方程或超越方程，且解过 程不 用计算，自 动完成。 但正如文 献伟 1 所指出 的， h o p f i e l d 的思 想虽 然新颖， 但 其数学理论却欠缺严谨。 如果他指的仍是切a p u n o v 意义下的 稳定性，则其证法 失 效; 如果是 一种新型的 稳定 性， 却 没有明 确的 数学定义。 另外 ( 6 . 7 ， 只 要有一 对 (il ) ) 使 得 t iij b tit ， 不 管 风 一 t ji 有 多 小 ， 等 式 ( 2 -2 ) 就 不 再 成 立 因 此h o p fi e ld 电子科技大学硕士学位论文 神经网络的权参数即使有任意微小的摄动，只要权阵不再对称，则由上述 “ 能 量方法” 无法知道整个网 络系统是否仍然保持全局稳定; 另一方面， 从h o p f i e l d 神经网络的硬件实现来看，要保证两个物理参数 ( 例如单阻值)完全相等且不 允许有任何微小的差异几乎是不现实的。另外还有很多问题需要弄清楚，例如: 1 .取消h o p f i e ld 网络中t 的 对称性， 情况又会怎样; 2 当 系统( 2 - 1 ) 具有 “ 几乎对称”的 连接矩阵时，网 络是否会出 现极限环; 3 .对于具体给定的平衡点，它是否稳定; 4 .系统 ( 2 - 1 ) 的 平衡点的 存在唯一 性; 5 .网络趋近于平衡状态的速度估计; 6 .系统( 2 - 1 ) 的周期解的 存在性及稳定性; 等等。 h o p f i e l d 连续型神经网 络的 两个主要 应用是联想记 忆和最 优化计算。 根 据其 不同的应用，需要作不同类型的稳定性分析。对于联想记忆神经网络，它应具 有多 个分别对应于要存储的记忆模式的平衡点，因此稳定性分析的目的是在何 种条件下，这些平衡点是局部稳定的。但是对于并行计算及最优化计算神经网 络，对于任意的初值，网络需要有明确定义的可计算的解，从数学的角度来讲， 即理想的 情形是要求有且只有一个全局稳定的平衡点e ， 此时， 稳定性分析的目 的是在何种条件下，网络具有全局稳定性。因此，神经网络的稳定性分析所关 心的问题类型依赖于其具体应用。 系统( 2 - 1 ) 是现今国内 外众多理论工作者研究的连续型 h o p f i e l d神经网络的 基本原型，改变方程中的各个参数条件，可以得到这个模型的各种改进模型， 在这些改进模型中， 他们针对上述提出的 诸多问 题， 基于l y a p u n o v 稳定性做了 大量的研究工作。 定 理2 . 1 . 1 9 设8 t ( 0 ) = 0 ， u ,g , ( u , ) 0 ( 当 u , # 0 时) 且s ; ( u t ) 0 。 若兀 自 t y i ; (了 一 1, 2 ,. ., n ) ; t. , (“ ) it i 全 it i i : ( i = 1 , 2 , - , 亦 i x ti = t (“ ， tui 合 客 (ityi+ itj,i) “ = 1,2，一 ， 电子科技大学硕士学位论文 可见，文献1 9 1 将 h o p fi e l d 最早提出的连接权阵“ 对称”的条件减弱为了 连 接权阵 “ 行 ( 或列)严格对角占优” 。另外，从以上定理的形式可以看出，该充 分条件表现为关于连接权阵的矩阵范数或矩阵测度的形式。事实上，若记 a (t)一 二 : + p tfll, pj tf.;)一 二 : =rt i + y- itd i ， ,u , ( t ) 二 偏 ( t 十 t t ) / 2 则上述充分条件分别等价于 p , ( t ) 0 ,， 。 l, 00 及 、 (t + t ) / 2 0 ， h 一 1 / 吧 f r ;m 小其 中 。 m i = s u p 日 ( u ) + 00 (i)(ii)(iii 称 m ， 为 第i 个 神 经 元 的 增 益 参 数 若 p p ( t ) h , p e 1 , 2 , - ) ， 则 系 统 2 - 1 ) 存 在 唯一的平衡点u ， 并且是全局指数稳定的。 为了便于各种结果的比 较，且不影响结论的实质， 假设r ; = m ; = 1 , ( i 二 1 , 2 , . . , n ) 。 文献 1 0 -1 3 1 分别 得到了 下 述一 些全局稳定 性的 充 分条 件: (i) iii , 一 二 客 it jj 1 :(ii) iit ii。 一 二 实 itji 1 ; ( i i i ) ,u , ( t ) 1 ;( i v ) /u ,. ( t ) 1 显 然， 定理2 . 1 . 1 的 条件强 于 ( i i i ) -f o ( i v ) ， 而上 述四 个条 件中， ( i 和 ( i i ) 也分别 强于 ( i ii ) 和 ( i v ) o 而定 理2 . 1 . 2 则说明了 若h o p fi e l d 型 连续反 馈型 神经网 络连接 权阵的 矩阵 测 度小于神经元的电阻常数与增益参数的最大乘积的倒数，则对于任意的网络外 电子科技大学硕士学位论文 部 输入， 该网 络系统都是 全局指数稳定的。 当尺= mi = l 时， 有h 二 1 ， 于是由 定 理2 . 1 .2 有“ ,u p ( t ) 1 时 ， 系 统 ( 2 - 1 ) 是 全 局 指 数 稳 定的 ” 。 显 然 定 理2 .1 .2 在比 定理2 . 1 . 1 要弱的条件下， 得到了更好的“ 指数” 稳定性， 这显然是一大改进 ( 要 知道，因为h o p f i e ld神经网 络系统是用微分方程描述的， 所以 系统具有全局渐 近稳定性并不意味着具有全局指数稳定性) 。 更 进 一 步 ， 文 献 6 还 说 明 了 h 是 保 证 定 理2 . 1 .2 结 论 成 立 的 矩 阵 测 度 p ( t ) 的最大可能上界。在这个意义下，该定理的充分条件是以 往同类文献中条件最 弱的 1 即 不 可能 将它 进 一 步 减 弱 为,u p ( t ) 0 为 任 意 常 数) ， 甚 至 是 p p _ h 的 形 式 。 这 样 ， 这 个 定 理 就 回 答 了“ 具 有 几 乎 对 称 的 连 接 权 阵 的 神 经网 络 是 否 会出 现极限 环( 从而 不 再 稳 定) ” 这 一问 题。 因 为p p ( t ) -lt ; i) 0 ; (iii) 18 3 = 二 六 客 (_ j2 /,j2 it ， ， b; 。 则该系统的 平衡点是全局渐近稳定的，且与滞量无关。 为了统一和比较不同文献的结果，且便于分析问题的本质，考虑最简单的 情 况 ， 设 增 益 参 数 p ， 二 1 ， 在 常 数 b ; 一 a ， 一 1 时 ， 以 上 条 件 等 价 于 “ iit ii, 1 或 iit il i 时， 系统( 2 - 4 ) 是全局渐近稳定的” 。 这就与 在无时 滞讨论时所得到的结论是一致 的 同 时 ， 我 们 知 道 ， 川 ， 条 件 分 别 强 于 p , ( t ) ， 而 且 文 献 6 在 ,u , ( t ) h 的 条 件下，把渐近稳定的结论拓展为了 指数稳定，不但减弱了条件，而且得到了更 好的稳定性。那么，对于时滞系统，是否也能在同 样的条件下将渐近稳定的结 论拓展为指数稳定呢?回答是肯定的，如下所述。 在 系统 ( 2 - 4 ) 中，当 增 益 参 数l r l = 1 ， 常 数b 二 6 ; = 1 时， 得到了 如 下最 简 单 的 时 滞h o p f z e l d 神经网 络模型: 。 :(，) = - u ; (t) + g , t ig i ( u i (， 一 ; ) ) + : ， ( 、 一 ，,2 ,n ) 其中 g ， 连 续可微且4 g ; ( z ) - 1 上 述 模 型 电滞 量 虽 然 是 r ， 但 是 它 与 系 统 (2 -4 ) 中 所 描 述 的 丁 一 m a x15 i ( 2 - $ ) z 1 本 质 完 全相同。 文献 2 4 1 基于h a l a n a y 时 滞微分不等式 分析， 讨论了 上述模型的 稳定 电子科技大学硕士学位论文 性，有以下结论: 定 理2 .2 .2 如 果 iit ii, 1 ， ， 1 , 2 , oo ) ， 则 系 统 ( 2 - 5 ) 存 在 唯 一 的 平 衡 点 ， 且 是全局指数稳定的。 该 定 理 推 广 了 上 述“ 娜 : 1 或 川 m l 时 ， 系 统 ( 2 - 4 ) 是 全 局 渐 近 稳 定 的 ” 的 结论，得到了全局指数稳定。那么为什么得到了与研究无时滞系统时一样的判 据呢?原因在于，- 一方面，我们讨论的都是全局稳定性，这也就意味着系统存 在唯一的平衡点，因而，当时滞被引入系统时，并不会改变其平衡点集的结构， 所以， 在平衡点存在唯一的条件下得到的 关于系统全局稳定的判据， 对于无( 有) 时滞系统都是适用的。另一方面， 无时 滞系统相当于时滞系统在: = o 时的特殊 情况，所以 适用于后者的判据必然也适用于前者。而且以上得到的判据类型又 是与公 无关的形式， 那么它们二者的这类充分判据当 然应该是一致的。 但我们应 注 意 ， 在 无 时 滞 系 统 中 ， 我 们 能 够 得 到 比 iit ii， 更 弱 的 条 件 p , (t ) ， 那 么 对 于 时 滞 系 统 ， 14 , 1 的 条 件 能 否 进 一 步 减 弱 呢 ? 这 需 要 进 一 步 的 考 虑 系 统 ( 2 - 4 ) 和( 2 - 5 ) 的 共同 点 是 激 励函 数 满 足 ( h ,) - ( h 3 ) ， 同 讨论 无时 滞 系统 时 一 样， 将上述条件( h j ) - ( h 3 ) 减弱为“ 有界且满足l i p s c h it z 条 件” ， 再对系 统的 稳定 性进行分析。 系统( 2 - 4 ) 中， 假设g , : 9 1 - * n 满 足条 件( h ) : gg j (u j )卜 m ， 且 g j (u j ) 一 。 j (v i 才 _ l j lu ， 一 v i 卜v u j , v j 。 9 1 , 定 理2 .2 .护 1,2 2 1 系 统 ( 2 - 4 ) 中 ， g j : % - + % 满 足 条 件 ( h ) ， 且 以 下 条 件 之 一 满 足，则系统有唯一的平衡点且是全局渐近稳定的，且与滞量无关 (i) a 二 湘小 增 益 参 数y j = 1 ; ( i i )刀=maxl生 自 川 3 - t b i j = i” _ ， 二it , i