（运筹学与控制论专业论文）神经网络理论及其具有时滞的神经网络的稳定性分析.pdf

电子科技大学硕士学位论文 神经网络理论及其具有时滞的神经网 络的稳定性分析 专业:运筹学与控制论 研究生王晓梅指导教师钟守铭 摘要本论文首先详细介绍了神经网络的产生、 发展以及微分系统的稳定性 理论， 更主要的分析了 具有时滞的细胞神经网络的全局渐近稳定性以及具有时滞 的 广义细胞 神经网 络的 稳定性， 并 分析了 具 有时 滞的h o p f i e l d 神经网 络的 全 局渐 近稳定性和指数稳定性。 首先介绍了神经网络的产生、 发展和对应的数学模型以及微分系统的稳定性 概念与尚待解决的神经网络稳定性问题; 其次， 研究了一类具有时滞的细胞神经网 络的稳定性问 题， 先证明了 这类系 统的平衡点的存在性， 然后利用l y a p u n o v 泛函方法结合不等式分析技巧， 在引 入一系列参数的条件下， 给出了系统平衡点唯一和平凡解全局渐近稳定的充分条 件， 该条件与时滞无关且推广和改进了己 有文献的结果。 另外， 研究了具有常时 滞的广义细胞神经网络的稳定性。利用常数变易法和 “ 第一破坏点的不可能性” 等分析思想得到了此类系统指数渐近稳定的判定条件; 最后，主要针对一类具有时滞的一阶h o p f i e l d 神经网络进行了分析讨论。 在这一部分中， 我们放弃了激励函数必须是可微的 要求，只需它满足l i p s c h i t z 连续条件即可; 我们利用矩阵分析理论和b r o u w e r 不动点定理， 得到了系统平衡 点存在唯一的充要条件:另外，研究稳定性问 题常见的方法是构造l y a p u n o v 函 数进行分析， 但是我们采用了常数变易法， 得到了另外一种类型的稳定性判定条 件， 从而利用比较容易计算的原系统线性部分的基解矩阵来控制非线性部分， 使 系统稳定。 关键词:细胞神经网 络广义细胞神经网 络h o p f i e l d 神经网 络 时滞 渐近稳定指数稳定l y a p u n o v 函数常数变易法。 电子科技大学硕士学位论文 t h e t h e o r y o f n e u r a l n e t w o r k s a n d t h e s t a b i l i t y a n a l y s i s o f n e u r a l n e t w o r k s w i t h d e l a y o p e r a t i o n s r e s e a r c h a n d c o n t r o l t h e o r y p o s t g r a d u a t e : w a n g x i a o m e i s u p e r v i s o r : z h o n g s h o u m i n g a b s t r a c t : i n t h i s p a p e r， f i r s t l y , w e i n t r o d u c e d t h e p r o d u c e a n d t h e a d v a n c e a n d t h e t h e o r y o f s t a b i l i t y a b o u t d i f f e r e n t i a l s y s t e m , t h e m a i n c o n t e n t s o f t h i s d i s s e r t a t i o n i n c l u d e : t h e s t a b i l i t y a n a l y s i s o f c e l l u l a r n e u r a l n e t w o r k s ( c n n ) w i t h d e l a y s ， a n d t h e s t a b i l i t y a n a l y s i s f o r a c l a s s o f g e n e r a l i z e d c n n w i t h c o n s t a n t d e l a y s . a n d t h e a s y m p t o t i c s t a b i l i t y a n d e x p o n e n t i a l s t a b i l i t y o f h o p f i l e d n e u r a l n e t w o r k s ( h n n ) . f i r s t ， w e i n t r o d u c e d t h e p r o d u c e、 t h e a d v a n c e、 m a t h e m a t i c s m o d e l a n d t h e c o n c e p t s o f s t a b i l i t y a b o u t d i f f e r e n t i a l s y s t e m a n d t h e p r o b l e m o f s t a b i l i t y a b o u t n e u r a l n e t w o r k s w h i c h e x c e p t t o s o l v e. s e c o n d , w e i n v e s t i g a t e t h e s t a b i l i t y o f a c l a s s o f c e l l u l a r n e u r a l n e t w o r k s w i t h d e l a y , f i r s t，t h e e x i s t e n c e o f e q u i l i b r i u m i s p r o v e n , s e c o n d， b y m a k i n g u s e o f t h e l y a p u n o v f u n c t i o n a l m e t h o d a n d c o m b i n g w i t h t h e t e c h n i q u e o f i n e q u a l i t y a n a l y s i s a n d t h r o u g h i n t r o d u c i n g a s e r i o u s o f p a r a m e t e r， w e g i v e t h e s u f f i c i e n t c o n d i t i o n s o f t h e u n i q u e e q u i l i b r i u m a n d t h e g l o b a l a s y m p t o t i c s t a b i l i t y o f t h e c o m m o n s o l u t i o n f o r t h e s y s t e m s , t h e s u f f i c i e n t c o n d i t i o n s a r e n o t c o n n e c t e d w i t h d e l a y， t h e s u f f i c i e n t c o n d i t i o n s a r e o b t a i n e d b y i m p r o v i n g t h e r e s u l t o f h a v e n p a p e r l a s t w e a n a l y z e t h e s t a b i l i t y o f a c l a s s o f h n n w i t h d e l a y s . i n t h i s s e c t i o n w e a b a n d o n t h e d e m a n d t h a t t h e a c t i v a t i o n f u n c t i o n s m u s t b e d e r i v a b l e a n d o n l y r e q u e s t t h e m b e l i p s c h i t z c o n t i n u o u s . t h e n e c e s s a r y a n d s u f f i c i e n t c o n d i t i o n f o r t h e e x i s t e n c e o f a u n i q u e e q u i l i b r i u m o f t h i s s y s t e m i s a c h i e v e d b y a p p l y i n g t h e m a t r i c e s a n a l y s i s a n d b r o u w e r t h e o r e m . n- 电 子科技大学硕士学位论文 i n a d d i t i o n , w e a d o p t t h e m e t h o d o f v a r i a t i o n s o f t h e p a r a m e t e r s ， t h o u g h i t w a s a u s u a l o n e c o n s t r u c t i n g 切a p u n o v f u n c t i o n t o i n v e s t i g a t e s t a b i l i t y . c o n s e q u e n t l y , a n o t h e r k i n d o f c o n d i t i o n e n s u r i n g t h e s t a b i l i t y o f t h e s y s t e m i s a c h i e v e d . a c c o r d i n g l y , t h e f u n d a m e n t a l s e t o f s o l u t i o n o f t h e l i n e a r p a r t o f t h e o r i g i n a l s y s t e m c a n b e u s e d t o c o n t r o l t h e n o n l i n e a r p a r t a n d t h e n m a k e t h e s y s t e m s t a b l e . k e y w o r d s : ，c e l l u l a r n e u r a l n e t w o r k s ( c n n ) ，g e n e r a l i z e d c e l l u l a r n e u r a l n e t w o r k s ，h o p f i e l d n e u r a l n e t w o r k s ( h n n ) , d e l a y , a s y m p t o t i c s t a b i l i t y , e x p o n e n t i a l s t a b i l i t y . l y a p u n o v f u n c t i o n , t h e m e t h o d o f v a r i a t i o n s o f t h e p a r a m e t e r s . i i i 独 创 性 声 明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。 据我所知， 除了文中 特别加以标注和致谢的地 方外， 论文中不包含其他人已经发表或撰写过的研究成果， 也不包含 为获得电 子科技大学或其它教育机构的学位或证书而使用过的 材料。 与我一同 工作的同志对本研究所做的任何贡献均己 在论文中 作了明 确的说明并表示谢意。 签 名 :44沁日期:年月日 关于论文使用授权的说明 本学位论文作者完全了解电子科技大学有关保留、 使用学位论文 的规定，有权保留并向国家有关部门或机构送交论文的复印件和磁 盘， 允许论文被查阅和借阅。 本人授权电子科技大学可以 将学位论文 的 全部或部分内容编入有关数据库进行检索， 可以 采用影印、 缩印或 扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签名: 落 a导师签名: 日 期:知 灯 夕 年 月2日 电子科技大学硕士学位论文 第一章神经网络的产生及简介 一、细胞神经网络( c n n ) 的产生及简介 细 胞 神 经网 络 ( c n n ) 由 美国 电 子 学 家l .o .c h u a 和l y a n g 1 , 2 于1 9 8 8 年 提 出 的一种 大规模的 非 线性模 拟电 路3 ) o c n n是由 很多 称为“ 细胞” 的 基本单元 组 成的，一个 “ 细胞”是一个非线性性电路单元，通常包含线性电容、线性电阻、 线性和非线性压控电流源。 它的结构与细胞自 动机相似，即每个 “ 细胞” 只与它 的邻近 “ 细胞”有连接，也称为局部连接性，这是 c n n最基本的特性。正是由 于这一特点，其硬件实现比一般的神经网络容易得多。关于c n n的连接方式及 电路图如下所示。 图1 二维c m连接示意图。每一个小方框c o , i ) 代表一个细胞单元。 了 ( 斗 )。 求 r . ( 。 二( f 协 i pr , 1 d d a j )场 g j a j ) 图2 c n n电路模型。 电子科技大学硕士学位论文 其中，c 为线性电容;尾、几和凡均为线性电阻;i 是独立的外部输入电流 i _ ( i , j ; k , 1 ) 和瓜( i , j ; k , 1 ) 均 是电 压 控 制 的 线 性电 流 源， 且 有 1 (i, j ;k ,l) 一 a ( i, j ;k ,l)v b ， 1 , ,(i,j ;k ,l) 一 b (:, j ; k ) x m ; 11 , 一 (y pi ) s (vj ; s 为 分 段 线 性 函 数 ， 且 有 s ( x ) 一 ( 1/ 2 ) 卜 + ， 一 卜 一 ， i) ; e , 是 独 立 的 电 压 源 。 因而，c n n 的状态方程为数学模型: = - a v n + j 、 艺a ( i, j ,k ,l) v , (t) +艺b (i, j ,k ,帆(t) + 1 ( 1 .1 .l ) 1 _i _m , l j 0 方程 ( 1 . 1 . 1 )是无时滞的细胞神经网络 ( c n n )的状态方程，无时滞的细 胞神经网 络 ( c n n ) 可用于信号处理， 特别擅长处理静态图 像。 而关于无时滞 的c n n的数学特性 ( 诸如耗散性、平衡态分析、全局稳定性、周期解)已 有文 献la . s 做了分析讨论。我们在这里要详细阐述的是具有时滞的细胞神经网络 ( d c n n ) ， 因 为 处 理 动态图 像需 要引 入 时 延， 这时 就需 要 考 虑d c n n 6 。 另 外还 应该注意， 细胞神经网络是一种大规模集成电 路的非线性、 实时、 高速并行处理 器， 它的输出函数不具备光滑性和严格单调的 特点。 并且， 在实际讨论中， 相当 一部分结果可以 取消约束条件及参数矩阵对称的假定， 使得c n n模型显得简洁、 便于数学分析。例如，如下方程所描述的具有常时滞的c n n模型: 电 子科技大学硕士学位论文 电( 1 ) 二 一 c ,x ; t ) + 艺 a j, f j ( x j ( t ) ) 十 艺b j f j ( x j ( 卜f j ) ) + i i ( 1 . 1 . 2 ) 厂!j = l c ; 0 ，i = 1 , 2 , ， 一 ， ” 其中。 是网 络中 神经元的 个数，x i ( t ) 表示第i 个神经元在t 时 刻的 状态变量， f j ( x j ( t ) ) 表 示 第1 个 神 经 元 在， 时 刻的 输出 ， 且 满 足 f j(x 一 ， ( ) = 合 (卜 + 卜 ix 一 ，) a l , 乌 风是 常 数 马 表 示 第 1 个 神 经 元 在 t 时 刻 的 输 出 对 第 个 神 经 元 的 影 响 强 度 ， 气 表 示 第j 个 神 经 元 在t - t j 时 刻 的 输 出 对 第i 个 神 经 元 的 影 响 强 度 ， i , 是 对 第 i 个 神 经 元 的 偏 置 ， z j 是 非 负 常 数 ， c , 表 示 在 于 神 经 网 络 不 连 通 并 且 无 外 部 附 加 电 压差的情况下第i 个神经元恢复孤立静息状态的速率。 也可以是如下方程所描述的具有常时滞的c n n模型 武( t ) 二 - b ,x ; t + 艺t j f j ( a j x j ( t ) ) 十 艺w j f , a i x j ( t 一 动) 十 i ; . ( 1 .1 .3 ) 八 o , i = 1 , 2 , ， 二 ， n ， 是 网 络 中 神 经 元 的 个 数 ， x j ( t ) 表 示 第l 个 神 经 元 在 t 时 刻 的 状 态 变 量 ， 界 表 示 1 个 神 经 元 在 t 时 刻 的 输 出 对 第 i 个 神 经 元 的 影 响 强 度 ， 叽 表 示 第 i 个 神 经 元 在 t 一 马 时 刻 的 输 出 对 第i 个 神 经 元 的 影 响 强 度 ， b ; 。 表 示 在 与 神 经 网 络 不 连 通 并 且 无外 部附 加电 压 差的 情况 下 第i 个 神 经 元 恢复 独 立 静息 状 态的 速 率， 几 是 对 第i 个 神 经 元 的 偏 置 ， j 是 第 j 个 神 经 轴 突 的 传 递 时 滞 ， 它 是 非 负 常 数 ，兀 ( a j x j ( t ) 表 示 第 i 个 神 经 元 在 t 时 刻 的 输 出 ， 并 且 f , u 二 1, 2 ,.二 ， ri ) 满 足 下 列 两 条 件 队 ( i ) f , 在r 上 有 界 ; ( 1 1 ) 对 于 及 任 意 x , y “ r ， 必 存 在 、 ， 0 ， 使 得 lf ; ( x ) 一 刀 t y ) ， ， ix 一 ， i. 模型 ( 1 . 1 .2 ) 和 模型 ( 1 . 1 . 3 ) 所满足的 条件不同。 在第 三章对 模型 ( 1 . 1 .3 ) 的 全局 渐 近稳定性进行详细分析并给出全局渐近稳定性的一个充分条件。 电子科技大学硕士学位论文 对于系统( 1 . 1 .2 ) , 等式右端第一项中x ; ( t ) 用一个具有变斜率的分段线性函 数 8 ( x r ) 所代替， 得到如下 模型: _击 ( t ) 1 l , ， 一份 二=一 二 8 ( x r ) a t入 幸 + 全 a ,1f (x j (t) + b uf (x _i (t - z ) + i ; (1 .1 .4 ) t ?0 ，i =1 , 2 , ， 二 ， n 其中 j!.且、leewett - s ( x i ) l ( x ; 一 1 ) + 1 x ; m ( x ; + 1 ) 一 1 这 里l o , m 0 均为常 数。 输出 函 数仍 满足 f (x ) = 合 x + ，卜 ix 一 ，1) 把 上 述 模型称为 具 有时 滞的 广 义 细 胞神 经网 络 模型， 它 是由s .e s p e j o等 18 1 于1 9 9 6 年提出的，它的产生背景源于实践，主要是便于神经网 络的硬件实现。 在第三章对具有时滞的 广义细胞神经网 络模型( 1 . 1 勺 的 指数稳定性进行了 分析并给出指数渐近稳定性的一个充分条件。 二、 人工神经网络的产生及简介 人们把用电 子方法、 光学方法或其他生物物理化学方法仿 照生物神经网 络所 构造出 来的神经网络称为人工神经网络。 现有的人工神经元网络模型是生物神经 系 统的 一种高度简化后的近似， 神经网 络研究的实质是向 人脑学习的问 题。 人工 神经网 络或称联机机构， 是源于人脑神经系统的一类模型， 是模拟人类智能的一 条重要途径， 具有模拟人的 部分形象思维的能力， 它是由简单信息处理单元 ( 人 工单元， 简称神经元) 互连组成的网络， 能接受并处理信息， 网络的信息处理由 处理单元之间的相互作用来实现， 它是通过把问题表达成处理单元之间的联接权 来处理的。 人工神经网络的基本构件之一是前传网络， 它又分为联想记忆神经网 络、 径向 基函数网 络、自由组织竞争网 络、 小脑模型联想控制网络等， 联想记忆 神经网 络最典型的 是h o p f i e l d 联想记忆 神经网 络， h o p f i e l d 提出了 神经网 络的 模 电子科技大学硕士学位论文 型 h o p f i e l d 神 经网 络 模 型 ( h n n ) 19 1 ， 有利 地 推动了 神 经网 络理 论的 研究， 同 时h o p f i e l d 还引入“ 计算能量函 数” 的 概念， 给出了网络稳定性和电 子电路实现。 自 此之后， 不同类型的神经网络纷纷出现。 人工神经网络理论和应用的研究， 形 成了世界性的热潮， 这些研究为神经计算机的研究奠定了基础。 人工神经网络作 为一种非常重要的 技术手段在许多 科学领域中有着出色的表现。 现在， 它作为一 门 新兴学科已为我们所熟悉，并己 成为计算智能学的核心内容。 曾有报道说， a s t o n 大学用神经网络来进行文献研究，可以通过它识别个人 的写作风格， 研究人员用它比 较了莎士比亚和他同时代人的著作。 另有电视节目 报道了 意大利的研究结果， 他们用神经网 络测试橄榄油的纯度。 前传网 络的b p 网络可以成功地应用于手写数字邮政编码 ( z i p )的识别，也可以用于图象压缩 和股票预测侧， 这些 例子从一个侧面 说明了 神经网 络有极其 广泛的 应用领域， 它不仅可以广泛应用于工程、 科学和数学领域， 也可以应用于医学、 商业、 金融 和文学领域。 神经网 络在众多领域的 广泛应用， 使它极具吸引 力。 同时， 基于高 速计算机的快速算法， 也可以 用神经网络解决过去许多计算量很大的复杂工业问 题。 这些新进展为神经网 络研究领域注入了 活力。 在过去一二十年中， 人们发表 了 成千上万的神经网络研究论文， 其相关理论及应用研究的重大意义已 得到越来 越多科学工作者的广泛认同。 三、神经网络技术的发展进程 神 经网 络 经 过 早 期 阶 段、 过 度 期、 新 高 潮期、 热 潮期四 个阶 段 fn， 早 期 阶 段 指的是1 9 1 3 年到6 0 年代末， 1 9 1 3 年人工神经系统的第一个实践是由r u s s e l l 描 述的水力装置, 1 9 4 3 年美国 心理学家w a r re n s m c c u l l o c h 与数学家w a lt e r h p i n s 合作， 提出了mp 模型 ( 由一些形式神经元按一定方式连接起来的网 络) ，1 9 4 9 年心理学家a .o . h e b b 提出了突触联系效率可变的 假设， 这种假设就是调整权值， 1 9 5 7年 f .r o s e n b l a tt设计制作了著名的感知器，1 9 6 2年 b e r n a r d w i d r o w和 ma r c i a n h o f f 提出了自 适应线性元件网络，6 0年代中期神经网络的研究处于低 潮;过度期指的是7 0 年代， 7 0 年代后，虽然神经网 络的研究仍处于低潮，但有 不少科学家在极其困难的条件下坚持不懈地努力奋斗， 提出了各种不同的网 络模 型，主要有日 本福岛 彦帮的认知机模型和日 本东京大学的中野馨的联想记忆模 电子科技大学硕士学位论文 型; 新高 潮期指的 是8 0 年代， 8 0 年代主要是h o p f i e l d 神经网络模型， 热潮期指 的是8 0 年代后期， 从1 9 8 6 年以来， 在控制领域， 将神经网络与传统控制技术相 结合取得了许多令人鼓舞的结果。神经网络理论的应用研究己经渗透到各个领 域，并在智能控制、 模式识别、自 适应滤波和信号处理、非线性优化、传感技术 和机器人、 生物医学工程等方面取得了令人鼓舞的进展。 这些成就加强了人们对 神经网络系统的进一步认识， 引起了世界许多国家的科学家、 研究机构及企业界 人士的关注， 也促成了不同学科的科学工作者联合起来， 从事神经网络理论、 技 术开发及应用于现实的研究。 神经网络提出已 有几十年了， 它首先被用于解决模式识别等一类问题。 由于 m in s k y 和p a p e r t 的 著作 p e r c e p t r o n 指出了 当时 存在的问 题， 一 度使 这方 面 的研究走入低谷。8 0年代，神经网络理论取得突破性进展，引起了自 控界的广 泛关注。 神经网 络之所以 对控制有吸引力， 是因 为它具有如下特点 12 : ( 1 ) 能 逼 近任 意 属 于l z 空间 的 非 线 性函 数; ( 2 ) 它采用并行分布式处理与存储信息， 有较强的容错性; ( 3 ) 便于用大规模集成电 路实现 ( v i s i ) 或光学集成电 路系统实现，或用现 有的计算机技术实现; ( 4 ) 适用于多信号的融合，可同时综合定量和定性的信号，对多输入多输出 系统特别方便; ( 5 ) 可实现在线和离线学习， 加大网 络控制的 灵活性，以 适应环境的 变化。 由于具有上述特点，神经网络控制在近年来出现了大量的研究结果。 在建 模方面， 静态神经网 络可用来作为系统的输入输出模型， 而动态神经网络既可用 来作为系统的输入输出模型， 又可用作系统的状态空间模型。 在神经网络控制系 统中， 神经网络的作用可分为三大类。 第一类是在基于模型的各种控制结构， 如 内 模控制、 模型参考自 适应控制、 预测控制中 充当 对象的 模型; 第二类是充当 控 制器; 第三类是在控制系统中起优化计算的作用。 神经网 络控制系统的具体方案 很多， 几种比较成熟的结构是: 监督控制、 逆动态控制系统、内模控制、 预测控 制、模型参考自 适应控制等。 控制理论与相对论、 量子理论一起被认为是2 0 世纪上半叶科学发展的三大 飞跃。 它的发展大体上经历了 经典控制理论、 现代控制理论以及2 0 世纪7 0 年代 电子科技大学硕士学位论文 后期提出 和发展 起来的 非线性智能 控制理论 三个发展阶 段 i 3 经典控制理论和现代控制理论研究的是线性时不变系统的控制问 题。 然而， 自 然界和现实生活中所有系统其实都是非线性的。 非线性是一切动力学复杂性之 源， 正是由于非线性的作用， 才孕育出大自 然的万千气象、 人类社会的风云变幻 和人类思想的错综差异。 非线性是绝对的、 近似的、 局部的。 我们平常认为的线 性系统， 实际上是对非线性系统的一种理想化或近似的描述。 随着科学技术的不 断发展， 人们对控制系统品质的要求日 益提高， 对实际过程的分析日益静谧， 从 而系统非线性特征的影响也就愈发突出了。 与线性系统相比， 非线性系统的显著 特点是存在多平衡点、极限环、分歧与混沌等现象，其运动行为与其初始状态、 系统参数及输入量之间存在着复杂的非线性关系，因此现行叠加原理将不再用。 神经网络的理论研究是一门新兴的边缘和交叉学科， 它的产生和发展一方面 受其它学科的影响， 反过来又势必影响其它学科的 发展， 神经元网 络从信息论角 度看， 它是另一种信息处理的工具， 对它的研究涉及到许多学科和专业， 现在不 少学科也都把这个课题作为它们的前沿在进行研究， 如数学、 物理学、 信息科学、 _ ._ . 、 、_， _ _、 _ ， . _、 、 _ ._、 、 j o_、 _ 心理学、神经生物学、认知科学计算机科学、微电 子学甚至哲学等。 另一方面， 直接应用现代科学的新理论和新方法如信息论、 系统论、 控制论、 协同论和耗散 结构理论等对它进行研究， 可同时为这些科学提出许多新问 题， 将会推动这些理 论和其他方面的发展。 电子科技大学硕士学位论文 第二章 微分系统的稳定性概念及其神经网络系统待解决的问题 一、微分系统的稳定性概念 稳定的概念出现的历史很悠久了， 早在十七世纪就出现过托里斯利原理， 即 当物体仅受重力的作用， 重心位置最低的时候其平衡是稳定的， 反之则是不稳定 的。 稳定性理论是从力学问题研究中建立起来的， 它出现于人工神经网络这一学 科产生之前， 是研究动态系统中的过程 包括平衡位置) 对于干扰是否具有自 我 保持能力的 理论 ， 俄罗斯著名数学家李雅普诺夫 ( l y a p u n o v )院士是第一个给 运动稳定性以数学定义并普遍而系统地解决了运动稳定性问题的学者。 他用十七 年的辛勤劳动， 在1 8 9 2 年写出了著名的博士论文 运动稳定性的一般问题 ， 从 此奠定了稳定性理论的坚实基础。稳定性理论是从力学问 题研究中建立起来的， 而它的发展却反过来为工程技术， 特别是自 动调节、自 动控制提供了 广泛的应用 p a - 2 o 。由 于科学技术的日 益发展， 特别是自 动调节、自 动控制等尖端科学的需 要， 稳定性理论在最近二十多年来有了蓬勃的发展， 大致可归纳为两个发展途径: 第一是问题范围的扩大，第二是新的研究方法的建立和已知的研究方法的加强。 例如， 近年来第二方法曾被推广到研究刚性空间、 动力系统的稳定性、 偏微分方 程组的稳定性、 神经网络等， 关于非驻定运动情形的研究， 时滞微分方程和中立 型微分方程的稳定性研究及函数 v的存在问题和构造问题的研究均有所加强或 有所创造 1 ,2 ,1 ( 2 )学习 速度慢、训练时间长限制了神经网络在实时控制中的应用; ( 3 )理想的训练样本提取困难，影响了网络的训练速度和训练质量; ( 4 )网络结构不易优化， 特别是隐层节点数目 的选取常常带有盲目 性: ( 5 )尚未从理论上完全解决神经网络学习算法的收敛性和神经网络控制系 统的稳定性问题。 因此， 与其它比 较成熟的控制理论相比， 当前对神经网络在控制系统方面的 应用研究，应着重解决以下几个问题: ( 1 )求可全局收敛的快速学习算法，以满足系统实时控制和良 好性能的需 要; ( 2 )在逼近非线性函数的问 题上，现有的理论只解决了存在性问 题。对不 同的被控对象， 如何选择合适的神经网 络结构，目 前还缺乏理论指导。 对多层前 馈 网 络 ， 这 一 问 题 就 是 网 络 的 层 数 和 隐 层 节 点 数 的 选 择 4 e ( 3 )目 前神经网络控制的基本应用模式是将神经网络作为模型或控制器加 入控制回路中， 通过学习， 实现对非线性系统的控制。 如何在工程中实现这一控 制思想， 是控制专家们必须研究的课题。 另外， 对于这种模式， 控制系统的稳定 性、 可控性等理论问 题还需进一步研究。由 于非线性系统的多样性、 复杂性， 加 之神经网 络本身的非线性， 使这一问 题的解决更加困 难。 目 前对h o p f e i l d 网络可 以 借助l y a p u n o v 理论 来分 析， 而对 多 数网 络， 我们仅有收 敛性分析， 而且是 对 静态不动点进行的; 对于动态轨迹跟踪系统的收敛性问 题上没有十分明朗的结 果，还需进一步研究; ( 4 )目 前神经网络模型的使用通常采用 “ 离线学习、在线修正”的方法， 理想的训练样本获取困 难。 如何直接在线建立对象的模型一直是神经网络控制的 电 子科技大学硕士学位论文 一个热点问题， 需要寻求一种良好辨识精度且可以实时应用的神经网络在线辨识 方法; ( 5 )复杂系统中通常存在大量不确定因素，神经网络要在复杂系统控制中 取得成功应用，必须设法提高神经网络控制器的适应能力和控制系统的鲁棒性。 需要说明的是， 神经网络控制方法中存在的有些问题， 是非线性系统理论本身所 固有的， 并非采用神经网络模型所引起的。 因此， 随着非线性系统理论和其他相 关科学的发展，上述问题的解决前景是乐观的。 神经网络控制是非线性控制的一个分支。 它与传统非线性控制的区别在于神 经网络是基于系统的输入一 输出映射，而非系统的数学模型，控制器设计师通过 学习来完成的， 而不是针对模型进行的。 可以说， 神经网络控制器是一种结构特 殊的非现行的被控对象， 并具有较强的适应和学习能力， 因而神经网络控制又是 智能控制的一个重要分支领域。 因此神经网络控制理论应视为非线性智能控制理 论的一个分支， 应与非线性控制理论并行发展， 并随非线性理论本身的完善而不 断完善。 非线性控制系统的研究几乎是与线性系统平行的， 并已 经提出了许多具体方 法。 但总的来说，由 于非线性控制系统本身所包含的现象十分复杂， 这些方法都 具有局限性， 不能成为分析和设计非线性控制系统的通用方法。 非线性控制系统 理论的研究目 前还处在发展阶段，还有许多问题有待于进一步探讨。 虽然目 前有较好仿真效果的各种控制方案很多， 但理论上的 研究尚处于初步 阶段， 需 要 袱的 工 作 很 多。 就 神 经网 络 本身 而言， 在逼 近 非 线 性函 数问 题上， 现 有的理论只解决了 存在性问 题， 对于不同的被控现象， 如何选择合适的神经网络 结构，尚 处于经验阶段， 有待于进行理论上的 研究; 在学习 算法方面， 现有算法 的收敛速度很慢， 应着重研究如何使算法的收敛速度加快， 当然此问 题要有重大 突破， 还有待于高维变量的 非线性优化方法的 提高。 就控制系统而言， 对于非线 性对象的神经网 络控制系统的 稳定性分析、 神经网络控制系统的鲁棒性、 鲁棒辨 识等均是有待研究的课题。 总之， 神经网络控制中的理论问题很多， 解决这些问 题的难度很大， 若有突破， 神经网络控制将会有更大的发展， 但许多理论问题的 解决，有赖于非线性系统理论的发展。 目 前， 对神经网 络稳定性的研究结论由于各种原因仍有较大的附加条件， 且 电子科技大学硕士学位论文 在一定程度上是针对具体问 题而言。 因此以 减少附加条件、 充分发挥神经网络控 制及其设计机器在工程中应用的灵活性为目的出发的稳定性研究，是极有意义 的，也是未来重要研究课题。 电子牙 妇i 大学硕士学位论文 第三章细胞神经网络的稳定性分析 一、具有时滞的细胞神经网络的全局渐近稳定性分析 本文研究了一类具有时滞的细胞神经网络的稳定性问题，首先证明了这类 系统的平衡点的存在性，然后利用l y a p u n o v 泛函方法结合不等式分析技巧， 在 引入一系列参数的条件下， 给出了系统平衡点唯一和平凡解全局渐近稳定的充分 条件，该条件与时滞无关且推广和改进了已有文献的结果。 细胞神经网 络( c n n ) 理论与应用是l . 0 . c h u a 和l . y a n g a . 于1 9 8 8 年 提出 来 的.由 于其局部的 连接性质而易于超大规模电 路的实现3 1 ，因 而具有巨 大的 应用 前景， c n n 现已 成为神经网 络研究的新热点25 - 2 7 7 ， 在过去的 十几年里被广泛的 研 究128 . 3 01 ， 文【 2 7 建立了 具有时 滞的 变系 数连接权细胞神经网 络的全局吸引区域， 并给出当时滞的细胞神经网络( d c n n ) 有平衡点时 ，平衡点全局渐近稳定的充分 条件， 本文首先给出了平衡点存在性定理，其次给出了 平衡点的唯一性定理， 最 后引用适当的l y a p u n o v 泛函并结合不等式t a b s a 2 + b 2 的分析技巧， 给出了d c n n 的全局渐近稳定的充分条件。该条件与时 滞无关，且含有多个可调整的参数。 本 文较原有文献的条件更充分，更具一般性。 考虑用下面具有时滞的泛函微分方程描述d c n n 为: a(t) c t t = - ;-, ( t) 十 虱1 1 (a x , t) + w ,f a , x , t - z, 十 i , i = 1 ,2 , - -,n) ( 3 . 1 . 1 ) 式 中 ， 。 是 网 络 中 神 经 元 的 个 数 ， x , ( t ) 表 示 第 j 个 神 经 元 在 t 时 刻 的 状 态 变 量 ， t 表 示j 个 神 经 元 在 t 时 刻 的 输 出 对 第 i 个 神 经 元 的 影 响 强 度 巩 表 示 第 j 个 神 经 元 在t - 几 时 刻 的 输 出 对 第 i 个 神 经 元 的 影 响 强 度 ， b ; 0 表 示 在 与 神 经 网 络 不 连 通 并 且 无 外 部 附 加电 压 差 的 情 况 下 第i 个 神 经 元 恢 复 独 立 静息 状 态的 速 率， i , 是 对 第i 个 神 经 元 的 偏 置 ，z , 是 第i 个 神 经 轴 突 的 传 递 时 滞， 它是 非 负 常 数， 无 ( a , x , ( t ) ) 表 示 第i 个 神 经 元 在 t 时 刻 的 输 出 1 并 且 兀 ( .1 = 1 , 2 , , n ) 满 足 下 列 两 条件 阴 : 电子 科技大学硕士学位论文 ( t ) j , 在r 上 有 界 ; ( 1 1 ) 对 于 寿 及 任 意 x , y e r , 必 存 在 、 ， 0 ， 使 得 比 ( x ) - f ; ( y ) 卜 u , i- 一 ， 】 对于 方 程( 3 . 1 . 1 ) 通 常 取 初 值为 3 1 x , ( t ) =(p , ( t ) , t 。 t 。 一 r , 气 ， : = m a xi rs n r ， ，( i 二1 ， 2 ，一， 月 ) ， 式 中 :( r, ( t ) 在 t 。 一 : , 1 , 上 是 有界 连 续函 数。 若 神 经 元 输 出 石 仃 = 1 , 2 , - - -, 心 满 足 条 件 ( 1 ) 和( 1 1 ) ， 那 么d c n n ( 3 . 1 . 1 ) 中 系 统 参 数 ;b i ， p j ， a i , t ii ， w ;j， ( i, j 一 1 , 2 , ，二 ， n ) 满 足 一 定 条 件 时 ， 网 络 系 统 是 全局渐近稳定的。 如果网络平衡点全局渐近稳定， 且平衡点唯一， 则网络系统也 全局渐近稳定。 因 此， 我们将对网 络系统全局渐近稳定性的 研究转化为 对网 络系 统平衡点全局渐近稳定性的研究。这种转化过程使问题简单化。 主要结论 定理3 - 1 - 1 d c n n ( 3 . 证如果有常向量x . 1 . 1 ) 存在平衡点。 ( x 犷 , x 二 ， , x a ) t 使 得: x ; =一 艺几 兀 ( a f x ; ) + 艺w o 儿 ( a ， 二 ; ) 十 h l 石( 兀 + 巩)f，(a，x: )五 二) 十丁 - 渭 b i b i 二 艺b ,fi 几( a i x i ) + ， ， ， ( r , .1 = 1 , 2 , . . . , n ) ( 3 . 1 . 2 ) 成 立， 则 称x . = ( x式， ， 式厂是 系 统( 3 . 1 . 1 ) 的 平 衡 点 。 于 是 将( 3 . 1 . 2 ) 式写成矩阵向量形式，有 x = b .f ( x * ) + 9 其中b = ( b j ) n ( t+ 吼、 ，i ; = ，q = l q l q 2 = q n )，i i =了， l。 ， ) 。 、 。q , f ( x . ) = ( .f ( a x 了 ) ， 儿( a , 二 ; ) ， ， d ; ( a n x n ) ) t 电子科技大学硕士学位论文 作 映 射f: r - r 为 :,f ( x ) = b f ( x ) + q ( 3 . 1 . 3 ) 我们定义超立方体: s 2 = x e r 】 ilx - g llm :! jb ijl m ) ( 3 . 1 . 4 ) 封 m = m a x s u p if , (s ) i 由 条 件 川 和 ( 3 . 1 . 4 ) 可 得 : iif ( x ) 一 。 。 一 iib f ( x ) ih iib i二 ilf ( x ) ih iib ii m ( 3 . 1 . 5 ) 由此可见: f: 0 - a 0将一个有界闭凸集0映到自 身， 于是由b r o u w e r 不动点定 理知， f 至 少 有一 个不 动 点， 设 不 动 点 为 :x . = ( x ,* , 式， ， 式) t ， 使 x . 二 f ( x * ) = b f ( x * ) + q ， 即 系 统( 3 . 1 . 1 ) 至 少 有 一 个 平 衡点 ， 这 个 平 衡 点 就 是 x . = ( x , , x ; ， ， x ;, ) t 。 定理3 - 1 - 2若d c n n ( 3 . 1 . 1 ) 满足: 客 黔 i，一 ，一 i= ，“，”， 则 d c n n ( 3 . 1 . 1 ) 的平衡点唯一。 证设x * = ( xx