（通信与信息系统专业论文）保密通信中的时滞神经网络超混沌复杂性研究.pdf

哈尔滨l ：榉人学硕十宁传论文 摘要 在保密通信中，加密算法是信息安全的核心，将混沌理论应用于保密 通信和信息加密中已成为国际非线性科学和信息科学两个领域交叉融合的 热门前沿课题之一，也是国际上高科技研究的一个新领域。既能实现快速 并行运算又有混沌动力学复杂行为的人工神经网络一直被认为是用来实现 保密通信所需的加密算法的最佳选择之一。而近来出现的时滞神经网络在 保证结构简易性的条件下，可以构造出无穷维的高复杂性的超混沌系统， 有望成为新一代保密通信机制的优化方案。 本文将时滞神经网络超混沌理论引入到现代信息安全与保密通信中， 围绕时滞神经网络超混沌特性的复杂性评价问题进行了较为全面的研究， 为构建新一代保密通信机制提供依据。 为了能够对时滞神经网络超混沌复杂性进行综合全面的分析，本文采用 特征函数分析与随机特性测试的综合分析评价方法。首先针对神经网络在 模拟通信中的应用，分析了c h e r t 和a i h a r a 混沌神经网络模型、w a n g 和s m i t h 混沌神经网络模型等常见的混沌神经网络模型，以及m a c k e y - g l a s s 、l i a o 和i k e d a 等时滞神经网络模型的李雅普诺夫指数等特征函数，为判断其混 沌复杂性提供依据。随后针对神经网络在数字通信中的应用，根据美国国 家标准技术研究所( n i s t ) 制定的一套随机特性测试标准，对二值化的神 经网络及时滞神经网络超混沌序列进行统计分析，从随机特性的角度分析 其混沌复杂性。为了将混沌序列的频率特性更直观的展示出来，利用周期 图法和最大熵谱分析法重点对随机特性中的功率谱性能进行数值仿真与对 比，很好的补充了对时滞神经网络超混沌的复杂性分析。 关键词：时滞神经网络：超混沌：保密通信；李稚普诺夫指数：随机特性 哈尔滨li 科人学硕十学何论文 a b s t r a c t t h ee n c r y p t i o ni st h ek e yp r o b l e mo fs e c u r ec o m m u n i c a t i o n t h a ta p p l y i n g c h a o st h e o r yt os e c u r ec o m m u n i c a t i o na n di n f o r m a t i o ne n c r y p t i o nh a sa l r e a d y b e c o m eo n eo ft h eh o t t e s tr e s e a r c hp r o j e c t so nt h ec o m b i n a t i o no fn o n l i n e a r s c i e n c ea n di n f o r m a t i o ns c i e n c e a n di ti san o v e lb r a n c ho fh i g h t e c hr e s e a r c h f i e l d s 。n e u r a ln e t w o r k s ，w i t ht h ep r o p e r t i e so fn o n l i n e a rd y n a m i c ss u c ha s c h a o t i cb e h a v i o ra n dp a r a l l e lp r o c e s s i n g ，a r er e g a r d e da so n eo fg o o do p t i o n sf o r e n c r y p t i o na l g o r i t h ma p p l i e di nt h es e c u r ec o m m u n i c a t i o n t h i sp a p e ri n t r o d u c e dt h ed e l a y e dn e u r a ln e t w o r kh y p e r c h a o st h e o r yt ot h e m o d e mi n f o r m a t i o n s e c u r i t y a n ds e c u r ec o m m u n i c a t i o n s b a s e do nt h e c o m p l e x i t yo fh y p e r c h a o sp r o p e r t i e se v a l u a t i o no ft h ed e l a y e dn e u r a ln e t w o r k ， t h ep a p e rc o n d u c t e dac o m p r e h e n s i v es t u d yf o rb u i l d i n gan e wg e n e r a t i o no f s e c u r ec o m m u n i c a t i o nm e c h a n i s m i no r d e rt oa n a l y z et h e h y p e r c h a o sc o m p l e x i t yo ft h ed e l a y e dn e u r a l n e t w o r ks y n t h e t i c a l l ya n dc o m p r e h e n s i v e l y , t h ea u t h o ru s e de v a l u a t i o nm e t h o d t h a ti n t e g r a t ec h a r a c t e r i s t i cf u n c t i o na n a l y s i sa n dr a n d o m n e s st e s t i n g f i r s t ，i n o r d e rt op r o v i d et h eb a s i st ot h ec h a o t i cc o m p l e x i t ya i m sa tt h en e u r a ln e t w o r k i nt h ea n a l o gc o m m u n i c a t i o na p p l i c a t i o n ，t h ea u t h o ra n a l y z e dt h el y a p u n o v e x p o n e n t o fs e v e r a lc o m m o nc h a o t i cn e u r a ln e t w o r km o d e lss u c ha s c h e n & a i h a r ac h a o t i cn e u r a ln e t w o r km o d e l ，w a n g & s i m t hc h a o t i cn e u r a l n e t w o r km o d e la n d d e l a y e d c h a o t i cn e u r a ln e t w o r km o d e l ss u c ha s m a c k e y g l a s s ，l i a o ，i k e d an e u r a ln e t w o r k s t h e na i m sa tt h en e u r a ln e t w o r ki nt h ed i g i t a lc o m m u n i c a t i o na p p l i c a t i o n ，a s e to fr a n d o m n e s st e s t sd e s c r i b e db yn i s t ( n a t i o n a li n s t i t u t eo fs t a n d a r d sa n d t e c h n o l o g y ) a r eu s e df o rt h es t a t i s t i c a la n a l y s i so fb i n a r yc h a o t i ca n dd e l a y e d 哈尔滨t ：稃大学硕十学何论文 c h a o t i cn e u r a ln e t w o r ks e q u e n c e a tl a s t ，f o rv i e w i n gt h ec h a o ss e q u e n c e 。sf r e q u e n c yc h a r a c t e r i s t i cm o r e d i r e c t l ya n ds u p p l y i n gt h ec o m p l e x i t ya n a l y s i so ft h ed e l a y e dn e u r a ln e t w o r k ， t h ea u t h o ru s e dp e r i o d o g r a ma n db u r gs p e c t r u ma n a l y t i cm e t h o dt on u m e r i c a l v a l u es i m u l a t ea n dc o n t r a s tt h ec h a r a c t e r i s t i c sp o w e rs p e c t r u m k e y w o r d s ：d e l a y e dn e u r a ln e t w o r k s ；h y p e r c h a o s ；s e c u r ec o m m u n i c a t i o n ； l y a p u n o ve x p o n e n t ；r a n d o mp r o p e r t i e s 哈尔滨工程大学 学位论文原创性声明 本人郑重声明：本论文的所有工作，是在导师的指导 下，由作者本人独立完成的。有关观点、方法、数据和文 献的引用己在文中指出，并与参考文献相对应。除文中已 注明引用的内容外，本论文不包含其他个人或集体已经公 开发表的作品成果。对本文的研究做出重要贡献的个人和 集体，均己在文中以明确方式标名。本人完全意思到本声 明的法律结果由本人承担。 作者( 签字) ：望 日期：饥州年弓月3 , 日 哈尔滨i 。稃人学硕十学 寺：论文 第1 章绪论 1 1 课题的研究目的及意义 由于信息快速的发展，传统的信息安全与保密通信技术受到世界范围内 的严峻挑战和冲击。事实上，解密分析技术的快速发展，使得目前各种传统 保密技术和加密算法，如。d e s ，r s a 和e c c 等均不能保证其理论上的安全性。 世界上每年因利用计算机网络进行犯罪所造成的经济损失令人吃惊。据美国 科学家联合会组织调奄和专家估计，美国每年因计算机犯罪所造成的经济损 失高达1 5 0 亿美元。更为严重的是，世界上各个国家之间为了达到其政治、 经济、军事、文化等方面的战略目的，掀起了一场日玎所未有的战争信息 战，其实质是利用各种计算机攻击手段，攻击敌方的信息系统，以达到摧毁 对方的目的。信息战的攻防对象是信息和信息系统，因此信息战的核心问题 也就是信息安全问题，特别是网络上的信息安全问题，这关系到国家的安全。 信息安全问题的解决主要依赖于现代科学理论和高技术手段，依赖现代密码 学核心理论研究、安全体系结构、网络安全通信协议等成果和关键技术以及 借助于此生产的安全产品。随着科技的发展，信息安全技术的发展也同新月 异，各种信息安全新技术层出不穷。为此，信息安全和通信保密问题已经被 世界各国提升到战略高度末考虑。而突破传统保密通信观念，构建新一代信 息安全与保密通信机制成为急需解决的课题。 基于混沌的信息加密是一种利用混沌信号对信息进行加密的新技术。混 沌系统对初始条件具有敏感依赖性，可以提供数量众多的非相关、类随机而 又确定可再生的混沌序列。出于混沌信号具有连续宽带谱、冲激式的尖锐自 相关特性，混沌在数字信息加密和保密通信等领域中所具有的巨大应用日订景 已引起了人们广泛的研究兴趣。混沌在密码学领域的研究起源于8 0 年代术， 由英国数学家m a t t h e w s 首先提出，其后得到了一定发展1 2 1 l 。利用混沌序列 作为密码可以实现数字化的图像、语音、文字等各种信息的加密、解密f 4 】， 哈尔滨l 稃人学硕十学何论文 这种全新的加密方式具有实现简便，抗攻击性强等优点，有很高的使用价值。 基于混沌同步的保密通信是一种通过混沌同步实现信号的遮掩、隐藏的加密 技术，主要用于通信中连续信号的加密。1 9 9 0 年美国的c a r r o l l 和l m p e c o r a 等利用驱动一响应法实现了两个混沌的同步卜6 i ，这一突破性的进展使得混沌 应用于通信领域成为可能。1 9 9 2 年，o p p e n h e i m 等将混沌同步的概念应用于 信息加密，同时指出混沌同步在一定条件下具有较强的鲁棒性，即使有干扰 存在，也会发生同步f 7 s l 。另外，混沌信号还可以用于扩频通信领域中件1 2 1 ，混 沌信号的宽带及连续的频谱，萨好是扩频通信中伪随机码的特征，另外它对 初始条件的极端敏感性也正好满足扩频通信的码分多址的需要。这些研究中， 把混沌与神经网络结合而产生的混沌神经网络信息安全技术与加密算法得到 了充分肯定。它兼顾了馄沌系统复杂的非线性动力学特性和神经网络的并行 工作的实时性，具有潜在的应用价值。 目前混沌的研究主要限于对低维系统的研究。而低维系统复杂性较低， 不宜于应用在高安全性保密通信中。超混沌系统由于具有高复杂性特点，将 其用于改进保密机制的安全性，是学术界追求的目标。但一般的非时滞超混 沌由于存在“有限维”和“结构复杂、实时性差”等缺点，从而限制了其在 高安全性保密通信中的应用。近来出现的时滞神经网络超混沌引起广泛注意， 此类系统在保证结构简易性的条件下，可以构造出无穷维的高复杂性的超混 沌系统。由于这种系统兼顾了混沌的高复杂性和算法的实时性，有望成为新 一代保密通信机制的优化方案。 本课题的研究目的是将时滞神经网络超混沌理论引入到现代信息安全与 保密通信中，围绕时滞神经网络超混沌特性的复杂性评价丌展创新性研究， 为构建新一代保密通信机制提供依据。本课题研究成果对于推动新一代信息 安全与保密通信机制的发展具有重要理论和实际意义。同时对未来信息安全 及社会各个领域都具有潜在而广泛的应用自，j _ 景。 2 - 哈尔滨f 稃人学硕十学何论文 1 2 时滞神经网络超混沌保密通信在国内外的研究现状 ， 2 0 世纪9 0 年代初，k a i h a r a 等人m 】根据生物神经元的混沌特性提出了混 沌神经网络概念后，人们丌始意识到神经元的混沌复杂性有望在保密通信中 得到应用。9 0 年代后期，陆续出现相关研究报道刀，有关神经网络混沌保 密通信技术的研究也取得了一些有意义的成果。如vm i l a n o v i c 等m 】提出的基 于神经网络混沌的一种同步保密通信方案，k r c r o u n s 等】基于细胞神经网 络提出的分组对称加密方案，d g u o 等人【2 0 】的基于神经网络混沌分类吸引子 的随机分组对称加密方案等。 在我国对混沌通信进行系统性的研究则始于2 0 世纪9 0 年代中后期，特 别是进入2 1 世纪以来，混沌保密通信朝着深层次发展，取得了一些创新性成 果。文献 2 1 将混沌时间序列的预测与改进的李雅普诺夫( l y a p u n o v ) 指数矩阵 计算方法相结合，提出了一种计算最大李雅普诺夫指数的计算方法；研究了 一个带时延的神经元方程，得出系统的线性稳定性和出现h o p f 分俞的条件 等，文献 2 2 】利用s c h a u d e r 不动点原理证明了瞬时混沌神经网络( t c n n ) 模型 平衡点的存在性，给出了t c n n 模型的渐近稳定性的充分条件，利用“不可 分意味着混沌”，研究了t c n n 中混沌产生的充分条件等，文献 2 3 研究了 时滞神经元系统的藕合同步问题，提出了载波自同步和利用混沌序列相关性 实现的扩频保密通信方案，文献 2 4 】提出了四种神经网络混沌分组安全加密 算法，文献 2 5 】提出了参数扰动主动一被混沌同步优化方案，对超混沌保密 通信进行了可行性研究，文献 2 6 】提出把f 弦映射引入闭坏b p 混沌神经网络 隐藏层，通过调整权值产生混沌的方案等等。 客观的说这些已经取得的各项成果对我国混沌保密通信的研究起到了很 大的推动作用。但迄今为止，为了易于算法的分析和应用，混沌的研究主要 限于低维系统。而低维系统只有一个下的李雅普诺夫指数，混沌的复杂性较 低，不宜于应用在高安全性保密通信中。超混沌系统由于具有多个下的李雅 普诺夫指数和混沌的高复杂性，将其用于改进保密机制的安全性，是人们期 哈尔溟l ：样人。子硕十学何论文 待的结果。 但研究表明瞄】，一般的非时滞超混沌是有限维系统，存在如下缺点：( 1 ) 系统李雅普诺夫指数的个数局限于系统的维数。( 2 ) 随着系统f 的李雅普若 夫指数个数的增加，系统的结构往往变得复杂庞大，导致算法速度变慢，实 时性变差等等。上述原因限制了它们在新的保密通信机制中的应用。 最近出现的时滞神经网络超混沌理论成为关注的热点。此类系统在保证 结构简易性的条件下，可以构造出无穷维的高复杂性的超混沌系统，从而在 很大程度上克服了非时滞系统的弱点。由于这种系统兼顾了高复杂混沌特性 和算法的实时性，可望成为高保密通信方案的优化选项。 但由于时滞神经网络超混沌理论总体上研究的时间不长，在保密通信方 面的应用研究少见报道，是学术界普遍公认的、新的研究领域，需要探索的 问题很多，如时滞神经网络超混沌特性的复杂性的评价问题、系统的稳定性 问题、同步问题等。这些都是在构建新一代信息安全与保密通信机制中必须 解决的关键问题，而且也是学术上需要创新的难题。 混沌的复杂性是评估算法安全性的重要指标。目j 仃仍没有统一的评估标 准。而对“混沌复杂性的评价”主要采用的是特征函数分析法。近期的相关 实验研究表明，某些高维超混沌在用于数字系统二值化后，其混沌序列并没 有表现出比低维更好的随机特性，并呈现出高维随机特性的相似性，从而降 低了应用的价值。这一发现说明，仅采用特征函数分析复杂性的方法是有局 限性的。本文采用特征函数分析与随机特性测试的综合分析评价方法，通过 对各类模型的复杂性进行综合分析和评价，提出科学合理的改进意见和时滞 神经网络超混沌系统的优化方案。 1 3 本文的主要工作及内容安排 本文主要研究了时滞神经网络超混沌保密通信的复杂性。以下各章节的 主要安排为： 第二章对混沌及混沌神经网络的基本理论进行简要的介绍，荸点介绍了 哈尔滨l 一样人学硕十学何论文 几种后文中将要研究的典型混沌神经网络模型和时滞超混沌神经网络的模 型： 第三章从混沌特征函数的角度对混沌神经网络的复杂性进行了分析，主 要研究了混沌神经网络和时滞超混沌神经网络的李雅普诺夫指数谱以及网络 参数对李雅普诺夫指数谱的影响，从而给出了判定混沌神经网络处于混沌或 超混沌状念的依据； 第四章介绍了n i s t 指定的随机特性统计测试工具包，并用它对几种混沌 神经网络及时滞超混沌神经网络模型进行了测试和比较，从随机特性的角度 对混沌神经网络的复杂性进行了分析，为混沌神经网络在信息安全领域中的 应用提供了参考标准： 第五章为了补充对混沌序列随机特性的测试，进一步分析了混沌神经网 络的功率谱特性，利用周期图法和最大熵谱分析法对混沌序列频率特性进行 直观展示；- 最后总结了全文的研究内容与创新点，并对今后的研究工作进行了展望。 哈尔滨t 。稃人学硕十学何论文 第2 章混沌神经网络基本理论 2 1 混沌的基本理论 2 1 1 混沌的起源与发展 从2 0 世纪6 0 年代初，科学家就丌始探索自然界的一些捉摸不定的现象。 1 9 6 3 年麻省理工学院的气象学家洛仑兹( l o r e n z ) - - 次偶然发现了一个新现 象：在一个特定的方程组中，小小的误差就可引起灾难性的后果，即初值十 分接近的两条曲线的最终结果相差可能会惊人的大。它表明确定论的系统表 现出随机行为，他称之为：决定论非周期流。后来洛仑兹又首先提出了“蝴 蝶效应”的理论，即一种对初始条件的极其敏感的依赖性。后来人们认识到， 当时洛仑兹提出的决定论非周期流现象就是一种混沌现象，洛仑兹本人也因 之被誉为“混沌之父”。 2 0 世纪7 0 年代是混沌科学发展史上光辉灿烂的年代。1 9 7 1 年，法国物 理学家d r u e l l 和荷兰数学家f t a k e n s 为耗散系统引入了“奇异吸引子”这 概念。1 9 7 5 年，中国学者李天岩和美国数学家j y o r k e 在a m e r i c a m a t h e m a t i c s ) ) 杂志上发表了“周期三意味着混沌”的著名文章，深刻揭示了 从有序到混沌的演变过程，这也使“混沌”作为一个新的科学名词f 式出现 在文献中。1 9 7 8 年和1 9 7 9 年m f e i g e n b a u m 等人发现了倍周期分翁现象中的 标度性和普适常数，从而为混沌在现代科学中奠定了颦实的理论基础。 、 在2 0 世纪8 0 年代，混沌科学又得到了进一步的发展，人们也更着重研 究系统如何从有序进入新的混沌及其混沌的性质和特点。1 9 8 0 年，美国数学 家b m a n d e l b o r t 用计算机绘出了第一张m a n d e l b r o t 集的混沌图像。1 9 8 1 年， f t a k e n s 提出了判定奇异吸引予的实验方法。1 9 8 7 年，r g r a s s b e r 等人提出重 构动力系统的理论和方法，通过由时| 日j 序列中提取分数维、李雅普诺夫指数 一6 - 哈尔滨f ：群人学硕十学传论文 等混沌特征量，从而使混沌理论研究进入到实际应用阶段。 如果说自 面是为混沌的研究打基础，那么2 0 世纪9 0 年代就是混沌与其 他学科相互渗透、相互促进、广泛应用的年代，关于它的研究几乎横跨了自 然科学和社会科学的所有领域，也出现了突破性的进展，由此激发起来的理 论与实验应用研究蓬勃展丌使得混沌理论不论是在自然科学还是社会科学， 如在生物学、数学、物理学、化学、电子学、信息科学、气象学、宇宙学、 地质学、经济学、人脑科学、甚至在音乐、美术、体育等多个领域都得到了 广泛的应用。混沌同步、超混沌、混沌保密通信、混沌神经网络、混沌经济 学等方向都已有成果出台。 2 1 2 混沌的基本特性 混沌是指确定性非线性动力学系统中存在的貌似随机的复杂行为。它具 有一般确定性系统( 非混沌系统) 所没有的一些几何与统计特征，如局部不 稳定性而整体稳定，无限自相似，连续功率谱，奇异吸引子，正的李雅普诺 夫指数，丁f 的测度熵等等【2 7 1 。一般认为混沌具有以下几个主要特性： i i i 1 、非周期性 即混沌系统表现出的貌似随机的特性，也称内随机性和轨道不稳定性。 对于产生混沌的系统，在几乎所有的初始条件下，都将产生非周期动力学过 程，在确定性系统中产生局限于有限相空间的高度小稳定的运动，即貌似随 机的运动，并且存在这种不稳定轨道的稠密集。由于这种不稳定性，系统的 长时间行为会显示出某种混乱性。另一方面，混沌的这种非周期性还表现为 局部不稳定性，而一般说束，混沌系统本身却具有整体稳定性，是局部不稳 定性与整体稳定性的统一。 2 、对初始条件的敏感依赖性 在无噪声理想情况下，如果一个混沌系统确实精确地运行在一个不稳定 的周期轨道上，它将永远运动在陔不稳定的周期轨道t ，然而，不稳定周期 轨道意味着任何内部或外部原因造成的微小扰动( 如噪声) 都会使系统很快 7 一 哈尔滨f 稃人学硕+ 学付论文 i ii ii i 偏离周期轨道，其相对这条轨道的极小偏差是随时i 日j 指数( l y a p u n o v 指数) 增长的，这就是著名的“蝴蝶效应”。 3 、长期不可预测性 由于初始条件仅限于某个有限精度，而初始条件的微小差异可能对于以 后的时间演化产生巨大的影响，因此不可能长期预报将来某一时刻之外的动 力学特性。即混沌系统的长期演化行为具有不可预测性。 4 、具有分形性质 分形( f r a c t a l ) 这一科学名词是由美籍数学家m a n d e l b r o t 在7 0 年代创立分 形几何学时所提出的 2 8 】。分形几何是以非规则几何形状为研究对象的几何学。 所谓分形是指l i 维空间个点集( 分形体) 的一种几何性质，它们具有无限精 细的结构，在任何尺度下通常都具有某种自相似性，且二般具有小于所在空 问维数，z 的非整数维数，即分数维。一般而言，分形是描述系统几何形态的复 杂性，混沌是描述系统动力学复杂性，但研究表明，绝大多数混沌系统都具 有分形特性。 5 、普适性和f e i g e n b a u m 常数 混沌是一种非周期性的“高级”有序运动。如果数值的或实验的分辨率 足够高，可以发现混杂在小尺度混沌中的有序运动。所谓普适性，是指在趋 向混沌时所表现出来的共同特征，它不随具体的系统及系统的运动方程而变。 通常有两种普适性，即结构的普适性和测度的普适性。著名的f e i g e n b a u m 常 数就反映了系统通过倍周期分分方式趋向混沌时的一种普遍的动念不变性。 6 、遍历性 混沌的“定常状态”不是通常概念下确定性运动的三种定常状态：静止( 平 衡) 、周期运动、准周期运动，而是一种始终限于有限区域且轨道永不重复的、 性状复杂的运动，而且这种复杂的非周期运动轨道在其有限的相空间内具有 稠密性。因此，随着时间的推移，混沌运动轨迹绝不逗留于某一状念而遍历 区域中的每一点。 一8 一 哈尔滨f 稗人学硕十学付论文 2 1 3 混沌的特征函数 1 、l y a p u n o v 指数： 在一维动力系统艺+ = 厂( 矗) 中，当它相邻的点随迭代而相分离时就会导 致混沌运动。l y a p u n o v 指数九就是衡量这种指数性分离，如图2 1 所示。 s n 次迭代 g p _ 弓 - x o + s f ( 殇)f ( x o + 占) 图2 il y a p u n o v 指数定义示意图 从图2 1 中可得： e e m = l 厂( + 占) 一厂( 嘞) l ( 2 1 ) 当占哼0 和专o o 公式( 2 1 ) 就可变为： 允( ) = l i + m 。l 。i m 。万1 l nl ! j 2 鱼二掣l = l i m 上，n l 幽i l q 2 n - - ”on l 氐i 公式( 2 1 ) 中可看到e 舢。一为相邻的两点迭代一次后距离伸长的平均值，是 分离发散还是吸引收缩取决于旯( ) ；而允( ) 的数值是个实数，可大于、等 于或小于零。首先，当李雅普诺夫指数2 ( x 。) 大于零时，e 耵h 大于1 ，相邻 两点的距离大于初始时的距离，这表明运动轨道在每个局部都不稳定，相邻 轨道呈指数关系分离；并且在系统稳定因素的制约下轨道反复折叠，形成混 沌吸引子，整个系统此时呈出混沌念。因此，一般可将李雅普诺夫指数大于 零作为一种混沌行为的判据。其次，当李雅普诺夫指数等于零时，则表明两 9 - 哈尔滨挥人学硕十学何论文 条相邻的轨道的初始距离在相空1 8 j 中延伸时保持不变。最后，当李雅普诺夫 指数小于零时，系统的相体积收缩，轨道在局部是稳定的，对仞始条件不敏 感。 对于多维情形，通常将全部的李雅普诺夫指数按大小排列为五l 五2 旯3 旯。在李雅普诺夫指数中，最小的李雅普诺夫指数，决定轨道收缩的 快慢，最大的李雅普诺夫指数则决定轨道发散的快慢，而所有的指数之和戬j 可以认为是大体上表征轨线总的平均发散快慢。对于未知动力系统产生的单 变量时间序列，提取李雅普诺夫指数的方法是基于时间序列的重构相空间。 尽管目前计算李雅普诺夫指数的方法有很多，他们大体上分属于两大类：w r o l f 方法和j o c o b i a n 方法。其中w o l f 方法适用于时间序列无噪声及切空间中小向 量的演变高度非线性的情况，j o c o b i a n 方法适用于时i 日j 序列噪声大，切空l 白j 中小向量的演变接近线性的情况。 0 - l o 亡 主2 j 3 l y a p u n o ve x p o n e n t l -i 二槲工 - - 一- - 一 l l iz t j 7 弋 j ii i， d ， l 一 - i l 2 2 2242 62 83323 43 6 3 84 u 幽2 2l o g i s t i c 映射的李雅磐诺大指数谱 - l o 哈尔滨l 稗l 1 大学硕十学伊论文 图2 2 为l o g i s t i c 映射的李雅普诺夫指数谱，随着参数的变化，当谱线 大于零时表示非线性系统处于混沌态，因而可以通过李雅普诺夫指数谱很容 易的判断系统是否处于混沌态。 2 、分数维度： 为了更进一步研究混沌的特征，需要计算奇异吸引子的分数维度。奇异 吸引子是轨道在相空i 、日j 中经过无数次靠拢和分离，来回拉伸与折叠形成的几 何图形，具有无穷层次的自相似结构。由于耗散系统运动在相空i 日j 的收缩， 使奇异吸引子维数小于相空f b j 的维数，故奇异吸引子的几何性质，可以通过 研究它的空问维数来确定。奇异吸引子的维数计算有豪斯道夫维、关联维、 自相似维、盒子维、李雅普诺夫维、信息维、点形维等，其中关联维是一个 十分重要的特征量，它对于重构相空间的嵌入维的选取有重要的作用，而且 它和另一个重要的特征量柯尔莫哥洛夫熵有十分密切的联系。 3 、熵 柯尔莫哥洛夫把信息熵的概念精确化，用来度量系统运动的混乱或无序 的程度。使用柯尔莫哥洛夫熵可判断系统运动的性质，用k 表示柯尔莫哥洛 夫熵： 1 ) 若k = 0 ，表示系统做规则运动。 2 ) 若k = o o ，表示系统做随机运动。 3 ) 若k 取有限正值，表示系统做混沌运动。 并且柯尔莫哥洛夫熵与李雅普诺夫指数存在一定的关系：对于一维系统， 柯尔莫哥洛夫熵就是李雅普诺夫指数；对于多维系统，柯尔莫哥洛夫熵等于 所有萨的李雅普诺夫指数的和。 4 、不变测度 不变测度p ( z ) 决定了一维映射+ 。= 厂( 矗) ( 石。 o ，l 】，2 = 0 ，1 ，2 ，) 在单 位分隔区间内的迭代密度，被定义为： 户( 川= l i + r a ，1 = 9 5 x 一厂b 。) 】( 2 - 3 ) 哈尔滨丁稃人学硕+ 学位论文 该表达式可用一个函数g ( x ) 的时间平均值作为不变测度的平均值，即： 舰万1 委ng ( ) 兰l i 。r a 。1 一g 【厂。( ) 】出户( x ) g ( x ) ( 2 4 ) 公式( 2 - 4 ) 是对由经典统计力学所得到的热力学均值的一维模拟，如果在 相空间的运动是遍历的，则可以用一个静态分布的总平均值万来替代时间平 均值，即： 煅专r 别陬纠一膨( 训( 元) ( 2 - 5 ) 公式中a 是一个关于向量；= 【( f ) ，弓( f ) 】的函数，向量；是依赖于时间的， 其中p ( f ) 和牙( f ) 分别是h a m i l t o n 函数的广义坐标和广义动量。 如果不变测度p ) 与初始值无关的话，就称这个混沌系统在状态空间 上具有遍历特性。 2 2 混沌神经网络的类型 人工神经网络是基于生物神经网络的结构和功能而构成的一种信息处理 系统，但是单纯的人工神经网络对大脑结构的模仿目前还处于极低的水平， 因此科学家们不断寻求新的方法来模拟人脑的功能。经过大量的理论和实验 研究，科学家们发现在大脑的神经系统中，从微观的神经元、神经网络到宏 观的脑电波( e e g ) 和脑磁场( e m g ) e ? 都有混沌现象存在。根据t s u d a 的说、法【2 9 1 ， 混沌作为一种确定动力学系统中的不规则运动，在人类记忆思维过程中主要 扮演三个角色，即： l 、记忆的媒介物； 2 、记忆搜索； 1 2 哈尔滨t 程大学硕+ 学何论文 3 、存储新的记忆信息。 一方面，由于神经网络是高度非线性动力学系统，它与混沌密切相关； 另一方面，在人工神经网络的研究中，也发现有混沌现象存在。因此科学家 们很自然的想到将二者结合起来形成混沌神经网络，它被认为是可实现真实 世界计算的智能信息处理系统之一【3 0 】。 目前，人们已提出了各种混沌神经网络模型，其中最具代表性的模型有 三大类，即：由a i h a r a 根据动物实验提出的混沌神经网络模型；由i n o u c 以 及k a n e k o 等提出的耦合混沌神经元网络模型；由c h e n 和a i h a r a 以及w a n g 和s m i t h 等提出的将传统的h o p f i e l d 神经网络进行适当的变换之后得到的一 些具有混沌特性的神经网络模型。 2 2 1a i h a r a 的混沌神经网络模型 这类混沌神经网络模型是由a i h a r a 根据动物实验提出的 3 1 , 3 2 1 。a i h a r a 等 人在对长枪乌贼的巨大轴突进行数值仿真试验中发现，在均匀空间的巨轴突 上，神经膜的响应特性是由带有混沌特性的一个不完整的魔鬼阶梯构成的， 这与最初n a g u m o 和s a t o 所提出的符号非线性混沌神经元模型所预测的完整 的魔鬼阶梯相矛盾，也就是说全或无的定律未被满足。因此，a i h a r a 等用一 个连续的递增函数厂代替了n a g u m o s a t o 模型中的s g n 函数。 a i h a r a 的混沌神经元模型为： y ( t + 1 ) = k y ( f ) 一口g ( 厂( y ( f ) ) ) + 口( f ) x ( t 4 - 1 ) = f ( y ( t + 1 ) ) 厂( y ) ：1 ( 1 + e x p ( - y 占) ) ( 2 - 6 ) 。口( f ) = ( 彳( f ) - o ) ( 1 一七) 式中：y 神经元内部状态 x 神经元输出 k 二一不应性衰减率，o sk 5 1 口比例系数，a 0 1 3 哈尔滨t 程大学硕十学位论文 g ( ) 不应性函数，通常可简化为g ( x ) = x s s i 鲫o i d 函数的陡度参数 彳( 幻在离散时刻t 神经元外加的输入强度 口神经元的输入阈值 通过a i h a r a 的混沌神经元模型得到的分岔图、李雅普诺夫指数图以及平 均激发率图与乌贼巨突实验中观察到的交错的周期混沌响应序列完全一 致。 2 2 2 耦合混沌神经元网络模型 l 、i n o u e 的混沌神经网络模型 3 2 - 3 4 1 1 9 9 1 年i n o u e 等人以耦合的混沌振荡子作为单个神经元，从而提出一种 构造混沌神经网络模型的方法。i n o u e 的混沌神经网络由若干个处理单元组 成，每个处理单元由两个彼此耦合的混沌振荡子组成，其相互耦合关系及迭 代演化过程如下 暾dl = 志i1 搿。篙隐溯p771)j2 d id , ( t ) j l g ( y ， l = ll ，7 7 一、 l 少，o + l + ( f ) l 口o ) 1 + f o ) ) j 、。叫 式中：d o 第f 个神经元在时间f 的状态表示为u ，( 力，定义如下 、il ( 激发) ，l x ，( ，) 一y ，o ) l 0 q 9 0 ，其他 式中：s 广外部输入 目厂_ 阈值 2 、k a n e k o 的耦合混沌神经元网络模型4 ，1 这是一类基于全局耦合的混沌神经元模型( g l o b a l l yc o u p l e dm a p ，g c m ) ， 每个神经元满足l o g i s t i c 映射。这个由许多相同的低维混沌单元所构成的系 统，可以产生复杂的时空混沌动力学行为。全局耦合的一维映射模型定义为 y ，( + 1 ) = ( 1 一占) 厂( 只p ”+ 吾善厂( y ，( f ) ) f 2 1 0 ) f ( y ) = l c r y 2y 【- 1 ，1 】 式中：y 如) _ 第f 个神经元在t 时刻的状态值 a 分岔参数 r 耦合系数 该模型有两个参数仅和s ，当两个参数被设定为特定制时，在耦合网络 的作用下，经过若干步之后，所有神经元的状念被划分为几类，属于同一类 的神经元将遵从相同的变化轨道。也就是说，这类网络的神经元演化过程具 有聚类的特性，即根据某一准则不断地调整网络参数最终可使各单元行为演 化到若干类，称之为“聚类冻结吸引子”。这可看作是从混沌搜索到回忆锁定 的过程，它与生物学实验结果相吻合，可有效地用于信息处理如联想记忆等。 2 2 3 基于h o p f i e l d 神经网络的混沌神经网络模型 这是一类由c h e n 和a i h a r a 、w a n g 和s m i t h 以及h a y a k w a 等提出的将传 哈尔滨i ：料人学硕十学位论文 统的h o p f i e l d 神经网络进行适当的变换之后得到的一些具有混沌特性的神经 网络模型。 1 、c h e n 和a i h a r a 的混沌神经网络模型 c h e n 和a i h a r a 提出的暂态混沌神经网络( t r a n s i e n t l yc h a o t i cn e u r a l n e t w o r k t c n n ) 的动力学方程为： mf t ( ，+ 1 ) = ，( 七h 肛一，) ) 7 2 1 2 。 f 2 11 )n， 、 + ( f _ 厂) 一口坛( 一( 卜，) ) 电) = 1 r = 0r = 0 公式( 2 一1 1 ) 中x i ( t + 1 ) 为第f 个混沌神经元在离散时刻( 什1 ) 的输出，石为 第i 个混沌神经元的连续输出函数，m 为混沌神经元的个数，为第，个混 沌神经元与第f 个混沌神经元之f 白j 的联结权值，h ，为第，个混沌神经元的轴突 变换传输函数，为外部输入的个数，为第，个输入与第i 个混沌神经元 之间的联结权值，j ( t - r ) y 7 离散时亥1 j ( t - r ) 第个外部输入的强度，g i 为第f 个混 沌神经元的不应性函数，k 为不应性衰减系数，a 为自反馈系数，一般为一正 数，0 ，为第f 个混沌神经元的全或无激发阈值。 若弘( 什1 ) 代表离散时刻( 什1 ) 时刻第f 个混沌神经元的内部状态，则公式 ( 2 1 1 ) 可表示为： 。 m， y i ( h 1 ) = 形，k ”h 心一r ) ) 尸 刊 ( 2 1 2 ) + ，k ”，o 一，) 一口七”g ，( z ，( ，一，) ) 一矽) = 1 ，- or = 0 x 心) = f ( y 心) ) = l ( 1 + e x p ( 一y ，( t ) s ) ) ( 2 13 ) 与经典的h o p f i e l d 模型相比，该混沌神经网络模型具有十分丰富而又复 杂的非线性动力学特性m 1 。 1 6 哈尔滨i ：稃人学硕十学何论文 外 ( f + 1 ) 图2 3c h e n 和a i h a r a 的混沌神经兀模7 i j 1 2 、w a n g 和s m i t h 的混沌神经网络模型 该模型是由w a n g 和s m i t h 在1 9 9 8 年提出的混沌神经网络模型。该模型 利用欧拉法将连续时间的h o p f i e l d 神经网络模型离散化之后得到的。 姒川) ：卅州以兰w ( f ) 一掣“) 7 一 ( 2 1 4 ) ：( 1 - 垒盟) 朋) + 邮) ( nw ，x ) + ，) ，剖 式中：彳f ( f ) f 时刻的步长( 系统分佾参数) a t ( t ) 的迭代公式为 a t ( t + 1 ) = 胚t ( t ) o 邻 o ，w 尹w ，即将4 f 作为系统的一个控 制参数，则对于单个神经元而言，动力学方程可写作 夕( f + i ) = ( 1 - a f t ) y ( f ) + f ( 懈( ，) + ，)( 2 1 6 ) c ( f + 1 ) = g ( y ( f + 1 ) ) 17 哈尔滨1 ：稃人学硕+ 学何论文 式中：g ( j ，) = i 乏磊丽1 ，r 陡度参数， 。 2 4 时滞超混沌神经网络 人工神经网络是种复杂的大规模动力学系统，由于其在联想记忆、模 式识别和优化等问题中的广泛应用 3 9 - 4 2 1 ，在过去的近二十年罩，神经网络的动 力学问题得到了深入的研究。为了易于分析和应用，许多人工神经网络模型 忽略了神经元之白j 信息传输所带来的时间延迟。但是，理论和实践证实，时 滞的客观存在性本身就说明了建模的不精确性，同时，时滞对神经网络的稳 定性带来影响，产生振荡行为或其它不稳定现象甚至出现超混沌现象。 近年来，研究人员将轴突信号传输时滞引入到传统的神经网络模型，如 h o p f i e l d 神经网络( h n n ) 、细胞神经网络( c n n ) 、双向联想记忆神经网络 f b a