（电工理论与新技术专业论文）基于模糊神经网络的混沌时间序列预测.pdf

郑卅大学工学硕士论文 a b s t r a c t t h i sd i s s e r t a t i o ni so nt h eb a s i so fc h a o sd y n a m i c sa n df u z z ys y s t e mt h e o r y , t h em a i n r e s e a r c hi sf o c u s e do nm o d e l i n ga n dl e a r n i n gm e t h o d so ff u z z yn e u r a ln e t w o r kt h a tu s e di n c h a o t i ct i m es e r i e sp r e d i c t i o n , t h ec o n c r e t ec o n t e n ta n dr e s u l t sa l ea sf o l l o w s ： ( 1 ) a m i x e d b p l e a r n i n g m e t h o d o f f u z z y n e u r a l n e t w o r k i s p r o p o s e d u s i n g t h i s m e t h o d ， t h ef u z z yr i d e sc a l lb ed r e wa n do p t i m i z e df r o md a t u md i r e c t l y , t h ep a r a m e t e r so fe v e r yf u z z y m e m b e r s h i pf u n c t i o n a n d t h e w e i g h t s o f f u z z y r u l e s c a n b e a d j u s t e d w i t h b p a l g o r i t h m ( 2 ) an e wk i n do fe n c o d i n ga n dd e c o d i n gm e t h o do ff u z z yr u l ei sp u tf o r w a r dw h i l e o p t i m i z i n gt h ef u z z yn e u r a ln e t w o r kw i t hg e n e t i ca l g o r i t h m ，c o m p a r i n gw i t ht h eb i n a r y e n c o d i n gm e t h o da n dn - v a l u ee n c o d i n gm e t h o d ，t h el e n # ao ft h ec h r o m o s o m e sc a nb e r e s p e c t i v e l yr e d u c e db ys e v e r a lh u n d r e dt i m ea n ds e v e r a lt i m e ，a n dt h et i m et h a tt h eo p e r a t i o n s n e e dc a nb es h o r t e ng r e a t l y ( 3 ) t h ec a u s eo fl o w e rp r e c i s i o no fp r e d i c t i o ni sa n a l y z e dw h i l ee m p l o y i n gi m p r o v e d g e n e t i ca l g o n t h mt oo p t i m i z et h ef u z z yr u l e sa n dp a r a m e t e r so ff u z z yn e a f f a ln e t w o r k ，i ti s b e c a u s et h a tt h em o r ep a r a m e t e r sn e e dt ob ee d j u s t i n ga n dt h el e s sg e n e r a t i o n si ss e tt h e c a l c u l a t i n ga m o u n to fo n eg e n e r a t i o ni ss ol a r g et h a tt h ew h o l en e c e s s a r yt i m ei sv e r yl o n g ，s o w eh a v eg i v eal i m i t e dg e n e r a t i o n sa n dt h ef u z z yn e t w o r kc l l r l tr e a c ht h eo p t i m a ls t a t e ( 4 ) t h es t r u c t u r ea n dp a r a m e t e r so f t h ef u z z yn e u r a ln e t w o r k a r ea a j n s t e db y c o m p a r i n g w i t l lt h ea b o v em i xb pa l g o r i t h m t h ei m p o r t a n ti n f o r m a t i o no f f u z z yr u l e sw i l ln o tb el o s t , a n d t h eo p t i m u mf u z z yr u l e sw i l lb eg e tu n q u e s t i o n a b l y t h ea l g o r i t h mt h a tc o m b i n e sb pa l g o r i t h m w i t hg e n e t i ca l g o r i t h mc a na c c e l e r a t es p e e do fc o n v e r g e n c ea n dp r e v e n tt h ed e f e c to fb p a l g o r i t h mt h a te a s i l yt of a l li n t ol o c a li n f i n i t e s i m a l c o m p a r i n gw i t hs i m p l eg e n e t i ca l g o r i t h m ， t h en e c e s s a r yt i m eo f o p t i m i z i n gp a r a m e t e r si sr e d u c e dg r e a t l y ( 5 ) u s i n gt h ef u z z yn e u r a ln e t w o r k so p t i m i z e dw i t ht h ea b o v es e v e r a la l g o r i t h m st o f o r e c a s tt h ec h a o t i ct i m es e r i e so fl o r e n zs y s t e m , t h er e 翻m sr e v e a lt h a tt h ef u z z yn e u r a l n e t w o r k s 哪蛐e dw i t hc o m b i n i n go fg aa n db pa l g o r i t h mh a st h eh i g h e s tp r e d i c t i n g p r e c i s i o n ，t h en e t w o r k so p t i m i z e dw i t hm i x e d b pa l g o r i t h mt a k e ss e c o n dp l a c e ，t h es y s t e mt h a t o p t i m i z e dw i t hi m p r o v e dg e n e t i ca l g o r i t h mg e t st h el o w e s tp r e d i c t i n gp r e c i s i o n k e y w o r d s ：f o r e c a s t i n go fc h a o t i ct i m es e r i e s ，p h a s e - s p a c er e c o n s t r u c t i o n ，f u z z yn e u r a l n e t w o r k , b pa l g o r i t h m ，i m p m v e dg e n e t i ca l g o r i t h m t f 郑重声明 本人的学位论文是在导师指导下独立撰写并完成的，学位论文没有剽窃、 抄袭等违反学术道德、学术规范的侵权行为，否则，本人愿意承担由此产生 的一切法律责任和法律后果，特此邦重声明。 学位论文作者( 签名) 调秘霞 2 0 0 5 年5 月5 日 基于模糊神经网络的混沌时间序列预测 引言 自然界的运动都是随时间演化的，对这些运动过程进行观测和记录，就构成了时间 序列。从这些按时间顺序计录的数据中，提取有意义的信息，以对产生这些数据的系统 进行描述、分类、建模和预报，并寻求该系统的运动规律。根据系统在某时刻及以前的 状态，对未来时刻的状态进行估计的过程称为时间序列的预测。 非线性时间序列是指那些具有确定的非线性规律的系统产生的状态变量的序列，这 些序列的值是随时间变化的。许多从实验上观测到的时间序列，表面上似乎是随机的过 程，而实际上往往是由某些确定的规律所支配。混沌运动就是其中一类普遍存在的重要 运动，对混沌理论的研究在过去几十年中经历了飞速的发展，人们发现，在物理、化学、 生物、生理等广泛的领域中，都存在有混沌现象。因而，对混沌的时间序列进行研究和 预测，在理论研究和实际应用方面都是很重要的课题。 混沌运动具有两个重要的特征，一是对初始条件或扰动的极端敏感性，很小的偏差 会随时间指数增长，因而其长期行为是不可预测的；二是具有确定性和规律性，它是确 定性系统中的轨道运动，因此这些貌似随机的行为是短期内可以预测的。另外由于混沌 系统对初值的敏感依赖性使得系统受人为因素的影响非常较明显，所以其预测能力受到 一定程度的限制。在实际工作中，正确地区别非线性时间序列与噪声，选取合适的预测 方法对最终的预测效果将有很大的影响。目前混沌时间序列的预测方法主要包括：全域 法、局域法、加权一阶局域法、基于l y a p u n o v 指数的预测方法以及神经网络等，它们各 有长处，已经成功的应用到了各个领域。 模糊逻辑系统、神经网络和遗传算法2 0 世纪的人工智能的三大研究领域，它们各有 特点。模糊逻辑系统是模仿人脑对模糊化信息处理方式的一种智能化系统，它具有强大 的非线函数逼近能力，能够以任意精度逼近定义在致密集上的非线性函数，其推理过程 是透明的，便于专家描述，其缺点是没有自适应能力。神经网络是模仿人脑微观结构的 另一种智能化系统，它具有强大的并行处理能力和自适应学习能力，也能够以任意精度 逼近任意非线性函数，但是它相当于一个黑匣子，推理过程不透明，不便于用专家经验 描述。模糊神经网络结合了二者优点，即具有模糊系统的推理能力，又能够用神经网络 的学习方法自动调整系统参数，具有强大的非线性映射能力，是目前研究的热点。 遗传算法是一种全局搜索算法，借鉴了自然界生物界进化中适者生存的竞争机制， 模拟由一定数量个体组成的群体的进化模式，通过适应度函数评价个体的优劣，优胜劣 郑州大学工学硕士论文 汰，最终获得最优的个体的一个过程。遗传算法提供了一种求解复杂系统优化问题的通 用框架，具有两大显著特征即隐含并行性和全局搜索性。它已经成功地应用在模糊规则 的选取和神经网络参数的调整中。 从时间序列的角度研究混沌源于p a c k a r d 提出的重构相空间理论，通过t a k e n s 定理 我们可以知道，根据非线性时间序列对系统的未来进行预测，其实就是由过去时刻的值 求解未来时刻值的一个映射。所以可以用模糊神经网络来无限逼近该非线性映射，即可 构建模糊神经网络实现混沌时间序列的预测，目前也有些学者开展了这方面的工作，但 是还没有一些成熟的理论和算法，很多问题还值得研究。 针对以上问题，本论文主要做了以下工作： 第一章介绍了混沌系统的基本知识及混沌时间序列预测的理论基础和一般方法； 第二章简单介绍了模糊神经网络的基本模型及万能逼近性； 第三章提出一种前向模糊神经网络的混合学习方法，该方法能直接从数据中提取模 糊规则，并优化得到最佳的模糊规则库，然后用b p 算法修改隶属函数的参数及网络的权 值。用其对l o r e n z 混沌时间序列的预测仿真实验结果表明该方法是有效。 第四章简单介绍了遗传算法的基本理论。并用改进的遗传算法优化模糊神经网络的 参数，用优化后的系统对l o r e n z 混沌时间序列的预测仿真，实验结果表明该系统是有效 的。 第五章针对遗传算法和b p 算法的缺点，采用该改进的遗传算法和附加动量的自适 应b p 算法对模糊神经网络的规则库和参数进行优化。与前两章相比，采用该算法优化 的模糊神经网络对混沌时间序列的预测具有较高的精度。 第六章总结了论文中做的工作，并模糊神经网络的优化算法和混沌时间序列的预测 的进一步工作做了一些展望。 基于模糊神经嘲络的混沌时间序列预测 第一章混沌时间序列预测研究现状 混沌运动是自然界中普遍存在的运动形式之一，对混沌理论的研究在过去几十年中经 历了飞速的发展，人们发现，在物理、化学、生物、生理等广泛的领域中，都存在混沌现 象。对这些运动系统进行观察、记录，得到它们不同时刻的状态，然后从这些计录的数据 中提取有意义的信息，以对产生这些数据的系统进行描述、分类、建模和预报，寻求该系 统的运动规律。根据系统在某时刻及以前的状态，对未来时刻的状态进行估计的过程称为 时间序列的预测，目前已经成为一个重要的研究课题。 本章中，首先讨论了非线性时间序列的判别方法；其次描述了相空间重构原理：最后 简单介绍了混沌时间序列的各种预测方法。 1 1 混沌时间序列 1 1 1 混沌基本概念 关于混沌的概念，确切的定义很难给出，一般认为。混沌就是指在确定的非线性系统 中出现的一种貌似无规则，类似随机的现象。这种确定性的非线性系统出现的具有内在随 机性的解，就称为系统的混沌解。 从数学角度讲，对于一个系统，给定初始值，由动力学知识可以推知该系统的长期行 为甚至追溯其过去的状态。但大量实例表明，很多系统对初值十分敏感，即所谓的“蝴蝶 效应”，这正是系统内在固有的随机性引起的，它只可能发生在非线性系统中。 非线性系统的解已有的存在形式包括平衡态、周期解和拟周期解，混沌也是非线性系 统解的一种新的存在形式，它不是简单的无序而是没有明显的周期和对称，但却具有丰富 的有序的内部层次，因此与确定解和随机解郡有所不同( 随机解在短期内也是不可预测的) 。 1 1 2 混沌的重要特征量”一 所谓吸引子是指非线性系统最终形成的运动状态在相空间中的不变流形或点集，当这 一点集的维数为非整数时，称之为奇怪吸引子。混沌系统的重要特征是具有奇怪吸引子。 吸引子的特征量是刻画混沌吸引子某个方面特征的量，它分为“微观”和“宏观”两个层 次。“微观”层次是指构成舒隆吸引子的骨架的不稳定周期数目、种类和其特征值；而“宏 观”层次是指对整个吸引子或无穷长的轨道平均后得到的特征量，如l y a p u n o v 指数、维数、 熵等。 郑州大学工学硕士论文 ( 1 ) l y a p t m o v 指数 混沌运动的基本特点是运动对初值条件极为敏感。两个很靠近的初值所产生的轨道， 随时间推移按指数规律分离，l y a p u n o v 指数就是定量描述这现象的量。对于一个的n 维 动力系统，定义l y a p u n o v 指数如下： 设f 是r “寸r “上的h 维映射，决定一个n 维离散动力系统： x “l = f ( x ) 将系统的初始条件取为个无穷小的n 维球，在演变过程中球会变形为一个椭球，将椭球 的所有主轴按长短顺序排列。则根据第i 个主轴长度只( n ) 的增加速率，定义该系统第i 个 l y a p u n o v 指数为： 咿恶言踹 ，i f f i l , 2 , n ：， 所以l y a p u n o v 指数描述了相空间中轨线的收缩或扩张性质，在l y a p u n o v 指数小于零 的方向上，轨道收缩，运动稳定，对于初始条件不敏感；而在l y a p u n o v 指数大于零的方向 上，轨道迅速分离，运动不稳定，对初值条件极为敏感。 ( 2 ) 关联维 非线性系统的相空间可能维数很高，甚至无穷，有时还不知道维数是多少，而吸引子 的维数一般都低于相空间的维数。从一个间隔一定的单变量时间序列出发，构造出一批n 维 矢量，支起一个嵌入空间，只要这个嵌入维数足够高( 通常要求n 2 d + 1 ，d 为吸引子 的维数) ，就能在拓扑等价意义下恢复原来的动力学性态。 设和z ，是m 为相空间中的一对相点，定义累积分布函数为 c ( m ，f ) ：1 1 箩日( ，k1 l ) n 2 1 k y , j = 1 日( ，k1 其中h 为h e a v i s i d e 醐h ( x ) = f o ，：；：，| | | | 为任何形式的范数，一般使用较多的是欧 氏范数，为给定的整数。c ( m ，) 反映了相空间上两点距离小于，的概率。定义关联维 4 基于模糊神经网络的拖沌时间序列预测 数为： d 2 ( m 、：1 i m ! 巫g 竺! ! ! ! ( 1 4 ) r u i n p 通过做出1 n ( c ( m ，r ) ) 一l n r 的曲线，可以看出当嵌入维数m 增大到一定值时，曲线斜 率d 2 ( m ) 的值不再随m 的增长发生有意义的变化，此时的关联维就是该时间序列的内在混 沌系统的维数。此时的嵌入维数m 就是相空间重构所需要的最小维数。所以关联维是一个 十分重要的特征量，它对重构相空间的嵌入维数的选取有举足轻重的作用。 混沌吸引子还有一些特征量，如自相似维、盒维数、熵等，这里不再累述。 1 1 3 混沌的时间序列判断方法1 - 3 _ 4 在实际测量过程中，由于测量方法和计算工具等方面的限制，使得到的时间序列不可 避免的带有一定程度的噪声，这些噪声的存在给时间序列分析带来很大的困难，甚至导致 错误的结论。因此，如何正确区分噪声和混沌信号是一件很重要的事情，通常从两个基本 特征上去判断：一是系统的相空间中的吸引子是否具有自相似结构的分数维几何体：二是 系统对于初始状态条件是否十分敏感。如果吸引子具备这两个特征，则认为整个系统的行 为是混沌的。具体判别时间序列数据中是否存在混沌常用以下几种方法： ( 1 ) 时域分析法 这是观察混沌运动的最简单最宜观的方法，但不精确可靠。观察时间序列随时间变化 的图形，若系统的状态值是无规律地在一定范围内变化，而且有无穷多的自相似结构，但 是又没有固定的周期，此时可以判断系统可能存在奇隆吸引子，该系统是混沌的。 ( 2 ) 频谱分析法 在对系统进行研究时，人们常得到的是一些系统输出变量的时间序列，根据实际测量 得到的时间序列占( f ) 可以求得该变量的功率谱密度函数s ( a r ) 。首先求得变量的频谱为 f ( 万) = fb ( t ) e 一“d t ( 1 5 ) 相应的功率谱密度函数为 s ( 母) = 喜| f ( 玎) 1 2 ( 1 6 ) 由此可得到该变量的功率谱图。各种运动对应的功率谱是不一样的，当变量为周期运动或 拟周期运动时，其相应的功率谱为一条垂直的直线，会一个很窄的尖脉冲；当变量为白噪 郑州大学工学硕士论文 声对，功率谱则为一天水平线：当变量的运动为混沌运动时，功率谱为一条连续的曲线， 但不是水平线。因此，可以根据功率谱图判断系统是为混沌系统。 ( 3 ) l y a p u n o v 指数法 混沌运动的基本特点就是系统运动对初始条件极为敏感，两个很靠近的初始僮所产生 的轨道，随时间推移呈指数规律分离，l y a p u n o v 指数作为沿轨道长期平均的结果，是一种 整体特性，其值总是实数，可正、可负、也可以为零。 l y a p u n o v 指数盯定量地刻画了这种分离程度，当口 0 时，意味着相邻点最终要分离， 这对应着轨道的局部不稳定陛，如果轨道还有整体的稳定因素，则在此作用下反复折叠并 形成混沌吸引子。因此盯 0 可作为系统混沌行为的一个很好的判据。通常将全部的 l y a p u n o v 指数按由大n d , j t 曛序排列 仃i 盯2 1 3 n ( 1 7 ) 在l y a p u n o v 指数谱中，最小的l y a p u n o v 指数盯。决定轨道收缩的快慢，最大的l y a p u n o v 指数盯1 则决定轨道发散的快慢，所有的l y a p u n o v 指数之和q 可以认为大体上表征轨 线总的平均发散快慢。在混沌系统中至少有一个最大l y a p u n o v 指数口1 大于零，1 9 8 3 年， g e l i b e r g e 证明只要一个时间肩锣0 的盯1 为正，就可肯定该序列存在混沌。 判断个时间序列是否为混沌时间的方法还有主分量分析法、庞克莱截面法、局部神 经能够网络法等，这里不再累述，见文献 1 。 1 2 混沌时间序列预测的理论基础 1 2 1 混沌时间序列预测的物理基础 随着混沌动力学的发展，人们对时间序列预测的复杂性有了更深刻的认识。非线性理 论认为，即使是一个完全确定的系统模型，其精确解经过长时间的演化也可能显示出一定 的不确定性，即具有某种随机性。正是这种随机性，使得系统的解具有某种不可预测性。 但是又由于这种随机性不是系统外在的不确定因素导致的，而是由系统的内在动力学特性 所决定，并表现为对系统初值的敏感性，短期行为是完全确定的，可知其短期行为是可以 预测的。这就决定了混沌时间序列预测具有可以短期预测而不可长期预测的特性。 6 基j 二模糊神经网络的混沌时间序列预测 1 2 2 相空问熏构 最初提出相空间熏构的目的是在高维相空间中恢复混沌吸引予。混沌吸引子作为混沌 系统的特征之一，体现着混沌系统的规律性，意味着混沌系统最终会落入某特定的轨迹 之中，这种特定的轨道就是混沌吸引子。系统任何分量的演化都是由与之相互作用着的其 他分量所决定的，这些相关分量的信息就隐含在任一分量的发展过程中。1 ，因此，可以从 某一分量的一批时间序列数据中提取和恢复出系统原来的规律。由于混沌系统的策动因素 是相互影响的，因而在时间上先后产生的数据点也是相关的。p a c k a r d “1 等建议用原始系 统中的某变量的延迟坐标来重构相空间，t a k e n s0 3 证明了可以找到一个合适的嵌入维m ， 如果延迟坐标的维数m 2 d + l ( d 是原动力系统的维数) ，在这个嵌入维空间里就可以 把轨迹( 吸引子) 恢复出来，也即在重构的r ”空间中的轨线上与原动力系统保持微分同胚， 从而为混沌时间序列的预测奠定了坚实的理论基础。 定义1 1 设( ，p ) ，( | v 1 ，p 1 ) 是两个度量空间，如果存在映射妒：n _ + n i 满足：( 1 ) p 满射；( 2 ) p ( x ，y ) = p 1 ( 妒( 工) ，妒( y ) ) ( 搬，y n ) ，则称( ，p ) 和( l ，p 1 ) 是等距同构的。 定义1 2 。1 如果( 1 ，p 1 ) 与另一个度量空间( n 2 ，p 2 ) 的子空间( n o ，p 2 ) 是等距同构 的，则称( i ，p 1 ) 可以嵌入( n 2 ，p 2 ) 定理1 1 ( t a l 【e n s 定理) ”3m 是d 维流形，p ：m 斗m ，9 是一个光滑的微分同胚， y ：m r ，y 有二阶连续导数，妒( z ，y ) ：m 斗r 2 4 “，其中 妒( x ，_ y ) = ( y ( 石) ，y o ”，y ( y ( 伊2 d ( 曲) ，则妒0 ，y ) 是 f 到r 2 。+ 1 的个嵌入。 由以上定义和定理可知，d ( 石) ，y ( 缈( z ) ) ，y ( p 2 4 ( x ) ) 是r 2 。+ 1 的一个子空间， 妒( x ，y ) 与它等距同构，l j d 维流形m 可以嵌入尺2 4 “，即p ( 工，y ) 是r 2 。+ 1 的一个嵌入。 对于实际时间序列 j 来说，原系统的状态相当于d 维流形时， 乃) 就是d 维流形中所 能观测到的信号值。若令妒：_ 斗x ，一。，x f 表示f 时刻系统m 的状态，f 为延迟时间，则妒 就是一个光滑的微分同胚，由f 时刻状态m 观测的信号由 y f ，y 。，y t - 2 d v ) 构成，其中 y f = y ( x f ) ，y f 一，= y ( x f - ，) = y ( 妒( z ) ) 。从而妒( z ，) ，) = ( y ( 功，y ( p ( x ) ) ，一，y ( y ( 妒2 。( 工) ) 是 7 郑州大学工学硕士论文 m 寸r 列+ 1 的一个嵌入，即流形m 与空间 y ，y t - ，c , y m d ， 微分同胚。由此可知，当 嵌入维数大于原始动力系统吸引子维数d 的2 倍时，用实际信号延迟时间坐标为基的相空间 与原始系统的状态空间等价。 根据t a k e n s 定理，只要嵌入维数m 和延迟时间r 选择合适，就可以在拓扑等价的意义 下恢复系统原来的动力学特性。实际上只要m d ，嵌入空间中点集的维数就等于吸引子 的维数。j p e ck m a n 等m 在1 9 8 5 年已经证明m 可在d 埘2 d + 1 中取值。 在重构相空间中，时间延迟f 和嵌入维数m 选取具有十分重要的意义，如果r 和m 选 择合适，系统不可观测的许多重要性质可在重构的相空间中明确的出现。下面我们讨论这 两个参数的优选问题。 ( 1 ) 最佳延迟时间的选取 由t a k e n s 定理可知，在数据无限长和无噪声的情况下，可任意选择延迟时间f ，但实 测的时间序列都是有限长，且一般都有不同程度的噪声和测量误差，所以只能根据经验来 选择r ，其基本思想是：使x ( n ) 和x ( n + 1 ) 既有某种程度的独立又不完全无关，以便它们 能在重构的相空间中作为独立的坐标处理。如果f 太小，则x 翻) 和x ( n + 1 ) 的值充分靠近， 以致不能正确区分它们，得到的重构相空间可能总是杂乱无规则的。如果f 太大，则x ( n ) 和x ( n + 1 1 会不相关，吸引子轨道会投影在两个互不相关的方向上，从而不能反映相空间中 轨线的真实演化规则。 在实际应用中，主要有以下几种方法来选取最佳延迟时间间隔f ”： 1 ) 线性自相关函数法。3 。通过定义线性自相关函数q ( f ) ，取q ( f ) 第次穿过零 点时所对应的r 为最佳延迟时间间隔，或者取c ，( r ) 的值首次下降到初值的e 1 时的f 为 最佳延迟时间间隔f 0 。这是在最t b - - 乘意义下从已知y ( n ) 预测y o + 1 ) 的角度进行的线性 选择，对非线性依赖关系并不清楚。实践证明，由此方法估计的f 值往往过大。 2 ) 平均互信息法o 。由于混沌系统在相空间中是处处不稳定的，即使在某一时刻两 点间的距离很小，经过一段时间后，两点间的距离便可增大到可以分辨的程度，因此可利 用序列间非线性相关性来研究非线性动力系统。f r a s e r j | 用概率分布密度定义的平均互信 g i ( r ) 提供了一种非线性系统从冗余到不相关转换的较好的度量，文 1 0 建议选择( f ) 的 第一个极小点所对应的f 为晟佳延迟时间间隔f 。因为此时产生的冗余最小。与线性白相 关函数比，平均互信息法考虑了非线l 生依赖性，但其也有一定的局限性，例如有时可能无 8 基于模糊神经网络的混沌时间序列预测 局部极小点或对某些问题特别不合适。 3 ) 重构展开法“。文 1 1 提出了一种建立在几何方法基础上的最佳延迟时间间隔选 取方法，它综合考虑了冗余和不相关之间的折衷，定义了表示重构状态空间轨线从状态空 间主对角线打开程度的平均位移s ：( m ，r ) ，当f 增加时，s ：( m ，f ) 也随着增加，对较大的m ， 在某个f 处，s 2 ( m ，f ) 不再增加。文 1 1 建议取5 2 ( m ，r ) 一f 曲线的斜率减少到小于初值的 4 0 时的f 为最佳延迟时间间隔“。该法优点是对有噪声和较小的数据集比较可信且计算 时间较短。 除了上述介绍的方法外，选择“的方法还有高阶关联法、通过分析整体和局部混沌吸 引子行为获得优化延迟时间的填充因子法等多种方法。 ( 2 )最佳嵌入维数的选择 t a k e n s 定理从理论上证明了当m 2 d + 1 时可获得一个吸引子的嵌入，其中d 是吸引 子的分形维数，但这只是一个充分条件，对实验数据选择最小嵌入维数埘。没有帮助。如 果m 选得太小，则吸引子可能折叠以致在某些地方自相交，这样在相交区域的一个小邻域 内可能会包含来自吸引子不同部分的点。如果m 选得太大，理论上是可以的，但在实际应 用中，随着m 的增加会大大增加吸引子几何不变量，如关联维数、l y 8 p u n o v 指数等的计算 工作量会大大增加，而且噪声和舍入误差的影响也会增加。 在实际应用中，常用以下方法来选取脚。： 1 ) 计算吸引子的某些几何不变量。通过增加计算过程中的嵌入维数，观察什么时候 某些几何不变量停止变化。从理论上说，由于这些不变量是吸引子的几何性质，当州大于 最小嵌入维数时，几何结构被完全打开，因此这些不变量就与嵌入维数无关了，这时可取 吸引予几何不变量停止变化时的胁为最d 4 9 b x 维数。该方法缺点是要求数据无噪声，计算 量大且比较主观。 2 ) 奇异值分解法“。在嵌入空间中识别正交方向，这些正交方向是对轨线投影到它 们上的变量排序。排序由嵌入的奇异值决定，识别出最大奇异值，就是一个包含轨线的最 小空间的维数。这种方法也具有某种主观性，最大奇异值数可能依赖于嵌入细节和数据精 度。 3 ) 虚假最近邻点法“”。该方法的基本思想是当维数从m 增加到m + z 时，考察轨线 郑州丈学工学硕七论文 x ( n ) 的邻点中哪些是真实的邻点，哪些是虚假的邻点，当没有虚假邻点时，可认为几何结 构被完全打开。从几何观点看，这是一种较好的方法，但在判断虚假邻点时参数值的不同 选取会导致不同的结果，也有较大的主观性，文 1 3 j 中提出的改进方法可减d , n o 主观性。 除上述7 y n g t - ，选m 0 的方法还有关联积分法及各种改进方法等。 1 3 混沌时间序列预测的研究现状 由于混沌系统具有“蝴蝶效应”，所以混沌时间序列是长期不可预测的，但这并不等 于说混沌系统是不可预测的，事实上，系统的运动轨道在短期内发数应该较小，短期预报 是可行的。由d j f a r m e r 等提出，t a k e n s 用拓扑学为之奠定坚实基础的时间延迟相空间重 构方法为混沌时间序列预测提供了一条新的途径。 混沌时间序列预测的常用方法有以下几种：全域法、局域法、加权零阶局域法、加权一 阶局域法、最大李雅普诺夫指数法、人工神经网络法等，下面作一简要介绍。 1 3 1 全局法 设时间序列为“f ) ，t = 1 , 2 ，选择嵌入维数为聊，时间延迟为f ，则重构相空间为 g ( t ) = ( x ( f ) ，x ( t + f ) ，x ( f + ( m 一1 ) r ) r “，( f = 1 , 2 ，- - ) ( 1 8 ) 根据t a k e n s 定理，如果的嵌入维数m 和时间延迟f 选择合适，重构相空间在嵌入空间 中的“轨线”，在微分同胚意义下与原系统是“动力学等价”的。因而存在一个光滑映射， 满足相空间轨迹的表达式 y ( t + 1 ) = 厂( y ( f ) ) ，t = 1 , 2 ，- ( 1 9 ) 用时间序列可表示为： ( z ( f + f ) ，x ( t + 2 r ) ，- 一，x ( t + m f ) ) = ，( z o ) ，x ( t + f ) ，x ( t + 2 r ) ，x ( t + ( 一1 ) f ) ) ( 1 1 0 ) 基于相空间重构预测时间序列的方法有多种。根据拟合相空间中吸引子的方式不同又 可分为全域法和局域法两种。全域法是将轨迹中的全部点作为拟合对象，找出其规律，得 到映射厂，从而预测轨迹的走向。全域法在理论上是可行的，但由于实际数据总是有限的， 以及相空间轨迹可能很复杂，从而不可能得到真正的映射厂。通常的做法是根据给定的数 据构造映射，：r 哼r ”，使得，逼近理论上的映射，即使 n ，l 口( f + 1 ) 一夕( ，( f ) ) ) ( 1 1 1 ) f = 0 1 0 基于模糊神经网络的混沌时间序列预测 达到最小值的映射夕：r _ + r “。在具体计算中，要根据情况给出，的具体形式。 全域法预测的缺点是计算比较复杂，尤其当嵌入维数很高或夕很复杂时。由于混沌只 能在非线性系统中产生，于常取多项式等形式，这对较低的嵌入维是可行的，对较高的嵌 入维系统，可采用线性回归分析方法。总之，全域法适用于厂不是很复杂，同时噪声干扰 比较小的时候，其它隋况可采用局域法。 、 1 3 2 局域法 与全域法不同，局域法是将相空间轨迹的最后一点作为中心点，把离中心点最近的若 干轨迹点作为相关点，然后对这些相关点做出拟合，再估计轨迹下一点的走向。最后从预 测出的轨迹点的坐标中分离出所需要的预测值。 用一阶近似拟合的局域法为例来说明局域法的基本思想。所谓一阶近似是指用 r ( t + 1 ) = a + b y ( t ) ( 1 1 2 ) 来拟合第月点周围的小邻域。设第n 点的邻域包括点t l ，t 2 ，f 。，则可将上式表示为 y ( l + 1 ) y ( t 2 + 1 ) y ( t 。+ 1 ) ( 1 1 3 ) 可用最小二乘法求出a 和b ，再通过y ( n + 1 ) = 口+ b y ( n ) 得到相空间中轨迹的趋势，从而 可以从y 伽+ 1 ) 中分离出时间序列的预澳8 值。相对全域法来说，局域法在大多数情况下适 用，这种局域法也称零阶局域法。 1 3 3 加权零阶局域法 零阶局域法中，在找到中心点的邻域后，便将邻域中的几个点进行拟合，没有考虑邻 域中各点与中心点之间的空间距离对其预测的影响。但是，相空间中的各点与中心点之间 的空间距离是一个非常重要的参数，预测结果的准确性往往取决于与中心点的空间距离最 近的那几个点。因此，将与中心点的空间距离作为一个拟合参数引入预测过程，可以在一 定程度上提高预测的精度，并具有一定的去噪能力。改进后的相空间轨迹的加权零阶局域 预测为 订幻；“ o 0 p y y y 。l 6+口 | i 郑州大学工学硕士论文 e x p ( - t ( d ，- d 。) ) y + = 旦r 一 e x p ( 一f ( t 一以) ) i - 1 ( 1 1 4 ) 其中，y 。为预测得到的空间轨迹点，矗，为中心点k 邻域中各点，n 为邻域中点的数目，磷 和d 。分别为邻域中各点到中心点的空间距离和最小距离，即邻域中的点到中心点的空间距 离越小，则在预测中所占的比例越大。 1 3 4 基于最大l y a p u n o v 指数的混沌预测法“7 1 用混沌时间序列的历史数据进行相空间重构，建立起时间序列的非线性混沌模型。由 于l y a p u n o v 指数量化了初始轨道的指数发散程度，所以它是混沌系统很好的预测参数，在 混沌时间序列预测中有着广泛的应用前景。 设y 0 为预测的中心点，相空间中y 0 的最近邻点为，其距离为d m ( 0 ) ，最大 l y a p u n o v 指数为c r l ，则有 a m ( o ) = 叫n 0 一圳= i 一圳 ( 1 1 5 ) | 1 一+ l l l - - i t 取一k + l 忙吼 ( 1 - 1 6 ) 其中点，衍+ 1 只有最后一个分量z ( 槲) 为未知，l 砒x ( t n + 1 ) 是可预测的。上式就是基于最 j v 。l y a p u n o v 指数的预测模式。 1 3 5 基于神经网络的混沌预测“” 混沌时间序列内部存在着确定的规律性，这种规律性来源于系统本身的非线性，并表 现为时间序列在时间延迟状态空间中的相关性，这种特性使系统似乎具有某种记忆能力， 同时又难于用通常的解析方法表达出来。这种用通常模式不能有效处理的信息恰好最适合 用神经网络来处理。这是因为神经网络不但具有强大的非线性映射能力。而且还具有学习 和记忆功能，所以对于未知的动力系统，可以通过它来学习混沌时间序列，然后进行预测 和控制。 用神经网络来预测混沌时间序列，神经网络每层的结构大小，即神经元的数目，取决 于混沌时间序列的具体情况，一般睛况下，第层输入神经元的个数等于混沌时间序列重 构相空间的饱和嵌入维数时，预测效果比较好。 基于模糊神经网络的混沌时间净列预测 另外，国内外学者还提出了多混沌时间序列预测的方法，如少参数二阶v o l t e r r a 滤波 法啮“1 、自适应高阶非线性滤波法删、模糊神经网络法”等。这些方法已广泛应用于信号 处理、控制理论、经济管理等领域 3 2 - ”3 。 郑州大学工学硕士论文 第二章模糊神经网络的概述 模糊系统、神经网络和进化算法被认为2 0 世纪末人工智能界最具发展前途的三个重要 领域，它们都是仿效生物处理模式以获得智能信息处理能力的理论。其中模糊系统着眼于 脑的处理语言和概念信息的宏观逻辑能力，按照设计人定义的语言值、语言变量及一些串 并行规则，处理含有模糊性的语言信息。神经网络着眼于脑的微观结构和学习能力，通过 大量神经网的复杂连接，以并行分布模式处理各种变量信息。可以说，模糊系统、神经网 络二者目标相近而方法各异，将它们相互结合必能达到取长补短的效果，形成一种新的信 息处理模式，即模糊神经网络。 2 1 模糊神经网络的研究历程”“ 2 1 1 模糊神经网络的发展历史 模糊神经网络是人工神经网络与模糊逻辑推理相结合形成的一种新型的智能计算方 法，作为人工智能领域的一种新的技术，正向着更高层次的研究与应用方面发展。 1 9 7 4 年，s c l e e 和e t k 在c y b e r n e t i c s 杂志上发表了“f u z z y s e t a n d n e u r a l n e t w o r k ” 一文嘲，首次把模糊集和神经网络联系在了一起；接着，在1 9 7 5 年，他们又在m a t l l b i o s c i 杂志上发表了“f u z z yn e u r a ln e t w o r k ”一文，明确地对模糊神经网络进行了定义、研究。 在文章中，最初用0 和1 之间的中间值推广了m c o t u o c h - p i t t s 神经网络模型。 1 9 8 5 年，j mk e l l e r 和d h u u t 提出把模糊隶属度函数和感知器算法相结合，1 9 8 9 年 t y a m a k w a 提出了初始的模糊神经元，这种模糊神经元间有模糊权系数，但输入信号是实 数。1 9 9 2 年，t y a m a k w a 又提出了新的模糊神经元，新的模糊神经元的每个输入端不是具 有单一的权系数，而是模糊权系数和实权系数串联的集合。同年配n a k a m u r a 和m 1 b b 瑚g a 分别也提出了和t y a m a k w a 的新模糊神经元类同的模糊神经元。1 9 9 2 年，d n a u c k 和rk r u s e 用单一模糊权系数的模糊神经元进行模糊控制及过程学习。而在这一年， i r e q u e n a 和m d e l g a d o 提出了多种模糊神经元模型，这些模型中有的类同于上面的模糊 神经元模型，还有含模糊权系数并可以输入模糊变量的模糊神经元。1 9 9 2 年以后，很多学 者发表了多篇关于混沌模糊神经网络的文章，逐步形成了模糊神经网络的理论基础。 2 1 2 模糊神经网络的研究现状 随着时间的推移及学科的发展，模糊技术和神经网络技术的相互渗透与协作，已经是 1 4 基于模糊神经网络的混沌时间序列预测 一个勿容置疑的发展方向。作为智能化信息处理的方法和手段，模糊技术和神经网络技术 各自有各自的优势，他们在其工程应用及进一步发展的过程中，相互促进、相互融合，形 成了模糊神经网络模型和理论。模糊神经网络融合了模糊系统的逻辑推理能力和神经网络 的自适应能力，因此既有模糊推理的功能，又给网络权值赋予了明确的物理意义。9 0 年代 是卧i n 迅速发展的时代，1 9 9 2 年代k o s l ( o 的专著 , 1 0 4 13 系统地将模糊理论和神经网络融合 在起，奠定了f n n 的理论基础。近年来f n n 引起了人工智能界的极大重视，国际上许 多关于人工智能的重要会议和各种学术期刊，每年都有大量的文章论述f n n 。对f n n 的 研究大致可分为模型、理论、算法和应用四个方面。下面简要介绍一下各方面最新研究进 展。 在模型方面，人们根据实际需要提出了各种各样的f n n 模型，如正则模糊神经网络模 型、模糊联想记忆模型( f a m ) 【4 2 “】、模糊a r t 模型嘲、自组织模糊神经网络模型嗍、 竞争和混合模糊神经模型【4 7 肄。 在理论方面，学者们开展研究了模糊神经网络的映射机理粤删，模糊神经网络的逼近 理论 5 2 1 ，模糊神经网络与概率推理等。 在学习算法方面，借鉴