0104047基于非线性混沌时序的系统重构、预测技术及其应用

Comment mjh1: 页码: 基于非线性混沌时序的系统重构、预测技术及其应用 1 马军海 2 （天津大学管理学院, 300072） 盛昭瀚 （南京大学管理科学与工程研究院, 210096） 摘要 如何认识具有复杂结构的系统存在两个基本的困难,一是系统本身的复 杂性，二是我们往往只能通过某种“观测器”采集到系统某一状态的混沌时 间序列，这样，就需要一种技术，它可以在很大程度上通过系统整体行为的 一维“投影”来“还原”系统的整体行为。本文将介绍作者近年来在实现这 一技术路线中所开展的若干工作。 关键词 非线性 混沌时序 分形 相空间重构 参数辨识 预测技术 1 引言 从系统科学的角度看，直接建立一个系统的完备的解析形式的数学模型，无疑地可以 认为是“完全彻底地”了解了这一系统，但是事实上，第一由于系统运行机理与系统结构 本身的复杂性，第二由于即使已知一个解析模型，其解析解也还不易求得，因此常常需要 我们解决如何在无法获得系统模型的情况下认识系统的本质特征，一个最常遇到的问题便 是通过某种“观测器”采集到系统的某一状态的时间序列，显然，这一序列是系统整体行 为的一维“投影”，而我们又只能通过它来“还原”系统的整体行为 130，特别是随着混 沌现象的发现，人们逐渐认识到系统整体行为中某些本质特征往往不是随机原因而是非线 性动力学的原因造成的，一般地，在排除了由高维或无穷维动力系统所产生的行为以及由 随机过程产生的行为外，一个混沌时间序列就可视为一个确定性动力系统的结果。一个重 要的反问题即如何由混沌时间序列来恢复原动力系统 1,7,8,10,11,14,16,20.21，具体地说，要解决 以下几个问题： (1) 确定时间序列的混沌特性及其所在动力系统的维数 24,!315,19,2230; (2) 建立这个动力系统的坐标框架 4,9,10,11,13,; (3) 在此框架下分离噪声、刻画并恢复原复杂非线性动力学系统并进行预测、调控等 工作 4,6,17,18。 本文将介绍作者近年来在实现这一技术路线中所开展的若干工作与成果。 1 国家自然科学基金资助项目( 79990510) 2马军海, 男， 65生，山东莱阳人,教授,二站博士(后) ，已在国内外核心期刊发表论文三十余篇，主要研究 方向:复杂非线性动力系统、复杂混沌时序重构及其工程应用。 企业法律咨询.公民法律咨询 法帮网法律咨询 1 2 时间序列混沌特征的判定 如何判定时序的混沌或随机特性一直是国内外学者研究的重点，从决定论的角度出发， 已有了许多检测确定性混沌的方法。如 Tsay22的非线性检验方法； Engle23的 ARCH 模型 的检验方法；相空间图、递归图、关联维数、Lyapunov 指数、相关系数、频谱图、 Poincare 截面以及分谐波频闪观测器等、检验独立性的双谱方法、基于 BDS 统计量的非线 性检验方法等。文献19,24,25给出了对现实的时序不同特性问题的判别的基本方法，即相 位随机化方法。马军海、盛昭瀚 32利用相位随机化方法，研究了服从不同分布的随机化方 法对判定实测数据特性归属的影响，并将其成功地用于经济时序的非线性特征判定，为对 时序建立合适的预测模型提供了指南。 3 分形维数的相关特性分析研究 分维是描述具有复杂性的系统结构的一个重要特征量，分维的定义有很多种，而且根 据不同的定义算得的其最终值也稍有差别。经过近几年的研究，常用的较多的分维主要有: Hausdorff 维数 , 计盒维数 , 信息维数 ,关联维数 , 广义维数 。可以证得 4,13DH0D12Dq 嵌入维数与分维数之间的关系式: (1)222 )(.)() dmq 即计算 时略去噪声影响,只要取最少的嵌入维数大于或等于分维数，从理论上都不会对 产生影响。2 可以证得 4,13 的极大似然估计为: (2)2d 1102lnMjjr0rj 由 (6)式得 的方差为: (3)2 dXfEdVar 222,l)( 由于实际问题中 N 的取值不可能无穷大而要受到诸多的限制，取 jiijxr 则 的极大似然估计为: , , (4) 2d 1021Mjiijrw)(0ijijHNjiiwL 由(3)式知值 与所取的样本的个数成反比，实际问题中适当的取样本大一些可减少)(2dVar ，以便使 的估计值更准确。采用 G-P 算法计算动力系统实测数据吸引子的关联)(2r 维数时，诸多因素可能影响估计精度。对误差的来源的详细讨论见文献4,13。 4 混沌时序动力系统的非线性重构技术 定量刻画复杂非线性动力系统复杂性的两个最常用的量就是分维数和李雅普诺夫指数，它 们分别度量了非线性动力系统在其相空间的几何结构的规则性或复杂性程度。相空间重构 法是根据有限的实测数据来重构吸引子以研究系统动力行为的方法，其基本思想是：系统 中任一分量的演化都是由与之相互作用着的其它分量所决定的，因此这些相关分量的信息 2 就隐藏在任一分量的发展过程中，为了重构一个等价的状态空间只需考察一个分量，并将 它在某些固定的时间延迟点上的测量作为新维处理，即延迟值被看成是新的坐标，它们确 定了某个多维状态空间中的一点。重复这一过程并测量相对于不同时间的各延迟量，就可 以产生出许多这样的点，它可以将吸引子的许多性质保存下来，即用系统的一个观察量可 以重构出原动力系统模型，可以初步确定系统的真实相空间的维数。 为了能够从“一维”时间序列中“还原”动力系统相空间的几何结构, Jone F.Gibson 16 等 人采用时间延迟技术重构相空间.他们把一维时间序列嵌入到 m 维空间中： (5)TtxtxtxttX )1(,.,)2(,)(,)()( 让 来表示 t 时刻系统的动力学状态。其中 为滞时,m 为嵌入空间维数,从而建立了相 空间 到嵌入空间 的映射。它建立了时间序列波动和动力系统空间特征之间的桥梁。RMm Takens 和 Mane27证明: 只要 m2D+1(动力系统重构的充分但不必要条件),其中 D 为 吸引子的分维, 是在吸引子附近一个光滑的一对一映射，从而嵌入空间中吸引子的几何()m 特性与原动力学系统的吸引子的几何特性等价。 实际上, 只要 m D 嵌入空间中点集的维 数就等同于吸引子的维数。J.P.Eckman 等人已证明 m 可在 dm2d+1 中取值。Takens 27 定理是在无噪声的情况下考虑的，Sauer 等把延迟嵌入定理推广到了具有噪声的情况。 对一组长为 N 的实测时间序列 ,其中 , 是样本时间，则可构Nnx1)(0tnxn 造的 m 维向量 , n = 1,2, . , , 其中 是延迟时间间隔。mnRX1 是延迟时间。在 中以 或 范数定义 到 的距离，即 t2LiXj 或 (6) 102)(lljliji x ljlimlji x10a 以下在不特别强调的情况下，记 中的范数为 ，但通过计算可以发现 范数在计算mL 距离时实现较快。 4.1 最佳延迟时间间隔 的选取0 由 Takens27定理知，在没有噪声无限长的精确数据情况下可以任意选择 ，但实测时 间序列是有限长的，且一般都有噪声污染，只能根据经验来选择 ，其基本思想是使 与nx 具有某种程度的独立但又不完全无关，以便它们能在重构的相空间中作为独立的坐标nx 处理。如果 太小，则 与 的值充分靠近，以至不能区分它们，从实际观点看不能提nx 供两个独立的坐标，导致吸引子重构非常靠近相空间中的对角线。重构的相空间总是杂乱 无规则的；如果 太大，则 与 可能会随意地不相关，吸引子的轨道会投影在两个完n 全不相关的方向上，不能反映相轨迹的真实演化规则。在实际应用中主要有以下三种经验 型方法选取 。一是线性自相关函数法；二是平均互信息法；三是重构展开法。0 4.2 嵌入维数 m 的选取 关于嵌入维数,Taken 27, Sauer29等先后从理论上证明了当 时可获得一个吸12dm 企业法律咨询.公民法律咨询 法帮网法律咨询 3 引子的分形维数，但这只是一个充分条件，对实验数据选择 m 没有帮助。如果仅仅是计算 关联维数，Ding 28等证明了对无噪声，无限长的数据只要取 m 为大于关联维数 的最小2d 整数即可。但对长度有限且具噪声的数据，m 要比 大的多。如果 m 选的太小，则吸引2d 子可能折迭以致在某些地方自相交。这样一来在相交区域的一个小邻域内可能会包含来自 吸引子不同部分的点。如果 m 选的太大，理论上是可以的，但实际应用中，随着 m 的增加 会大大增加吸引子的几何不变量的计算工作量。在实际应用中通常的方法是计算吸引子的 某些几何不变量，逐渐增加 m 直到这些不变量停止变化为止。从理论上讲，由于这些不变 量是吸引子的几何性质，当 m 大于嵌入维数时几何结构被完全打开，因此不变量与嵌入维 数无关了，取吸引子的几何不变量停止变化时的 m 为嵌入维数。这种方法的缺点是对数椐 要求较高（无噪声），计算量大且比较主观，从预测误差和几何观点看，下面两种方法比 较容易实现。一是预测误差最小法，二是虚假邻点法。 在上面的各种方法中，为了确定最佳延迟时间间隔，需先确定嵌入维数，而为了确定 嵌入维数，需先固定延迟时间间隔，这本身是矛盾的，实际上这两个参数应同时确定。实 际计算中 King31提出了先选定(m-1)值，在增加 m 的同时减小 (保持(m-1) 为常数) 来选 取最佳的 m 和 值的方法。 4.3 相空间重构的轨线法和 Legendre 坐标法: 相空间重构的基本方法有三种,它们分别是时间延迟法,导数法和基本分量坐标法。到目 前为止这三种方法之间的关系还没有完全弄清楚。Gibson et al.最近指出基本分量坐标和由 Packard et al.26and Takens27所提出的导数坐标之间存在着非常紧密的联系;更进一步地,对 于很少的延迟时间他们提出了基本分量坐标是基于简化了的勒让德多项式的观点。 因此，在最近的几年里对不同相空间重构方法的研究便成为此领域研究的焦点。与此 相关的是求出比较好的重构方法中的各相关参数值。 陈予恕,马军海 6给出了用基本分量坐 标法重构相空间的相应结论。马军海，陈予恕 7在国内外学者工作的基础上，应用勒让德 坐标法重构动力系统的相空间，讨论了时序间隔 对相空间重构工作的影响，并用所提方 法重构了系统的吸引子。 5 动力系统实测数据的重构预测技术应用 由于混沌吸引子的内在行为具有相当的不规则性及混沌吸引子具有十分复杂的几何结 构,且不同的混沌吸引子具有的复杂结构也各不相同.所以一般来说,不同的混沌实测数据应 该建立不同的混沌模型。最近十几年来国内外学者用神经网络理论,小波理论 1718等对非线 性时序开展了研究, Martin Casdagli, M.E.Davies,Alexet Potapov21等人分别对混沌时序的建 模及预测开展了初步的研究并取得了一定的成果。马军海,陈予恕 6,25在国内外学者工作的 基础上，对可以描述非线性系统的极限环、共振跳跃现象、幅频依赖特性及混沌特征的 EAR(n)模型进行了改进,应用随机搜索方法对模型参数进行初步估计，然后采用最优化理论 4 估计了模型参数；马军海在其博士后二站研究报告中，给出了一种基于小波理论和神经网 络理论的三阶段多尺度神经网络预测模型，并用聚类的方法进行了权值和阈值的初始化和 反向传播算法进行权值学习，该方法具有较快的收敛速度，同时还能自适应选择时序的不 同频率成分，对时序进行降噪，适合于趋势、细节等不同目的的预测，并成功地将多尺度 神经网络模型应用于股票数据的单步预测。最终对预测方法进行了评价。 6 计算结果 本文取如下 2 组数据分别对其理论进行研究： (1)取 Henon map 标准混沌的情况xyyxnn1 21403.,. 10000, 前 1000 点作为暂态点去掉，把后 10000 点作为(1) 组原始数据点。 (2)用我们所得到的混沌数据测定 3225 点作为实验数据，作为组实验数据，其时间历程 图如图 2。 图 2 为第 2 组数据真值及其预测值的计算结果,相对误差超过 40的预测长度为 20 点。 图 3 为第 1 组数据的相空间重构图,横标为 w0, 纵标为 w2.嵌入维数 m=3, =3.图 4 为第 2 组数据的相空间重构图,横标为 w0,纵标为 w1 竖坐标为 w2.嵌入维数 m=3, =0.024. 图 1 第 2 组实验混沌数据的时间历程图 图 2 第 2 组数据真值及其预测值对照图 为数据真值, 另一条为数据预测值 图 3 第 1 组数据的相空间重构图,横标为 w0, 图 4 第 2 组数据的相空间重构图,横标为 w0, 纵标为 w2.嵌入维数 m=3, =3 纵标为 w1竖坐标为 w2.嵌入维数 m=3, =0.024 7 结论 企业法律咨询.公民法律咨询 法帮网法律咨询 5 1) 只要所取得嵌入维数大于混沌时序的实际维数，则其对分维数无质的影响。 2) 点数对分维数的计算结果有影响, 对低维的混沌动力系统最少应大于 2000 点, 分维 数的计算时 2 范数，3 范数，等价于范数，这样在具体计算时我们可取在算法上易实 现的范数。 3) 相空间重构理论对低维混沌时序和高维混沌时序是普遍适用的,本文给出的实际计算 结果完成了混沌时序在相空间基坐标框架的投影即相空间重构的重要工作。 4) 混沌时序的分维数决定模型的阶数，混沌时序的 Lyapunov 指数决定时序预测的长 度,，用文献4 的方法确定的模型的阶是好的。 5) 选择适当的混沌模型并采用适当的算法能增加模型预测的精度，且混沌时序不可能 作长期预测。 参考文献 1 Chen Yushu,Ma Junhai, Liu Zengrong.The State Space Reconstruction Technology of Different Kinds of Chaotic Data Obtained From Dynamical System.ACTA MECHANICA SINICA, 1999, 1 (15):82-92 2 马军海，陈予恕. 动力系统实测数据的非线性混沌特性的判定. 应用数学和力学, 1998,19(6) 481488 。 3 马军海，陈予恕. 高斯分布的相位随机化对实测数据临界值影响的分析研究.应用数学和力学, 1998,19(11): 955-963 4 马军海. 混沌时序动力系统非线性重构. 天津大学博士学位论文, 1997. 5 5 马军海，陈予恕. 动力系统实测数据的 Lyapunov 指数的矩阵算法. 应用数学和力学,1999, 20(9):919-927 6 马军海，陈予恕. 动力系统实测数据的非线性混沌模型重构. 应用数学和力学, 1999,20 (11):1128-1134 7 马军海，陈予恕. 混沌时序相空间重构的分析和应用研究. 应用数学和力学, 2000,21(11): 1117-1124 8 Ma Junhai.The State Space Reconstruction of Different Kinds of Chaotic Data Obtained from Economic Dynamical System. Proceedings of 99 International Conference On Management Science & Engineering, Yichang, P.R.China, 1999,11:106110 9 马军海，陈予恕. 三种动力系统实测混沌数据的 Lyapunov 指数的比较. 天津大学学报,1999, 2(1): 190- 195 10 马军海，陈予恕. 三种动力系统的实测混沌数据的本征值比较. 天津大学学报, 1999, 32(3): 275-279 11 马军海，陈予恕. 动力系统的实测数据的奇异值分解技术. 振动工程学报, 1999,12(3): 323-330 12 盛昭瀚, 马军海. 非线性动力系统分析引论. 科学出版社，2000 年 10 月 13 马军海, 盛昭瀚. 经济时序动力系统的分形及混沌特性研究. 系统工程学报, 2000,1:1319 14 J.luis Cabrera, F.Javier, Numerical analysis of transient behavior in the discrete random Logistic equation with delay.Phys.Lett A197(1995) 19-24 15 J.Timonen and H.koskinen,An improved estimator of dimension and some comments on providing confidence intervals. Geophys.Res.Lett20(1993) 1527-1536 16 John F.Gibson, J.Doyne Farmer, Martin Casdagli and Stephen Eubank. An analytic approach to practical state space reconstruction. Phys. D1992,57: 1-30 17 Qinghua Zhang .Wavelet Networks, IEE Transections on Neural Networks. 1992,6(11): 889-898 6 18 Liang Yue Cao. Predicting chaotic timeseries with wavelet networks . Phys.D, 1995,85: 225- 238 19 Dean Prichard. Generating surrogate data for time series with several simultaneously measured variables. Phys.Rev.Lett ,1994,191: 230-245 20 M.E.Davies. Reconstructing attractions from filtered time series. Phys,D,1997,101: 195- 206 21 Alexet Potapov. Distortions of reconstruction for chaotic attractors. Phys.D,1997,101:207- 226 22 Tsay,R.Nonlinearity Test for Timeseries. Biometrica,1986,73:461-466 23 Engle,R.Autoregreessive Conditional Heteroscedasticity with Estimates of the Variance Of U.K.Inflations, Econometrica,1982,50:987-1007 24 C.J.Stam, J.P.M.Pijn, W.S.Pritchard. Reliable detection of nonlinearity in experimental timental timeseries with strong periodic components. Phys.D 1998,112: 361-380 25 Alexei Potapov,Jurgen Kurths.Correlation integral as a tool for distinguishing between dynamics and statistics in time series data. Phys.D1998,120: 369-385 26 N. H. Packard, J. P. Crutchfield, J. D. Farmer, and R. S. Shaw, Geometry from a time series.Phys Rev Lett1980,45(9): 712 27 F. Takens. In Dynamical Systems of Turbulence, edited by D. A. Rard and L. S. Young (springer, Berlin 1981) 28 J.D. Scargle.Studies in astronomical time series analysis.IV.Modeling chaotic and random processes with linear filters. Astrophys.J.1990,359:469-482 29 F.Takens, Mane. Detecting strange attractors in fluid turbulence,in: Dynamical systems and Turbulence. Vol.898 of Lecture Notes in Mathematics, springer, Berlin 1986, P.366 30 R.Badii, G.Broggi, B.Derighetti, S.Ciliberto, A. Politi,and M.A.Rubio. Dimension increase in filtered chaotic signals. Phys.Rev.Lett.1988,60:979-984 31 D.S.Broomherd etc.Extr