（应用数学专业论文）基于模糊神经网络的时间序列预测模型.pdf

摘要 内容摘要：时间序列预测是通过有限个历史观测样本建立模型，并 利用模型解释数据的统计规律，以期达到控制和预报目的的一门技 术，在众多领域都有广泛的应用。对于平稳时间序列的建模和预 测，特别是线形模型的研究，有了许多成熟的技术和方法。但在实 际问题中，大多数序列并非平稳、线性的，而目前在这类时间序列 的分析和处理上没有较为完善的方法，达不到人们所期望的效果。 同时模糊神经网络模型良好的非线性预测性能和实用性，在旅游、 金融、工业等时间序列预测中都取得了很好的成绩。但现实中，许 多序列并不是单纯的线性或非线性模型，且在实际操作中很难判断 其为线性或者非线性，再者在预测分类领域，没有哪一个模型适合 于任何情况。因此，一些学者提出了建立结合模型的思想，如b p 模 型与时间序列结合预测模型、m s 与时间序列结合预测模型，并 取得很好的成绩。 本文提出一种基于模糊神经网络的时间序列预测模型。绪论中 介绍了时间序列及模糊神经网络发展状况，第二章给出了传统时 间序列分析的基本方法，如a r 模型、m a 模型、a r m a 模型。对 于非平稳线性时间序列则通过差分等数学方法转化为平稳序列， 如a 兄，m a 模型。对于金融时间序列介绍了条件异方差a 朐日模 型。第三章介绍了模糊神经网络模型系统结构及学习算法，可知该 模型对非线性时间序列有很好的预测能力。后两章为本文的重点， 第四章提出了基于模糊神经网络与s a r i m a 结合的时间序列预测模 型，并针对于悉尼航空数据给出了具体的混合模型。第五章提出了 基于模糊神经网络与g a r c 日结合的金融时间序列预测模型，并针 对于上证指数数据给出了具体的混合模型。 j 基于模糊神经网络的时间序列预测模型 实验中将混合模型与时间序列模型、b p 模型、s v m s 模型 及f 单独模型进行比较，结果表明，从预测精度、算法稳定性 和参数选择来看，所给模型是有效的。 关键词：模糊神经网络；s a r i m a ；g a r c h ；混合模型预测；时间序 列 a b s t r a c t c o n t e n t ：t i m es e r i e sf o r e c a s t i n gi sas u b j e c to ft e c h n o l o g y , w h i c ha i m s t of o r e c a s ta n dc o n t r o lt h r o u g hb u i l d i n gm o d e lb ys o m el i m i t e dh i s t o r y o b s e r v e ds a m p l 髑a n du s ei tt oe x p l a i nt h el a wo ft h ed a t a a n dh a v ea w i d eo fa p p l i c a t i o n si nm a n yf i e l d s f o rs t a t i o n a r yt i m es e r i e sm o d e l - i n ga n df o r e c a s t i n g ，p a r t i c u l a r l yt h er e s e a r c ho ft h el i n e a rm o d e l ，m a n y m a t u r et e c h n o l o g i e sa n dm e t h o d sh a v e b e e nf o u n d h o w e v e r ，i np r a c t i c a lp r o b l e m s ，m a j o r i t yo ft i m es e r i e sa r en o ts t a t i o n a r ya n dl i n e a r ，a n d t h e r ei sn o tg o o dm e t h o dt oa n a l y s i sa n dd e a lw i t hs u c ht i m es e r i e sa n d t ol e s st h a nt h ed e s i r e de f f e c t a tt h es a m et i m e ，t h ef u z z yn e u r a ln e t - w o r km o d e lw h i c hh a sg o o dp e r f o r m a n c ei nn o n - l i n e a rf o r e c a s t i n ga n d p a r t i c u l a r i t yh a sv e r yg o o da c h i e v e m e mi nt o u r i s m ，f i n a n c i a l ，i n d u s t r y a n do t h e rf l i e d s b u ti nr e a l i t y , m a n yt i m es e r i e sa r en o ts i m p l e i n e a ro rn o n l i n e a rm o d e l s ，a n di ti sd i f f i c u l tt oj u d g ei na c t u a lo p e r a - t i o n ，f u r t h e r m o r et h e r ei sn o tas i n g l em o d e ls u i t a b l ef o ra n ys i t u a - t i o n t h e r e f o r e ，t h ei d e ao fh y b r i dm o d e lh a v eb e e np r o p o s e db ys o m e s c h o l 踟瞎s u c ha sf o r e c a s t i n gm o d e lu s i n gh y b r i df u z z yn e u r a ln e t w o r k a n dt i m es e r i e s ，f o r e c a s t i n gm o d e lu s i n gh y b r i df u z z yn e u r a ln e t w o r k a n dt i m es e r i e s ，a n dh a v ea c h i e v e dg o o dr e s u l t s at i m es e r i e sf o r e c a s t i n gm o d e lb a s e do nf u z z yn e u r a ln e t w o r kh a v e b e e np r o p o s e di nt h i sp a p e r t h ed e 、r e l o p m e n to ft i m es e r i e sa n df u z z y n e u r a ln e t w o r kh a v e b e e ni n t r o d u c e di nt h ei n t r o d u c t i o np a r t i nc h a p - t e r2 , t h eb a s i cm e t h o do ft r a d i t i o n a lt i m es e r i e sa n a l y s i si sg i v e ns u c h a sa rm o d e l ，m am o d e la n da r m am o d e l f o rn o n - s t a t i o n a r yl i n e a r t i m es e r i e s ，t h e yc a nb ec o n v e r t e di n t os t a t i o n a r ys e q u e n c e st h r o u g h m 基于模糊神经网络的时间序列预测模型 m a t h e m a t i c a lm e t h o d ss u c ha sd i f f e r e n t i a l ，s u c ha ss a r i m am o d e l f o r t h ef i n a n c i a lt i m es e r i e s ，a r c hm o d e li sg i v e n i nc h a p t e r3 , t h ef u z z y n e u r a ln e t w o r km o d e l ，i t ss y s t e ms t r u c t u r ea n di t sl e a r n i n ga l g o r i t h m a r eg i v e n ，i th a v eag o o da b i l i t yt op r e d i c tn o n - l i n e a rt i m es e r i e s t h e l a s tt w oc h a p t e ra r ei m p o r t a n tp a r to ft h i sp a p e r ，i nc h a p t e r4 , at i m es e - t i e sf o r e c a s t i n gm o d e lu s i n gah y b r i df u z z yn e u r a ln e t w o r ka n ds a r i m a i sg i v e n ，a n dt h es p e c i f i ch y b r i dm o d e li sg i v e na c c o r d i n gt ot h ea v i a - t i o nd a t ai ns y d n e y i nc h a p t e r5 , at i m es e r i e sf o r e c a s t i n gm o d e lu s i n g ah y b r i df u z z yn e u r a ln e t w o r ka n dg a r c hi sp r o p o s e d ，a n dt h es p e - c i f i ch y b r i dm o d e li sa l s og i v e na c c o r d i n gt ot h es h a n g h a is t o c ki n d e x d a t a a c c o r d i n gt ot h ee x p e r i m e n td a t a ，t h eh y b r i dm o d e l sa r eu s e da n d c o m p a r e da m o n gf o u ro t h e rm o d e l s ，i e ，t h et i m es e r i e sm o d e l ，t h e f n nm o d e l ，t h es u p p o r tv e c t o rm a c h i n e sm o d e la n dt h en e u r a ln e t - w o r km o d e l t h ee x p e r i m e n tr e s u l ti n d i c a t e st h a tt h ep r o p o s e dm o d e l i se f f e c t i v ei nt h ep a r a m e t e rc h o i c e ，a l g o r i t h ms t a b i l i t ya n dp r e c i s i o n f o r e c a s t i n g k e yw o r d s ：f u z z yn e u r a ln e t w o r k ；s a r i m a ；g a r c h ；c o m b i n e d f o r e c a s t ；t i m es e r i e s 学位论文独创性声明 本人承诺：所呈交的学位论文是本人在导师指导下所取得的研究成果论文中除特别 加以标注和致谢的地方外，不包含其他人和其他机构已经撰写或发表过的研究成果，其他同 志的研究成果对本人的启示和所提供的帮助，均已在论文中做出了明确的声明并表示谢意 学位论文作者签名： 嗡况 日 期： k 9 牙，占- 莎 学位论文版权使用授权书 本学位论文作者完全了解辽宁师范大学有关保留、使用学位论文的规定，及学校有权 保留并向国家有关部门或机构送交复印件和磁盘，允许论文被查阅和借阅本人授权辽宁师 范大学，可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印 或其他复制手段保存、汇编学位论文保密的论文在解密后使用本授权书 学位论文作者签名： 勺毛瓦 指导教师签名：刁们事j 日 期：硎6 f 口 基于模糊神经网络的时间序列预测模型 基于模糊神经网络的时间序列预测模型 1引言 在计算机技术快速发展和应用普及的今天，大量的时间序列数据被存储在 计算机上，使得我们拥有海量的时间序列数据。面对这些时间序列数据，人们 想找到有效的方法或技术来揭示这些时间序列数据集中所隐藏的知识或信息， 构造依时间变化的序列模型，并借助一定的规则推测未来。这就使得时间序列 数据预测的研究得到了空前的发展，并己发展成为预测领域的一个重要的研究 方向。 1 1课题的提出及背景 时间序列预测是通过有限个历史观测样本建立模型，并利用模型解释数据 的统计规律，以期达到控制和预报目的的一门技术，在工业过程控制、金融经 济、气象水文、信号处理、机械振动等众多领域都有广泛的应用。对于平稳 时间序列的建模和预测，特别是线形模型的研究，有了许多成熟的技术和方 法【1 。但在实际问题中，大多数序列并非平稳、线性的，而目前在这类时间序 列的分析和处理上没有较为完善的方法，达不到人们所期望的效果。 在复杂非线性系统建模、辨识与控制研究中，模糊逻辑系统和神经网络 理论无疑是当今研究的热点。模糊逻辑使人们易于将先验的系统知识结合到 模糊规则中；神经网络善于对网络参数进行自适应学习，同时具有强大的并 行处理能力和泛化能力。因此，将模糊逻辑的概念”抽象能力”和非线性处理 能力与神经网络的自学习能力以及任意函数的逼近能力两者有机结合起来， 使系统既有模糊逻辑推理功能，又赋予网络权值以明确的模糊逻辑意义。 迄今为止，已开发出了许多具有学习能力的模糊系统模型，如神经网络驱 动的模糊推理系统，m a m d a n i 型模糊推理模型，t s u k a m o t o 型模糊推理模型以 及t a l m , g i - s u g e n o 型模糊推理模型。 由于模糊神经网络模型良好的非线性预测性能和实用性，在旅游【2 5 1 、金 融【6 7 l 、工业 s l 等时间序列预测中都取得了很好的成绩。但现实中，许多序列 并不是单纯的线性或非线性模型，且在实际操作中很难判断其为线性或者非线 性，再者在预测分类领域，没有哪一个模型适合于任何情况。因此，一些学者 提出了建立结合模型的思想。z h a n g l 9 提出了基于g r g 2 神经网络与求和自回归 滑动平均模型( a r i m a ) 结合的混合模型预测太阳黑子活动情况和英镑与美元兑 换率数据。t s e n g i o 等提出了b p 网络与a r i m a 结合模型预测台湾工业产值和软 1 基于模糊神经网络的时间序列预测模型 饮料时间序列。c h e n 1 1 】等提出了支持向量机( 吼m s ) 与季节求和自回归滑动平 均模型( s a m m a ) 结合模型预测台湾工业产值，它们的预测精度均高于单一模 型的精度。 1 2 研究现状 自从1 9 7 0 年b o x 和j e n k i n s 的著作( t i m es e r i e sa n a l y s i s ) 问世以来，逐渐形 成了一整套时间序列模拟、估计、建模、预测和控制的理论和方法，在动态数 据的处理分析、复杂信息的加工提取、预测未来和在线控制等方面显示出传统 的数理统计静态处理手段无可比拟的优越性。这本著作奠定了时间序列分析方 法在科研、经济、社会等各领域中旺盛的生命力。 按系统本身的性质划分，有线性系统和非线性系统。相应的有线性 模型和非线性模型。线性模型如自回归模型a r ( a u t o r e g r e s s i v e ) 、移动平均 模型m a ( m o v i n ga v e r g e ) 、自回归移动平均模型a r m a ( a u t o r e g r e s s i v em o v i n g a v e r g e ) 等，线性模型概念清晰、发展已比较成熟，国内外已有许多用线性模型 进行预测的实例。对于非平稳序列处理方法可以分为两类：一类是通过某些数 学方法剔除序列中所包含的趋势项或周期项，余下的序列可按平稳过程进行分 析与建模，如a r i m a ( a u t o a g r e s s i v ei n t e g r a t e dm o v i n ga v e r a g e ) 模型：另一类方 法是利用非线性方法直接对其进行建模与预测。然而，实际的系统线性是相对 的，非线性是绝对的。当非线性因素的影响较小，或在某一范围内影响较小 时，可以用线性模型来描述，但当这种描述或逼近得不到令人满意的结果时， 就要应用非线性时序模型，或其它的任何非线性方法。非线性预测方法主要指 两个方面，一是对非线性物理系统进行背景分析和研究，针对不同的非线性特 征采用相应的非线性模型；二是采用一些非线性的迭代、学习模型来拟合比较 复杂的时间序列数据。显然，非线性现象最好用非线性方法来描述。非线性模 型与线性模型比较，其使用范围要广泛的多。因此，目前对预测的研究热点就 集中在非线性模型和方法上面。 1 3模糊神经网络发展概述 1 9 8 7 年，b m - t k o s k o i t 2 1 中率先将模糊理论和神经网络有机结合进行了较为 系统的研究。在这之后的时间里，模糊神经网络的理论及其应用获得了飞速的 发展，各种新的模糊神经网络模型的提出及与其相适应的学习算法的研究不仅 加速了模糊神经理论的完善，而且在实践中也得到了非常广泛的应用。1 9 9 0 年 中国科学院自动化研究所应行仁、曾南，提出采用b p 神经网络记忆模糊规则的 控制，并进行了倒立摆的仿真实验。1 9 9 3 年，j a n g 1 3 】提出了基于网络结构的模 2 基于模糊神经网络的时间序列预测模型 糊推理的概念，并设计了网络结构模型，这种网络结构便是模糊神经网络的雏 形。自此以后，研究人员设计了各种各样的模糊神经网络结构和学习算法。 先来看模糊神经网络的结构方面。w 劬：l g 1 4 将m a m d a n i 模糊模型和多层前向 网络( b p 网) 相结合，构成标准型模糊神经网络，这种网络结构简单，物理意 义明确，并且已经被证明了具有万能逼近能力，这使得它在系统控制和辨识上 都得到了广泛应用。j a u g 将t - s 模糊模型与五层神经元网络结合而成的a n f i s ， 能快速完成高度的非线性映射，t s 型模糊神经网络在系统建模上有特殊优 势。结合r b f 网络的结构和特点，王立新【1 5 】提出了模糊基函数的概念，建立 了模糊基函数网络模型，这种网络模型类似于r b f 网络，网络输出与可调参 数之间是线性关系，简化了参数的学习过程，容易在线应用。模糊推理规则 通常采用m a x - r a i n 规则或乘积规则，这种推理模式忽略了许多信息，其中包 括很多有用信息。对此z h a n g l l 6 】改善了推理规则，引入了乐观操作( o p t i m i s m o p e r a t i o n ) ；g 悲观操作( p e s s i m i s m o p e r a t i o n ) 两种运算，最终的推理结果是两者 的加权，称这种模糊神经网络为补偿模糊神经网络。 模糊神经网络无论作为逼近器，还是模式存储器，都是需要学习和优化 权系数。学习算法是模糊神经网络优化权系数的关键。模糊神经网络的学习 算法，大多来自神经网络，标准型模糊神经网络通常采用b p 算法，为了避 免b p 算法的固有缺陷，许多学者对学习算法进行了改进文献f 1 7 1 将实值遗传 算法应用于网络参数学习，收到了较好的效果。结合模糊基函数网络的特点， 文献f 1 5 1 中应用递推最小二乘算法( r l s ) 对网络参数进行整定。现在，除b p 算法 外，模糊神经网络的学习算法还有很多，如遗传算法、基于梯度下降的学习算 法、基于递推最小二乘的学习算法、基于聚类的方法如k 均值聚类、模糊c 均 值聚类、山峰聚类方法、减法聚类方法和最近邻聚类法等。这些算法各有其优 点，可在同一个系统中采用多种学习算法。它们都有一个共同特点，那就是都 具有模糊逻辑系统和人工神经网络的优点，即能有效利用语言信息又具有强大 的自学习和自适应能力，并且网络参数具有较为明确的物理意义，有助于对实 际系统的理解和分析。 1 4 主要工作和安排 本文主要讨论模糊神经网络用于时间序列建模及预测相对于时间序列预测 以及一些经典非线性模型预测的绩效问题。模糊神经网络具有很强的模拟非线 性系统的能力，那么若将模糊神经网络应用到一个线性随机过程，会有什么样 的情况发生呢? 前面已经提及当得到一组数据时，我们并不知道这组数据间关系 是线性或非线性的，人们常常难以判断对于所需要解决的问题是用线性的还是 3 基于模糊神经网络的时间序列预测模型 非线性的模型。因此，本文提出基于模糊神经网络的时间序列预测混合模型， 主要思想为：将序列看成由线性部分和非线性部分组成，线性部分通过建立时 间序列模型预测，余下的非线性部分建立模糊神经网络模型来预测，而最后预 测的结果并不是两者简单相加，而是通过构建特殊的函数来预测目标值。 本文主要探讨如下两个问题： 1 基于模糊神经网络的时间序列混合预测模型与传统时间序列模型及其他 非线性模型的比较； 2 在金融时间序列中，基于模糊神经网络的金融时间序列混合预测模型与 金融时间序列单独模型及其他非线性单独模型的比较。 1 5 文章结构 第一章总体介绍撰写本文的目的；第二章总结时间序列的一些性质特征 及概念；第三章介绍模糊神经网络的定义、基本结构及学习算法：第四章建 立基于模糊神经网络与结合的时间序列预测模型，并将其与单独的s 、b p 、f n n 模型进行比较，实验结果表明，所给模型是有效的；第五章建立基于模 糊神经网络与甜兄c 日结合的金融时间序列预测模型，并将其与其他单独模型 进行比较，可以得出，所给模型是有效的；文章的最后给出结论。 4 基于模糊神经网络的时间序列预测模型 2 时间序列模型 2 1引言 不论是经济领域中每年的产值、国民收入、某一商品在某一市场上的销 量、某一商品在某一市场上的价格变动，或是社会领域中某一地区的人口数、 医院患者数、铁路客流量等，还是自然领域的太阳黑子数、月降水量、河流流 量等等，都形成了一个时间序列。时间序列是时间次序排列的随机变量序列。 在实际问题中所得到的数据只是时间序列的有限观测样本，时间序列分析的主 要任务就是根据观测数据的特点为数据建立尽可能合理的统计模型。然后利用 模型的统计特性去解释数据的统计规律，以期达到预报的目的。 2 2 时间序列的几个基本概念 2 2 1 平稳性 平稳性是时间序列分析的基础。如果对所有的t ，任意正整数k 和任意k 个 正整数( t l ，t 2 ，“) ，( n ，n 。，) ，的联合分布与( r t 。+ t ，r t 2 + t ，+ t ) 的联 合分布是相同的，则称时间序列f r t ) 是严平稳的。换句话说，严平稳性要 求( r t ，n 。，) 的联合分布在时间的平移下不变。这是一个很强的条件，难 以用经验方法验证。经常假定的是平稳性的一个较弱的形式：如果r t 的均值 以及r t 与n l 的协方差是不随时间变化的，其中z 是一个任意的整数，则时间序 列n 是弱平稳的。更具体地说，若 ( 口) e ( n ) = 钍，弘是一个常数； ( b ) o o v ( r t ，r t z ) = t t ，m 只依赖于l ，则 r t ) 是弱平稳的。 实际中，假定我们有t 个观察数据点 nj t = 1 ，2 ，t ) ，弱平稳性意味着 数据的时间图显示出于个值在一个常数水平上下以相同幅度波动。 在弱平稳性的条件中，隐含地假定了 n 】的一、二两阶矩是有限的。由定 义可知，若 r t ) 是严平稳的，且它的头两阶矩是有限的，则 r t 也是弱平稳的。 反之一般是不成立的，但如果时间序列 n ) 是正态分布的，则弱平稳性与严平 稳性是等价的。 2 2 2 相关系数和自相关函数 两个随机变量x 和y 的相关系数定义为 p 王2 c o v ( x ，y ) y 盯( x ) y 口r ( y ) ：= ：= = = = = ：= ：= = = ：= = = = 5 e ( x ) ( y 一) 】 基于模糊神经网络的时间序列预测模型 其中和分别是x 和y 的均值，并且假定方差是存在的。这个系数度量的 是x 和y 线性相关程度可以证明一l 如，1 和m ，掣= 如，毒。若p x ，= 0 ，则这两 个随机变量是不相关的。 对于弱平稳序列n ，当n 与它的过去值r t t 线性相关时，可以把相关系数的 概念推广到自相关系数。r t 与n l 的相关系数称为r t 的时间间隔为c 的自相关系 数，通常记为p ，在弱平稳性的假定下它只是f 的函数。具体地说，定义 c o v ( r t ，r t - i )c o v ( r t ，r t - i ) 饥 p l2 v v a r ( r t ) v a r ( r , - , ) 2 弋丽。磊 这里用到弱平稳序列的性质v a r ( r t ) = v a t ( r t 1 ) 。由定义，我们有p o = 1 ，p l = p l 和一ls 内l 。另外，一个弱平稳序列r t 是前后不相关的当且仅当对所 有2 0 有功= 0 。 2 2 3 白噪声与线性时间序列 如果时间序列 n 】是一个有有限均值和有限方差的、独立同分布的随机变 量序列，则称时间序列n 为白噪声。特别地，若n 还服从均值为0 、方差为仃2 的 正态分布，则称这个序列为高斯白噪声。对于白噪声序列，自相关系数为零。 在实际应用中，如果所有样本自相关函数接近于零，则认为序列是白噪声序 列。 若时间序列 n 能写成 r t = p + 魄 i = o 其中弘是仉的均值，讥= l ，【口) 是零均值、独立同分布的随机变量序列 ( 即 毗 是白噪声序列) ，则称【n - 为线性序列。 在上式定义的线性时间序列中，系数以决定了n 的动态结构，这些系数称 为n 的妒权重。若r t 是弱平稳的，我们用【毗) 的独立性很容易得到n 的均值和方 差 e ( r t ) = p ，v a r ( r t ) = 配谚 i = o 其中尤是a t 的方差。另外，间隔为z 的n 的自协方差为 m = c o v ( r t , n 1 ) = e 【( 以砚一：) ( 仍m 一卜歹) 】 i = o j = o = e ( 饥奶啦一t 砚一l 叫) 6 基于模糊神经网络的时间序列预测模型 = 奶+ l 咖e ( 吐l 。) = 砖c j c j + , 因此，妒权重与r t 的自相关系数有如下关系： 一 印= 焉= 鬻艘。 其中讥= 1 。线性时间序列模型就是用来描述n 的矽权重的经y f 计量和统计模 2 3 随机模型及其预报 2 3 1 线性平稳模型 简言之，对于时间序列 r t ) ，存在两种等价的表示方法，其一是根据时间 序列过去值，另一方式是根据白噪声时间序列，我们认为白噪声时间序列是来 自于运用线性预测函数来预测时间序列以前的值。 其一勘阶自回归模型a r ( p ) ，它表示因变量n ，与自变量7 t 一1 ，r t 一1 ， r t 一口的关系，即： p n = 口i t t _ t + 啦 一 i = l 其中 砚) 为白噪声，e ( 4 ) = a r 2 0 ，e ( a t r 。) = o ( t s ) ，且系数q = ( a l ，q 2 ， ) 满足平稳条件。其模型的识别主要通过在偏自相关函数序列p 步截尾，自相 关函数序列被负指数函数控制收敛到零。对于a r ( p ) 模型，我们常用条件最小 二乘法来估计其参数，条件最小二乘法是从第p + 1 个观测值开始的。具体地 说，在给定头p 个观测值的前提下，我们有 r t = 4 0 + 4 1 r t 一1 + + 奶n - p + 砚，亡= p + 1 ，p + 2 ，t 对应的残差为 a t = n 一矗 称( 缸) 为残差序列，并得到 t 霹 砖= 南 对向前多步预测：一般地，我们有 r h + l = 如+ 4 1 r a + t 一1 + + 如+ t p + a h + t 7 基于模糊神经网络的时间序列预测模型 基于均方损失函数最小化得到的向前z 步预测就是给定 r 一) 墨。的条件下n + l 的 条件期望，可以由下式得到 其中，当i o 时；约定e h ( i ) = 住“。这个预测可用如( i ) ，i = 1 ，2 ，z l 递 推计算出来。向前z 步预测的误差是e h ( t ) = r h + l 一靠( f ) 。可以证明：对平 稳a r ( p ) 模型，当z _ o 。时， ( f ) 收敛于e ( r t ) 。 其二是q 阶滑动均值模型简称为m a ( q ) ，它表示因变量n 与白噪声a t l ，a t 一2 ， ，a t 一口的关系，即： 口 n = 屈 i = 0 其中i n t ) 为白噪声序列，e ( 霹) = 仃2 ，且系数p = ( 芦1 ，尻，岛) 满足平稳条 件。其模型的识别主要通过在自相关函数序列g 步截尾，偏自相关函数序列被负 指数函数控制收敛到零。估计m a ( q ) 模型通常用最大似然法。m a ( q ) 模型的预 测很容易做。因为模型有有限记忆性，它的点预测很快达到序列的均值。下面 来看，设预测原点为h ，对于m a ( 1 ) 过程的向前1 步预测，模型为 取条件期望，我们有 + l2c o + d ，l + l 一0 1 a n ( 1 ) = e ( r h + x l r h ，l ，) = c o o t a h e h ( 1 ) = r h + l 一允( 1 ) = a h + l 向前1 步预测误差为y 盯 e j l ( z ) 】= 醒。 在有些应用中，我们需要高阶的a 贼m a 模型才能充分地描述数据的动态 结构。这样就有很多参数需要估计，问题变得繁琐了。为了克服这个困难，人 们提出自回归移动平均模型a r m a ( p ，g ) ，形式为 其中【啦 是白噪声序列，p ，g 都是非负整数。其模型的识别主要通过在自相关函 数序列、自相关函数序列皆不截尾，但都被负指数函数控制收敛到零。对向 前2 步预测，我们有 p口 如( f ) = e ( r h + t l r h ，一1 ，) = 粕+ i 庐h ( 1 - - i ) 一仇。_ l ( z t ) i = 1 = l 8 n ：、 一 仃：， 氟 也 p ：l + 如 = 仃” 吼巩 口澍 一 毗 + - 矿 p 甜 + 0 西 i | 心 基于模糊神经网络的时间序列预测模型 其中，当f i o 时，靠( ? 一i ) = r h + l i ；当z i o 时，a h ( t i ) = o ； 当z iso 时，a h ( 1 一t ) = a h + f 一。这样，a r m a 模型的向前多步预测可以递推 算得。相应的预测误差为 e h ( 1 ) = r + i 一 ( z ) 2 3 2 线性非平稳模型 许多实际中的时间序列( 例如股票) 在演化过程中并不是具有固定不便的均 值，尽管如此，除去局部水平( 或除去局部水平和趋一势】不同以外，序列显示 出具有某种意义上的同质性，即序列的某一部分与任何其他部分极其相似。我 们若对过程作适当的差分便可以使之平稳化，这样就可以得到描述同质非平稳 特性的模型。称这种模型为求和自回归滑动平均( a r i m a ) 过程。 设 r t 为平稳可逆序列，即 r t = o e l r t 一1 + o l 2 r t 一2 + + 唧r t p + 口t 一历a t i 一尾啦一2 一一岛毗一口 其中 吼 为白噪声，且e ( a t r 8 ) = o ( s 0 ，叱o ( i = 1 ，2 ，口) ， 且啦 0 ，为学习率：i = 1 ，2 ，n ；歹= 1 ，2 ，m 。 模糊神经网络虽然也是局部逼近网络，但是它是按照模糊系统模型建立 的，网络中的各个节点及所有参数均有明显的物理意义，因此这些参数的初值 可以根据系统的模糊或定性的知识来加以确定，然后利用上述的学习算法可以 很快收敛到要求的输入输出关系，这是模糊神经网络比前面单纯的神经网络的 优点所在。同时，由于它具有神经网络的结构，因此参数的学习和调整比较容 易，这是它与单纯的模糊逻辑系统相比的优点。 1 5 望塑 8 8 一 一 彬 妨，l，l 铆 嘶 基于模糊神经网络的时间序列预测模型 4基于模糊神经网络与s a r i m a 结合的时间序列预 测模型 4 1引言 模糊神经网络和s a r j m a 模型分别对非线性和季节性时间序列预测有很 好的效果。但现实中，许多序列并不是单纯的线性或非线性模型，且在实际操 作中很难判断其为线性或者非线性，再者在预测领域，没有哪一个模型适合于 任何情况。因此将两者结合起来建立混合模型，更能体现各自的特性，以达到 更精确预测的目的。 4 2混合模型 设时间序列 磊，亡= 1 ，2 ，7 ) 由线性部分厶和非线性部分凡构成，即五= 厶+ m 。首先，我们建立s a r i m a 模型预测磊中的线性部分，令白为磊预测后 在t 时刻的剩余部分，即鼠= 磊一l t ，其中厶为s a r i m a 模型在t 时刻的预测 值；然后利用f 模型对。建模，设输入节点数为n ，则f 预测一般模型 为t = ，( t 一1 ，e t - 2 ，e t n ) + e t ，其中，是由f 确定的非线性函数，e t 为随 机误差；记m = 鼠，则混合时间序列预测模型为：磊= 厶+ 觑。 因此，建立混合模型对时间序列进行预测可分两步。 第一步，利用s a r i m a 模型针对时间序列中的线性部分厶进行建模； 第二步，对剩余的非线性部分t 建立f 模型。 4 3 实验 4 。3 1 数据及预处理 采用悉尼航班乘客收入作为实验数据。序列为1 9 9 9 年1 月5 0 2 0 0 7 年1 月悉 尼航班乘客收入，如图4 1 所示。其中由于悉尼奥运会的影响，从2 0 0 0 年5 月 到1 0 月有显著的递增趋势，总共7 9 个样本，取前6 9 个数据为训练样本，剩余 的l o + 样本为测试样本。为了提高预测效果，将原数据归一化： ，7 ，7 k = c 二簪o 7 + 0 1 5 t = 1 川2 ，6 9 厶m n o 一厶，汛 1 6 基于模糊神经网络的时间序列预测模型 4 3 2 建立模型 i g g g 2 0 0 0 2 0 0 1 2 0 0 22 0 0 3 2 0 0 4 2 0 0 5 2 0 0 5 国 图4 1 悉尼航班乘客收入 根据实验数据 互，亡= 1 ，2 ，) 的特征，我们给出以下三种混合模型： ( 1 ) f 一s a r ，m a l 模型 磊= ，( 五一1 ，五一1 2 ，色) ( 2 ) f n n s 尺，m a 2 模型 ( 3 ) f n n s a 冗，m a 3 模型 磊= f ( l t ，色) z t = f ( l t ) 其中厶，邑分别为s a r j m a 模型在亡时刻的预测值和误差。 4 3 3参数选择 对于s a r i m a 模型首先为了消除周期性和趋势性，对k 进行一阶普通差分 和一阶季节差分( 季节为1 2 个月) 得到序列x t ；然后使用e v i e w s 5 1 软件包对序 列建模，根j g a i c 准则，建立的模型为：s a r i m a ( 1 ，1 ，1 ) ( 1 ，1 ，1 ) 1 2 ，回归方程 为： ( 1 + 0 3 5 7 8 8 1 2 ) ( 1 - 4 - o z 6 1 s s ) x , = 一0 0 0 0 4 - 4 - ( 1 一o o s 4 3 b ) o 一0 9 3 8 4 8 1 2 ) 砚 1 7 基于模糊神经网络的时间序列预测模型 表4 1s a r i m a 横型建横估计 f 模型中参数的选择仅有隶属度函数个数、隶属度函数类型及最大迭代 次数，简单易操作。由于实验中与b p 神经网络和s v m s 模型进行比较，下面给 出它们的参数，b 尸神经网络模型：学习率0 2 ，网络层3 ，隐层节点数3 ，动量 因子0 8 5 ；s v m s 模型：矿= 3 9 1 6 3 2 ，c = 6 9 8 ，= 0 0 0 1 9 8 。其中a r 2 为高斯 核函数的宽度，c 为惩罚因子，为误差值。 4 3 4评价标准 s a r i m a 模型中我们采取1 步预测，f 、m s 、b p 神经网络模型中 我们采取多步预测。误差函数分别为： 平均绝对误差 m a e = 熹i 犰一0 , 1 ”j 均方误差 平均绝对误差百分比 正则均方误差 m s e ：1 佗慨一鲫2 m a p e = 等喜必l y , i n _ n m s e = 熹宝( 欢吲2 = ：( 纨一热) 2 盯木凡 c r 2 = 击 ( 阢一甄) 2 i = l 1 8 基于模糊神经网络的时间序列预测模型 统计量 一 1o y i2 元二轨 # l d p n ( y i l i = i y i 。i y i 、) 兄2 砺耍i 瓦7 丽 其中，软和蟊分别为实际值和预测值。 4 3 5 实验结果及分析 表4 2 实验误差 l 较 图4 2 四种模型预测效果图 从实例结果可以看出，一方面，f n s a r i m a 2 模型从误差评价函 数m a e 、m s e 、m a p e 、m s e 来看预测效果都优于单独模型和其它混合 模型；并且，在参数选择上，f 结合模型也有明显优势。b p 网络模型在 选取初始值时，易陷入局部极小，且学习率、动量因子、网络结构及学习函 数的选择上没有统一的方法；s v m s 模型对参数盯2 、c 、e 的选择也尚无最优方 法1 5 】，如提出的结合遗传算法确定参数，其计算量也是相当大的，并且预测结 果对参数的选择是十分灵敏的。而f 结合模型参数选择主要是隶属度个数和 类型，简单易操作，且算法稳定，所以结合两者来看，该模型是有效的。 1 9 基于模糊神经网络的时间序列预测模型 另一方面，从f 一s a r i m a 3 模型预测效果来看，其性能还不如单独使 用f ，因此针对具体时间序列特征，如何建立混合模型应是日后研究的重 点。 4 4 本章小结 模糊神经网络将模糊系统的逻辑推理能力和神经网络的自适应能力相 结合，在预测、智能控制的方向有广泛的应用。时间序列预测自从b o x 和j e n k i n s 提出建模方法后，一直是金融、工业预测中最常用的工具。本 章将二者结合，提出一种基于t - s 模糊神经网络与s 剧m a 结合的混合预测模 型。从实验结果可以看出，该模型预测性能优于其它几个模型。另外，在参数 确定上比b p 、s y m s 模型也易于操作。 基于模糊神经网络的时间序列预测模型 5 基于模糊神经网络的金融时间序列预测模型 5 1引言 在现代计量经济和金融市场的许多研究中，波动率在期权交易中是一个重 要因素，它是标的资产收益率的条件率的条件方差。例如，考虑一个欧氏看涨 期权的价格。欧氏看涨期权是一个合同，它给持有人一个权利，可以在将来给 定日期以固定的价格购买固定数量的一个具体股票的股份，持有人在对自己不 利的情况可以不执行购买。著名的b l a c k s c h o l e s 期权定价公式表明一个欧氏 看涨期权的价格是 白= a 圣( z ) 一k r 一圣( z 一巩忻) ， z ：l n ( p 丁t k r - t ) + 三2 吼圻 巩、z 其中轨是标的股票的现价，r 是无风险利率，a t 是这个股票的对数收益率的条件 标准差，圣( z ) 是标准正态随机分量的累积分布函数在z 点的值。 e n g l e 在1 9 8 2 年提出了自回归条件异条件方差( a r c h ) 模型，即用一个 时间序列模型的动态方程，来刻画抖动的条件方差的时间演变规律，在金 融时间序列预测中取得了很好的效果。同时，模糊神经网络吸取模糊系统 和神经网络的长处，对非线性时间序列也有不错的效果。本章将给出一种基 于t a k a g i s u g e n o ( t s ) 模糊神经网络( f ) 与g a r c h 结合的混合预测模 一 型。针对上证指数序列给出了三种不同的结合模型，并与单独模型进行比较。 实验结果表明，所给模型是有效的。 5 2a r c 日模型 5 2 1a 嬲日效应检验 序列是否存在序列是否存在a r c h 效应，最常用的检验方法是拉格朗日乘 数法，即己m 检验。若模型随机扰动项一a r c