时间序列模型

1、时间序列模型一、分类 按所研究的对象的多少分，有一元时间序列和多元时间序列。 按时间的连续性可将时间序列分为离散时间序列和连续时间序列两种。 按序列的统计特性分，有平稳时间序列和非平稳时间序列。狭义时间序列：如果一个时间序列的概率分布与时间t无关。广义时间序列：如果序列的一、二阶矩存在，而且对任意时刻t满足均值为常数和协方差为 时间间隔由勺函数。（下文主要研究的是广义时间序列）。 按时间序列的分布规律来分，有高斯型时间序列和非高斯型时间序列。二、确定性时间序列分析方法概述时间序列预测技术就是通过对预测目标自身时间序列的处理，来研究其变化趋势的。 一个时间序列往往是以下几类变化形式的叠加或耦合。

2、 长期趋势变动：它是指时间序列朝着一定的方向持续上升或下降，或停留在某一水平上的倾向，它反映了客观事物的主要变化趋势。通常用Tt表示。 季节变动：通常用 §表示。 循环变动：通常是指周期为一年以上，由非季节因素引起的涨落起伏波形相似的波动。通常用q表示。 不规则变动。通常它分为突然变动和随机变动。通常用Rt表示。也称随机干扰项。常见的时间序列模型: 加法模型：yt = § + Tt + Ct + Rt ；乘法模型：yt= S Tt G Rt；混合模型：yt= STt +Rt;yt =St+Tt-CtRt;Rt2这三个模型中yt表示观测目标的观测记录，E Rt = 0,E R

3、t2 = O2如果在预测时间范围以内， 无突然变动且随机变动的方差济较小，并且有理由认为过去和现在的演变趋势将继续发展到未来时，可用一些经验方法进行预测。三、移动平均法当时间序列的数值由于受周期变动和不规则变动的影响，起伏较大，不易显示出发展趋势时,可用移动平均法，消除这些因素的影响，分析、预测序列的长期趋势。移动平均法有简单移动平均法，加权移动平均法，趋势移动平均法等。3.1、简单移动平均法当预测目标的基本趋势是在某一水平上下波动时，可用一次简单移动平均方法建立预测模型：亍e = A炊二=（丸十+立一z）二N. N + 1,N其预测目标的标准差为:TE(r-山沪I-N+1I-.V当然我们还可

4、以得到如下递推关系:二(>+1 + 十 yf_#+i)二 £(M1 I 卜-MN)=”凸 1 fGNNNN的选取方式： 一般N取值范围：5 < N < 200。当历史序列的基本趋势变化不大且序列中随机变动成 分较多时，N的取值应较大一些。否则 N的取值应小一些。 选择不同的N比较若干模型的预测误差，预测标准误差最小者为最好。3.2、加权移动平均法在简单移动平均公式中， 每期数据在求平均时的作用是等同的。 但是，每期数据所包含的信 息量不一样，近期数据包含着更多关于未来情况的信心。 因此，把各期数据等同看待是不尽 合理的，应考虑各期数据的重要性， 对近期数据给予较大的

5、权重， 这就是加权移动平均法的 基本思想。叫片+的为+,空v叫+的+ if其中Wi为yt-i+1权数，体现了相应的yt在加权平均数中的重要性。在加权移动平均法中，的选择，？回样具有一定的经验性。一般的原则是：近期数据的权数大，远期数据的权数小。 至于大到什么程度和小到什么程度，则需要按照预测者对序列的了解和分析来确定。3.3、趋势移动平均法简单移动平均法和加权移动平均法，在时间序列没有明显的趋势变动时，能够准确反映实际情况。但当时间序列出现直线增加或减少的变动趋势时，用简单移动平均法和加权移动平均法来预测就会出现滞后偏差。因此，需要进行修正，修正的方法是作二次移动平均，利用移动平均滞后偏差的规

6、律来建立直线趋势的预测模型。这就是趋势移动平均法。一次移动的平均数为虬=1二次移动的平均数为虬=（A/® + + M%）=邮 +上（"。-财）NN下面讨论如何利用移动平均的滞后偏差建立直线趋势预测模型：设时间序列%从某时期开始具有直线趋势，且认为未来时期也按此直线趋势变化，则可 设此直线趋势预测模型为)扁*+" 丁 二 12at为截距，也为系数，两者均称为平其中t为当前时期数；T为由t至预测期的时期数;滑系数。可以推算出：0 = 2" 一睥N-1趋势移动平均法对于同时存在直线趋势与周期波动的序列，是一种既能反映趋势变化， 又可以有效地分离出来周期变动的方

7、法。四、指数平滑法1 一 一次移动平均实际上认为最近N期数据对未来值影响相同，都加权 方而N期以前的 _ 1.数据对未来值没有影响，加权为 0。但是，二次及更局次移动平均数的权数却不是-?,且次数越高，权数的结构越复杂，但永远保持对称的权数，即两端项权数小，中间项权数大，不 符合一般系统的动态性。一般说来历史数据对未来值的影响是随时间间隔的增长而递减的。所以，更切合实际的方法应是对各期观测值依时间顺序进行加权平均作为预测值。指数平滑法可满足这一要求，而且具有简单的递推形式。指数平滑法根据平滑次数的不同，又分为一次指数平滑法、二次指数平滑法和三次指数平滑法等，分别介绍如下：4.1、一次指数平滑法

8、S"二矿 + （1 -。）常二普 + ayt -）其中a为加权系数。预测模型为：yt+i =即扁二书+(i-加 也就是以第t期指数平滑值作为t +1期预测值。如何选择加权系数 a?具体如何选择一般可遵循下列原则: 如果时间序列波动不大，比较平稳，贝Ua应取小一点，如（0.10.5）。以减少修正幅度，使预测模型能包含较长时间序列的信息； 如果时间序列具有迅速且明显的变动倾向，则a应取大一点，如（0.60.8）。使预测模型灵敏度高一些，以便迅速跟上数据的变化。 在实用上，类似移动平均法，多取几个a值进行试算，看哪个预测误差小，就采用哪个。如何确定初值S0？具体如何选择一般可遵循下列原则：

9、 当时间序列的数据较多，比如在20个以上时，初始值对以后的预测值影响很少，可选用第一期数据为初始值。 如果时间序列的数据较少，在 20个以下时，初始值对以后的预测值影响很大，这时， 就必 须认真研究如何正确确定初始值。一般以最初几期实际值的平均值作为初始值。4.2、二次指数平滑法当时间序列的变动出现直线趋势时，采用二次指数平滑法段）=叫,+（1-口成2$羿=qS?）+（1 q）SJZ其中St为一次指数的平滑值；St 为二次指数的平滑值。当时间序列（yt，从某时期开始具 有直线趋势时，类似趋势移动平均法，可用直线趋势模型：yT =% +站，r = 12 k = 25；1,-S；2）户）L I e

10、x进行预测。4.3、三次指数平滑法当时间序列的变动表现为二次曲线趋势时， 则需要用三次指数平滑法。 三次指数平滑是在二次指数平滑的基础上，再进行一次平滑，其计算公式为玲）=助+（1-金）罪S,二砰+ （1一*）SJ3）=忒 十（1 _ &）s爵式中St为三次指数平滑值三次指数平滑法的预测模型为：丸=弓+站+ G" 7 = 12其中:% =3明-3矿+S?ZVbt= (6 - 5/S* - 2(5 -物)5户 + (4 - 3a) W) 2(1-。V乌="_2骨)+普2(1-。尸' f 1选择a值的一些基本准则：指数平滑预测模型是以时刻 t为起点，综合历史序列

11、的信息，对未来进行预测的。选择合适 的加权系数a是提高预测精度的关键环节。根据实践经验，a的取值范围一般以0.10.3为宜。a值愈大，加权系数序列衰减速度愈快，所以实际上a取值大小起着控制参加平均的历史数据的个数的作用。a值愈大意味着采用的数据愈少。（1） 如果序列的基本趋势比较稳，预测偏差由随机因素造成，则a值应取小一些，以减少 修正幅度，使预测模型能包含更多历史数据的信息。（2）如果预测目标的基本趋势已发生系统地变化，则 a值应取得大一些。这样，可以偏重 新数据的信息对原模型进行大幅度修正，以使预测模型适应预测目标的新变化。如何确定初值？初始值可以取前35个数据的算术平均值作为初始值。五、

12、差分指数平滑法当时间序列的变动具有直线趋势时，用一次指数平滑法会出现滞后偏差，其原因在于数据不满足模型要求。 因此，我们也可以从数据变换的角度来考虑改进措施，即在运用指数平滑法以前先对数据作一些技术上的处理，使之能适合于一次指数平滑模型，以后再对输出结果作技术上的返回处理，使之恢复为原变量的形态。差分方法是改变数据变动趋势的简易方 法。5.1、一阶差分指数平滑法当时间序列呈直线增加时，可运用一阶差分指数平滑模型来预测。=北-加vX+1=aVX+（l-<z）vK丸初=V丸十1 + X其中的？为差分记号。第一个式子表示对呈现直线增加的序列作一阶差分，构成一个平 稳的新序列，第二个式子表示把经

13、过一阶差分后的新序列的指数平滑预测值与变量当前的 实际值迭加，作为变量下一期的预测值。指数平滑值实际上是一种加权平均数。因此把序列中逐期增量的加权平均数 （指数平滑值）加上当前值的实际数进行预测， 比一次指数平滑法只用变量以往取值的加权平均数作为 下一期的预测更合理。从而使预测值始终围绕实际值上下波动， 从根本上解决了在有直线增 长趋势的情况下，用一次指数平滑法所得出的结果始终落后于实际值的问题。5.2二阶差分指数平滑模型当时间序列呈现二次曲线增长时，可用二阶差分指数平滑模型来预测，计算公式如下：v乂 =X- Z-i或+i =成 F +（l-a）V2y, 总】=+ Vy, + y, |其中？2

14、表示二阶差分。差分方法和指数平滑法的联合运用， 除了能克服一次指数平滑法的滞后偏差之外，对初始值的问题也有显著的改进。因为数据经过差分处理后，所产生的新序列基本上是平稳的。这时，初始值取新序列的第一期数据对于未来预测值不会有多大影响。其次，它拓展了指数平滑法的适用范围，使一些原来需要运用配合直线趋势模型处理的情况可用这种组合模型来 取代。但是，对于指数平滑法存在的加权系数 a的选择问题，以及只能逐期预测问题，差分 指数平滑模型也没有改进。六、自适应滤波法6.1、自适应滤波法的基本过程自适应滤波法与移动平均法、指数平滑法一样，也是以时间序列的历史观测值进行某种 加权平均来预测的， 它要寻找一组“

15、最佳”的权数， 其办法是先用一组给定的权数来计算一 个预测值，然后计算预测误差， 再根据预测误差调整权数以减少误差。这样反进行，直至找出一组“最佳”权数，使误差减少到最低限度。 由于这种调整权数的过程与通讯工程中的传 输噪声过滤过程极为接近，故称为自适应滤波法。自适应滤波法的基本预测公式为：丸I =+吗+= £吗凹_用；=1其中为第t+1期的预测值，w为第t-i+1期的观测值权数，yt_i+1为第期的观测值，N为 权数的个数。其调整权数的公式为：=叫 + 2k 式中？住1, 2 , ? , t = N,N+ 1,?n,n为序列数据的个数，Wj为调整前的第i个权数，叫 为 调整后的第i

16、个权数，k为学习常数，ei+1为第t+1期的预测误差。该式表明调整后的一组权数应等于旧的一组权数加上误差调整项，这个调整项包括预测误差、原观测值和学习常数等三个因素。学习常数k的大小决定权数调整的速度。6.2 N, k值和初始权数的确定在开始调整权数时，首先要确定权数个数N和学习常数k。一般说来，当时间序列的观测值呈季节变动时，N应取季节性长度值。如序列以一年为周期进行季节变动时，若数据是 月度的，则取 N=12,若季节是季度的，则取 N=4。如果时间序列无明显的周期变动，则可 用自相关系数法来确定，即取 N为最高自相关系数的滞后时期。k的取值一般可定为 1/N,也可以用不同的k值来进行计算，

17、以确定一个能使 成小的k值。初始权数的确定也很重要， 如无其它依据，也可用1/N作为初始权系数用。自适应滤波法有两个明显的优点：一是技术比较简单，可根据预测意图来选择权数的个数和学习常数，以控制预测。也可以由计算机自动选定。二是它使用了全部历史数据来寻求最佳权系数，并随数据轨迹的变化而不断更新权数，从而不断改进预测。由于自适应滤波法的预测模型简单，又可以在计算机上对数据进行处理，所以这种预测方法应用较为广泛。七、趋势外推预测方法趋势外推法是根据事物的历史和现时资料，寻求事物发展规律，从而推测出事物未来状况的一种比较常用的预测方法。利用趋势外推法进行预测，主要包括六个阶段：（a）选择应预测的参数

18、；（b）收集必要的数据；（c）利用数据拟合曲线；（d）趋势外推； （e）预测说明；（f）研究预测结果在进行决策中应用的可能性。趋势外推法常用的典型数学模型有：指数曲线、修正指数曲线、生长曲线、包络曲线等。7.1、指数曲线一般来说，技术的进步和生产的增长，在其未达饱和之前的新生时期是遵循指数曲线增 长规律的，因此可以用指数曲线对发展中的事物进行预测。指数曲线的数学模型为：y = yoeKt其中系数y0和K值由历史数据利用回归方法求得。对该式取对数得In y = In y0 + Kt,令Y = In y , A = In y0 ,则丫 = A + Kt。可利用最小二乘 法求得A和K。7.2、修正指

19、数曲线法利用指数曲线外推来进行预测时，存在着预测值随着时间的推移会无限增大的情况。这是不符合客观规律的。因为任何事物的发展都是有一定限度的。例如某种畅销产品，在其占有市场的初期是呈指数曲线增长的，但随着产品销售量的增加，产品总量接近于社会饱和量时。这时的预测模型应改用修正指数曲线。yt=K + abr在此数学模型中有三个参数a, b, K要用历史数据来确定。修正指数曲线用于描述这样一类现象：(1 )、初期增长迅速，随后增长率逐渐降低。(2)、当 K > 0,?* 0,0 < ?< 1 时,t oo,abt 0,即R T K当K直可预先确定时，采用最小二乘法确定模型中的参数。而

20、当K直不能预先确定时， 应米用三和法。把时间序列的n个观察值等分为三部分，每部分有m期，即m = 3n第一部分：yi, y2, ? , ym；第一部分：ym+1 , ym+2 , ? , y2m ；第二部分：y2m+1 ' y2m+2 5 ? , y3m ；记观察俏的各部分之和m3蝴、=£& =£ 乂nS =方= £(k 十 ab')=用K + “b(l + 8 + /r 十6 ')t=t=l，s2=£(K十湖')= mK +湖E】(l + A +护+6心)f Bill 4-1Jffl!S3= £丸=十

21、一-) = mK + 汕&* (l + A + 并+)由于(l+A+A2+»/>rXA-l) = ArhJ-l则：=(s、一s)1 b(bm -I)3i rc 4侦i)=3inb -1bo即是否适应修正指数曲线？检验方法是看给定数据的逐期增长量的比率是否接近某一常数yt+1 - yt -.byt - yt- 17.3、Compertz 曲线曲线的一般形式"=前，我>00<4壬 1,0<3王1Compertz曲线用于描述这样一类现象：初期增长缓慢，以后逐渐加快。当达到一定程度后, 增长率又逐渐下降。参数估计方法如下：对上式取对数得：logj =

22、 log K+（ldgo）df记In ChE则允=KW仿照修正指数曲线的三和法估计参数，令成珈s】=切, S3 = £咒1=1/=/»+!v = In v其中-则系数为A-i二（$-§）r21 b（bm -1）2h-贮i r.海" A = dj 是否适应Compertz曲线？检验方法是看给定数据的对数逐期增长量的比率是否接近某一常数7.4、Logistic曲线（生长曲线）生物的生长过程经历发生、 的，例如南瓜的重量增长速度，ln yt+1 - ln yt .b ln yt - ln yt- 1发展到成熟三个阶段， 在三个阶段生物的生长速度是不一样 在第一

23、阶段增长的较慢，在发展时期则突然加快， 而到了成熟期又趋减慢，形成一条 卵曲线，这就是有名的Logistic曲线（生长曲线），很多事物，如技术和产品发展进程都有类似的发展过程，因此Logistic曲线在预测中有相当广泛的应用。Logistic曲线的一般数学模型是车顼T)dt L式中y为预测值，L为y的极限值，r为增长率常数，r>0Logistic曲线的一般形式为y. =, K > 0 f a >0 , 0<5h1K + abl对上式做变换u得V； = K +泌仿照修正指数曲线的三和法估计参数，令s = £ w, Sa =，S3 -r=lf=m+r=2m+l则各

24、个系数为：鲜"I -1 b（bm-2c ab（bm 一 1）3ib l7.5趋势线的选择趋势线的选择有以下几种方式。1. 由散点图选择趋势线。2. 由数据本身的取值规律选择趋势线。3 .比较预测标准误差大小当有几种趋势线可供选择时，应选择£最小的趋势线。八、平稳时间序列模型这里的平稳是指宽平稳，其特性是序列的统计特性不随时间的平移而变化，即均值和协方差不随时间的平移而变化。8.1、一般自回归模型 AR(n)假设时间序列Xt仅与Xt-i,Xt-2,? ,Xt-n有线性关系，而在Xt- i,Xt-2,? ,Xt-n已知条件下， Xt 与 Xt- i 无关，i=n+1,n+2,?

25、 。 at 是-一个独立于Xt-i ,Xt- 2,? ,Xt-n的白噪声序列， atN(0, o2)。Xt = (f)lXt- 1 + (f)2Xt- 2 + ? + 4nXt- n + at上式也可以表示为：at=Xt-4i Xt -i -(j)2Xt-2 - ? -4n Xt-n可见AR(n)系统响应Xt具有n阶动态性。AR n通过把为中依赖于Xt- i、为-2、Xt- n的部 分消除掉之后，使得具有 n阶动态性的序列Xt转化为独立的序列at。因此，AR(n)拟合模型的 过程也就是使相关序列独立化的过程。8.2、移动平均模型MA(m)AR(n)系统的特征是系统在t时刻的响应Xt仅与其以前时

26、刻的响应 Xt-i,Xt-2,? ,Xt- n有关，而 与其以前时刻进入系统的扰动无关。如果一个系统在t时刻的响应t X,与其以前时刻的响应Xt- 1,Xt-2,? ,Xt- n无关，而与其以前时刻进入系统的扰动at-1,at-2,? ,at-m存在着一定的相关关系，那么，这一类系统为系统MA(m)。Xt = at - 0iat- i - 佥at-2 - ? - 0nat- m8.3、自回归移动平均模型一个系统，如果它在时刻t的响应Xt,不仅与其以前时刻的自身值有关，而且还与其以 前时刻进入系统的扰动存在一定的依存关系，那么，这个系统就是自回归移动平均系统。ARMA(n, m)模型为Xt- 4

27、 1Xt- i - (j)2 Xt- 2 - ? - 4nXt- n = at - 1at- 1 - at- 2 - ? -。n at- m对于平稳系统来说，由于 AR(n)、MA(m)、ARMA n, m 模型都是ARMA(n, n - 1)模 型的特例，我们以ARMA(n, n - 1)模型为一般形式来建立时序模型。九、ARMA模型的特征在时间序列的时域分析中，线性差分方程是极为有效的工具。事实上，任何一个 ARMA 模型都是一个线性差分方程。9.1、AR(1)系统的格林函数格林函数就是描述系统记忆扰动程度的函数。AR(1)模型为：Xt- (f)iXt- n = at设Xt- i = y

28、t ,则有y t + 1 - ()iy t = at显然这是一个一阶非齐次差分方程，依次递推下去得：ooXt =()ij at- jj=0上式就是格林函数的解。方程解的系数函数41j客观地描述了该系统的动态性，故这个系统函数就叫做记忆函数，也叫格林函数。不妨另Gj =饥j,显然G0=饥0 = 1。定义后移算子B, BXt = Xt- 1, B2Xt = Xt- 2，?，这样AR(1)可写成1 -饥 B Xt = at 解为：ooXt =Gj at- jj=0由于格林函数就是差分方程解的系数函数，格林函数的意义可概括如下：(1) Gj是前j个时间单位以前进入系统的扰动at-j对系统现在行为(响应

29、)影响的权数。(2) Gj客观地刻画了系统动态响应衰减的快慢程度。(3) 对于一个平稳系统来说，在某一时刻由于受到进入系统的扰动at的作用，离开其平衡位置(即平均数一零)，Gj描述系统回到平衡位置的速度，饥的值较小，速度较快；饥的值较大，回复的速度就较慢。9.2、ARMA(2,1)系统的格林函数9.2.1、ARMA(2,1)系统的格林函数的隐式ARMA(2,1)模型是一个二阶非齐次差分方程X. <p2Xt_2 = at -8皿一它的解为：jrr = y j若采用B算子x, = £" % j=o )同时我们也可以得到：=11 G*=(p-8i，G =(pG._ +(p2

30、G_2J = 3.4-9.2.2、ARMA(2,1)系统的格林函数的显式ARMA(2,1)模型是一个二阶非齐次差分方程X. 一 饥X如xz =劣 一该齐次方程得到的特征方程为 ：_伊兀_ 01 = 0其特征根为：_饥+加：+4饥 _"加；+翎? , 一该齐次方程的通解为：G j C & +c22系数C1,C2也可以求得，最终得到结果为：土色彳+虹务出W At >1? 一 人9.3、逆函数和可逆性前面的格林函数，把 Xt表示为过去at对Xt的影响，或者说系统对过去 at的记忆性，也就 是用一个MA模型来逼近Xt的行为。平稳序列Xt的这种表达形式称为 Xt的“传递形式”。同

31、样 我们也可以用过去的 Xt的一个线性组合来逼近系统现在时刻的行为。即 工=L匕| +匕彳一 2 +也=五时7 + %尸我们把这种表达形式称为Xt的“逆转形式”。其中的系数函数lj(lo=1)称为逆函数，可 见它是一个无穷阶的自回归模型。 一个过程是否具有逆转形式， 也就是说逆函数是否存在的 性质，通常称为过程是否具有可逆性，如果一个过程可以用一个无限阶的自回归模型逼近， 即逆函数存在，我们就称该过程具有可逆性，否则，就是不可逆的。对于AR(2腹型X +如X7 + at有4=仍,，2=代，七=0,) = 3,4,可见，所谓可逆性，是指移动平均模型可以用 AR莫型表示。MA(1)模型：=(1-冲

32、，那么：'-0B11勺 ,苴=切（-印知.）+耳7=1可见，Ij = - Q，显然，只有 01 < 1时，才有j roo,|j r 0,故MA（1）的可逆性条件为& < 1十、时间序列建模的基本步骤1. 数据的预处理；数据的剔取及提取趋势项。2. 取n = L 抵合 ARMAlF-I）（即 ARMAQ1）模型CD p = 3.拟和AR（）模型'设所要报合的模型为工=代*心+代X心+饱Xx用最小二乘法拟含出系数、的，饱n注底到对于AR（p）模型'a =九，攻里。是模型的逆函数于是可得到/|,Z2Jj 的值（2）彷计ARMA（LI）模型A；-啊啊*7 =孔一财t参数的初始值.XJ于HWAQ,】）模型，我们伯/厂。I f j- = 0 J > 2 于是匕叩卫=o =>=.12注意；以AR中的ZHJ1（/