数学模型讲座时间序列模型

数学模型讲座时间序列模型2024/3/28数学模型讲座时间序列模型一、时间序列的基本特征二、时间序列模型的基本概念三、ARMA模型设定及其识别四、ARMA模型估计与检验五、ARMA模型建模步骤内容数学模型讲座时间序列模型一、时间序列的基本特征同一现象在不同时间上的相继观察值排列而成的数列形式上由现象所属的时间和现象在不同时间上的观察值两部分组成排列的时间可以是年份、季度、月份或其他任何时间形式数学模型讲座时间序列模型国内生产总值等时间序列年份国内生产总值(亿元)年末总人口(万人)人口自然增长率(‰)居民消费水平(元)19901991199219931994199519961997199818547.921617.826638.134634.446759.458478.167884.674772.479552.811433311582311717111851711985012112112238912362612481014.3912.9811.6011.4511.2110.5510.4210.069.538038961070133117812311272629443094一、时间序列的基本特征数学模型讲座时间序列模型时间序列数据时间序列数据有严格的时间先后顺序。在利用时间序列数据建立模型时需要认识到，我们获得的样本不再具有从总体中随机抽取的性质。我们所面对的是一个实际实现的随机过程。一、时间序列的基本特征数学模型讲座时间序列模型时间序列的分类时间序列平均数序列绝对数序列相对数序列时期序列时点序列一、时间序列的基本特征数学模型讲座时间序列模型时间序列的编制原则时间长短要一致总体范围要一致指标内容要一致计算方法和口径要一致Remark：这仅限于经典的时间序列，在高频数据中，时间长短可以不一致，例如交易时间间隔可以不一致.一、时间序列的基本特征数学模型讲座时间序列模型时间序列图形的绘制先把时间序列描绘在坐标图上，坐标的横轴表示时间t，坐标的纵轴表示所分析的经济变量一、时间序列的基本特征数学模型讲座时间序列模型某企业从1990年1月到2002年12月的销售数据（单位：百万元）

一、时间序列的基本特征数学模型讲座时间序列模型从这个点图可以看出。总的趋势是增长的，但增长并不是单调上升的；有涨有落。但这种升降不是杂乱无章的，和季节或月份的周期有关系。除了增长的趋势和季节影响之外，还有些无规律的随机因素的作用。一、时间序列的基本特征数学模型讲座时间序列模型时间序列分析分析时间序列变化的影响因素-每一个经济变量的变化，在不同时期受不同因素影响，经济变量的时间序列综合地反映了各种因素的影响影响时间序列变化的主要因素分类-长期趋势因素-季节变化因素-周期变化因素-不规则变化因素一、时间序列的基本特征数学模型讲座时间序列模型时间序列的分解经济变量的时间序列通常可以分解成四部分，即：长期趋势，用T（Trend）表示季节波动，用S（Seasonal）表示循环波动，用C（Cyclical）表示不规则波动，用I（Irregular）表示这四种因素对时间序列变化的影响有二种基本假设乘积形式：Y=T×S×C×I和的形式：Y=T+S+C+I一、时间序列的基本特征数学模型讲座时间序列模型ttYYY=T+S+C+IY=T×S×C×I一、时间序列的基本特征数学模型讲座时间序列模型时间序列的基本特征时间序列变化的基本特征是指各种时间序列表现出的具有共性的变化规律，如趋势变化、周期性变化等根据时间序列变化的基本特征，它们可以分为：-呈水平形变化的时间序列-呈趋势变化的时间序列-呈周期变化的时间序列-具有冲动点的时间序列-具有转折变化的时间序列-呈阶梯形变化的时间序列一、时间序列的基本特征数学模型讲座时间序列模型呈水平型变化的时间序列经济变量的发展变化比较平稳，没有明显的上升或下降趋势，也没有较大幅度的上下波动如处于市场饱和状态的产品销售量，生产过程中出现的稳定的次品率。Ytt一、时间序列的基本特征数学模型讲座时间序列模型呈趋势变化的时间序列上升或下降的趋势变化，长期趋势变化Ytt一、时间序列的基本特征数学模型讲座时间序列模型呈周期型变化的时间序列Ytt一、时间序列的基本特征数学模型讲座时间序列模型具有冲动点（Impulse）变化的时间序列Ytt一、时间序列的基本特征数学模型讲座时间序列模型具有阶梯型变化的时间序列Ytt一、时间序列的基本特征数学模型讲座时间序列模型时间序列的转折性变化Ytt一、时间序列的基本特征数学模型讲座时间序列模型时间序列数据的分解趋势随机循环或者季节性Xttime一、时间序列的基本特征数学模型讲座时间序列模型二、时间序列模型的基本概念目标：根据变量的历史研究变量为什么用这些时间序列模型？-简单-理论的缺乏-预测数学模型讲座时间序列模型时间序列分析模型的适用性经典回归模型的建模思路：对一个时间序列Xt的变动进行解释或预测，是通过某个单方程回归模型或联立方程回归模型进行的，由于它们以因果关系为基础，且具有一定的模型结构，因此也常称为结构式模型（StructuralModel）。经典模型的建模的困难：如果Xt波动的主要原因可能是我们无法解释的因素，如气候、消费者偏好的变化等，则利用结构式模型来解释Xt的变动就比较困难或不可能，因为要取得相应的量化数据，并建立令人满意的回归模型是很困难的。二、时间序列模型的基本概念数学模型讲座时间序列模型时间序列分析模型的适用性经典模型预测性能差：即使能估计出一个较为满意的因果关系回归方程，但由于对某些解释变量未来值的预测本身就非常困难，甚至比预测被解释变量的未来值更困难，这时因果关系的回归模型及其预测技术就不适用了。在这些情况下，我们采用另一条预测途径：通过时间序列的历史数据，得出关于其过去行为的有关结论，进而对时间序列未来行为进行推断。二、时间序列模型的基本概念数学模型讲座时间序列模型时间序列分析模型的适用性问题1：时间序列过去是否有明显的增长趋势？如果增长趋势在过去的行为中占主导地位，能否认为它也会在未来的行为里占主导地位呢？问题2：时间序列显示出循环周期性行为，我们能否利用过去的这种行为来外推它的未来走向？解决方法：采用随机时间序列分析建模，就是要通过序列过去的变化特征来预测未来的变化趋势。二、时间序列模型的基本概念数学模型讲座时间序列模型时间序列分析发展的两个阶段平稳时间序列分析—Box-Jenkins(1976)非平稳时间序列分析—Engle-Granger(1987)时间序列模型不同于经济计量模型的两个特点是：-这种建模方法不以经济理论为依据，而是依据变量自身的变化规律，利用外推机制描述时间序列的变化。-明确考虑时间序列的平稳性。如果时间序列非平稳，建立模型之前应先通过差分或者协整把它变换成平稳的时间序列，再考虑建模问题。二、时间序列模型的基本概念数学模型讲座时间序列模型时间序列分析理论框架图二、时间序列模型的基本概念数学模型讲座时间序列模型随机过程的基本概念随机过程stochasticprocess

设T是某个集合，俗称足标集，对任意固定t

T，Yt是随机变量，t

T的全体{Yt；t

T}称为T上的随机函数。记为{Yt}对每个固定的t，Yt是随机变量。通常T取为：1）T=[-

,

],T=[0,

]2)T=…-2,-1,0,1,2,…T=1,2,3,…二、时间序列模型的基本概念数学模型讲座时间序列模型随机过程的基本概念随机过程的样本Sample或实现Realization对给定的样本点

，{Yt(

)}

Y1,Y2,Y3,…,Yn,

y11,y12,y13,…,y1n

y21,y22,y23,…,y2n

记为{yt

}二、时间序列模型的基本概念数学模型讲座时间序列模型随机过程的基本概念随机过程的参数

-均值函数meanfunction-自协方差函数autocovariancefunction-自相关函数autocorrelationfunctionRemark：自协方差函数与自相关函数都是对线性关系的一种度量方式，它与线性时间序列模型是等价的，包含了同等的信息，但对于非线性关系无能为力二、时间序列模型的基本概念数学模型讲座时间序列模型平稳过程严平稳一个随机过程如果是严平稳的，那么对所有的，所有的，所有的，联合概率分布函数满足下式：弱平稳（二阶平稳）二、时间序列模型的基本概念数学模型讲座时间序列模型Remark:平稳概念介绍严平稳具有理论价值，但可操作性差弱平稳更具有现实意义，均值和方差易于观测只要一阶矩和二阶矩存在，严平稳一定能推出弱平稳；柯西列均值、方差都不存在，但是严平稳的正态分布只需用均值和方差两个参数就可以完全描述，正态随机过程的联合分布可以用均值，方差，协方差完全描述。正态随机过程下的弱平稳与严平稳是一致的.二、时间序列模型的基本概念数学模型讲座时间序列模型一个重要的随机过程：白噪声白噪声就是一种特殊的二阶平稳过程。对于任一和白噪声并没有对分布给出界定，白噪声并不意味着i.i.d，只有服从Gauss过程时，白噪声与i.i.d才是等价的可以存在高阶矩的序列依赖或者是非线性依赖，例如下面的过程仍为白噪声二、时间序列模型的基本概念数学模型讲座时间序列模型平稳过程例1—i.i.d序列一个最简单的随机时间序列是独立同分布标准正态分布序列：二、时间序列模型的基本概念数学模型讲座时间序列模型平稳过程例2—自回归过程AR(1)

二、时间序列模型的基本概念数学模型讲座时间序列模型样本自相关函数的计算和判断二、时间序列模型的基本概念数学模型讲座时间序列模型检验自相关系数是否为0原假设：

i=

i+1=…0用前面介绍的方法计算出样本自相关系数，服从正态分布N(0,1/T)每个在两个标准差之间，则认为真正的

i等于0二、时间序列模型的基本概念数学模型讲座时间序列模型偏自相关函数一般的，偏相关系数如下定义：Yt与Yt-k的偏相关系数是去掉Yt-1，Yt-2，…….，Yt-k+1的线性影响后简单相关系数。用公式表示如下：

*k=Corr(Yt-E*(Yt|Yt-1，Yt-2,…,Yt-k+1),Yt-k)二、时间序列模型的基本概念数学模型讲座时间序列模型样本偏自相关函数

t=

11

t-1+

1t

t=

12

t-1+

22

t-2＋

2t

t=

13

t-1+

23

t-2＋

33

t-3＋

3t………用OLS法估计上面的方程;

11是1－阶样本偏相关系数；

22是2－阶样本偏相关系数;Remark：对原始序列要进行均值化处理.二、时间序列模型的基本概念数学模型讲座时间序列模型检验偏自相关系数是否为0当样本长度充分大时，原假设

*k=0，k>p偏相关系数近似服从正态分布N（0，1/T）在近似5%显著水平下，如果-2/T1/2<

*k<2/T1/2,推断

*k=0，k>p成立二、时间序列模型的基本概念数学模型讲座时间序列模型白噪声的相关图样本容量=400，白噪声序列当样本自相关系数落在[-0.1,0.1]区间内时，可以判断自相关系数为0二、时间序列模型的基本概念数学模型讲座时间序列模型平稳线性ARMA模型几个重要的平稳随机过程-白噪声-MA-AR-ARMA-ARIMA建立ARMA模型-定阶，估计，检验，预测三、ARMA的模型设定与识别数学模型讲座时间序列模型平稳时间序列几个重要的平稳过程和模型白噪声过程MA过程AR过程ARMA过程平稳过程的参数自协方差和自相关函数偏自相关函数模型平稳可逆条件三、ARMA的模型设定与识别数学模型讲座时间序列模型滑动平均模型（MA）

1-阶滑动平均模型

和

为参数或系数。{Yt}是1-阶滑动平均过程。用MA（1）表示例如Yt=0.1+

t＋0.3

t－1三、ARMA的模型设定与识别数学模型讲座时间序列模型MA(1)另一种表达方式本质是一个只包括常数项的回归模型，但残差存在自相关。三、ARMA的模型设定与识别数学模型讲座时间序列模型q-阶滑动平均模型定义其中

t是白噪声过程三、ARMA的模型设定与识别数学模型讲座时间序列模型

自回归模型（AR）

t=c+

1

t-1+

2

t-2+…+

p

t-p+

t

其中{

t

}是白噪声过程，

p

0表达式是p-阶自回归模型{

t}为p-阶自回归过程,表示为AR(p)

c,

1,…,

p是未知参数或系数。三、ARMA的模型设定与识别数学模型讲座时间序列模型自回归滑动平均混合过程ARMA

t=c+

1

t-1+

2

t-2+…+

p

t-p+

t

+

1

t-1+…+

q

t–q其中{

t

}是白噪声过程,

p

0,

q

0表达式是p-阶自回归q－阶滑动平均混合模型{

t}为p-阶自回归q-阶滑动平均混合过程,表示为ARMA(p,q)

c,

1,…,

p，

1，…，

q是未知参数或系数。三、ARMA的模型设定与识别数学模型讲座时间序列模型MA过程例下面是一个MA(2)模型,计算它的自相关函数，并画图

t=

t+0.2

t－1＋0.1

t－2

1＝(

1＋

2

1)/(1＋

12＋

22)＝(0.2+0.2*0.1)/(1+0.12+0.22)=0.2

2＝(

2)/(1＋

12＋

22)＝0.1/(1+0.12+0.22)=0.095三、ARMA的模型设定与识别数学模型讲座时间序列模型MA过程ACF图基本结论MA(q)过程的自相关函数q步截尾三、ARMA的模型设定与识别数学模型讲座时间序列模型AR(1)过程的参数三、ARMA的模型设定与识别数学模型讲座时间序列模型AR(1)参数

t=0.1+0.5

t-1+

t

t=0.1-0.5

t-1+

t

=0.1/(1-0.5)=0.2

=0.1/(1+0.5)

j=0.5j

j=(-0.5)j

三、ARMA的模型设定与识别数学模型讲座时间序列模型ARMA过程的平稳性条件模型平稳条件特征方程

(z)=1-

1

z-

2

z2-…-

p

zp=0特征方程的根在单位圆外。如果特征方程的根在单位圆内，则模型平稳。使得模型满足平稳条件的参数所在的范围为平稳域.注：平稳性只与自回归系数

1,…，

p有关，与滑动平均系数无关。三、ARMA的模型设定与识别数学模型讲座时间序列模型自回归模型的平稳域例下面的AR（2）模型是否平稳？

t=0.6

t-1-0.08

t-2+

t特征方程:1-0.6z+0.08z2=0根为5和2,都在单位圆外,所以平稳.三、ARMA的模型设定与识别数学模型讲座时间序列模型根据自相关函数与偏自相关函数定阶根据样本自相关函数和样本偏相关函数定阶一般要求样本长度大于50,才能有一定的精确程度自相关函数和样本偏相关函数定阶的准则MA(q)AR(p)ARMA(p，q)自相关函数q步截尾拖尾拖尾偏相关函数拖尾p步截尾拖尾三、ARMA的模型设定与识别数学模型讲座时间序列模型ARIMA（p,d,q)过程和模型随机过程不平稳：从图形看不重复穿越一条水平线，样本自相关函数收敛速度慢。差分以后是一个ARMA过程注意不要过度差分d表示差分的次数三、ARMA的模型设定与识别数学模型讲座时间序列模型MA(1)Yt

＝

t＋0.5

t－1三、ARMA的模型设定与识别数学模型讲座时间序列模型MA(1)的ACF和PACF三、ARMA的模型设定与识别数学模型讲座时间序列模型AR(1)Yt=0.6Yt-1+

t三、ARMA的模型设定与识别数学模型讲座时间序列模型AR(1)的ACF和PACF三、ARMA的模型设定与识别数学模型讲座时间序列模型ARMAYt=-0.7Yt-1+

t

-

0.7

t-1三、ARMA的模型设定与识别数学模型讲座时间序列模型ARMA过程的ACF和PACF三、ARMA的模型设定与识别数学模型讲座时间序列模型随机游走Yt=Yt-1+

t三、ARMA的模型设定与识别数学模型讲座时间序列模型随机游走动的自相关函数三、ARMA的模型设定与识别数学模型讲座时间序列模型ARMA模型的其他识别方法采用ACF和PACF定阶AIC或者BIC准则选择，越小越好一般到特殊，最后显著法（Lastsignificant）Remark:在高频时间序列中（日内数据），条件均值模型可能是MA(1)模型三、ARMA的模型设定与识别数学模型讲座时间序列模型ARMA模型的其他识别方法ACF和PACF定阶-对纯粹的AR模型或者MA模型可以定阶-可以判别某个过程为ARMA过程，但不能定阶-由于估计误差的存在，很难判断拖尾和截尾，这种方法在实际应用中存在缺陷AIC或者BIC准则选择，越小越好-特别适用于ARMA模型，当然也适用于AR模型或者MA模型一般到特殊，最后显著法（Lastsignificant）-选择一个高阶的AR模型，逐渐递减，直到最后一个变量显著，这与AR模型PACF定阶异曲同工.三、ARMA的模型设定与识别数学模型讲座时间序列模型ARMA模型的估计AR模型采用OLS法估计AR模型可采用自相关函数的直接估计MA模型采用最大似然法估计ARMA模型采用最大似然法估计四、ARMA的模型估计与检验数学模型讲座时间序列模型AR(p)模型的YuleWalker方程估计在AR(p)模型的识别中，曾得到利用

k=

-k，得到如下方程组：此方程组被称为YuleWalker方程组。该方程组建立了AR(p)模型的模型参数

1,

2,,

p与自相关函数

1,

2,,

p的关系，

四、ARMA的模型估计与检验数学模型讲座时间序列模型

第一步，利用实际时间序列提供的信息，首先求得自相关函数的估计值第二步，然后利用YuleWalker方程组，求解模型参数的估计值由于于是从而可得

2的估计值

四、ARMA的模型估计与检验数学模型讲座时间序列模型AR(p)的最小二乘估计假设模型AR(p)的参数估计值已经得到，即有残差的平方和为：(*)根据最小二乘原理，所要求的参数估计值是下列方程组的解：即j=1,2,…,p(**)解该方程组，就可得