时间序列分析-付

1、时间序列分析时间序列分析 付连艳 辽宁大学经济学院 Email：教材:应用计量经济学：时间序列分析 第三版作者：沃尔特恩德斯 出版社：机械工业出版社 第一章 差分方程 第二章 平稳时间序列模型 第三章 波动性建模 第四章 包含趋势的模型 第五章 多方程时间序列模型 第六章 协整与误差修正模型 第七章 非线性时间序列模型第一章差分方程一、时间序列模型 1、时间序列及其特点 时间序列按时间顺序的系列观测值 特点：前后相关，过去的数值影响和 决定着现在和未来。 任务：预测、解释和假设检验 时序分解：趋势性、季节性和无规则性一、时间序列模型 2、时间序列模型差分方程 A difference equa

2、tion expresses the value of a variable as a function of its own lagged values, time, and other variables. 时间序列研究的是含随即成分的差分方程的估计 3、几个例子 (1) 市场有效性假说random walk model yt+1=yt+t+1 要检验市场有效性假说，可根据股票价格观测序列，构建模型： yt+1=0+1yt+t+1 并检验假设：H0: 0=1=0. 一、时间序列模型(2) Samuelson 乘数加速数模型-诱导方程和结构方程 模型的结构方程： yt=ct+it （1-1）

3、 ct= yt-1+ct （1-2） it=(ct-ct-1)+it （1-3） 模型的诱导方程： ct= yt-1+ct it= (yt-1-yt-2)+(ct- ct-1)+it yt= (1+)yt-1-yt-2+(1+)ct +it-ct-1 一、时间序列模型(3) 误差修正：期价与现价关系the unbiased forward rate hypothesis 假说：由于投机，期货交易的期望利润为0。 模型： st+1=ft+t+1 假说检验方法：建立模型： st+1= 0+1ft+t+1 并检验假设： H0: 0=0, 1=1. 误差修正模型（ECM）： st+2= st+1-(s

4、t+1-ft)+st+2 二、差分方程及求解方法 1、差分 yt+h=yt+h-yt 一阶差分：yt=yt-yt-1 二阶差分：2yt=(yt)=yt-2yt-1+yt-2 n阶差分： nyt=(n-1yt) 差分算子： difference operator 二、差分方程及求解方法 2、线性差分方程 yt=a0+a1yt-1+a2yt-2+anyt-n+xt 或：yt= a0+(a1-1)yt-1+a2yt-2+anyt-n+xt 其中：nthe order of the difference equation; xtforcing process 如： xt= t+ t-1+2 t-2 +

5、 二、差分方程及求解方法 3、差分方程的解 A solution to a difference equation expresses the value of yt as a function of the elements of the xt sequence and t (and possibly some given values of the yt sequence called initial conditions) . 例如：差分方程： yt=yt-1+2 或： yt=2 其解为： yt=2t+c 验证：2t+c=2(t-1)+c+2三、差分方程的递归解法 1、递归解法的原理 I

6、f the value of y in some specific period is known, a direct method of solution is to iterate forward from that period to obtain the subsequent time path of the entire y sequence. Refer to this known value of y as the initial condition.三、差分方程的递归解法 2、一阶差分方程的解 yt=a0+a1yt-1+t 向前迭代：对于给定的初值y0，向前迭代可得： y1=a

7、0+a1y0+1 y2=a0+a1y1+2 =a0+a1(a0+a1y0+1)+2 =a0+a1a0+a12y0+a11+2 101011010tiitittiitayaaay三、差分方程的递归解法 2、一阶差分方程的解 yt=a0+a1yt-1+t 向后迭代： yt=a0+a1yt-1+t =a0+a1 (a0+a1yt-2+t-1 )+t =a0(1+a1)+a1t-1+ t+a12(a0+a1yt-3+t-2) = 101011010tiitittiitayaaay三、差分方程的递归解法 3、无初值时的递归解 如果没有初值y0，则可一直持续向后迭代：1110101010101101101

8、0101011010yaaaaayaaaaaayaaayttiititiitiitittiitiitittiit三、差分方程的递归解法 持续向后迭代m期，得： 若|a1|1，则当m, at+m+10，可得： 这是差分方程的一个解，但不是唯一解。对于任意常数A，一阶差分方程的解为：11101010mmtmtiitimtiityaaaay01101iititaaay011011iitittaaaAay三、差分方程的递归解法 4、两种递归解的一致性 如果已知初值y0，代入无初值的递归解，得: 解出A，然后代入无初值的递归解中，可得： 与向后迭代到初值y0时所得结果相同。011001iiiaaaAy1

9、01101010tiititiittaaaayy三、差分方程的递归解法 5、非收敛序列 如果|a1|1，要求解，则必须已知初值y0，有: 此式表明，过去的事件对yt有持久性的影响，而且其影响是越来越大。这一般不太符合现实。101101010tiititiittaaaayy四、差分方程解的结构 1、一阶差分方程解的结构 一阶差分方程：yt=a0+a1yt-1+t 齐次方程(homogeneous equation): yt=a1yt-1 齐次解(homogeneous solution): yth=Aa1t 特解(particular solution)通过迭代得到的解称为特解： 通解(gene

10、ral solution)完整解是齐次解与特解之和：01101iititaaay011011iitittaaaAay四、差分方程解的结构 2、高阶差分方程的推广 n阶差分方程：yt=a0+a1yt-1+anyt-n+t 齐次方程: yt=a1yt-1+anyt-n 齐次解: yth 特解：ytp 通解：yt=yth+ytp四、差分方程解的结构 3、差分方程求解的步骤 Step1: Form the homogeneous equation and find all n homogeneous solutions; Step 2: Find a particular solution; Step

11、 3: Obtain the general solution as the sum of the particular solution and a linear combination of all homogeneous solutions; Step 4: Eliminate the arbitrary constant(s) by imposing the initial conditions on the general solution.四、差分方程解的结构 4、差分方程解的性质 (1) If yth is a homogeneous solution to a differen

12、ce equation then Ayth is also a solution for any arbitrary constant A. (2) If y1th and y2th are homogeneous solutions to a difference equation, then for any two constants A1 and A2, the linear combination A1y1th+A2y2th is also a solution to the homogeneous equation. (3) The sum of any particular sol

13、ution and any linear combination of all homogeneous solutions is also a solution.五、蛛网模型 1、蛛网模型的结构式 dt=a-pt st=b+pt*+t st=dt 其中pt*为预期价格。假设农民的预期是朴素预期，有： pt*=pt-1五、蛛网模型 2、长期均衡价格与供给 令t=0，且pt=pt-1=p，则由均衡条件可得： p=(a-b)/(+) , s=(a+b)/(+) 3、模型的简化式 pt=(-/)pt-1+(a-b)/-t/ st=b+pt-1+t五、蛛网模型 4、价格差分方程的解 (1) 齐次解 齐次

14、方程：pt=(-/)pt-1 齐次解：pth=A(-/)t (2) 特解 如果/1，则需要有初始条件。01iitiptbap五、蛛网模型 4、价格差分方程的解 (3) 通解 (4) 任意常数的确定 如果给出了初值p0，则代入通解，得： 解出A： tiititAbap010001Abapiii001iiibapA五、蛛网模型 4、价格差分方程的解 将求出的常数A代入通解，得： 化简可得： 00011iiitiititbapbapbapbapttiitit0101五、蛛网模型 5、稳定性分析 稳定性条件：/1/ 6、供给冲击影响分析 短期影响乘子 即期影响乘子：pt/t=-1/; 一期影响乘子：p

15、t+1/t=(-1/)(-/)= /2; 二期影响乘子： pt+2/t=(-1/)(-/)2= -/3; 长期影响乘子全部短期影响乘子的总和 脉冲响应函数：The time path of all multipliers is called the impulse response function.六、齐次差分方程的解法(一) 二阶齐次差分方程的解 二阶齐次差分方程：yt-a1yt-1-a2yt-2=0 解的形式：yth=At 特征方程：2-a1-a2=0 特征根： 其中：d=a12+4a2，为判别式(discriminant)224,1221121daaaa六、齐次差分方程的解法(一) 二

16、阶齐次差分方程的解 完整齐次解： 1、两不等实根情形：若d0，则12， yth=A1(1)t+A2(2)t 2、重根情形：若d=0，则1=2=a1/2， yth=A1(a1/2)t+A2t(a1/2)t 3、复根情形：若d0，则两特征根为共轭复数： 1,2=a1i(-d)1/2/2，记r=(-a2)1/2, cos=a1/2(-a2)1/2, yth=1rtcos(t+2)六、齐次差分方程的解法(二) 二阶齐次差分方程的稳定性条件 稳定(stability)收敛(convergence) |1|1, |2|0; 由a1+(a12+4a2)1/2/21可得：a1+a21; 由-1a1-(a12+

17、4a2)1/2/2可得：a2-a11; 因此，在两不等实根的情形，稳定域是(a1,a2)平面中由三条线a12+4a2=0和a1+a2=1及a2-a1=1所围成的区域。六、齐次差分方程的解法(二) 二阶齐次差分方程的稳定性条件 2、重根情形（1=2=a1/2） d=a12+4a2=0； 由|1|=|2| =|a1/2|1, 可得： -2a12; 因此，在重根的情形，稳定域是 (a1,a2)平面中曲线a12+4a2=0上-2a12的一段。六、齐次差分方程的解法 (二) 二阶齐次差分方程的稳定性条件 3、复根情形： d=a12+4a20; 系统稳定要求特征根的模小于1，即： r=(-a2)1/21

18、由此得：-a2-1 因此，在复根情形，稳定域为(a1,a2)平面中曲线a12+4a2=0与直线a2=-1所组成的区域。六、齐次差分方程的解法 (二) 二阶齐次差分方程的稳定性条件 稳定条件的简洁表示：所有的特征根都在单位圆内。六、齐次差分方程的解法(三) 高阶齐次方程的解及稳定性条件 1、高阶齐次差分方程的解 高阶齐次差分方程：yt-a1yt-1-anyt-n=0 特征方程： n-a1n-1-a2n-2- an=0 若n个特征根1,2,n互异，则方程解为： yth=A11t+A22t+Annt 若有mn个根为重根1=m=，则齐次解为： yth=A1t+A2tt+A3t2t+ +Amtm-1t

19、+Am+1tm+1+Annt六、齐次差分方程的解法(三) 高阶齐次方程的解及稳定性条件 2、稳定性条件 稳定条件的简明表示：A succinct way to characterize the stability conditions is to state that characteristic roots must lie within the unit circle. 必要条件：a1+a2+an1 充分条件： |a1|+|a2|+ |an|1 如果a1+a2+an=1，则至少有一个单位根。七推进过程为确定过程的特解 1、xt=0的情形 若推进过程xt=0。则差分方程为： yt=a0+a1

20、yt-1+anyt-n 由于a0是一个常数，所以其特解也应为常数，将尝试解(trail solution或challenge solution): ytp=c 代入差分方程得： c=a0+a1c+anc，解出c得： c= a0/(1-a1-an) (1) 若a1+a2+an1，则差分方程的特解为： ytp= a0/(1-a1-an)七、强制过程为确定过程的特解 (2) 若a1+a2+an=1，则yt是一个单位根过程，尝试解为： ytp=ct 代入差分方程，解出c得： c=a0/(a1+2a2+3a3+nan) 差分方程的特解为: ytp=a0/(a1+2a2+3a3+nan)t 若解ct不合适

21、，即(a1+2a2+3a3+nan)=0，则依次用尝试解： ytp=ct2，ytp=ct3，七、强制过程为确定过程的特解 2、xt为指数函数的情形以一阶差分方程为例 yt=a0+a1yt-1+bdrt 在此差分方程中，drt的存在，表明yt以r的速度增长，所以其特解的尝试形式为： ytp=c0+c1drt 将此尝试解代入差方方程，得： c0+c1drt=a0+a1c0+c1dr(t-1)+bdrt=(a0+a1c0)+(a1c1/dr+b)drt 令等式两边对应项相等，解出c0和c1代入尝试解得： ytp=a0/(1-a1)+bdr/(dr-a1)drt 若a1=1，则尝试用c0=ct；若a1

22、=dr，则尝试用c1=bt。 高阶差分方程，解法相同。七、强制过程为确定过程的特解 3、确定性时间趋势的情形（xt=btd) 差分方程：yt=a0+a1yt-1+anyt-n+btd 由于yt依赖于td, yt-1依赖于(t-1)d, yt-2依赖于(t-2)d,，所以其特解形式为： ytp=c0+c1t+c2t2+cdtd 将此尝试解代入差分方程，在等式两边各项相等的条件下，解出各系数ci的值，代入尝试解即得所求的特解。八、待定系数解法 1、解法的原理 由于线性差分方程的解必然是线性的，所以对于给定的线性差分方程，其特解的确切形式通常是已知的，但解中的系数是未知的。因此，将会出现在特解中的所

23、有各项的线性函数作为尝试解（challenge solution)，代入线性差分方程，然后令等式两边各同类项的系数相等，就可解出未知的各系数值。将解出的各系数值代入尝试解，即可求得差分方程的特解。八、待定系数解法 2、例子 例1.求一阶差分方程yt=a0+a1yt-1+t的特解。 尝试解： yt=b0+b1t+0t+1t-1+2t-2+ 将尝试解代入差分方程，令等式两边同类项的系数相等，得： b0=(a0-a1b1)/(1-a1) , b1(1-a1)=0 , i=ai, i=0,1,2, (1) 若a11，则必有b1=0，b0=a0/(1-a1)，特解为： ytp=a0/(1-a1)+t+a

24、1t-1+a12t-2+a13t-3+ (2) 若a1=1，则b0为任意常数，b1=a0，特解为： ytp=b0+a0t+t+t-1+t-2+t-3+1八、待定系数解法 3、高阶差分方程的特解 （1）二阶差分方程的特解 差分方程：yt=a0+a1yt-1+a2yt-2+t 尝试解: yt=b0+b1t+b2t2+0t+1t-1+2t-2+ 代入：b0+b1t+b2t2+0t+1t-1+2t-2+ = a0+a1b0+b1(t-1)+b2(t-1)2+0t-1+1t-2+2t-3+ +a2b0+b1(t-2)+b2(t-2)2+0t-2+1t-3+2t-4+t 令两边同类项系数相等，得： b0=

25、a0+a1b0-a1b1+a1b2+a2b1+a2b0-2a2b1+4a2b2， b1=a1b1-2a1b2+a2b1-4a2b2， b2=a1b2+a2b2 0=1，1=a10，j=a1j-1+a2j-2，j2.八、待定系数解法 （1）二阶差分方程的特解 解这些方程式得： b1=-2b2(a1+2a2)/(1-a1-a2) b2(1-a1-a2)=0 b0=a0-a1 (b1-b2)-2a2(b1-2b2)/(1-a1-a2) 0=1，1=a1，2=a12+a2，3=a13+2a1a2， 若a1+a21，则有b2=0, b1=0, b0=a0/(1-a1-a2)： yt=a0/(1-a1-a

26、2)+t+1t-1+2t-2+八、待定系数解法 （1）二阶差分方程的特解 若a1+a2=1，则又可分两种情况： () 若a1+2a20，则有b2=0，b1=a0/(a1+2a2)， b0为任意常数，二阶差分方程的特解为： yt=b0+a0/(a1+2a2)t+t+1t-1+2t-2+ () 若a1+2a2=0，则b2=-a0/(a1+4a2)，b1和b0为任意常数，二阶差分方程的特解为： yt=b0+b1t+-a0/(a1+4a2)t2+t+1t-1+2t-2+八、待定系数法 (2) 高阶差分方程特解收敛的条件 The key point is that the stability condi

27、tion for the homogeneous equation is precisely the condition for convergence of the particular solution. If any characteristic root of the homogeneous equation is equal to unity, a polynomial time trend will appear in the particular solution. The order of the polynomial is the number of unitary char

28、acteristic roots.九、滞后算子 1、滞后算子的定义及其性质 (1) 定义：Liyt=yt-i (2) 性质 常数的滞后仍是其本身，Lc=c. 分配律: (Li+Lj)yt=Liyt+Ljyt 结合律: LiLjyt=Li+jyt L的负指数为向前算子: L-iyt=yt+i 若|a|1,则无穷和: 1+(aL)-1+(aL)-2+(aL)-3+yt=-aLyt/(1-aL) 即: yt/(1-aL)=-(aL)-11+(aL)-1+(aL)-2+(aL)-3+yt九、滞后算子 2、滞后算子的作用 (1) 简明表示差分方程 例1、对于p阶差分方程 yt=a0+a1yt-1+a2y

29、t-2+apyt-p+t 使用滞后算子，有： (1-a1L-a2L2-apLp)yt=a0+t 或更简洁地表示为：A(L)yt=a0+t 例2、对于差分方程： yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 使用滞后算子，得： A(L)yt=a0+B(L)t九、滞后算子 (2) 用滞后算子解差分方程 例1、对于一阶差分方程yt=a0+a1yt-1+t，有： (1-a1L)yt=a0+t 解出yt，得：yt=(a0+t)/(1-a1L) 若|a1|1，则： yt=-(a1L)-11+(a1L)-1+(a1L)-2+(a0+t) =-a0a1-1(1+a1-1+a1-

30、2+)-(a1L)-11+(a1L)-1+(a1L)-2+t =-(a0/a1)1/(1-a1-1)-(1/a1)1+(a1L)-1+(a1L)-2+t+1 =a0/(1-a1)-(1/a1)(t+1+a1-1t+2+a1-2t+3+a1-3t+4+)这种解称为差分方程的前瞻解(forward-looking solution).九、滞后算子 3、高阶差分方程中滞后算子应用 使用滞后算子，不仅可以简明地表示高阶差分方程，而且也可以简明地表示差分方程的解。如对于p阶差分方程： yt=a0+a1yt-1+a2yt-2+apyt-p+t 其解可以表示为： yt=(a0+t)/(1-a1L-a2L2-

31、a3L3-apLp) 其中，1-a1L-a2L2-a3L3-apLp又称为差分方程的逆特征多项式，方程1-a1L-a2L2-a3L3-apLp=0又称为差分方程的逆特征方程(inverse characteristic equation)。 差分方程的稳定性条件又可表述为：逆特征方程的根都在单位圆外。第二章平稳时间序列模型一、随机差分方程模型 1、随机过程(stochastic process) (1) 随机过程的定义 由随机变量组成的一个有序序列，称为随机过程，记为y(s,t),sS,tT.对于每一个t，tT，y(,t)是样本空间S中的一个随机变量；对于每一个s，sS，y(s, )是随机过程

32、在序数集T中的一次实现。随机过程通常简记为yt或yt。一、随机差分方程模型 (2) 随机过程的分类 离散时间随机过程如果T是一个可数集，特别是整数集，t只取整数t=0, 1, 2, ，也称为随机序列。 连续时间随机过程如果T是一个连续统。一、随机差分方程模型 (3) 有穷维分布族 随机过程是一族随机变量，其概率分布可以用一族分布函数来表示，这一族分布函数就称为分布函数族。 一维分布函数族：F1(ytr)=P(ytr). 二维分布函数族：F2(yt1,yt2)=P(yt1r1,yt2r2). n维分布函数族：Fn(yt1,ytn)=P(yt1r1,ytnrn)一、随机差分方程模型 (4) 随机过

33、程的特征指标 均值函数 t=E(yt)=Et(yt|yt,yt-1,y1) 自协方差函数 (t,s)=Cov(yt,ys)=E(yt-t)(ys-s) 自相关函数 (t,s)=(t,s)/(t,t)(s,s)1/2 一、随机差分方程模型 2、时间序列及其模型 (1) 定义：对随机过程的顺序观测所形成的有序观测值序列，就称为时间序列，记为y0,y1,y2,yt。一个时间序列可看作是随机过程的一次实现，即一个样本；而产生时间序列的随机过程则称为时间序列的数据生成过程(data generating process)。 (2) 时间序列数据的特点：时间序列是来自随机过程的一个样本，其前后数值具有相关

34、性，过去决定或影响着现在与未来。研究时间序列，实质上是要了解其数据生成过程的特征和变化规律。一、随机差分方程模型 2、时间序列及其模型 (3) 时间序列模型随机差分方程模型 由于时间序列是一个随机变量序列，变量的过去值影响或决定着现在，所以可以用随机差分方程来对其进行描述。如：中央银行的货币供给模型： mt=(1.03)tm0*+(1-)mt-1+t 式中t通常假设为白噪声过程，其均值为0，方差为2，且前后各期互不相关。即有： E(t)=E(t-1)=0; Var(t)=Var(t-1)=2; Cov(t,t-s)=Cov(r-j,t-j-s)=0，对于所有s与j。二、ARMA模型 1、ARM

35、A模型的形式 一般来说，一个变量的现在取值，不仅受其本身过去值的影响，而且也受现在和过去各种随机因素冲击的影响，因此可建立其数据生成模型为： yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 如果该模型的特征根都在单位圆内，则该模型就称为ARMA(p,q)模型。 如果q=0，则该模型退化为： yt=a0+a1yt-1+a2yt-2+apyt-p+t 称为p阶自回归模型，记作AR(p)。 如果p=0，则该模型退化为： yt=a0+t+1t-1+qt-q 称为q阶移动平均模型，记作MA(q)。二、ARMA模型 2、ARIMA模型 (1) 差分与和分 对于一个变量序列yt

36、，若记其差分(difference)为： yt=yt-yt-1 则原变量序列就可用其差分表示为： yt=yt+yt-1+yt-2+y1+y0 即原变量序列yt可用其差分之和表示，因此称为和分(integration)。二、ARMA模型 2、ARIMA模型 (2) ARIMA模型的形式 如果用变量yt本身的水平值建立的ARMA模型的特征方程有单位根，则需要先将yt差分后再建立ARMA模型，即： yt=a0+a1 yt-1+ap yt-p+t+1t-1+qt-q 该模型就称为ARIMA(p,1,q)模型。如果变量yt的水平值ARMA模型的特征方程中有d个特征根，则需要先将变量序列yt差分d次，然后

37、再建立ARMA模型，即： dyt=a0+a1dyt-1+apdyt-p+t+1t-1+qt-q 则该模型称为阶数分别为(p,d,q)的自回归和分移动平均模型，记为ARIMA(p,d,q)。 二、ARMA模型 3、ARMA模型的移动平均表示 对于一阶自回归模型:yt=a0+a1yt-1+t，求特解得移动平均表达式为： yt=a0/(1-a1)+t+a1t-1+a12t-2+a13t-3+ 对于一般ARMA(p,q)模型： yt=a0+a1yt-1+apyt-p+t+1t-1+qt-q 求特解则得移动平均表达式为： yt=(a0+t+1t-1+qt-q)/(1-a1L-a2L2-apLp)二、AR

38、MA模型 4、稳定性条件 ARMA(p,q)模型的移动平均表示是一个无限阶的移动平均过程MA()，该无穷序列是否收敛决定了原随机差分方程是否稳定。因此稳定性条件可表示为： The stability condition is that the roots of the polynomial (1-a1L-a2L2-apLp) must lie outside of the unit circle. 即：ARMA模型的逆特征方程的根都必须在单位圆外。三、时间序列的平稳性 1、平稳性的定义 (1) 严平稳过程：如果一个随机过程的有穷维分布函数族不随时间的推移而改变，即对于任意正整数n和任意的t1,

39、t1,tnT及实数，当t1+,t2+,tn+T时，都有： Fn(yt1+,yt2+,ytn+)=Fn(yt1,yt2,ytn) 则称此随机过程为严平稳过程或狭义平稳过程(strongly stationary process)。三、时间序列的平稳性 1、平稳性的定义 (2) 宽平稳过程：如果随机过程yt存在有穷的二阶矩，且均值和方差为常数，自协方差函数只与两时点的间隔长度有关，而与两时点的位置无关，即有： E(yt)= Var(yt)=E(yt-)2=2 Cov(yt,yt-s)=E(yt-)(yt-s-)=s 则称此随机过程为宽平稳过程或二阶矩过程或广义平稳过程(widesense stat

40、ionary process)。三、时间序列的平稳性 1、平稳性的定义 (3) 严平稳过程与宽平稳过程的关系 宽平稳要求随机过程的前二阶矩平稳。一般来说，分布的前二阶矩不能决定整个分布函数，所以广义平稳不能保证狭义平稳。 严平稳要求整个分布函数平稳，但并不要求前二阶矩存在，所以是严平稳也未必就是宽平稳。只有前二阶矩存在的严平稳过程才一定是宽平稳过程。 由于正态分布的分布函数完全由前二阶矩决定，所以正态随机过程如果是宽平稳的，那么必定也是严平稳的。三、时间序列的平稳性 2、平稳过程的自协方差与自相关函数 (1) 自协方差与自相关函数的计算 自协方差：s=Cov(yt,yt-s)=E(yt-)(y

41、t-s-) 称为s阶自协方差函数。显然，0阶自协方差函数为yt的方差：0=E(yt-)2=y2 自相关函数：s=s/0 称为s阶自相关函数。显然，0阶自相关函数等于1，有0=1。三、时间序列的平稳性 2、平稳过程的自协方差与自相关函数 (2) 自协方差与自相关函数的性质 对称性： s= -s， s= -s ； 非负定性，即由自协方差或自相关函数组成的矩阵是非负定矩阵。 |s| 0，|s|1。三、时间序列的平稳性 3、平稳性的意义 平稳过程一般都具有遍历性(ergodicity)，即可用时间平均去估计空间平均。 遍历性：假设a为随机过程yt的某一参数或特征指标，若由样本函数构成的估计量，使得当t

42、时，有： limE|-a|2=0 即有： plim=a 则称序列yt关于a具有均方遍历性，简称遍历性。三、时间序列的平稳性 4、AR(1)过程平稳性的条件 对于AR(1)过程：yt=a0+a1yt-1+t 假设过程从0时期开始，初值为y0，则其递归解为： 或其通解为： 取期望，得： 或： 这表明yt的均值随时间变化，序列yt是非平稳的。 101011010tiitittiitayaaay011010yaaaEyttiit ttaAaaEy1101tiititaAaaay101101三、时间序列的平稳性 4、AR(1)过程平稳性的条件 但是，如果|a1|0，则当t时，有： 其期望和方差及协方差函

43、数分别为： Eyt=a0/(1-a1)= E(yt-)2=E(t+a1t-1+a12t-2+) =2(1+a12+a14+)=2/(1-a12) E(yt-)(yt-s-)=E(t+a1t-1+a12t-2+)(t-s+a1t-s-1 +a12t-s-2+)=2a1s/(1-a12) 由此可见，在极限的情形序列yt是平稳的。 01101limiitittaaay三、时间序列的平稳性 4、AR(1)过程平稳性的条件 综上所述，AR(1)过程平稳性的条件可总结为： (1) The homogeneous solution must be zero. Either the sequence must

44、 have started infinitely far in the past or the process must always be in equilibrium (so that the arbitrary constant is zero). (2) The characteristic root a1 must be less than unity in absolute value. 此平稳性条件也可简单地概括为：AR(1)方程的齐次解必须为0。四、ARMA(p,q)模型的平稳性 1、ARMA(2,1)的平稳性 对于ARMA(2,1),简化掉不影响平稳性的截距项,有： yt=a

45、1yt-1+a2yt-2+t+1t-1 使用待定系数法，得其移动平均表示或特解为： yt=0t+1t-1+2t-2+3t-3+ 其中：0=1，2=a10+，3=a12+a21， i=a1i-1+a2i-2，i2. 由特解计算yt的均值和方差及协方差分别为： Eyt=0；Var(yt)=2(02+12+22+32+) Cov(yt,yt-s)=2(s+s+11+s+22+s+33+) 可见，只有i序列收敛，yt才具有平稳性，这就要求ARMA(2,1)模型的特征根都在单位圆内。四、ARMA(p,q)模型的平稳性 2、MA(q)的平稳性 先考虑无限阶MA()过程，MA()过程的表达式为： xt=t+

46、1t-1+2t-2 +3t-3 +4t-4+ 计算其均值和方差及协方差分别为： Ext=E(t+1t-1+2t-2 +3t-3 + )=0； Var(xt)=2(02+ 12+ 22+32+) Cov(xt,xt-s)=2(s+s+1 1+s+22+ s+33+) 由此可见，平稳性的充分必要条件为： (1) 02+ 12+ 22+32+ (2) s+s+1 1+s+22+ s+33+ 由于0=1且s可取0,1,2等值，所以条件2包含了条件1。 由此条件可知，任何有限阶MA(q)过程都是平稳的。四、ARMA(p,q)模型的平稳性 3、AR(p)的平稳性 p阶自回归模型AR(p)过程的表达式为：

47、yt=a0+a1yt-1+a2yt-2+apyt-p+t 如果模型的特征根都在单位圆内，则其特解为： yt=a0/(1-a1-ap)+0t+1t-1+2t-2+3t-3+ 其中： i-a1i-1-a2i-2-app=0 计算其均值和方差及协方差分别为： Eyt=a0/(1-a1-a2-ap)； Var(yt)=2(02+12+22+32+ Cov(yt,yt-s)=2(s+s+11+s+22+s+33+) 由此可见，只有i序列收敛，yt才具有平稳性，这就要求AR(p)模型的特征根都在单位圆内。四、ARMA(p,q)模型的平稳性 4、一般ARMA(p,q)过程的平稳性条件 一般自回归移动平均模型

48、ARMA(p,q)过程的表达式为： yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+2t-2 +qt-q 如果模型AR部分和MA部分都是平稳的，则该过程就是平稳的。由此可得结论为： 由于MA部分是有限阶，其本身是平稳的，所以ARMA(p,q)过程的平稳性完全取决于AR部分的平稳性。只要AR部分的特征根都在单位圆内，或者逆特征方程1-a1L-a2L2-apLP=0的根都在单位圆外，ARMA(p,q)过程就是平稳的。五、自相关函数(ACF) 1、AR(1)过程的自相关函数 对于AR(1)过程：yt=a0+a1yt-1+t ，其移动平均表示： yt=a0/(1-a1)+t+a1t

49、-1+a12t-2+ 由此可计算出其均值和方差及协方差分别为： Eyt=a0/(1-a1) 0=Var(yt)=E(t+a1t-1+a12t-2+)2=2/(1-a12) s=Cov(yt,yt-s)=E(t+a1t-1+)(t-s+ )=2a1s/(1-a12) 由方差和协方差得自相关函数：s=a1s 由于|a1|1。所以上述式子可得Yule-Walker方程： 0=a11+a22+2 1=a10+a21 s=a1s-1+a2s-2 ，s0. 将此差分方程两边同除以0，得自相关函数式为： s=a1s-1+a2s-2 ，s0. 记此差分方程的两个特征根分别为1和2，则有： s=A11s+A22

50、s，s0. 由于1和2 均小于1，所以ACF指数衰减收敛于0。五、自相关函数(ACF) 3、MA(1)过程的自相关函数 对于MA(1)过程：yt=t+t-1，有： =Eyt=0 0=Eyt2=E(t+t-1)2=(1+2)2 1=Eytyt-1=E(t+t-1)(t-1+t-2)=2 s=Eytyt-s=E(t+t-1)(t-s+t-s-1)=0 于是有： 1=/(1+2)；s=0，s1。 这表明MA(1)过程的ACF只有前两阶不为0，二阶及以后各阶全为0，是1阶截尾的。五、自相关函数(ACF) 4、ARMA(1,1)过程的自相关函数 对于ARMA(1,1)过程，假设Eyt=0，则a0=0，模

51、型为： yt=a1yt-1+t+1t-1 使用Yule-Walker方法，得： Eytyt-s=a1Eytyt-s-1+Etyt-s+1Et-1yt-s , s=0,1,2, 由此得：0=a11+2+1(a1+1)2 1=a10+12 s=a1s-1 , s1. 由前两式得： 0=(1+12+2a11)2/(1-a12) 1=(1+a11)(a1+1)2/(1-a12)五、自相关函数(ACF) 4、ARMA(1,1)过程的自相关函数 用0去除各i，得各阶自相关函数 1=(1+a11)(a1+1)/(1+12+2a11) s=a1s-1，s1。 由于差分方程s=a1s-1的特征根为a1，所以其解

52、为： s=Aa1s , s1. 这表明ARMA(1,1)过程的ACF从第2阶起遵循指数函数变化模式，以指数方式衰减，是拖尾的。五、自相关函数(ACF) 5、ARMA(p,q)过程的自相关函数 对于ARMA(p,q)过程，假设Eyt=0，则a0=0，模型为： yt=a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 使用Yule-Walker方法，得： Eytyt-s=a1Eytyt-s-1+Eyt-pyt-s +Etyt-s+1Et-1yt-s+qEt-qyt-s, s=0,1,2, 由于当sk时，Et-kyt-s=0，所以当sq时，有 ： s=a1s-1+a2s-2+aps-p

53、 , sq. 这表明在q阶以后，ARMA(p,q)过程的自协方差函数完全由此p阶差分方程控制。五、自相关函数(ACF) 5、ARMA(p,q)过程的自相关函数 用0除此方程的两边，得自相关函数的差分方程为： s=a1s-1+a2s-2+aps-p ，sq。 若记此差分方程的p个特征根为1, 2, , p，则其解为(假设各特征根互异）： s=A11s+A22s+Apps , sq. 若将q,q-1,q-p+1作为初值代入求出待定常数A1, A2, , Ap，则有： s=A11s+A22s+Apps , sq-p. 这表明，若q-pp时，所有ss=0。这表明AR(p)过程的PACF是p阶截尾的。六

54、、偏相关函数(PACF) 3、ARMA过程的偏相关函数 (2) MA过程的PACF 对于MA(1)过程：yt=t+t-1，有： (1+L)-1yt=t 即：yt=yt-1-2yt-2+3yt-3-4yt-4+t 这表明MA(1)过程的PACF是指数衰减的，具有拖尾的性质。 对于MA(q)过程，也有类似的结论，即MA(q)过程的PACF也具有拖尾的性质。 六、偏相关函数(PACF) 3、ARMA过程的偏相关函数 (3) ARMA过程的PACF ARMA(p,q)过程的PACF在p阶以后完全由MA(q)部分决定，所以其p阶以后的PACF以指数方式衰减，也具有拖尾的性质。 过程 ACF PACF A

55、R(p) 拖尾 p阶截尾 MA(q) q阶截尾 拖尾 ARMA(p,q) 拖尾 拖尾七、平稳过程的样本自相关函数 1、样本自相关系数与偏相关系数的计算 由于平稳过程一般具有遍历性，可用时间平均去估计空间平均，所以可以根据时间序列样本估计其数据生成过程的均值、方差、协方差、自相关系数和偏相关系数。 =yt的s阶样本自回归方程中yt-s的系数TtTststtsssTststtssTttTttyyyyyyccryyyyTcyyTsyTy1210112221111ss七、平稳过程的样本自相关函数 2、自相关系数的假设检验 假设yt是正态平稳过程，则样本自相关系数的方差为： 关于自相关函数，常用的假设检

56、验有： (1)检验假设 H0: s=0 在此假设下，有： rsN0, Var(rs) 检验统计量：z=rs/Var(rs)1/2N(0,1) 若|z|z/2，则拒绝原假设，认为s阶自相关系数不为0。 1,211,11211srTsTrVarsjjs七、平稳过程的样本自相关函数 2、自相关系数的假设检验 (2)检验假设 H0: 1=2=s=0 检验统计量为： Box-Pierce统计量 Ljung-Pierce统计量 srTQskk212 skTrTTQsks2122七、平稳过程的样本自相关函数 3、偏相关系数的假设检验 假设yt是正态AR(p)平稳过程，则样本偏相关系数的方差为： 检验假设 H

57、0: pp=0 检验统计量： .,1psTVarss1 ,01NTzss七、平稳过程的样本自相关函数 4、模型选择的准则 (1) 常用的选择准则 AIC=Tln(sum of squared residuals)+2n SBC=Tln(sum of squared residuals)+nln(T) 选择AIC和SBC值最小的ARMA模型。 (2) 选择准则构造的原理 每增加一阶滞后，虽然会减少残差平方和，但是也会减少自由度，并使预测增加估计参数得着误差影响。所以是否增加滞后，需要在这二者之间进行权衡。平衡点：边际收益=边际成本七、平稳过程的样本自相关函数 5、模型的估计方法 (1) AR模型

58、的估计 估计AR模型可直接用OLS方法 (2) ARMA模型的估计 估计ARMA模型用极大似然估计方法 条件极大似然估计 无条件极大似然估计八、Box-Jenkins 建模方法 1、Box-Jenkins方法步骤 (1) 模型识别(identification stage) 作时序图，判断时间序列有无趋势、异常点、缺失点和结构变化。如存在趋势，则需进行差分；异常点等也需处理。 作样本ACF相关图和PACF偏相关图，与理论ARMA模型的ACF和PACF图进行比较，选择可能合适的模型。 使用ACF和PACF的基础是序列具有平稳性和可逆性。 平稳性宽平稳，AR部分的特征根都在单位圆内。 可逆性序列可

59、以用有限阶或无限阶收敛自回归模型表示，条件：MA部分的特征根都在单位圆内。八、Box-Jenkins建模方法 1、Box-Jenkins方法步骤 (2) 模型估计与选择(estimation stage) 使用某种合适的方法估计所选出的各个模型。 按照吝啬原则(principle of parsimony)在所估计出的模型中选出最终使用的模型。 模型选择的准则：AIC和SBC 注意：公因子问题(common factor problem)模型的AR部分与MA部分不应有共同的因子。八、Box-Jenkins建模方法 1、Box-Jenkins方法步骤 (3) 模型的诊断检验(diagnostic

60、 checking) 残差序列自相关性检验 检验的原假设：模型残差为白噪声 检验统计量Ljung-Pierce统计量 结构变动检验 检验的原假设：序列无结构变化 检验统计量F统计量12212qpskTrTTQsks八、Box-Jenkins建模方法 2、例子 (1) AR(1)模拟序列的建模 (2) ARMA(1,1)模拟序列的建模 (3) AR(2)模拟序列的建模九、预测 1、预测的方法条件期望预测 若实际数据生成过程是已知的，并且序列yt和t的现在和过去各期的数值也已知，则就可以现在为原点，根据已掌握的信息，使用条件期望的方法对序列yt未来各期的数值进行预测。预测式为： Etyt+j=E(