时间序列分析-付.pptx

时间序列分析,付连艳辽宁大学经济学院Email：lianyanfu,教材:应用计量经济学：时间序列分析第三版作者：沃尔特恩德斯出版社：机械工业出版社,第一章差分方程第二章平稳时间序列模型第三章波动性建模第四章包含趋势的模型第五章多方程时间序列模型第六章协整与误差修正模型第七章非线性时间序列模型,第一章,差分方程,一、时间序列模型,1、时间序列及其特点时间序列按时间顺序的系列观测值特点：前后相关，过去的数值影响和决定着现在和未来。任务：预测、解释和假设检验时序分解：趋势性、季节性和无规则性,一、时间序列模型,2、时间序列模型差分方程Adifferenceequationexpressesthevalueofavariableasafunctionofitsownlaggedvalues,time,andothervariables.时间序列研究的是含随即成分的差分方程的估计3、几个例子(1)市场有效性假说randomwalkmodelyt+1=yt+t+1要检验市场有效性假说，可根据股票价格观测序列，构建模型：yt+1=0+1yt+t+1并检验假设：H0:0=1=0.,一、时间序列模型,(2)Samuelson乘数加速数模型-诱导方程和结构方程模型的结构方程：yt=ct+it（1-1）ct=yt-1+ct（1-2）it=(ct-ct-1)+it（1-3）模型的诱导方程：ct=yt-1+ctit=(yt-1-yt-2)+(ct-ct-1)+ityt=(1+)yt-1-yt-2+(1+)ct+it-ct-1,一、时间序列模型,(3)误差修正：期价与现价关系theunbiasedforwardratehypothesis假说：由于投机，期货交易的期望利润为0。模型：st+1=ft+t+1假说检验方法：建立模型：st+1=0+1ft+t+1并检验假设：H0:0=0,1=1.误差修正模型（ECM）：st+2=st+1-(st+1-ft)+st+2,二、差分方程及求解方法,1、差分yt+h=yt+h-yt一阶差分：yt=yt-yt-1二阶差分：2yt=(yt)=yt-2yt-1+yt-2n阶差分：nyt=(n-1yt)差分算子：differenceoperator,二、差分方程及求解方法,2、线性差分方程yt=a0+a1yt-1+a2yt-2+anyt-n+xt或：yt=a0+(a1-1)yt-1+a2yt-2+anyt-n+xt其中：ntheorderofthedifferenceequation;xtforcingprocess如：xt=t+t-1+2t-2+,二、差分方程及求解方法,3、差分方程的解Asolutiontoadifferenceequationexpressesthevalueofytasafunctionoftheelementsofthextsequenceandt(andpossiblysomegivenvaluesoftheytsequencecalledinitialconditions).例如：差分方程：yt=yt-1+2或：yt=2其解为：yt=2t+c验证：2t+c=2(t-1)+c+2,三、差分方程的递归解法,1、递归解法的原理Ifthevalueofyinsomespecificperiodisknown,adirectmethodofsolutionistoiterateforwardfromthatperiodtoobtainthesubsequenttimepathoftheentireysequence.Refertothisknownvalueofyastheinitialcondition.,三、差分方程的递归解法,2、一阶差分方程的解yt=a0+a1yt-1+t向前迭代：对于给定的初值y0，向前迭代可得：y1=a0+a1y0+1y2=a0+a1y1+2=a0+a1(a0+a1y0+1)+2=a0+a1a0+a12y0+a11+2,三、差分方程的递归解法,2、一阶差分方程的解yt=a0+a1yt-1+t向后迭代：yt=a0+a1yt-1+t=a0+a1(a0+a1yt-2+t-1)+t=a0(1+a1)+a1t-1+t+a12(a0+a1yt-3+t-2)=,三、差分方程的递归解法,3、无初值时的递归解如果没有初值y0，则可一直持续向后迭代：,三、差分方程的递归解法,持续向后迭代m期，得：若|a1|0，则12，yth=A1(1)t+A2(2)t2、重根情形：若d=0，则1=2=a1/2，yth=A1(a1/2)t+A2t(a1/2)t3、复根情形：若d0，则两特征根为共轭复数：1,2=a1i(-d)1/2/2，记r=(-a2)1/2,cos=a1/2(-a2)1/2,yth=1rtcos(t+2),六、齐次差分方程的解法,(二)二阶齐次差分方程的稳定性条件稳定(stability)收敛(convergence)|1|0;由a1+(a12+4a2)1/2/21可得：a1+a21;由-1a1-(a12+4a2)1/2/2可得：a2-a11;因此，在两不等实根的情形，稳定域是(a1,a2)平面中由三条线a12+4a2=0和a1+a2=1及a2-a1=1所围成的区域。,六、齐次差分方程的解法,(二)二阶齐次差分方程的稳定性条件2、重根情形（1=2=a1/2）d=a12+4a2=0；由|1|=|2|=|a1/2|1,可得：-2a12;因此，在重根的情形，稳定域是(a1,a2)平面中曲线a12+4a2=0上-2a12的一段。,六、齐次差分方程的解法,(二)二阶齐次差分方程的稳定性条件3、复根情形：d=a12+4a2-1因此，在复根情形，稳定域为(a1,a2)平面中曲线a12+4a2=0与直线a2=-1所组成的区域。,六、齐次差分方程的解法,(二)二阶齐次差分方程的稳定性条件稳定条件的简洁表示：所有的特征根都在单位圆内。,六、齐次差分方程的解法,(三)高阶齐次方程的解及稳定性条件1、高阶齐次差分方程的解高阶齐次差分方程：yt-a1yt-1-anyt-n=0特征方程：n-a1n-1-a2n-2-an=0若n个特征根1,2,n互异，则方程解为：yth=A11t+A22t+Annt若有mn个根为重根1=m=，则齐次解为：yth=A1t+A2tt+A3t2t+Amtm-1t+Am+1tm+1+Annt,六、齐次差分方程的解法,(三)高阶齐次方程的解及稳定性条件2、稳定性条件稳定条件的简明表示：Asuccinctwaytocharacterizethestabilityconditionsistostatethatcharacteristicrootsmustliewithintheunitcircle.必要条件：a1+a2+an1充分条件：|a1|+|a2|+|an|1如果a1+a2+an=1，则至少有一个单位根。,七推进过程为确定过程的特解,1、xt=0的情形若推进过程xt=0。则差分方程为：yt=a0+a1yt-1+anyt-n由于a0是一个常数，所以其特解也应为常数，将尝试解(trailsolution或challengesolution):ytp=c代入差分方程得：c=a0+a1c+anc，解出c得：c=a0/(1-a1-an)(1)若a1+a2+an1，则差分方程的特解为：ytp=a0/(1-a1-an),七、强制过程为确定过程的特解,(2)若a1+a2+an=1，则yt是一个单位根过程，尝试解为：ytp=ct代入差分方程，解出c得：c=a0/(a1+2a2+3a3+nan)差分方程的特解为:ytp=a0/(a1+2a2+3a3+nan)t若解ct不合适，即(a1+2a2+3a3+nan)=0，则依次用尝试解：ytp=ct2，ytp=ct3，,七、强制过程为确定过程的特解,2、xt为指数函数的情形以一阶差分方程为例yt=a0+a1yt-1+bdrt在此差分方程中，drt的存在，表明yt以r的速度增长，所以其特解的尝试形式为：ytp=c0+c1drt将此尝试解代入差方方程，得：c0+c1drt=a0+a1c0+c1dr(t-1)+bdrt=(a0+a1c0)+(a1c1/dr+b)drt令等式两边对应项相等，解出c0和c1代入尝试解得：ytp=a0/(1-a1)+bdr/(dr-a1)drt若a1=1，则尝试用c0=ct；若a1=dr，则尝试用c1=bt。高阶差分方程，解法相同。,七、强制过程为确定过程的特解,3、确定性时间趋势的情形（xt=btd)差分方程：yt=a0+a1yt-1+anyt-n+btd由于yt依赖于td,yt-1依赖于(t-1)d,yt-2依赖于(t-2)d,，所以其特解形式为：ytp=c0+c1t+c2t2+cdtd将此尝试解代入差分方程，在等式两边各项相等的条件下，解出各系数ci的值，代入尝试解即得所求的特解。,八、待定系数解法,1、解法的原理由于线性差分方程的解必然是线性的，所以对于给定的线性差分方程，其特解的确切形式通常是已知的，但解中的系数是未知的。因此，将会出现在特解中的所有各项的线性函数作为尝试解（challengesolution)，代入线性差分方程，然后令等式两边各同类项的系数相等，就可解出未知的各系数值。将解出的各系数值代入尝试解，即可求得差分方程的特解。,八、待定系数解法,2、例子例1.求一阶差分方程yt=a0+a1yt-1+t的特解。尝试解：yt=b0+b1t+0t+1t-1+2t-2+将尝试解代入差分方程，令等式两边同类项的系数相等，得：b0=(a0-a1b1)/(1-a1),b1(1-a1)=0,i=ai,i=0,1,2,(1)若a11，则必有b1=0，b0=a0/(1-a1)，特解为：ytp=a0/(1-a1)+t+a1t-1+a12t-2+a13t-3+(2)若a1=1，则b0为任意常数，b1=a0，特解为：ytp=b0+a0t+t+t-1+t-2+t-3+1,八、待定系数解法,3、高阶差分方程的特解（1）二阶差分方程的特解差分方程：yt=a0+a1yt-1+a2yt-2+t尝试解:yt=b0+b1t+b2t2+0t+1t-1+2t-2+代入：b0+b1t+b2t2+0t+1t-1+2t-2+=a0+a1b0+b1(t-1)+b2(t-1)2+0t-1+1t-2+2t-3+a2b0+b1(t-2)+b2(t-2)2+0t-2+1t-3+2t-4+t令两边同类项系数相等，得：b0=a0+a1b0-a1b1+a1b2+a2b1+a2b0-2a2b1+4a2b2，b1=a1b1-2a1b2+a2b1-4a2b2，b2=a1b2+a2b20=1，1=a10，j=a1j-1+a2j-2，j2.,八、待定系数解法,（1）二阶差分方程的特解解这些方程式得：b1=-2b2(a1+2a2)/(1-a1-a2)b2(1-a1-a2)=0b0=a0-a1(b1-b2)-2a2(b1-2b2)/(1-a1-a2)0=1，1=a1，2=a12+a2，3=a13+2a1a2，若a1+a21，则有b2=0,b1=0,b0=a0/(1-a1-a2)：yt=a0/(1-a1-a2)+t+1t-1+2t-2+,八、待定系数解法,（1）二阶差分方程的特解若a1+a2=1，则又可分两种情况：()若a1+2a20，则有b2=0，b1=a0/(a1+2a2)，b0为任意常数，二阶差分方程的特解为：yt=b0+a0/(a1+2a2)t+t+1t-1+2t-2+()若a1+2a2=0，则b2=-a0/(a1+4a2)，b1和b0为任意常数，二阶差分方程的特解为：yt=b0+b1t+-a0/(a1+4a2)t2+t+1t-1+2t-2+,八、待定系数法,(2)高阶差分方程特解收敛的条件Thekeypointisthatthestabilityconditionforthehomogeneousequationispreciselytheconditionforconvergenceoftheparticularsolution.Ifanycharacteristicrootofthehomogeneousequationisequaltounity,apolynomialtimetrendwillappearintheparticularsolution.Theorderofthepolynomialisthenumberofunitarycharacteristicroots.,九、滞后算子,1、滞后算子的定义及其性质(1)定义：Liyt=yt-i(2)性质常数的滞后仍是其本身，Lc=c.分配律:(Li+Lj)yt=Liyt+Ljyt结合律:LiLjyt=Li+jytL的负指数为向前算子:L-iyt=yt+i若|a|1,则无穷和:1+(aL)-1+(aL)-2+(aL)-3+yt=-aLyt/(1-aL)即:yt/(1-aL)=-(aL)-11+(aL)-1+(aL)-2+(aL)-3+yt,九、滞后算子,2、滞后算子的作用(1)简明表示差分方程例1、对于p阶差分方程yt=a0+a1yt-1+a2yt-2+apyt-p+t使用滞后算子，有：(1-a1L-a2L2-apLp)yt=a0+t或更简洁地表示为：A(L)yt=a0+t例2、对于差分方程：yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q使用滞后算子，得：A(L)yt=a0+B(L)t,九、滞后算子,(2)用滞后算子解差分方程例1、对于一阶差分方程yt=a0+a1yt-1+t，有：(1-a1L)yt=a0+t解出yt，得：yt=(a0+t)/(1-a1L)若|a1|1，则：yt=-(a1L)-11+(a1L)-1+(a1L)-2+(a0+t)=-a0a1-1(1+a1-1+a1-2+)-(a1L)-11+(a1L)-1+(a1L)-2+t=-(a0/a1)1/(1-a1-1)-(1/a1)1+(a1L)-1+(a1L)-2+t+1=a0/(1-a1)-(1/a1)(t+1+a1-1t+2+a1-2t+3+a1-3t+4+)这种解称为差分方程的前瞻解(forward-lookingsolution).,九、滞后算子,3、高阶差分方程中滞后算子应用使用滞后算子，不仅可以简明地表示高阶差分方程，而且也可以简明地表示差分方程的解。如对于p阶差分方程：yt=a0+a1yt-1+a2yt-2+apyt-p+t其解可以表示为：yt=(a0+t)/(1-a1L-a2L2-a3L3-apLp)其中，1-a1L-a2L2-a3L3-apLp又称为差分方程的逆特征多项式，方程1-a1L-a2L2-a3L3-apLp=0又称为差分方程的逆特征方程(inversecharacteristicequation)。差分方程的稳定性条件又可表述为：逆特征方程的根都在单位圆外。,第二章,平稳时间序列模型,一、随机差分方程模型,1、随机过程(stochasticprocess)(1)随机过程的定义由随机变量组成的一个有序序列，称为随机过程，记为y(s,t),sS,tT.对于每一个t，tT，y(,t)是样本空间S中的一个随机变量；对于每一个s，sS，y(s,)是随机过程在序数集T中的一次实现。随机过程通常简记为yt或yt。,一、随机差分方程模型,(2)随机过程的分类离散时间随机过程如果T是一个可数集，特别是整数集，t只取整数t=0,1,2,，也称为随机序列。连续时间随机过程如果T是一个连续统。,一、随机差分方程模型,(3)有穷维分布族随机过程是一族随机变量，其概率分布可以用一族分布函数来表示，这一族分布函数就称为分布函数族。一维分布函数族：F1(ytr)=P(ytr).二维分布函数族：F2(yt1,yt2)=P(yt1r1,yt2r2).n维分布函数族：Fn(yt1,ytn)=P(yt1r1,ytnrn),一、随机差分方程模型,(4)随机过程的特征指标均值函数t=E(yt)=Et(yt|yt,yt-1,y1)自协方差函数(t,s)=Cov(yt,ys)=E(yt-t)(ys-s)自相关函数(t,s)=(t,s)/(t,t)(s,s)1/2,一、随机差分方程模型,2、时间序列及其模型(1)定义：对随机过程的顺序观测所形成的有序观测值序列，就称为时间序列，记为y0,y1,y2,yt。一个时间序列可看作是随机过程的一次实现，即一个样本；而产生时间序列的随机过程则称为时间序列的数据生成过程(datageneratingprocess)。(2)时间序列数据的特点：时间序列是来自随机过程的一个样本，其前后数值具有相关性，过去决定或影响着现在与未来。研究时间序列，实质上是要了解其数据生成过程的特征和变化规律。,一、随机差分方程模型,2、时间序列及其模型(3)时间序列模型随机差分方程模型由于时间序列是一个随机变量序列，变量的过去值影响或决定着现在，所以可以用随机差分方程来对其进行描述。如：中央银行的货币供给模型：mt=(1.03)tm0*+(1-)mt-1+t式中t通常假设为白噪声过程，其均值为0，方差为2，且前后各期互不相关。即有：E(t)=E(t-1)=0;Var(t)=Var(t-1)=2;Cov(t,t-s)=Cov(r-j,t-j-s)=0，对于所有s与j。,二、ARMA模型,1、ARMA模型的形式一般来说，一个变量的现在取值，不仅受其本身过去值的影响，而且也受现在和过去各种随机因素冲击的影响，因此可建立其数据生成模型为：yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q如果该模型的特征根都在单位圆内，则该模型就称为ARMA(p,q)模型。如果q=0，则该模型退化为：yt=a0+a1yt-1+a2yt-2+apyt-p+t称为p阶自回归模型，记作AR(p)。如果p=0，则该模型退化为：yt=a0+t+1t-1+qt-q称为q阶移动平均模型，记作MA(q)。,二、ARMA模型,2、ARIMA模型(1)差分与和分对于一个变量序列yt，若记其差分(difference)为：yt=yt-yt-1则原变量序列就可用其差分表示为：yt=yt+yt-1+yt-2+y1+y0即原变量序列yt可用其差分之和表示，因此称为和分(integration)。,二、ARMA模型,2、ARIMA模型(2)ARIMA模型的形式如果用变量yt本身的水平值建立的ARMA模型的特征方程有单位根，则需要先将yt差分后再建立ARMA模型，即：yt=a0+a1yt-1+apyt-p+t+1t-1+qt-q该模型就称为ARIMA(p,1,q)模型。如果变量yt的水平值ARMA模型的特征方程中有d个特征根，则需要先将变量序列yt差分d次，然后再建立ARMA模型，即：dyt=a0+a1dyt-1+apdyt-p+t+1t-1+qt-q则该模型称为阶数分别为(p,d,q)的自回归和分移动平均模型，记为ARIMA(p,d,q)。,二、ARMA模型,3、ARMA模型的移动平均表示对于一阶自回归模型:yt=a0+a1yt-1+t，求特解得移动平均表达式为：yt=a0/(1-a1)+t+a1t-1+a12t-2+a13t-3+对于一般ARMA(p,q)模型：yt=a0+a1yt-1+apyt-p+t+1t-1+qt-q求特解则得移动平均表达式为：yt=(a0+t+1t-1+qt-q)/(1-a1L-a2L2-apLp),二、ARMA模型,4、稳定性条件ARMA(p,q)模型的移动平均表示是一个无限阶的移动平均过程MA()，该无穷序列是否收敛决定了原随机差分方程是否稳定。因此稳定性条件可表示为：Thestabilityconditionisthattherootsofthepolynomial(1-a1L-a2L2-apLp)mustlieoutsideoftheunitcircle.即：ARMA模型的逆特征方程的根都必须在单位圆外。,三、时间序列的平稳性,1、平稳性的定义(1)严平稳过程：如果一个随机过程的有穷维分布函数族不随时间的推移而改变，即对于任意正整数n和任意的t1,t1,tnT及实数，当t1+,t2+,tn+T时，都有：Fn(yt1+,yt2+,ytn+)=Fn(yt1,yt2,ytn)则称此随机过程为严平稳过程或狭义平稳过程(stronglystationaryprocess)。,三、时间序列的平稳性,1、平稳性的定义(2)宽平稳过程：如果随机过程yt存在有穷的二阶矩，且均值和方差为常数，自协方差函数只与两时点的间隔长度有关，而与两时点的位置无关，即有：E(yt)=Var(yt)=E(yt-)2=2Cov(yt,yt-s)=E(yt-)(yt-s-)=s则称此随机过程为宽平稳过程或二阶矩过程或广义平稳过程(widesensestationaryprocess)。,三、时间序列的平稳性,1、平稳性的定义(3)严平稳过程与宽平稳过程的关系宽平稳要求随机过程的前二阶矩平稳。一般来说，分布的前二阶矩不能决定整个分布函数，所以广义平稳不能保证狭义平稳。严平稳要求整个分布函数平稳，但并不要求前二阶矩存在，所以是严平稳也未必就是宽平稳。只有前二阶矩存在的严平稳过程才一定是宽平稳过程。由于正态分布的分布函数完全由前二阶矩决定，所以正态随机过程如果是宽平稳的，那么必定也是严平稳的。,三、时间序列的平稳性,2、平稳过程的自协方差与自相关函数(1)自协方差与自相关函数的计算自协方差：s=Cov(yt,yt-s)=E(yt-)(yt-s-)称为s阶自协方差函数。显然，0阶自协方差函数为yt的方差：0=E(yt-)2=y2自相关函数：s=s/0称为s阶自相关函数。显然，0阶自相关函数等于1，有0=1。,三、时间序列的平稳性,2、平稳过程的自协方差与自相关函数(2)自协方差与自相关函数的性质对称性：s=-s，s=-s；非负定性，即由自协方差或自相关函数组成的矩阵是非负定矩阵。|s|0，|s|1。,三、时间序列的平稳性,3、平稳性的意义平稳过程一般都具有遍历性(ergodicity)，即可用时间平均去估计空间平均。遍历性：假设a为随机过程yt的某一参数或特征指标，若由样本函数构成的估计量，使得当t时，有：limE|-a|2=0即有：plim=a则称序列yt关于a具有均方遍历性，简称遍历性。,三、时间序列的平稳性,4、AR(1)过程平稳性的条件对于AR(1)过程：yt=a0+a1yt-1+t假设过程从0时期开始，初值为y0，则其递归解为：或其通解为：取期望，得：或：这表明yt的均值随时间变化，序列yt是非平稳的。,三、时间序列的平稳性,4、AR(1)过程平稳性的条件但是，如果|a1|0，则当t时，有：其期望和方差及协方差函数分别为：Eyt=a0/(1-a1)=E(yt-)2=E(t+a1t-1+a12t-2+)=2(1+a12+a14+)=2/(1-a12)E(yt-)(yt-s-)=E(t+a1t-1+a12t-2+)(t-s+a1t-s-1+a12t-s-2+)=2a1s/(1-a12)由此可见，在极限的情形序列yt是平稳的。,三、时间序列的平稳性,4、AR(1)过程平稳性的条件综上所述，AR(1)过程平稳性的条件可总结为：(1)Thehomogeneoussolutionmustbezero.Eitherthesequencemusthavestartedinfinitelyfarinthepastortheprocessmustalwaysbeinequilibrium(sothatthearbitraryconstantiszero).(2)Thecharacteristicroota1mustbelessthanunityinabsolutevalue.此平稳性条件也可简单地概括为：AR(1)方程的齐次解必须为0。,四、ARMA(p,q)模型的平稳性,1、ARMA(2,1)的平稳性对于ARMA(2,1),简化掉不影响平稳性的截距项,有：yt=a1yt-1+a2yt-2+t+1t-1使用待定系数法，得其移动平均表示或特解为：yt=0t+1t-1+2t-2+3t-3+其中：0=1，2=a10+，3=a12+a21，i=a1i-1+a2i-2，i2.由特解计算yt的均值和方差及协方差分别为：Eyt=0；Var(yt)=2(02+12+22+32+)Cov(yt,yt-s)=2(s+s+11+s+22+s+33+)可见，只有i序列收敛，yt才具有平稳性，这就要求ARMA(2,1)模型的特征根都在单位圆内。,四、ARMA(p,q)模型的平稳性,2、MA(q)的平稳性先考虑无限阶MA()过程，MA()过程的表达式为：xt=t+1t-1+2t-2+3t-3+4t-4+计算其均值和方差及协方差分别为：Ext=E(t+1t-1+2t-2+3t-3+)=0；Var(xt)=2(02+12+22+32+)Cov(xt,xt-s)=2(s+s+11+s+22+s+33+)由此可见，平稳性的充分必要条件为：(1)02+12+22+32+(2)s+s+11+s+22+s+33+0.将此差分方程两边同除以0，得自相关函数式为：s=a1s-1+a2s-2，s0.记此差分方程的两个特征根分别为1和2，则有：s=A11s+A22s，s0.由于1和2均小于1，所以ACF指数衰减收敛于0。,五、自相关函数(ACF),3、MA(1)过程的自相关函数对于MA(1)过程：yt=t+t-1，有：=Eyt=00=Eyt2=E(t+t-1)2=(1+2)21=Eytyt-1=E(t+t-1)(t-1+t-2)=2s=Eytyt-s=E(t+t-1)(t-s+t-s-1)=0于是有：1=/(1+2)；s=0，s1。这表明MA(1)过程的ACF只有前两阶不为0，二阶及以后各阶全为0，是1阶截尾的。,五、自相关函数(ACF),4、ARMA(1,1)过程的自相关函数对于ARMA(1,1)过程，假设Eyt=0，则a0=0，模型为：yt=a1yt-1+t+1t-1使用Yule-Walker方法，得：Eytyt-s=a1Eytyt-s-1+Etyt-s+1Et-1yt-s,s=0,1,2,由此得：0=a11+2+1(a1+1)21=a10+12s=a1s-1,s1.由前两式得：0=(1+12+2a11)2/(1-a12)1=(1+a11)(a1+1)2/(1-a12),五、自相关函数(ACF),4、ARMA(1,1)过程的自相关函数用0去除各i，得各阶自相关函数1=(1+a11)(a1+1)/(1+12+2a11)s=a1s-1，s1。由于差分方程s=a1s-1的特征根为a1，所以其解为：s=Aa1s,s1.这表明ARMA(1,1)过程的ACF从第2阶起遵循指数函数变化模式，以指数方式衰减，是拖尾的。,五、自相关函数(ACF),5、ARMA(p,q)过程的自相关函数对于ARMA(p,q)过程，假设Eyt=0，则a0=0，模型为：yt=a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q使用Yule-Walker方法，得：Eytyt-s=a1Eytyt-s-1+Eyt-pyt-s+Etyt-s+1Et-1yt-s+qEt-qyt-s,s=0,1,2,由于当sk时，Et-kyt-s=0，所以当sq时，有：s=a1s-1+a2s-2+aps-p,sq.这表明在q阶以后，ARMA(p,q)过程的自协方差函数完全由此p阶差分方程控制。,五、自相关函数(ACF),5、ARMA(p,q)过程的自相关函数用0除此方程的两边，得自相关函数的差分方程为：s=a1s-1+a2s-2+aps-p，sq。若记此差分方程的p个特征根为1,2,p，则其解为(假设各特征根互异）：s=A11s+A22s+Apps,sq.若将q,q-1,q-p+1作为初值代入求出待定常数A1,A2,Ap，则有：s=A11s+A22s+Apps,sq-p.这表明，若q-pp时，所有ss=0。这表明AR(p)过程的PACF是p阶截尾的。,六、偏相关函数(PACF),3、ARMA过程的偏相关函数(2)MA过程的PACF对于MA(1)过程：yt=t+t-1，有：(1+L)-1yt=t即：yt=yt-1-2yt-2+3yt-3-4yt-4+t这表明MA(1)过程的PACF是指数衰减的，具有拖尾的性质。对于MA(q)过程，也有类似的结论，即MA(q)过程的PACF也具有拖尾的性质。,六、偏相关函数(PACF),3、ARMA过程的偏相关函数(3)ARMA过程的PACFARMA(p,q)过程的PACF在p阶以后完全由MA(q)部分决定，所以其p阶以后的PACF以指数方式衰减，也具有拖尾的性质。过程ACFPACFAR(p)拖尾p阶截尾MA(q)q阶截尾拖尾ARMA(p,q)拖尾拖尾,七、平稳过程的样本自相关函数,1、样本自相关系数与偏相关系数的计算由于平稳过程一般具有遍历性，可用时间平均去估计空间平均，所以可以根据时间序列样本估计其数据生成过程的均值、方差、协方差、自相关系数和偏相关系数。=yt的s阶样本自回归方程中yt-s的系数,七、平稳过程的样本自相关函数,2、自相关系数的假设检验假设yt是正态平稳过程，则样本自相关系数的方差为：关于自相关函数，常用的假设检验有：(1)检验假设H0:s=0在此假设下，有：rsN0,Var(rs)检验统计量：z=rs/Var(rs)1/2N(0,1)若|z|z/2，则拒绝原假设，认为s阶自相关系数不为0。,七、平稳过程的样本自相关函数,2、自相关系数的假设检验(2)检验假设H0:1=2=s=0检验统计量为：Box-Pierce统计量Ljung-Pierce统计量,七、平稳过程的样本自相关函数,3、偏相关系数的假设检验假设yt是正态AR(p)平稳过程，则样本偏相关系数的方差为：检验假设H0:pp=0检验统计量：,七、平稳过程的样本自相关函数,4、模型选择的准则(1)常用的选择准则AIC=Tln(sumofsquaredresiduals)+2nSBC=Tln(sumofsquaredresiduals)+nln(T)选择AIC和SBC值最小的ARMA模型。(2)选择准则构造的原理每增加一阶滞后，虽然会减少残差平方和，但是也会减少自由度，并使预测增加估计参数得着误差影响。所以是否增加滞后，需要在这二者之间进行权衡。平衡点：边际收益=边际成本,七、平稳过程的样本自相关函数,5、模型的估计方法(1)AR模型的估计估计AR模型可直接用OLS方法(2)ARMA模型的估计估计ARMA模型用极大似然估计方法条件极大似然估计无条件极大似然估计,八、Box-Jenkins建模方法,1、Box-Jenkins方法步骤(1)模型识别(identificationstage)作时序图，判断时间序列有无趋势、异常点、缺失点和结构变化。如存在趋势，则需进行差分；异常点等也需处理。作样本ACF相关图和PACF偏相关图，与理论ARMA模型的ACF和PACF图进行比较，选择可能合适的模型。使用ACF和PACF的基础是序列具有平稳性和可逆性。平稳性宽平稳，AR部分的特征根都在单位圆内。可逆性序列可以用有限阶或无限阶收敛自回归模型表示，条件：MA部分的特征根都在单位圆内。,八、Box-Jenkins建模方法,1、Box-Jenkins方法步骤(2)模型估计与选择(estimationstage)使用某种合适的方法估计所选出的各个模型。按照吝啬原则(principleofparsimony)在所估计出的模型中选出最终使用的模型。模型选择的准则：AIC和SBC注意：公因子问题(commonfactorproblem)模型的AR部分与MA部分不应有共同的因子。,八、Box-Jenkins建模方法,1、Box-Jenkins方法步骤(3)模型的诊断检验(diagnosticchecking)残差序列自相关性检验检验的原假设：模型残差为白噪声检验统计量Ljung-Pierce统计量结构变动检验检验的原假设：序列无结构变化检验统计量F统计量,八、Box-Jenkins建模方法,2、例子(1)AR(1)模拟序列的建模(2)ARMA(1,1)模拟序列的建模(3)AR(2)模拟序列的建模,九、预测,1、预测的方法条件期望预测若实际数据生成过程是已知的，并且序列yt和t的现在和过去各期的数值也已知，则就可以现在为原点，根据已掌握的信息，使用条件期望的方法对序列yt未来各期的数值进行预测。预测式为：Etyt+j=E(yt+j|yt,yt-1,yt-2,t,t-1,t-2,),九、预测,2、AR(1)模型的预测(1)点预测对于参数已知的AR(1)模型：yt=a0+a1yt-1+t跨前j期有：yt+j=a0+a1yt+j-1+t+j在t时已知信息的条件下，求期望，得：向前1步预测：Etyt+1=a0+a1yt向前2步预测：Etyt+2=a0+a1Eyt+1向前j步预测：Etyt+j=a0+a1Eyt+j-1,九、预测,2、AR(1)模型的预测(2)预测函数在向前j步预测式中，逐次迭代可得：Etyt+j=a0(1+a1+a12+a1j-1)+a1jyt此式是j的函数，称为预测函数。若|a1|1，则当j时，预测函数的极限为：Etyt+j=a0/(1-a1)平稳ARMA模型的条件预测收敛于无条件均值。,九、预测,2、AR(1)模型的预测(3)预测误差所谓预测误差，就是yt+j的实际值与其预测值之间的偏差，记为et(j)，即：et(j)=yt+j-Etyt+j将向前1步、2步、预测值分别代入，得：1步预测误差：et(1)=yt+1-Etyt+1=t+12步预测误差：et(2)=yt+2-Etyt+2=t+2+a1t+1j步预测误差：et(j)=yt+j-Etyt+j=t+j+a1t+j-1+a12t+j-2+a1j-1t+1,九、预测,2、AR(1)模型的预测(4)条件期望预测的性质无偏性：Etet(j)=0方差最小：Varet(j)=21+a12+a14+a12(j-1)当j时，Varet(j)=2/(1-a12)即：预测误差的方差收敛于yt的无条件方差。尽管向前1步预测误差不相关，但向前多步预测误差却存在序列相关。如：由et(1)=yt+1-Etyt+1=t+1，得