时间序列分析的基本概念.ppt

第二章 时间序列分析的基本概念,第一节 随机过程 第二节 平稳时间序列 第三节 随机过程的特征描述 第四节 线性差分方程,第一节 随机过程,一、随机过程的定义 二、随机过程与随机变量之间的关,返回本节首页,下一页,上一页,返回本节首页,上一页,1.引：事物的变化过程可分为两类：对于每一个固定的时刻t，变化的结果，一类是确定的，这个结果可用t的某个确定性函数来描述；另一类结果是随机的，即以某种可能性出现多个（有限多个或无限多个）结果之一。,一、随机过程,下一页,返回本节首页,上一页,2.定义：,设E是随机试验，S是它的样本空间，如果对于每一个e ，我们总可以依某种规则确定一时间t的函数 与之对应（T是时间t的变化范围），于是，对于所有的的e 来说，就得到这族时间t的函数为随机过程，而族中每一个函数为这个随机过程的样本函数（或一次实现）。,随机过程导论周萌清,该定义蕴涵的四种情况： 1、当e和t都是变量时，x(t)是一族时间的函数，它表示一个随机过程； 2、当e给定，t为变量时， x(t)是一个时间t的函数，称它为样本函数，有时也称为一次实现。 3、当t给定，e为变量时， x(t)是一个随机变量。 4、当e、t均给定时， x(t) 是一个标量或者矢量。,X(t),t,经济时间序列 王耀东,我们所要讨论的时间序列分析，只是对平稳序序列及其有关的随机序列进行统计分析，而不是对所有的随机序列进行统计分析。,此类随机过程又称随机序列（random sequence)或时间序列（time series)。对于一个连续时间的随机过程，通过等间隔采样，也是一个随机序列。,区别： 1、随机变量是定义在样本空间上的一个单值实函数，随机过程是一族时间t的函数。 2、对应于一定随机试验和样本空间的随机变量与时间t无关，而随机过程与时间密切相关。 3、随机变量描述事物在某一特定时点上的静态，随机过程描述事物发展变化的动态。,二、随机过程与随机变量之间的关系,下一页,返回本节首页,上一页,联系： 1、随机过程具有随机变量的特性，同时还具有普通函数的特性。 2、随机变量是随机过程的特例。一元随机变量可视为参数集为单元素集的随机过程。 3、当随机过程固定某一个时刻时，就得到一个随机变量。 4、随机过程是N维随机向量、随机变量列的一般化，它是随机变量X(t)的集,第二节 平稳时间序列,一、两种不同的平稳性定义 二、时间序列的分布、均值和协方差函数 三、平稳序列的自协方差和自相关函数 四、白噪声序列和独立同分布序列 五、独立增量随机过程、二阶矩过程 六、线性平稳序列 七、偏自相关函数,下一页,返回本节首页,上一页,一、两种不同的平稳性定义,1.严平稳过程：若对于时间 t的任意n个值t1t2tn，此序列中的随机变量Xt1+s,Xt2+s, ,Xtn+s联合分布与整数s无关，即有： Ft1,t2,tn(Xt1,Xt2,Xtn)=Ft1+s,t2+s+tn+s(Xt1+s,Xt2+s, ,Xtn+s) 则称Xt为严平稳过程。有些参考书也称为狭义平稳或强平稳过程。,下一页,返回本节首页,上一页,此定义表明，严平稳的概率分布与时间的平移无关。 一般来说，若所研究的随机过程，前后的环境和主要条件都不随时间变化，就可以认为它是平稳随机过程。,平稳随机过程的一维概率密度函数与时间无关。二维概率密度函数只与时间间隔S有关，而与时间的起点和终点无关。,2.宽平稳过程：若时间序列有有穷的二阶矩，且Xt满足如下两个条件：,则称该时间序列为宽平稳过程。,此定义表明，宽平稳过程各随机变量的均值 为常数，且任意两个变量的协方差仅与时间 间隔(t-s)有关。 （宽平稳过程只涉及一阶和二阶矩）,3.严平稳过程和宽平稳过程的联系和区别 区别： （1）严平稳的概率分布随时间的平移而不变，宽平稳序列的均值和自协方差随时间的平移而不变。 （2）一个严平稳序列，不一定是宽平稳序列；一个宽平稳序列也不一定是严平稳序列。,联系： （1）若一个序列为严平稳序列，且有有穷的二阶矩，那么该序列也必为宽平稳序列。 （2）若时间序列为正态序列（即它的任何有限维分布都是正态分布），那么该序列为严平稳序列和宽平稳序列是相互等价的。,注：由于在实际中严平稳序列的条件非常难以满足，我们研究的通常是宽平稳序列，在以后讨论中，若不作特别说明，平稳序列即指宽平稳序列。,例1、设随机过程X（t）=At，A为均匀分布于0，1上的随机变量。试问X（t）是否平稳？ 例2、设随机过程Z（t）=Xcost+Ysint , 其中X，Y为相互独立的随机变量，且分别以概率2/3、1/3取值-1和2。试讨论随机过程Z（t）的平稳性。,二、时间序列的分布、均值和协方差函数,1.时间序列的概率分布 随机过程是一族随机变量，类似于随机变量，可以定义随机过程的概率分布函数和概率密度函数。它们都是两个变量t,x的函数。,下一页,返回本节首页,上一页,如：时间序列的所有一维分布是： 若给定时刻ti，随机过程就是一维随机变量X（ti)。事件x(ti)=x的概率为 F-1(X-1)，F-2(X-2)，F0(X0)，F1(X1)，F2(X2) 其中Fi(Xi)表示Xi的分布函数。对其关于x求偏导，即X（t）的一维概率密度函数f(x,ti). 时间序列的所有二维分布是： Fij(Xi,Xj)，i,j=0,1, 2, 3 其中Fij(Xi,Xj)是二元随机变量(Xi,Xj)的联合概率分布。 ,如果我们能确定出时间序列的概率分布，我们就可以对时间序列构造模型，并描述时间序列的全部随机特征，但由于确定时间序列的分布函数一般不可能，人们更加注意使用时间序列的各种特征量的描述，如均值函数、协方差函数、自相关函数、偏自相关函数等，这些特征量往往能代表随机变量的主要特征。,2.均值函数 一个时间序列Xt，t=0, 1, 2 的均值函数指：,即为Xt的均值函数。它实质上是一个实数列， 被Xt的一维分布族所决定。均值u(t)表示随机过程在 各个时刻的摆动中心。,3. 时间序列的自协方差函数,由此可见，时间序列的自协方差函数是 随机变量间协方差推广差 时间序列自协方差函数具有对称性：,4.时间序列的自相关函数,自相关函数描述了时间序列的Xt自身的 相关结构。 时间序列的自相关函数具有对称性，且有,三、平稳序列的自协方差和自相关函数,1.平稳序列的自协方差函数和自相关函数 若Xt为平稳序列，假定EXt=0，由于 令s=t-k，于是我们就可以用以下记号表示平稳序列的自协方差函数，即：,下一页,返回本节首页,上一页,相应的，严平稳序列的自相关函数记为：,2.平稳序列的自协方差序列和自相关函数列的性质,四、白噪声序列和独立同分布序列,1.白噪声（White noise）序列 定义：若时间序列Xt满足下列性质：,则称此序列为白噪声序列。,下一页,返回本节首页,上一页,白噪声序列是一种特殊的宽平稳序列，也是一种最简单的平稳序列，它在时间序列分析中占有非常重要的地位。,2.独立同分布（iid）序列 定义：如果时间序列Xt中的随机变量Xt，t=0, 1, 2 是相互独立的随机变量，且Xt具有相同的分布（当Xt有一阶矩时，往往还假定EXt=0）,则称Xt为独立同分布序列。 可见独立同分布序列Xt是一个严平稳序列。,一般来说，白噪声序列与独立同分布序列是不同的两种序列，但是当白噪声序列为正态序列时，它也是独立同分布序列，此时我们称其为正态白噪声序列（NID）。,-4,-2,0,2,4,80,82,84,86,88,90,92,94,96,正态白噪声序列,五、独立增量随机过程、二阶矩过程,独立增量随机过程 独立增量过程是物理上重要的马氏过程。随机过程X（t），t =0，用X（t1,t2)表示随机变量X(t2)-X(t1),并称为X（t）在（t1,t2)上的增量，如果对一切t1t2tn，增量是相互独立的，则称X（t），t =0是一个独立增量过程。 马氏过程：从对过去记忆性角度来考虑的，简单的说，一阶马氏过程表示：将来时刻tn的状态xn的统计特性仅取决于现在时刻tn-1时刻的值xn-1。,下一页,返回本节首页,上一页,二阶矩过程 定义：若一个随机过程X(t) ， ，如果对于一切 ,总有 则称此过程为二阶矩过程。广义平稳过程是二阶矩过程中的一类。高斯过程也是二阶矩过程。高斯分布是指随机过程的各有限维分布都是高斯分布，高斯分布的各阶矩都存在，故也属于二阶矩过程。,六、线性平稳序列,1.时间序列的线性 运算 设Xt与Yt为两个时间序列，a，b为两个实数，那么，zt=axt+byt t=0, 1, 2 为序列Xt与Yt的一种线性运算。 2.时间序列的迟运算 设Xt为一时间序列，d为一正整数，那么， yt=xt-d t=0, 1, 2 为Xt的d步延迟运算。,下一页,返回本节首页,上一页,3.时间序列的线性与延迟联合运算 yt=a0xt+a1xt-1+ +apXt-p t=0,1,2为时间序列线性与延迟联合运算。 当ai=1/p，i=0,1,2, 时，Yt即为对序列Xt的移动平均序列。 4.时间序列的非线性运算 非线性运算的形式是多种多样的：如 yt=xt2+axt，yt=xt-1/(1+xt-2)2等。,5.平稳线性序列 设at为正态白 噪声序列，则称序列：,注：可以证明，Xt为一宽平稳序列。,为线性平稳序列。,七、偏自相关函数,偏自相关函数：指扣除Xt和Xt+k之间的随机变量Xt+1,Xt+2, Xt+k-1等影响之后的Xt和Xt+k之间的相关性。 偏自相关函数一般用 表示。,偏自相关其实就是如下的条件相关： cov(Xt,Xt+k|Xt+1,Xt+2 Xt+k-1),下一页,返回本节首页,上一页,第三节 随机过程的特征描述,一、样本均值 二、样本自协方差函数 三、样本自相关函数（SACF） 四、样本偏自相关函数,下一页,返回本节首页,上一页,一、样本均值,对时间序列的一次样本实现，需要用样本均值代替总体均值,可以证明， 是 的无偏、一致估计。,下一页,返回本节首页,上一页,对于时间序列的一次样本现，我们也需要通过样本自协方差函数估计总体自协方差函数。这里有两种形式：,书 P73,二、样本自协方差函数,下一页,返回本节首页,上一页,通过证明有如下结论： 上述样本自协方差函数 都是总体自协方差函数 的渐近无偏估计，且 比 的偏要大。但是， 比 的方差小，且在大样本情况下（n很大），二者差别不大，因此我们通常用 作为样本自协方差函数。,由于当k相对于n而言较大时， 的偏比 更大，因此，在时间序列分析时，一般滞后期k最多取至n/4,三、样本自相关函数（SACF） 1.对给定的序列x1,x2, xn，样本自相关函数定义为：,下一页,返回本节首页,上一页,四、样本偏自相关函数（SPACF）P77 1.样本偏自相关函数有如下递推公式：,下一页,返回本节首页,上一页,例如，根据上述递推公式，我们有：,在过程是一个白噪声序列的假设下，,所以， 能作为检验白噪声过程假设的 准则区限。,计算样本自相关函数（SACF）,1.时间序列的平稳性检验 对k的图称为样本自相关图，我们可以通过样本 自相关函数判断时间序列是否为平稳序列。 检验原理：如果一个时间序列为白噪声序列，那 么 近似地服从N (0,1/n)。于是根据正态分布的性 质，对任一 的95%的置信区间为：,检验一：检验序列是否为平稳序列 若 在k3时都落入置信区间，并逐渐趋于零，则 该时间序列具有平稳性；若有更多的 落在置信 区间以外，则该时间序列不具有平稳性。 Eviews 3.1显示的自相关图（correlogram) 中的两条虚线即为 的95%置信区间。见图示,检验二：检验序列是否为白噪声序列 原假设：全部 同时为0（k1） 检验统计量：Q统计量（Q statistic）,其中，n为样本容量，m为滞后长度。,Q近似地服从 。,检验：对于给定的显著性水平 ，若 则拒绝原假设，此时，序列不是白噪声序列；若 ，则不能拒绝原假设，此时不能拒绝序 列为白噪声序列。,在Eviews 3.1显示的自相关图中，同时给出了 Q统计量值和它的相伴概率（P值），若 , 则接受原假设，即可认为序列为白噪 声序列； 否则拒绝原假设。,0,100,200,300,400,500,600,700,80,82,84,86,88,90,92,94,96,美国S&P500指数,非平稳序列,非平稳序列自相关图,-4,-2,0,2,4,80,82,84,86,88,90,92,94,96,平稳序列,正态白噪声生成序列,平稳序列自相关图,第四节 线性差分方程,引：线性差分方程在我们讨论的时间序列分析中占有重要作用，事实上，我们后面将要建立的时间序列模型就是线性差分方程，这些模型的性质往往取决于差分方程根的性质。,下一页,返回本节首页,上一页,第四节 线性差分方程,一、线性差分方程 二、关于线性差分方程基本定理 三、n阶常系数线性差分方程的解,下一页,返回本节首页,上一页,一、线性差分方程,1.n阶非齐次线性差分方程,2.n阶齐次线性差分方程,（1），（2）式中，ai(t)、f(t)为t的已知函数，且 an(t)、f(t)不同时为零，若 ai(t)为常数，则上述两式 即为常系数差分方程。,下一页,返回本节首页,上一页,二、关于线性差分方程基本定理,定理1. 若y1(t)，y2(t)， ym(t)是n阶齐次线性差分方程（2）的m个特解，则如下的线性组合也是该差分方程的的特解：y(t)=c1y1(t)+c2y2(t)+ +cmym(t) 式中c1、c2cm为任意常数。,下一页,返回本节首页,上一页,定理2. n阶齐线性齐次差分方程一定存在n个线性无关的特解，若y1(t)，y2(t)， yn(t)为式（2）的n个线性无关的特解，则（2）式的通解为： yc(t)=c1y1(t)+c2y2(t)+ +cnyn(t) 式中c1、c2cn为n个任意常数。,定理3. N阶非齐次线性差分方程（1