时间序列模型归纳总结复习

本文格式为Word版，下载可任意编辑——时间序列模型归纳总结复习时间序列模型归纳总结复习随机时间序列分析的几个基本概念

一、随机过程(StochasticProcess)

定义设（Ω,F,P）是概率空间，T是给定的参数集，假使对于任意t∈T，都有一定义在（Ω,F,P）上的随机变量X(t,ω)与之对应，则称随机变量族{X(t,ω),t∈T}为随机过程。简记为{X(t,),t∈T}或{Xt,t∈T}或XT

离散参数的随机过程也称为随机序列或（随机）时间序列。上述定义可简单理解成：

随机过程是一簇随机变量{Xt,t∈T}，其中T表示时间t的变动范围，对每个固定的时刻t而言，Xt是一普通的随机变量，这些随机变量的全体就构成一个随机过程。

当t={0,±1,±2,…}时，即时刻t只取整数时，随机过程{Xt,t∈T}可写成如下形式，{Xt,t=0,±1,±2,…}。此类随机过程Xt是离散时间t的随机函数，称它为随机序列或时间序列。

对于一个连续时间的随机过程的等间隔采样序列，即{Xt,t=0,±1,±2,…}就是一个离散随机序列。

二、时间序列的概率分布和数值特征

1、时间序列的概率分布

一个时间序列便是一个无限维的随机向量。一个无限维随机向量X=(…,X-1,X0,X1,…)/的概率分布应当用一个无限维概率分布描述。根据柯尔莫哥夫定理，一个时间序列的概率分布可以用它有限维分布簇来描述。

时间序列所有的一维分布是：…，F-1(·)，F0(·)，F1(·),…所有二维分布是：Fij(·，·)，i，j=0,±1,±2,…,(i≠j)

一个时间序列的所有有限维分布簇的全体，称为该序列的有限维分布簇。2、时间序列的均值函数

一个时间序列的均值函数是指：

?t?EXt??XdFt(X)???

其中EXt表示在t固定时对随机变量Xt的求均值，它只一维分布簇中的分布函数Ft(·)有关。3、时间序列的协方差函数与自相关函数

与随机变量之间的协方差相像，时间序列的协方差函数定义为：

?(t,s)?E(Xt??t)?Xs??s??????????(X??t)?Ys??s?dFt,s(X,Y)

其中Ft,s(X,Y)为（Xt，Xs）的二维联合分布。

类似可以定义时间序列的自相关函数，即：?(t,s)??(t,s)/?(t,t)?(s,s)时间序列的自协方差函数有以下性质：（1）对称性：?(t,s)??(s,t)

（2）非负定性：对任意正整数m和任意m个整数k1,k2,。。。km，方阵

???k1,k1???k1,k2????k1,km???????k2,k1???k2,k2????k2,km???m?????????????km,k1???km,k2????km,km???为对称非负定矩阵。

时间序列的自相关函数同样也具有上述性质且有ρ(t,t)=1。

三、平稳随机过程

平稳时间序列是时间序列分析中一类重要而特别的随机序列，时间序列分析的主要内容是关于平稳时间序列的统计分析。

（一）两种不同的平稳性定义：

1、严平稳：假使对于时间t的任意n个值t1,t2,?,tn和任意实数?，随机过程Xt的n维分布满足关

系式：

Fn?x1,x2,?xn;t1,t2,?tn??Fn?x1,x2,?xn;t1??,t2??,?tn???

则称Xt为严平稳过程。

2、宽平稳：若随机过程?Xt,t?T?的均值（一阶矩）和协方差存在，且满足

（1）E?Xt??a（2）E?Xt?k?a??Xt?a????k??t?T?t,t?k?T

则称?Xt,t?T?为宽平稳随机过程。寻常说的平稳是指宽平稳。

二者的联系：

（Ⅰ）严??宽：由于宽平稳要求期望和协方差存在，而严平稳要求概率分布存在，而不能断言一、二阶矩存在。

（Ⅱ）宽??严，这是不言而喻的。

（Ⅲ）严平稳+二阶矩存在?宽平稳。但反过来一般不成立。（Ⅳ）对于正态过程来说，有：严平稳?宽平稳（二）平稳时间序列自协方差函数和自相关函数

为了表达便利，常假定平稳时间序列Xt的均值为零，即E?Xt??0。用以下记号表示平稳序列Xt的自协方差函数，即

?k?E?Xt?k?EXt?k??Xt?EXt??EXtXt?k相应地，Xt的自相关函数用以下记号

?当EXt?0时?

?k??k?0

平稳序列Xt的自协方差函数列和自相关函数列具有以下性质：（1）对称性：?k???k,?k???k；（2）非负定性：对于任意正整数m，

??0?1??m-1??1?1??m-1?????????1???10m-2m-2??，R??1?m??m???????????????????????1?m-1m-2?0??m-1m-2为非负定对称方阵；（3）?k??0,?k?1。（三）平稳序列的样本统计量（1）样本均值

时间序列无法获得多重实现，多数时间序列仅包含一次实现，对于一个平稳序列用时间均值代替总体均值。即

1nX??Xt

nt?1上式的估计是无偏的。

（2）样本自协方差函数

1n?k??k???Xt?X??Xt?k?X?

nt?11n?k??k?Xt?X??Xt?k?X???n?kt?1第一式是有偏估计，其次式是无偏估计，但有效性不如第一式。其它概率性质和偏自相关函数的定义将在以后章节介绍。四、几类特别的随机过程（序列）：

1、纯随机过程：随机过程假使是由一个不相关的随机变量的序列构成的，则称其为纯随机过程。2、白噪声序列（Whitenoise）：假使时间序列Xt满足以下性质：（1）E?Xt??0（2）E?XtXs????t,s

2式中，当t≠s时，?t,s?0,?t,t?1。称此序列为白噪声序列，简称白噪声。白噪声是一种最简单的平稳序列。

（3）独立同分布序列：假使时间序列?Xt,t?T?中的随机变量Xt,t=0,±1,±2,…,为相互独立的随机变量，而且Xt具有一致的分布，称这样的时间序列?Xt,t?T?为独立同分布序列。

独立同分布序列是一种最简单的严平稳序列。

一般说，白噪声序列与独立同分布序列是不同的两种序列，当白噪声序列为正态序列时，它也是独立同分布序列，此时称之为正态白噪声序列。

（4）独立增量随机过程：对于任意正整数n，任意ti?T?i?1,2,?,n,t1?t2???tn?，随机变量

Xt2?Xt1,Xt3?Xt2,?Xtn?Xtn?1相互独立。简单地讲，就是任意两相邻时刻上的随机变量之差（增量）

是相互独立的。

（5）二阶矩过程：若随机过程?Xt,t?T?对每个t?T,Xt的均值和方差存在，则称之为二阶矩过程。（6）正态过程：若?Xt,t?T?的有限维分布都是正态分布，则称?Xt,t?T?为正态随机过程。

主要介绍三种单变量模型：自回归（AR）模型、移动平均（MA）模型和自回归移动平均（ARMA）模型。

第一节自回归模型

一、一阶自回归模型AR(1)

假使时间序列独立，就是说事物的后一时刻的行为主要与其前一时刻的行为毫无关系。这样的资料所透露甲统计规律就是事物独立地随机变动，系统无记忆能力。假使状况不是这样，资料之间有一定的依存性。

后一时刻的行为主要与前一时刻的行为有关，而与其前一时刻以前的行为无直接关系，即已知Xt-1；Xt主要与Xt-1相关。用记忆性来说，就是最短的记忆，即一期记忆，也就是一阶动态性。描述这种关系的数学模型就是一阶自回归模型。即

Xt??1Xt?1?at

记作AR（1）。其中Xt零均值平稳序列，αt为随机扰动。1、一阶自回归模型的特点

Xt对Xt-1有线性相关关系αt为独立正态同分布序列

E(atXt?j)?0,j?1,2,...

2、AR（1）与普通一元线性回归的关系

一元线性回归Yi????Xi??i一阶自回归Xt??1Xt?1?at两个变量，Y为随机变量，X为确定性变量；