有限参数模型

关于有限参数模型

特征：越接近0，阻尼就越大，单摆稳定的越快；越接近，阻尼越小，单摆振荡得越剧烈。只要,单摆总能稳定下来，这时系统(1.1)被称为是稳定的。当时，单摆无法稳定下来，这时称系统(1.1)是非稳定的。第2页,共189页，2024年2月25日，星期天

第3页,共189页，2024年2月25日，星期天

第4页,共189页，2024年2月25日，星期天

第5页,共189页，2024年2月25日，星期天

二.自回归模型的定义与分类定义1.1称以下模型为p阶自回归模型AutoregressionModel),简记为

(1.2)式中是白噪声序列，而且，对一切s<t成立.称为自回归系数，满足(1.2)式的时间序列被称为p阶自回归序列。第6页,共189页，2024年2月25日，星期天

称多项式为(1.2)式的自回归系数多项式。定义1.2如果AR(p)模型对应的算子方程的根全部在单位圆外，称该模型是平稳的，否则成为是非平稳的，或者称为广义的AR(p)模型。注：相应的随机差分方程的特征多项式

的根全部要在单位圆之内第7页,共189页，2024年2月25日，星期天

中心化：如果平稳序列满足(1.2)式，且，则令，得到则称为平稳中心化的AR(p)序列。第8页,共189页，2024年2月25日，星期天

定义1.3设为零均值平稳序列，若满足如下的p阶随机差分方程且满足如下条件(1)为白噪声序列(2)且,t<s称模型(1.3)为p阶自回归模型，记为AR(p),非负整数p称为自回归阶数，实系数称为自回归序列,满足模型(1.3)的序列称为AR(p)序列。第9页,共189页，2024年2月25日，星期天

注：AR(p)模型

与多元线性回归模型

(1.4)的区别：在回归模型(1.4)中，描述的序列是相互独立的，它们都是同一总体y的不同次独立随机变量-----静态模型。模型(1.3)是对自身过去的p个时间的回归------动态模型。第10页,共189页，2024年2月25日，星期天

三平稳AR(p)模型的平稳解1.AR(1)的平稳解(1.5)第一种算法：反复的迭代运算，得到验证：(1.5)的通解：(1.6)第11页,共189页，2024年2月25日，星期天

注：不难看到通解和平稳解之间只差一个无穷小量，即系统(1.5)的任何解都随着时间的推移稳定与平稳解(1.6)，或者说由(1.6)定义的平稳序列描述的是在平稳状态下单摆的运动情况，这时只有白噪声和a在起作用。从

可知,当固定时,的根越接近,单摆的稳定性越差，越大，单摆的稳定性越好。

第12页,共189页，2024年2月25日，星期天

第二种算法：由差分方程求解(1.5),即第13页,共189页，2024年2月25日，星期天

2.AR(P)模型的平稳解

(1.7)令，其中由恒等式决定。于是(1.7)的解可表示为

(1.8)(1.8)式又被称为(1.7)式的传递形式。称为格林函数或Wold系数。第14页,共189页，2024年2月25日，星期天第15页,共189页，2024年2月25日，星期天

注：(1)传递形式的物理意义：若将(1.8)看成一个系统，那么(1.8)表明可由既往的白噪声(系统输入)加权求和生成,是关于的权重，这样的系统称为物理可实现的。(2)传递系数的递推公式：第16页,共189页，2024年2月25日，星期天

定义1.4：(1)称系统(1.8)是稳定的，如果存在着常数c>0，使得对所有正整数j,有

(2)称系统(1.8)是渐近稳定的，如果当时，有

(3)称系统(1.8)是一致渐近稳定的，如果存在着常数，使得对所有正整数j,有第17页,共189页，2024年2月25日，星期天

定理1.1对于AR(P)模型所表示的系统是一致渐近稳定的，即存在正常数，使得定理1.2：(1)由(1.8)定义的时间序列是AR(p)模型(1.3)的唯一平稳解；(2)AR(p)模型的通解有如下形式

其中是多项式的k个互异根，r(j)是的重数，是随机变量。第18页,共189页，2024年2月25日，星期天

注：由定理1.2，AR(p)模型的通解和平稳解之差满足

(1.9)其中是中的数.AR(p)模型的任何解都随着时间的推移以负指数阶的速度接近平稳解(1.8)，而且越大趋于平稳解越快，或者说稳定下来得越快。第19页,共189页，2024年2月25日，星期天

利用白噪声和AR(p)模型的自回归系数产生AR(p)序列的方法：第一步：取初值

第二步：计算第三步：取则视为所需要的AR(p)序列,一般取,当较小时，m要适当放大。第20页,共189页，2024年2月25日，星期天

例：生成序列100个观测数据。其中，m=50,是正态白噪声，标准差为1.2。(sample11)

第21页,共189页，2024年2月25日，星期天

四平稳AR(p)序列的自协方差函数1.自协方差函数的表述形式第一种：设是AR(p)模型的平稳解，由AR(p)模型的传递形式利用线性平稳序列的性质可知它有有零均值和自协方差函数第22页,共189页，2024年2月25日，星期天短记忆性第23页,共189页，2024年2月25日，星期天

第二种：当k=0时，

当时，(1.10)使用后移算子B,可得，第24页,共189页，2024年2月25日，星期天

2尤尔--沃克(Yule-Walker)方程

取k=1,2,…,p,由自协方差函数和自相关函数的对称性，由公式(1.10),有如下方程组：第25页,共189页，2024年2月25日，星期天

引入记号则方程组化简为：其中，称为托普尼兹(Toepletz)矩阵。对于平稳AR(p)序列而言，总是正定的，于是(1.11)第26页,共189页，2024年2月25日，星期天

3AR(p)模型白噪声的方差，回归系数和之间的关系(1)白噪声方差的两种表述形式(1.12)(2)自协方差函数和自相关函数具有拖尾性，即存在正常数，有第27页,共189页，2024年2月25日，星期天

(3)三者的关系模型参数被自协方差值唯一决定；(公式1.11,1.12)被所唯一决定；被所唯一决定。(公式1.10)第28页,共189页，2024年2月25日，星期天

五AR模型的平稳域和允许域1.AR模型的平稳域定义1.5对于AR(P)模型，使的根全部在单位圆外的参数向量的全体构成一个p为向量空间上的子集，记为

称为AR(P)模型的平稳域。第29页,共189页，2024年2月25日，星期天

平稳性的检验：(1)模型阶数较低p=1,2，可直接计算例：求AR(1)的平稳域；第30页,共189页，2024年2月25日，星期天

(2)高阶模型参数平稳性检验---Jury准则方法一通过求解高次代数方程，判定其根是否在单位圆外。该方法较难实现。方法二使用裘莱(Jury)准则裘莱(Jury)准则设实系数多项式则的根全在单位圆内的充要条件是第31页,共189页，2024年2月25日，星期天

以及这n-1个关系式全部成立。其中，是

的系数，依次由下列方阵求得若求到相应于的一步，k只能取0,1,2,3,那么最后一步为第32页,共189页，2024年2月25日，星期天

平稳性检验目的：检验的根全在单位圆外。令Z=1/B，得多项式则的根全在单位圆外当且仅当F(Z)的根全在单位圆内。故在Jury准则中取第33页,共189页，2024年2月25日，星期天

例5.2试证如下零均值平稳序列具有平稳性。第34页,共189页，2024年2月25日，星期天

2.AR模型的允许域使得AR(p)序列落入平稳域的的全体构成的区域，称为的允许域。例如：AR(1)模型平稳域为允许域为第35页,共189页，2024年2月25日，星期天

六偏相关函数1偏相关函数的定义例：设为零均值平稳序列，考察由

对进行线性预测。这里采用线性最小方差预测。即求下列极值问题第36页,共189页，2024年2月25日，星期天

经计算得到：或写为(1.13)亦称(1.13)为Yule-Walker方程。定义1.6如果正定，称为或的n阶偏相关函数。第37页,共189页，2024年2月25日，星期天

2偏相关函数的概率定义

令

记，定理：设为的偏相关函数，则(1.14)第38页,共189页，2024年2月25日，星期天

概率定义：与平稳序列的自相关函数

作比较，(1.14)相当于条件相关函数。第39页,共189页，2024年2月25日，星期天

3偏相关函数的递推算法定理1.3设为平稳序列，则它的偏相关函数满足如下递推公式第40页,共189页，2024年2月25日，星期天

算法流程图

第41页,共189页，2024年2月25日，星期天

定理1.4零均值平稳序列为AR(P)序列的充分必要条件是的偏相关函数是p步截尾的。

第42页,共189页，2024年2月25日，星期天第43页,共189页，2024年2月25日，星期天第44页,共189页，2024年2月25日，星期天

例：考虑AR(2)模型

(1)差分算子方程：

(2)平稳域：第45页,共189页，2024年2月25日，星期天

(3)平稳解的相关系数满足

(4)允许域：具体考虑序列第46页,共189页，2024年2月25日，星期天

具体考虑序列第47页,共189页，2024年2月25日，星期天第48页,共189页，2024年2月25日，星期天第49页,共189页，2024年2月25日，星期天第50页,共189页，2024年2月25日，星期天第51页,共189页，2024年2月25日，星期天

第二节滑动平均模型一滑动平均模型的定义定义2.1设为一白噪声序列，称以下模型为q阶滑动平均模型，简记为MA(q)模型（MovingAverage),(2.1)称序列为q阶滑动平均序列，简称MA(q)序列。

MA(q)序列是平稳线性序列。第52页,共189页，2024年2月25日，星期天

二MA(q)序列的自协方差函数

(2.2)第53页,共189页，2024年2月25日，星期天

引理2.1一个自协方差函数列成为某个MA(q)序列的自协方差函数列的充分必要条件是是q步截尾的。定理2.1若自协方差函数列q步截尾，而且满足

那么，将替代(2.2)左边各量，则必存在唯一的实数解,而且保证的根都在单位圆外。第54页,共189页，2024年2月25日，星期天

三可逆的MA(q)模型定义2.2：若在MA(q)模型(2.1)中，其系数多项式

的根全部在单位圆外，则称这样的MA模型为可逆的MA(q)模型，相应的序列被称为可逆的MA(q)序列。第55页,共189页，2024年2月25日，星期天

如果MA(q)模型可逆，则有(2.3)其中，且存在正常数,使得，

我们称(2.3)为(2.1)的逆转形式.第56页,共189页，2024年2月25日，星期天

例2.1：考虑两MA(1)序列其中，为白噪声序列。经计算两序列具有相同的自相关函数：更一般地，对任何有相同自相关。两个相同的自相关过程之间，仅且仅有一个过程是可逆的。为了唯一性，我们将选择的模型满足可逆性。第57页,共189页，2024年2月25日，星期天

定理2.2假定满足(2.1)，而且其系数多项式的根都不在单位圆上，则一定存在实数和白噪声序列使得

而且此式的系数多项式的根都在单位圆外。注：一个MA序列可以满足不同的两个（或者多个）MA模型。第58页,共189页，2024年2月25日，星期天第59页,共189页，2024年2月25日，星期天第60页,共189页，2024年2月25日，星期天

推论2.2：设为平稳序列，且，又设为其自协方差函数列，则有以下事实，(1)若为MA(q)序列，那么必在q后截尾。(2)若在q后截尾，而且满足

（2.3）那么必满足某一可逆的MA(q)模型。注：决定一个MA序列是否为可逆的MA序列取决于

是否成立。第61页,共189页，2024年2月25日，星期天第62页,共189页，2024年2月25日，星期天

例2.1：序列满足其中，为正态白噪声序列，经计算其协方差函数：考虑：第63页,共189页，2024年2月25日，星期天

当时，为可逆的MA(1)模型。其逆转形式：

当时，为不可逆的MA(1)模型。考虑白噪声作相应的改变：则为可逆的MA(1)模型。第64页,共189页，2024年2月25日，星期天

四.MA模型的可逆域与允许域定义2.3：MA(q)模型(2.1)式的系数参量矢量所组成的多项式对一切复数，则称满足上述条件的全体矢量为MA(q)模型的可逆域。定义2.4:MA(q)模型的系数参量矢量与序列自相关函数满足依赖关系(2.2)式，只有当能表达成(2.2)式形式时，才可成为某一MA(q)序列的前q个自相关函数值，于是我们称满足这一性质的全体构成MA(q)的允许域。第65页,共189页，2024年2月25日，星期天

五.MA(q)序列的偏相关函数定理2.3：为MA(q)序列，则的偏相关函数是拖尾的。递推计算方法同定理1.3第66页,共189页，2024年2月25日，星期天

例2.2：MA(1)序列其中，可逆域为：逆转形式为：自相关函数为：允许域为：第67页,共189页，2024年2月25日，星期天

偏相关函数为第68页,共189页，2024年2月25日，星期天

第69页,共189页，2024年2月25日，星期天第70页,共189页，2024年2月25日，星期天

例2.2：MA(2)序列其中，算子多项式为：可逆域为：逆转形式为：第71页,共189页，2024年2月25日，星期天

自协方差函数第72页,共189页，2024年2月25日，星期天

偏相关函数PACF是由的符号和量或等价于的根确定的承指数衰减或阻尼正弦波。第73页,共189页，2024年2月25日，星期天第74页,共189页，2024年2月25日，星期天第75页,共189页，2024年2月25日，星期天第76页,共189页，2024年2月25日，星期天第77页,共189页，2024年2月25日，星期天第三节自回归滑动平均模型一.自回归滑动平均模型的定义定义3.1我们称以下模型为p阶自回归与q阶滑动平均混合模型，以后简记为ARMA(p,q)模型，即

(3.1)

式中为白噪声序列，而且,对一切s<t成立，记

与没有公共根。第78页,共189页，2024年2月25日，星期天

定义3.2：当和的根都在单位圆外时，我们称(3.1)式为平稳可逆的ARMA(p,q)模型，相应的解称为平稳可逆的ARMA(p,q)序列。注：(1)当平稳序列的均值时，如果满足(3.1)式，仍称为ARMA(p,q)序列.(2)(3.1)中，当q=0时，为AR(p)序列；当p=0时，为MA(q)序列。(3)使用后移算子B，则(3.1)简写为第79页,共189页，2024年2月25日，星期天

二.ARMA(p,q)模型的传递形式与逆转形式1.传递形式令，并记式中有恒等式决定。则ARMA(p,q)模型的传递形式为第80页,共189页，2024年2月25日，星期天

2.ARMA(p,q)模型的平稳解及通解(1)平稳解特点：(i)为平稳线性序列；(ii)系数呈指数衰减，称为的Wold系数；第81页,共189页，2024年2月25日，星期天第82页,共189页，2024年2月25日，星期天第83页,共189页，2024年2月25日，星期天

(2)通解满足ARMA(p,q)模型的任何实值序列可写成如下形状：其中，是平稳解，为的全体互不相同的零点，有重数,随机变量由，唯一决定。第84页,共189页，2024年2月25日，星期天

ARMA(p,q)序列的产生：(i)由于故在t充分大后，就和平稳解相近了。(ii)产生方法第一步：取初值以及第二步：对较大的m,令可视为所需要的ARMA(p,q)序列。第85页,共189页，2024年2月25日，星期天

例3.1：产生(sample15)的300个样本，其中

第86页,共189页，2024年2月25日，星期天

3.逆转形式

令，并记式中由恒等式决定。则ARMA(p,q)模型的逆转形式为第87页,共189页，2024年2月25日，星期天

各种模型的转换关系：AR(p)MA(无穷阶)MA(q)AR(无穷阶)ARMA(p,q)AR(无穷阶)或MA(无穷阶)第88页,共189页，2024年2月25日，星期天

三.ARMA(p,q)序列的自协方差函数及特征1.自协方差函数其中，并规定，若j>q和，若j<0第89页,共189页，2024年2月25日，星期天

2.自协方差函数与系数和白噪声方差之间的关系(1)即，(3.2)第90页,共189页，2024年2月25日，星期天

由(3.2)式，取k=q+1,q+2,…,q+p,得(3.3)若方程组系数可逆，可求自回归系数向量第91页,共189页，2024年2月25日，星期天

(2)令

为MA(q)序列，则的自协方差函数为

(3.4)可知通过和可计算。

第92页,共189页，2024年2月25日，星期天

(3)由的定义知,为MA(q)序列，它的滑动平均系数向量可由下述非线性方程组解出，(3.5)第93页,共189页，2024年2月25日，星期天

例3.2：给定平稳序列的前5个自协方差函数利用这5个自协方差函数建立一个ARMA(2,2)模型。

第94页,共189页，2024年2月25日，星期天第95页,共189页，2024年2月25日，星期天

3ARMA(p,q)序列自相关函数的拖尾性ARMA(p,q)序列的自相关函数被负指数控制，即存在正常数,使得

即ARMA(p,q)序列自相关函数是拖尾的。第96页,共189页，2024年2月25日，星期天

四.ARMA(p,q)序列的偏相关函数定理3.1：为ARMA(p,q)序列，则它的偏相关函数是拖尾的。递推计算方法同定理1.3第97页,共189页，2024年2月25日，星期天第98页,共189页，2024年2月25日，星期天第99页,共189页，2024年2月25日，星期天

五.ARMA(p,q)的平稳域、可逆域和允许域

1.平稳域ARMA(p,q)模型为平稳的2.可逆域ARMA(p,q)模型为可逆的第100页,共189页，2024年2月25日，星期天

3允许域

由于与相互一一对应，为使得一个相关函数成为ARMA(p,q)模型的平稳域、可逆域中的某一组参数相对应，并使得公式(3.3),(3.4),(3.5)成立，满足上述条件的构成ARMA(p,q)的允许域。第101页,共189页，2024年2月25日，星期天

例3.3：ARMA(1,1)模型平稳可逆域：传递形式为：逆转形式为：第102页,共189页，2024年2月25日，星期天

协方差函数：(1)其中由所决定。(2)令表达了与的依赖关系。第103页,共189页，2024年2月25日，星期天

允许域：

当，当，第104页,共189页，2024年2月25日，星期天总结：1、自协方差函数，自相关函数AR(p):第105页,共189页，2024年2月25日，星期天MA(q):第106页,共189页，2024年2月25日，星期天

ARMA(p,q):(1)(2)(3)第107页,共189页，2024年2月25日，星期天2、偏相关函数

a.计算公式第108页,共189页，2024年2月25日，星期天b递推公式第109页,共189页，2024年2月25日，星期天c.AR截尾

MA拖尾

ARMA拖尾第110页,共189页，2024年2月25日，星期天

观察sample20中序列x1,x2,x3，找出其特点。第111页,共189页，2024年2月25日，星期天第四节求和模型一求和模型的定义及解的形式用平稳的ARMA(p,q)序列的求和所得到的非平稳时间序列，称为求和序列，它所满足的模型，称为求和模型。第112页,共189页，2024年2月25日，星期天

定义4.1设为随机序列，若满足下列条件：(1)对任意t，(2)存在正整数d,使得令为ARMA(p,q)序列，即满足因此满足

(4.1)则称(4.1)式为自回归求和滑动平均模型(Autoregressiveintegratedmovingaverage).记为ARIMA(p,d,q),相应的序列被称为ARIMA(p,d,q)序列。第113页,共189页，2024年2月25日，星期天

例4.1设为ARIMA(1,1,0)序列，有如下表达式令，则而为AR(1)序列，即第114页,共189页，2024年2月25日，星期天

X序列的图形(sample2.4.1)第115页,共189页，2024年2月25日，星期天

差分后(1-B)X，所得到的序列W第116页,共189页，2024年2月25日，星期天

W的前15个ACF和PACF第117页,共189页，2024年2月25日，星期天

例4.2ARIMA(1,2,1)(sample2.4.2)令则第118页,共189页，2024年2月25日，星期天

第119页,共189页，2024年2月25日，星期天

经过两次差分运算之后的序列W第120页,共189页，2024年2月25日，星期天

W的前15个ACF和PACF第121页,共189页，2024年2月25日，星期天

ARIMA(p,d,q)的通解：第122页,共189页，2024年2月25日，星期天

注1、以上两例的共同特征：具有较大的、不衰减的自相关函数并滞后一期特别大。非平稳的主要特征使得这些模型潜在的拖尾性不显著，我们可对各序列作差分使之显著。2、ARIMA(p,d,q)模型与多项式趋势的ARMA(p,q)模型

的区别。第123页,共189页，2024年2月25日，星期天

二、ARIMA模型的方差和自协方差以ARIMA(0,1,1)为例：

第124页,共189页，2024年2月25日，星期天

第125页,共189页，2024年2月25日，星期天特征：第126页,共189页，2024年2月25日，星期天

三方差平稳化变换通常非平稳过程的方差随其水平变化而变化，即问题：对一些正常数c和函数f，找到一个函数G使其变换有不变方差。

第127页,共189页，2024年2月25日，星期天

第128页,共189页，2024年2月25日，星期天

第129页,共189页，2024年2月25日，星期天

例4.3：美国人口总数（1790-1980）(sample2.4.3)第130页,共189页，2024年2月25日，星期天

对x作两次差分运算得到-10000000-50000000500000010000000150000002468101214161820zt第131页,共189页，2024年2月25日，星期天

作变换x1=log(x)第132页,共189页，2024年2月25日，星期天

对x1作两次差分运算得到第133页,共189页，2024年2月25日，星期天

二.单位根过程当d=1时的求和ARIMA(p,d,q)模型又被称为单位根过模型，相应的时间序列被称为单位根序列。如果一个时间序列的算子方程的根很接近1，则没有足够的数据量，在很多情况下很难与单位根序列区分开来。例:sample2.4.4第134页,共189页，2024年2月25日，星期天

三.平稳ARIMA(0,d,0)模型人们称ARMA(p,q)序列是短记忆的，对短记忆的序列不宜进行中长期预测。只有长记忆序列才具有作中长期预测的基础。通常可以按自协方差函数收敛到零的速度把平稳序列分为短记忆序列和长记忆序列。对实数d<0.5,如果自协方差函数就称该序列是长记忆序列。对于ARIMA(0,d,0)序列，由于故它是长记忆序列。第135页,共189页，2024年2月25日，星期天

第五节乘积模型随机序列的变化规律含有明显的周期性规律，例如气温、雨量、用水量、耗电量、交通运输、经济问题等都是由于季节变化或其他周期因素的物理机制所引起的，我们称这类随机序列为季节性序列。第136页,共189页，2024年2月25日，星期天

例5.1：某储蓄所1988年和1989年的各月储蓄额第137页,共189页，2024年2月25日，星期天

例5.2：美国月事故数据，1973-1978(sample2.2.5)第138页,共189页，2024年2月25日，星期天

需要考虑两个问题：1.季节之间的统计规律，2.季节之内的统计规律。第139页,共189页，2024年2月25日，星期天

一.纯季节模型首先建立模型(5.1)其中并且，的根都在单位圆外，在相隔T步上为白噪声序列，而相隔小于T步时是相关的，即第140页,共189页，2024年2月25日，星期天

其次，仍为平稳序列，故需对建立ARMA(p,q)模型，

(5.2)其中对季节内外为白噪声序列，将(5.2)代入(5.1)中，有即(5.3)称(5.3)为季节为T的纯季节性模型，简记为模型，又称(5.3)为乘积模型。第141页,共189页，2024年2月25日，星期天

例5.3：1985至2000年北京平均气温(sample2.4.6)

第142页,共189页，2024年2月25日，星期天

差分第143页,共189页，2024年2月25日，星期天

二.既有季节又有趋势模型

定义，表示间隔T步的D阶差分,D为正整数。于是，有季节为T又有趋势性的模型为(5.4)在季节之内也具有趋势性的模型为(5.5)综合(5.4),(5.5)，得到既有季节为T又有趋势性的统一模型为(5.6)称(5.6)为既有季节为T又有趋势性的乘积模型，简记为模型。

第144页,共189页，2024年2月25日，星期天

例5.4：模型可表示为即可以看出，为ARIMA(13,1,1)序列，但自回归部分阶数较高,且的系数为零，所以有时称乘积模型为高阶疏系数模型。第145页,共189页，2024年2月25日，星期天

例5.4：1990年1月至1997年12月我国工业生产总值(单位：亿元)sample2.4.7第146页,共189页，2024年2月25日，星期天

为消除趋势同时减小序列的波动，对原序列做一阶自然对数逐期差分xc=log(x)-log(x(-1))，第147页,共189页，2024年2月25日，星期天

对序列xc做季节差分：sxc=xc-xc(-12)第148页,共189页，2024年2月25日，星期天三、广义ARMA模型与疏系数模型模型：

式中为白噪声序列，而且,对一切s<t成立，记

与没有公共根。的根不加限制，的根都在单位圆上和圆外。第149页,共189页，2024年2月25日，星期天分解：其根分别在单位圆内、上和外。1）q=0，广义AR模型2）的根不在单位圆上，

求和模型；3）的根不在单位圆上，纯季节模型第150页,共189页，2024年2月25日，星期天模型：

式中为白噪声序列，而且,对一切s<t成立。第151页,共189页，2024年2月25日，星期天第六节时序中的回归模型一.普通回归模型

(6.1)其中，为白噪声序列，为非随机的可观测的时变量。其均值函数为(6.2)第152页,共189页，2024年2月25日，星期天

二.回归与自回归混合模型定义6.1

如下模型称为回归与自回归混合模型(并联模型)：(6.3)(6.4)其中，为白噪声序列，且,参数满足平稳性条件。为非随机的可观测的自变元。比如：它们可为多项式，三角函数等。第153页,共189页，2024年2月25日，星期天

定义6.2另外一种混合形式(串联模型)为

(6.5)其中,为白噪声序列,且参数满足平稳性条件，是非随机的，时变的和可记录的。比如：它们可为多项式，三角函数等。第154页,共189页，2024年2月25日，星期天

三.两者的联系和区别共同之处：都表示一个平稳序列与非随机序列之和。对(6.3)令

于是，对(6.5)令于是，

不同之处：(6.3),(6.4)待估参数以非线性形式出现；(6.5)待估参数以线性形式出现。第155页,共189页，2024年2月25日，星期天

例6.1：回归与自回归混合模型p=s=1其中为模型参数，且为白噪声序列。第156页,共189页，2024年2月25日，星期天第157页,共189页，2024年2月25日，星期天

特例：p=s=1,,为正态噪声，sample25第158页,共189页，2024年2月25日，星期天第七节非线性时间序列模型例7.1考察某一经济系统，设第t年某一产品产量为，把它投入再生产，第t年的回收率为，经济学理论认为为MA(1)序列，即其中为相互独立的白噪声序列，而回收率为第159页,共189页，2024年2月25日，星期天

故第t年该产品产量满足如下模型(7.1)我们称(7.1)式为双线性模型。第160页,共189页，2024年2月25日，星期天另一例子：式中为正态白噪声序列第161页,共189页，2024年2月25日，星期天一般的双线性模型：式中为正态白噪声序列，而且与独立。第162页,共189页，2024年2月25日，星期天

例7.2门限自回归模型如下(sample26)

(7.2)其中，为白噪声序列，且特点：既无趋势性又不太像有季节性，图形是由一些宽窄不大相同的“锯齿形”组成的。第163页,共189页，2024年2月25日，星期天

第164页,共189页，2024年2月25日，星期天另一例子：第165页,共189页，2024年2月25日，星期天更一般形式：

第166页,共189页，2024年2月25日，星期天

最一般的非线性模型如下形式：

(7.3)其中，f为满足某些解析条件的非线性函数，是相互独立白噪声序列或白噪声。第167页,共189页，2024年2月25日，星期天

一.非线性序列的模型

1.非线性自回归（NAR）模型

xt=

(xt-1,xt-2,…,xt-p)+et,t=1,2,…(7.4)其中

(…)为p元可测函数,{et}为i.i.d.序列,且Eet=0.这里和后面还总假定et与{xt-1,xt-2,…}独立。第168页,共189页，2024年2月25日，星期天

经计算，得E{xt

xt-1,xt-2,…}=E{xt

xt-1,xt-2,…,xt-p}=E{

(xt-1,xt-2,…,xt-p)+et

xt-1,xt-2,…,xt-p}=

(xt-1,xt-2,…,xt-p)+E{et

xt-1,xt-2,…,xt-p}=

(xt-1,xt-2,…,xt-p).(7.5)(此处依et与{xt-1,xt-2,…}独立和Eet=0)而且,

Var{xt

xt-1,xt-2,…}=E{[xt-

(xt-1,xt-2,…,xt-p)]2

xt-1,xt-2,…}=E{et2

xt-1,xt-2,…}=Eet2=

2.(byEet2=

2)第169页,共189页，2024年2月25日，星期天

1）指数自回归模型(ExponentialAutoregressiveModel)由T.Ozaki,1978年提出它的形式可表为(7.6)其中，都是模型的待估参数，为白噪声序列，模型(7.6)简记为EAR(p)。特别地，当时，(7.6)退化为线性p阶自回归模型。第170页,共189页，2024年2月25日，星期天

2）时变系数AR(p)模型(timevaryingcoefficientAR)例：其中，是模型在时刻t的系数，且独立于而是Gaussian白噪声，均值为零。第171页,共189页，2024年2月25日，星期天

2.条件异方差NAR模型

xt=

(xt-1,xt-2,…,xt-p)+s(xt-1,xt-2,…,xt-p)et,t=1,2,…(7.7)

其中

(…)和s(…)为p元可测函数,{et}为i.i.d.序列且Eet=0.第172页,共189页，2024年2月25日，星期天

E{xt

xt-1,xt-2,…}=E{xt

xt-1,xt-2,…,xt-p}=E{

(xt-1,xt-2,…,xt-p)+s(xt-1,xt-2,…,xt-p)et

xt-1,xt-2,…,xt-p}=

(xt-1,xt-2,…,xt-p)+s(xt-1,xt-2,…,xt-p)E{et

xt-1,xt-2,…,xt-p}=

(xt-1,xt-2,…,xt-p).(7.8)

Var{xt

xt-1,xt-2,…}=E{[xt-

(xt-1,xt-2,…,xt-p)]2

xt-1,xt-2,…}=s2(xt-1,xt-2,…,xt-p)E{et2

xt-1,xt-2,…}=s2(xt-1,xt-2,…,xt-p)Eet2=s2(xt-1,xt-2,…,xt-p).(不再是常数!)第173页,共189页，2024年2月25日，星期天

3.非可加噪声NAR模型一般说来,非可加噪声NAR模型太广泛了,以至无法研究,甚至于没有研究价值。比如

xt=

(xt-1,xt-2,…,xt-p;et),t=1,2,…(7.9)

又如

(xt,xt-1,…,xt-p+1;et)=0,t=1,2,…

第174页,共189页，2024年2月25日，星期天

二.组合模型例:

xt=

txt-1+et,(7.10)

t=

t-1+

t,

(7.11)

其中{et}和{

t}为相互独立的i.i.d.序列。此时模型(7.10)可称为时变系数的1阶AR模型,其系数又满足另一个1阶AR模型。后一模型是变化相对缓慢的,即

小于1,但接近1。第175页,共189页，2024年2月25日，星期天

1.双重线性模型(BilinerModel)C.W.Granger和A.P.Anderson,1978年它