自回归模型AR参数估计

1、自回归模型 AR(p) 的整体估计1 自回归模型 11.1 模型 at, 回归系数用 j( j 1,2, ,p)子样观测值 xi,i 0, 1, , 白噪声序列表示为(1)表示，则可得到的 AR模型：xt1xt 1 2xt 2pxt p at1.2 模型参数的最小二乘估计设样本观测值 Xt ,t 0, 1, ，记则 AR(p) 模型可以表示为Yxp 1xp 2xN Tap 1ap 2aN T12pTpxpxp 1x1Axp 1xpx2xN 1xN 2xN pYA2)由最小二乘原理可得到模型参数的估计为? (AT A) 1ATY那么根据最小二乘估计值可以得到噪声的估值为a?t xt xt 1?1

2、 xt 2?2xt p ?p (t p 1, ,N)噪声方差 ?a2 的最小二乘估值为21N 21 Tu1 a?t21 ?T ?N p t p 1 N p2 整体最小二乘法参数估计 在进行许多时间序列分析的实际问题中，建立模型的主要目的就是在确定模型参数之 后，对未来可能出现的结果进行分析预报。 而结果又与自身前一个或前几个时刻的观测值有 关，观测必有误差的存在，所以不能忽略之前观测值A 的随机误差。整体最小二乘法就是同时考虑自变量和因变量误差存在的算法。方程(2) Y A 与线性回归方程具有相同的形式。在线性回归中y=ax+b，自变量 x是确定的， y和b是随机变量。在 AR(p)模型中 x

3、t 1,xt 2, 自然也是随机变量，但在 t-1 时刻，它们均已确定不变，所以 AR(p) 模型可以看做条件线性回归模型，故可用多元回归分析中的 有关方法进行参数估计 1 。A 作为自身前一个或前几个时刻的观测值是确定已知的，但在观测中是含有随机误差的， 在计算中应该考虑其所含误差的影响。 应用整体解算的方法进行解 算。2.1 整体最下二乘原理及解算步骤。TLS的基本思想可以归纳为 2 : 观测方程 Y X 中，不仅观测向量 Y中存在误差 Vy，n,1 n,m m,1同时系数矩阵 X 中也含有误差 VX。此时，可用 TLS方法求得参数。也就是说，在 TLS中，考虑的是矩阵方程X VX = Y

4、 VY2-1)的求解。 XY, X X VX，Y Y VX2-2)在测量数据处理中， n 为观测个数， m为参数个数，通常情况下矩阵 X 的秩m n 。显然式( 2-1 )的矩阵表示为 X Y V X2-3)或等价为2-4)其中：B Xn ,m 1 n ,mY 为增广矩阵， D n ,1V X VY 为误差矩阵，Zm 1,1m,11求解上式的整体最小二乘方法可以表示为约束最优化问题：minF2-5)D 是 D 的 F ( Frobenius ) 范数。 F求的 D=min 的问题称为 TLS问题，若能找到式 (2-1) 的一个最小点 V XO VYO， 3则任何满足 X V XO Y VYO

5、的 都称为 TLS解求解 TLS 问题的主要工具是奇异值分解4，得令 YXTTXXYXTTYY ,YTYk m 1,ZXTYYTY综上所述，求解矩阵方程Y X 中参数 的 TLS 解 TLS 的步骤为n,1 n,m m,1(1) 列观测方程式YX;n,1 n,mm,1(2) 构成增广矩阵BXY;n,m 1n,mn,1N XXN XYNXY NYY，得 ?NXXm 1I NXY(3) 求矩阵 BT B的特征值，并求出最小特征值m 1;(4) 计算参数的 TLS 解m,1Nm,XmXm 1 mI,mNXY 。m,12.2 自回归模型 AR(p)的整体估计线性模型： Y A用矩阵形式表示： Y X

6、?式中： X A, ?可得： ? NXXm 1I NXY ，3 实例分析以文献 3 例 5.6 的数据为样本观测数据，共计 36 个数据 沉降观测数据序数高程序数高程序数高程序数高程序数高程序数高程126.33725.931326.671928.092526.813126.81226.27826.431427.952026.782628.503228.50326.43926.521526.742128.662727.683327.68425.561025.461627.532226.752826.573426.57526.821126.121725.312327.242928.363528.36626.561227.281826.902428.023027.943627.94(1) 模型参数的最小二乘估计由文献 3 得模型阶数为 p 3误差方程 vi b?1xi 1 b?2xi 2 b?3xi 3 xi ,i 4,5, ,36参数估计为?b1?b2?b3?0.041087(XTX) 1XTY 0.3278090.635059得自回归模型 xi 0.041087xi 1 0.3278