北航 时间序列与谱估计(2017-L6)0

1、时间序列与谱估计 第七章 自回归谱估计：方法第七章 自回归谱估计：方法n自相关法自相关法n协方差法协方差法n修正协方差法修正协方差法n伯格法伯格法n递推极大似然估计器n模型阶次的选择模型阶次的选择n噪声噪声AR过程的谱估计过程的谱估计n计算机仿真举例计算机仿真举例概述nAR过程的特性，参数及谱估计的统计特性nAR过程的特性n与预测滤波器的关系n三种等价表示n参数及谱估计n隐含相关函数延拓n最大熵延拓n最大谱平坦度（白化预测误差）概述nAR过程的特性，参数及谱估计的统计特性n参数及谱估计nAR谱估计的界n极大似然估计n参数及反射系数的统计特性n谱估计的统计特性概述n实用谱估计算法n自相关法自相关

2、法n协方差法协方差法n修正协方差法修正协方差法n伯格法伯格法n递推MLE法n这些方法是近似MLE，长数据，性能相似；短数据，存在一些显著差别概述n对于短数据，这些算法仍有较好性能，计算量适中n除递推MLE外，均应用预测误差功率最小的方法，是基于极大似然的观点n递推MLE试图通过递推极大化似然函数来获得较好的MLE近似值，但此处递推仅适合于实数据。自相关法nMLE(6.5.1) 极大化条件PDF 预测误差功率极小，即极小化下式n自相关法n观测数据n预测误差功率121Npnpjjnxjanx1,1 ,0NxxxnpjjnxjanxN211) 1 . 7(自相关法n自相关法n关于ak微分，得n矩阵形

3、式为pkknxjnxjanxNnpj, 1, 01*1)2 . 7( 1 0 2 1 02 1)2(0 1 )1( 10prrrpaaarprprprrrprrrxxxxxxxxxxxxxxxxxxxxxxxx)3 . 7(自相关法n自相关法n其中n(7.4)式是有偏估计，自相关矩阵是Hermitian, Toeplitz，且是正定的；与基于有偏ACF估计的Yule-Walker方程等价，可由Levinson算法求解，最小相位特性保证极点在单位圆内。1,),2(),1(, 1 , 0, 110ppkkrpkknxnxNkrxxkNnxx)4 . 7(自相关法n自相关法n白噪声方差估计为npkp

4、kpknpkMINknxkaknxkanxnxknxkanxNknxkanxN1*1*1212 1 1pkxxxxkrkar12 0)5 . 7(自相关法n自相关法n白噪声方差估计也可由Levsinson算法，得n自相关法与其它将要讨论的算法比较，谱估计的分辨率差，对于短记录数据，通常不使用自相关法。n如果对于(7.4)式采用无偏ACF估计，得到的自相关矩阵不能保证正定性，矩阵可能奇异或接近奇异，谱估计产生较大方差。221 01 |pxxiirk)6 . 7(协方差法n协方差法n预测误差功率n求预测误差功率不需数据补零，得参数方程1211NpnpjjnxjanxpN)7 . 7(0 ,0 ,

5、20 , 1 2 1 ,2 , 1 , 22 , 2 1 , 2, 1 2 , 1 1 , 1 pcccpaaappcpcpcpcccpcccxxxxxxxxxxxxxxxxxxxxxxxx)8 . 7(协方差法n协方差法n其中n白噪声估计为n系数矩阵是Hermitian和半正定，不能保证极点在单位圆内。例如，当p=1,N=2时，a1的估计为 ，它的幅度可大于或等于1。11,NpnxxknxjnxpNkjcpkxxxxMINkckac12, 0 0 , 0)9 . 7(110 xax 修正协方差法n前向预测n后向预测pkknxkanx1 )16. 7(pkknxkanx1 )17. 7(修正协

6、方差法n修正协方差法：使前后向预测误差平均值达极小方法n平均预测误差功率：n其中bf21)18. 7(21121*011 1 pNfn pkNppbnkx na k x nkNpx na k x nkNp )19. 7(修正协方差法n修正协方差法n关于参数微分，得1*11*011 1 ,1,pNn pkNppnkx na k x nkx nla lNpx na k x nkx nllpNp )20. 7(pllnxnxlnxnxlnxknxlnxknxkapNnNpnNpnpNnNpn, 1 101110*1*)21. 7(修正协方差法n令n参数方程为0 ,0 , 20 , 1 2 1 ,2

7、, 1 , 22 , 2 1 , 2, 1 2 , 1 1 , 1 pcccpaaappcpcpcpcccpcccxxxxxxxxxxxxxxxxxxxxxxxxpNnNpnxxknxjnxknxjnxpNkjc101)(21,)22. 7()23. 7(修正协方差法n白噪声方差估计为n最后，有n修正协方差法不能保证建立一个稳定的全极点滤波器。修正协方差法不能保证建立一个稳定的全极点滤波器。12*11*011 2()1 2()pNMINn pkNppnkx na k x nkx nNpx na k x nkx nNp pkxxxxMINkckac12, 0 0 , 0)24. 7(伯格法n基本

8、思想n先估计反射系数，采用递推，使各阶前后向预测误差极小n利用Levinson算法递推得到AR参数估计n如果已求 ，则AR参数估计为)0( )| 1 |1 ( 1 | |10211102xxNnxxrakanxNr,21pkkk伯格法n对于k=2,3,pnAR参数的估计为n白噪声估计为n对上述各步求反射系数关于前后向预测误差最小解。12*11| |1,1, 1,kkkkkkkkkakikkiikakiaia,2,1 2paaappp)25. 7()26. 7(伯格法n伯格方法n设前k-1个反射系数已求，根据(7.25)式，下式的前后向平均预测误差仅为第k个反射系数kk的函数:n其中bkfkk2

9、1)27. 7(21121*011 1 pNfkkn kipNkbkknkx na i x niNkx na i x niNk )28. 7()29. 7(伯格法n伯格方法n定义前后向预测误差*11 ,1,1 ,kkkkkaik akiika ikik)30. 7(1*1 kfkkikbkkienx na i x nie nx nka i x nki)31. 7()32. 7(伯格法n伯格方法n定义前后向预测误差功率为121211NknbkbkNknfkfknekNnnekNn)34. 7()33. 7(伯格法n伯格方法n将(7.30)代入(7.31),(7.32)中，得n其中 1 11*11

10、1nekneneneknenefkkbkbkbkkfkfk)35. 7()36. 7(00nxnenebf伯格法n伯格方法n因此，有121*11211 1)(21 1)(21NknfkkbkNknbkkfkkneknekNneknekN)37. 7(伯格法n伯格方法n关于 微分，得kk111111111 1111 0Nfbbkkkkkn kkNbffkkkkn kenk enenkNkenk enenNk111122112 1| |1|Nfbkkn kkNfbkkn ken enkenen)38. 7(伯格法n伯格算法n初值2, 1 , 0,1, 2 , 1,)0(| |10000102Nnn

11、xneNnnxnernxNrbfxxNnxx)39. 7(伯格法n对于k=1,2,p有111122112 1| |1|Nfbkkn kkNfbkkn ken enkenenkikkiikakkiaiakkkkk,1, 1, *11211 | |kkka k)40. 7(伯格法n n最后，估计的AR参数为： 11*11 1,1,1 1 ,2ffbkkkkbbfkkkkenenk ennkNe nenk ennkN)41. 7(,2,1 pppppaaa伯格法111122112 1| |1|Nfbkkn kkNfbkkn ken enkenen伯格法中第k个反射系数kk估计的分母DEN(k)可递推

12、地计算212211( )(1 | )(1)|1|1|kfbkkDEN kkDEN kekeN模型阶次的选择n对于AR(p)过程，预测误差满足：n预测误差可估计AR(p)模型的阶，由于数据的有限，由预测误差估计AR模型的阶会有较大误差。rrppp, 0minmin1min1min21minmin(1 | )kkkk模型阶次的选择n如果模型阶数的估计低于实际模型阶数，则谱估计将损失有用谱信息；n如果模型阶数的估计高于实际模型阶数，则谱估计的方差增大。22| )(|)()(fjeexxeAfPfP212212, 0)(2, 0)(4)(varffPNpffPNpfPARARAR模型阶次的选择n阿凯克

13、最终预测误差(FPE)准则:极小化FPE(k)n n阿凯克信息准则(AIC)：极小化AIC(k)n n短数据，使用AIC；长数据，两种方法将得到相同的模型阶次估计。 kkNkNkFPE)()53. 7(kNkAICk2ln)()54. 7(模型阶次的选择n对于长数据，两者性能相近：对于长数据，两者性能相近：1/ln( )lnln1/kk NFPE kk N11ln21xxxx当时，有2ln( )lnkkFPE kN当k/N1时，ln( )ln2( )kNFPE kNkAIC k阿凯克信息准则(AIC)推导模型阶次的选择n自回归传递函数准则(CAT):极小化CAT(k)nCAT选择选择AR模型阶次，使得由该模型估计出的模型阶次，使得由该模型估计出的预测误差滤波器最接近于最佳无限长滤波器。预测误差滤波器最接近于最佳无限长滤波器。（CAT是对基于任意数据组的是对基于任意数据组的AR谱估计导出的，谱估计导出的，并不是仅对纯并不是仅对纯AR过程）过程） iikkiiiNNNkCAT111)(1)57. 7(噪声AR过程的谱估计n观测数据：n nxn是AR过程，数据yn的功率谱为： nwnxny222)()(wyyfAfP噪声AR过程的谱估计n常用谱估计方法nARMA模型估计，可看成ARMA(p,p)模型；n数据预滤波，减小观测噪声；n补偿AR参数由于噪声引