基于平稳时间序列模型的鞅变换参数估计问题

1、摘要 # I摘要消费者信心指数在一定程度上反应了经济发展的现状，论文基于这一指数建立的平稳时间序列模型，研究了该模型的参数估计问题论文主要内容如下：首先，介绍了一种新的估计平稳时间序列模型的参数估计方法，给出了拟积分函数是积分函数到鞅变换估计空间的投影以及当核函数从可数集中选取时，变换积分函数可以逼近积分函数的证明，为最优化鞅变换估计函数提供了理论依据然后，针对鞅变换估计函数的优化问题提出了一种猜想其次，分析了消费者信心指数的时序图，通过平稳时间序列模型的识别方法，得出其为AR模型然后，计算出该数据的自相关和偏相关系数值，并通过SAS软件，选择了阶数适当的平稳时间序列模型进行拟合和优化处理再次

2、，使用实值核函数，构造出鞅变换拟积分函数，并利用MATLAB,对构造的函数进行了渐近逼近分析，得出该参数的拟最大似然估计针对消费者满意指数和消费者期望指数模型，通过对不同鞅变换拟积分函数的渐近逼近分析，得出这些参数的拟最大似然估计最后，通过SAS软件，对三种不同的模型进行了预测，从而验证了该方法用于AR模型参数估计的有效性关键词核函数；积分变换；鞅变换估计函数；投影；最优鞅变换合并大学理学硕士学位论文目录Abstract IIIAbstractToacertainextent,consumerconfidenceindexisareflectionofthestatusofeconomicde

3、velopment.Thispaperresearchestheparametersofthemodelestimationproblembasedonthisindexestablishedbystationarytimeseriesmodel.Thesisasfollows:Firstly,paperintroducesanewestimateoftheparametersofstationarytimeseriesmodelestimationmethodandgivestheproofoftwo.Ontheonehand,integralfunctionisafunctiontobei

4、ntegraltothemartingaletransformatetheorthogonalprojectionofspace.Ontheotherhand,whenthekernelfunctionselectedfromacountableconcentration,thetransformfunctioncanapproximateintegralfunctionintegral.Theseproovestooptimizethemartingaletransformestimationfunctionprovidesatheoreticalbasis.Thenpaperpropose

5、saconjectureforthemartingaletransformestimatefunctionoptimizationproblems.Secondly,paperanalyzestheconsumerconfidenceindexofthetimingdiagram.Throughthestationarytimeseriesmodelidentificationmethods,paperchoicesARmodel.ThenthroughSASsoftware,papercalculatesthedataautocorrelationandpartilcorrelationco

6、efficientandselectestheorderoftheTTtappropriatestationarytimeseriesmodelfittingandoptimization.Thirdly,byusingthereal-valuedkernelfunction,paperconstructsamartingaletransformtobeintegralfunctionandbyusingMATLAB,paperanalyzestheasymptoticapproximationonthesructuredfunction.Itobtainsthequasi-maximumli

7、kelihoodparameterestimation.Fortheconsumersatisfactionindexmodelandtheconsumerexpectationsindexmodel,paperobtainsthequasi-maximunlikelihoodparameterestimationthroughtheanalysisofapproximtiontobedifferentmartingaletransformationintegralfunction.Finally,throughtheSASsoftware,threedifferentmodelsarepre

8、dictedandthenpapervalidatesthemethodwhichusedtoestimatetheeffectivenessofARmodelparameters.KeywordsKernalfunction;Integraltransform;Martingaletransformestimatefunction;projection;Optimalmartingaletransformcombined目录TOC o 1-5 h z HYPERLINK l bookmark0 摘要IAbstractII第1章绪论1 HYPERLINK l bookmark6 1.1课题背景

9、1 HYPERLINK l bookmark8 1.2国内外研究的现状和趋势2 HYPERLINK l bookmark10 1.3选题意义与文章的结构4 HYPERLINK l bookmark12 1.4小结4 HYPERLINK l bookmark20 第2章预备知识5 HYPERLINK l bookmark22 2.1ARMA模型及特征5 HYPERLINK l bookmark24 AR模型5 HYPERLINK l bookmark28 MA模型6 HYPERLINK l bookmark40 ARMA模型7 HYPERLINK l bookmark48 2.2用自回归AR模型

10、拟合平稳时间序列8 HYPERLINK l bookmark50 2.3ARMA模型的参数估计8 HYPERLINK l bookmark52 ARMA模型的极大似然估计8AR模型的矩估计（尤尔-瓦尔克估计）及渐近性质9 HYPERLINK l bookmark68 AR模型的最小二乘估计12 HYPERLINK l bookmark92 2.4自相关函数和偏自相关函数13 HYPERLINK l bookmark126 2.5小结14 HYPERLINK l bookmark128 第3章基于积分变换的鞅估计153.1基本结构153.1.1基本符号153.1.2基本概念153.1.3选择有效

11、积分函数的规则20 HYPERLINK l bookmark153 3.2把基于变换的的鞅估计函数代入拟似然框架21 HYPERLINK l bookmark205 3.3最优鞅变换估计函数22 HYPERLINK l bookmark207 3.3.1最优化和投影22 HYPERLINK l bookmark223 3.3.2获取鞅变换估计函数的方法253.3.3核函数类和计算问题303.4比较鞅拟积分函数函数333.4.1比较G*（t，,t）和G*（1,.,k）33n1kn3.4.2选择变换拟积分函数35 HYPERLINK l bookmark271 3.5小结36 HYPERLINK

12、l bookmark273 第4章对消费者信心指数模型参数估计及预测37 HYPERLINK l bookmark277 4.1平稳序列建模步骤38 HYPERLINK l bookmark279 4.2通过ACF,PACF对模型识别和定阶39 HYPERLINK l bookmark285 4.3使用鞅变换估计方法对模型参数估计41 HYPERLINK l bookmark287 4.4模型检验42 HYPERLINK l bookmark289 4.4.1模型的显著性检验42 HYPERLINK l bookmark291 4.4.2参数的显著性检验434.4.3模型优化43 HYPERL

13、INK l bookmark293 4.5序列预测43 HYPERLINK l bookmark297 4.6小结49 HYPERLINK l bookmark299 结论51 HYPERLINK l bookmark301 参考文献52攻读硕士学位期间承担的科研任务与主要成果56致谢57作者简介58大学理学硕士学位论文第1章绪论 第1章绪论1.1课题背景时间序列分析是数理统计中的一个重要分支，其在经济领域中的应用一直是人们关注的焦点，目前已经扩展到航天、水利、信息、生物工程等高端技术领域中.如生物工程中的dna序列分析和生物医学信号序列分析、噪声型号的时序分析等时间序列还可用来预报将来的趋势

14、，通过干预来控制将来的事件早在古埃及时，古埃及人开始关注尼罗河泛滥的规律，把涨落情况按时间顺序记录下来，进行分析和处理数据，为古埃及人民服务如今随着科学技术日新月异的发展，伴随着计算机的使用，挖掘时间序列中包含的信息有待于改进和提高，以便更真实的模拟规律这就需要对时间序列模型本身进行细致入微的研究.时间序列的模型从非参数模型发展到参数模型是广义时间序列分析发展中的一个突破.1931年，Walker1在预测领域使用了AR模型此后，逐步发展了时间序列模型，比如ARMA模型、多维ARMA模型、非平稳时间序列模型4、非线性时间序列模型等等.在拟合平稳时间序列过程中，对模型识别以后，还需要定阶，这些步骤

15、既粗糙，工作量又相当的大.因此，目前人们对平稳时间序列模型拟合时，常采用AR模型，一方面，用此模型进行拟合平稳时间序列有许多良好的性质，另一方面，很容易识别模型，并从理论角度可以证明其合理性.目前，对于时间序列的模型，其参数估计，一般采用矩法6和最小二乘估计7法，但是在处理生活中的一些数据时，碰到的问题，大概包括以下三种情形：首先，用无限方差线性过程模拟特定的时间序列现象，特别地，在经济学和有误差线性时间序列的信息处理中具有平稳分布的模型，一般情况下，没有闭合解表达式适合域过程的密度似然方法.参考McCulloch和Nikias和Shao.其次，有丰富的离散类和非高斯连续型变量时间序列模型，其

16、中一类包含指数鞅分布或伽马分布a,另一类包含诸如泊松分布，几何分布和负二项分布10的适用于独立随机变量模拟计数的离散边际分布的平稳过程.这些非高斯模型有难处理的似然函数，因为它的复杂或内在不连续性.参考Grunwald讨论的一阶回归过程，以及Billardi2和Alzaid13讨论的高阶回归的情形.第三，有一些集合模型，如马尔可夫链集和在经济人口理论等许多领域中使用到的相关的区间模型，参考Mcleish/和Leitnakerlzaidm这些模型涉及到卷积，他们的密度函数很难表示出来.而且以上这些模型参数的最大似然估计是不可行的，即使在其他的估计模型中，通常也是仅使用分布的前两矩.但是，我们发现

17、以上这些模型却可以用可积变换(比如：特征函数is,拉普拉斯变换I概率母函数18)特殊表示.很自然的，要求离散时间随机过程的估计方法应能很方便的由条件积分变换来描述.本文正是从条件积分变换入手，采用拟似然函数对参数进行估计.这方法涉及到把鞅变换估计函数类代入拟似然框架的构造.在离散时间随机过程的参数估计中，把得不到的积分函数应用到这些函数类构成的特定线性空间中，获得了变换拟积分函数.任何一个主积分变换的特定过程使积分函数在鞅变化拟积分函数的优化组合的无限维的希尔伯特空间中任意逼近成为可能.还指出拟似然函数方法在无条件限制的二阶矩过程应用的域中的推广.1.2国内外研究的现状和趋势自时间序列模型的参

18、数估计方法在勒让德提出的最小二乘理论以及高斯i9(G.F.Gauss)提出的最大似然理论基础上，给出了最小二乘法和最大似然估计方法以来，在时间序列模型参数估计研究方面，许多学者都进行了深入的研究并取得了许多成果.姚琦伟教授首次建立了在空间域上ARMA过程的最大似然估计理论，这一工作Hanna20给出的关于时间序列的最大似然估计理论，首次给出了一个完整的时域上的证明；赵莉等利用差分最小二乘法对信息技术增长及扩散模型进行参数估计；熊渊博21提出了一种ARMA模型的拟线性估计方法，通过两次AR模型的估计实现了ARMA模型的精确参数估计；黄雁勇提出一种ARMA模型估计方法，通过DEP算法构造具有遗传对

19、称正定性的矩阵来近似Hesse矩阵的逆，从而实现对该模型的参数估计；朱慧明针对ARMA模型建模过程中模型识别和参数估计易受观测值异常点影响问题，运用贝叶斯方法估计模型的参数目前，在工程应用方面，人们更多的是用AR模型来拟合实际序列.在力觉临场感遥控机器人系统中，为解决力觉临场感遥控机器人系统的时延问题，把预测器引入该系统，在时延条件下实现了对机械手较为准确的控制，该预测器就是基于AR模型对从手与环境间的作用力进行预测的24；在随机信号处理方面，功率谱25是描述随机型号基本特征的重要参数，用拟牛顿法血的AR模型对产生的潜漂移现象、谱分裂现象和频率分辨能力进行模拟，得到了很好的估计另外，在超导重力

20、数据信号检测27，在车型自动分类技术，在反辐射导弹检测算28等一系列高端技术中有着广泛的应用但是，在以上模型中，密度函数有时很难找到，甚至涉及到卷积，后来，人们发现这些模型可以用他们的概率母函数简单表示出来于是基于积分变换的一些统计方法先继提出.这个方法最早源于Merkouris】29的早期工作，他介绍了基于条件积分变换的离散时间半鞅序列的拟似然估计.Feuervergera讨论了单变量平稳时间序列模型中基于单特征函数的渐近有效估计方法.Brockwell31使用经验特征函数估计稳定更新的线性过程.Shulue,Feigin】33,Hoetinge把拉普拉斯变换用于多阶模型的级数时间分布参数估

21、计中.Abrahams使用经验拉普拉斯变换估计一阶逆高斯自回归过程的参数.Yaoe使用基于经验变换的最小二乘方法估计一类索引随机模型.随着高新技术的发展，在机器人的控制领域，手部运动模式的识别方面，车型的自动分类技术方面，在神经网络估计针电极肌电信号方面，此方法对于模型的参数估计，起着越来越重要的作用.1.3选题意义与文章结构对AR模型的参数估计方法，涉及到密度函数，有时很难得到，有时还涉及到卷积，这给参数估计带来了很大的不方便，基于积分变换的函数可以很容易的得到，比如拉普拉斯变换，概率母函数，特征函数等.从积分变换入手对于参数的统计在计算上更加适用.文章结构如下：第1章绪论.介绍时间序列AR

22、模型的课题背景及国内外的研究现状和趋势，阐明论文的研究意义和文章结构第2章自回归滑动平均模型，自回归模型和滑动和模型.从三种模型的参数估计及渐近性质，分析它们的不同特点及其应用范围，重点介绍使用自回归模型对实际序列进行拟合.第3章鞅变换估计函数参数估计法.在条件积分变换理论基础上建立了拟似然估计参数的方法，使任何一个主积分变换的特定过程使积分函数在鞅变化拟积分函数的优化组合的无限维的希尔伯特空间中任意逼近成为可能第4章鞅变换估计函数参数估计法对上证指数数据模型的检验，证明了该参数估计方法在解决自回归滑动平均模型的有效性.1.4小结作为首章绪论，本章的主要目的是介绍课题背景和铺垫全文，主要包括以

23、下几个小节.第一节课题背景部分，阐述了课题的来源，其所属领域与该领域的应用，为本篇论文做一个全局的定位.第二节介绍了时间序列AR模型的国内外研究现状和趋势，使对该领域的研究有一个大体的了解.第三节中介绍了选题的意义和本篇论文的结构安排，给读者呈现一个清晰的层次.有了本章的基奠，后面章节的论述才能言之有据，据理成章.大学理学硕士学位论文第2章预备知识 第2章预备知识2.1ARMA模型及特征ARMA模型的全称是自回归滑动平均(autoregressionmovingaverage)模型，它是目前最常用的拟合平稳序列的模型它又细分为AR(autoregressionmodel)模型、MA模型(mov

24、ingaveragemodel)和ARMA模型(autoregressionmovingaveragemodel)三大类.AR模型定义2.1.137具有如下结构的模型称为p阶自回归模型，简记为AR(p)x=x+x+x+8t1t-12t-2pt-pt2-1）丰0E（8）=0,Var（8）=2,E（88）=0,s丰tttEtsEx8=0,VststAR(p)模型有三个限制条件：条件一：鼻0，这个限制条件保证了模型的最高阶数为p.条件二：(8)=0,Var(8)=Q2,E(88)=0,s丰t.这个限制条件实tt8ts际上是要求随机干扰序列8为零均值白噪声序列.条件三：E(88)=0,Vst，这个限制

25、条件说明当期的随机干扰与过ts去的序列值无关.通常会缺省默认方程(2-1)的限制条件，把AR(p)模型简记为TOC o 1-5 h zx=x+x+x+8(2-2)t1t-12t-2pt-pt为简记模型(2-2),现引进延迟算子B,使得Bx=xtt-1Bmx=xtt-m则AR(p)模型又可以简记为S=8(2-3)式中，(B)=1-B-B2-Bp,，称为p阶自回归系数多项式.12p称(B)=0为AR(p)模型的特征方程.特征方程的p个根九(i二1,2,p)被称为AR(p)模型的特征根.如果p个特征根全在单位i圆外，即和1i=1,2,.,p(2-4)则称该AR(p)模型为平稳的AR模型，满足该模型的

26、序列被称为平稳的AR序列.式(2-4)被称为AR模型的平稳条件.由于(B)=0是关于延迟算子B的多项式，因此AR模型是否平稳取决于参数e,e,.12pMA模型定义2.1.237具有如下结构的模型称为q阶滑动平均(movingaverage)模型，简记为MA(q)X=E000tt1t12t2qtqTOC o 1-5 h z1k=1,2,.,q(2-8)k式(2-8)称为MA(q)序列的可逆性条件.称满足MA(q)的序列x为可逆的MA(q)序列模型MA(q)为t可逆模型由于0(B)=0是关于延迟算子B的多项式.因此MA模型是否可逆取决于参数0,0，,0.12qARMA模型定义2.1.3具有如下结构

27、的模型称为自回归滑动平均(autoregressionmovingaverage)模型，简记为ARMA(p,q)：X+X+X+8001t12t2ptpt1t1qtq丰0,0丰0E（）=0,Var（）=2,E（）=0,s丰tttEtEx8=0,VststARMA（p,q）模型可以简写为）x+x+x+808081t12t2ptpt1t1qtqfx=2-9）2-10）2-11）t缺省默认条件，xt引进延迟算子，ARMA(p,q)模型简记为(B)x=(B)s式中，(B)=1QBB2BP，为p阶自回归系数多项式.0(B)=1-0B0B20Bq，为q阶滑动平均系数多项式.12q显然，当p=0时，ARMA(

28、p,q)模型就退化成了AR(p)模型；当q=0时，ARMA(p,q)模型就退化成了MA(q)模型所以，AR(p)模型和MA(q)模型实际上是ARMA(p,q)模型的特例，它们都统称为ARMA模型.ARMA模型是否平稳可逆取决于参数,，,0,0，,0.12p12q因此有37当(B)=0的根的模全大于1时，称ARMA(p,q)为平稳的自回归滑动平均模型当0(B)=0的根的模全大于1时，称ARMA(p,q)为可逆的自回归滑动平均模型(3)当(B)=0与冋(B)=0的根的模全大于1时，称ARMA(p,q)为平稳可逆的自回归滑动平均模型2.2用自回归AR模型拟合平稳时间序列自回归模型的参数估计问题，实际

29、上是用自回归模型去拟合时间序列的简单情形，即假定实际序列社（n）本身满足自回归模型，而且p,q假定已知的情况下进行的，此时的拟合问题就成了参数估计问题在实际中，人们较多的是使用AR（p）模型去拟合平稳时间序列模型.文献中从工程学角度阐述了这一问题2.3ARMA模型的参数估计2.3.1ARMA模型的极大似然估计在极大似然准则下，认为样本来自使该样本出现概率最大的总体.因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值.使用极大似然估计必须已知总体的分布函数.Lp,0，0;x,x，,x）=maxip（x,x，,x）;P,P，P（2-12）12k12n12n12k极大似然估

30、计充分应用了每一个观察值所提供的信息，因而它的估计精度高，同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质，是一种非常优良的参数估计方法.在时间序列分析中，序列总体的分布通常是未知的，为了便于分析和计算，通常假设序列服从多元正态分布10.考虑平稳可逆的ARMA（p，q）模型x-x+x+-99t1t-1pt一pt1t-1qt一q其中是零均值，方差为b2的白噪声.t记x-(x，x，.x)12n0-Q，,，9，9，912p12q工E(xx)0b2n式中艺G2ii=0艺GGii+n-1i=0丿艺GGii+n+1i=0那么，的似然函数为,.,LV（J;X丿=pXX1（2兀）-n工n12

31、exp12exp2lnS)-2对数似然函数为X；Q-iXilnQ-_2C2L对对数似然函数中的未知参数求偏导数,得到似然方程2-13)丄1C;免）=丄-型=0亦22c22c4式中S）=Q-1.理论上，求解方程组（2-13）即得到未知参数的极大似然估计值.但是,由于SG）和InQ|都不是&的显示表达式，因而似然方程组（2-13）实际上4心；X）=1普+丄啤=0祁2那c22那是由p+q+1个超越方程构成，通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值.目前，随着计算机技术的发达，有许多软件可以辅助分析，使得求ARMA模型的极大似然估计值成为一件很容易实现的事情.2.3.2AR模型的矩估

32、计（即尤尔-瓦尔克估计）及渐近性质设（n）为满足下列自回归模型的平稳序列Ypg(nj)=(n),p三1ioj=o其中)为白噪声序列.其的自协方差函数B(n)及自相关函数R(n)满足尤尔-瓦尔克方程即2-14）并有YpB（nj）=（n）,jj=oYpR（nj）=（n）,jj=oa2=E乙）2=YpB（j）0jj=o2-15）2-16）2-17）这样，我们便可得到此模型参数估计的全部公式.具体做法是：先由K)的观测值求得B(k)(或R(k)的估计值B(k)二-1豉吐(+|k|)(2-15)式求出p的估计量p，由式(2-17)i或R(k)，再由,okp求出a2的估计量b2.oo求解6.的具体方程组为

33、YpBGj)=BG),jj=12-18）YpRGj）=RG）,jj=11ip2-19）其中上述方程组的系数矩阵为B(0)BC1)BCp+1)BGB(0)B(-p+2)B(p-1)B(p-2)B(0)1R(1)R(-1)R(-p+1)1B(-p+2)R(p-1)R(p-2)1所以上述方程组有已知当0，有limP(p-p|8)=0(1jNK00川2是Q2的渐近无偏估计且是渐近最小方差估计,00C)2C4D&2丿U00N2.3.3AR模型的最小二乘估计设(n),n=0,1,满足AR(p)模型g(n)+pg(n-1)+p(n-p)=(n)并设Eg(n)=0(2-23)(2-24)(2-25)分布，而(

34、2-26)(2-27)当N充分大(2-28)9=sT，T)12p则申的最小二乘估计0是下列残差平方和：Ln=p+1sG)=s(n=g(n)(qg(n1)pg(np)3n=p+1由得正规方程其中A=ming(p)g(p-1)gG-g(p+1)g(p)g(2)g(N1)g(N2)g(Np)记则p的最小二乘估计为g=lg(p+1)g(p+2)g(N)p=CtA1AgL当N充分大时，最小二乘估计Q与矩估计6是非常接近的，因此，关L于矩估计6的渐近性质对p;也同样成立.L2.4自相关函数和偏自相关函数定义2.4.13对于平稳时间序列x，任取t,t+kGT,定义Y为时间序列tkx的延迟k自协方差函数：Y=

35、Y=E(x-y)G-卩)kt,t+ktt+k容易推出平稳序列一定具有常数方差Y=Y，又可推出延迟k自相关函tt0数为P=.ky0定义2.4.237对于k=1,2,，我们分别来考虑用x,x，,x对x作t-1t-2t-ktk1k212xkit-i丿最小方差估计，即选择系数p,p，,p，使得J=Ex工p则称序列/(kkk=y-2工py+工ppy(2-29)0kiikikji-ji=1i=1j=1达到极小值.贝U称序列p(k=1,2,)为序列x的偏自相关函数(PACF).kkt为了求p(k=1,2,)，分别对p(=1,2,k)求J的偏导数f乙，并令kkkiki=-y+Xpy=0ikji-jj=1其为零

36、，即得到P所应满足的方程Opki等价于-p+ipp=0kji-jj=1矩阵形式为P1Pk-1Pk-21(p1k1pk2(p11p22-30)IPk-1Pk-2IPk丿由上式可得偏自相关函数p的递推公式如下:kkp=kkrP1p-pki=1丫1逻k1,iki丿i=1p=p-ppkik-1,ikkk-1,k-i-1,p1丿k-1,ii丿k=1,2,k-1-1k=2,3,2-31)2.5小结本章介绍了ARMA、AR、MA模型，指出在平稳时间序列中通常使用AR模型进行模拟最后对ARMA模型极大似然估计，重点对AR模型的矩估计和最小二乘估计做了介绍，为后文作了一个必要的理论准备和铺垫大学理学硕士学位论文

37、第3章基于积分变换的鞅估计 第3章基于积分变换的鞅估计3.1基本结构基本符号Y,1j是从离散时间随机过程中取得的样本，概率为t,9e,(0,F,耳)是完备的概率空间.分布函数依赖于参数9e,为p维欧几里得空间的开集，条件密度函数为fSY,Y,Y),梯度s用()9j12j-1jlogf9VY,Y,Y壊示，由Y,Y,Y生成的F的子b域记为F，积9j12j-112jj分函数用Ss表示.E(sF)=0且,F平方可积.njjj-1nnj=1积分变换和鞅估计函数类为了方便叙述，假设Y,Y，,Y为实值变量，其分布函数取决于参数矢12j量9e(.第j个时间的函数记为F,IF)=PYyIF丿F(y)=jj-1j

38、j-1j其中I为示性函数.积分变换为1jn基本概念c(t)=ig(y;t)dF(|F)=E(YfJ(3-1)和。(t)在9相互独其中，gt()为核函数，在实值或复值函数如(Y),teT匸R索引集中选取，对所有的9e和teT，g()可积且有限.F(yIF立.特征函数，矩母函数和概率母函数分别以in(tY),cos(tY),teT,exp(tY),teT和y,teT作为核函数.cC)的估计量记为3-2)TOC o 1-5 h zCC)=Jg(y)d(y)=g(Y)c(t)估计量与c(t)的差值用下式表示7h(t)=c(t)c(t)=g(Y)E(g(Y)IF),1jn.(3-3)jjjtjtjj-1

39、鞅估计函数类M记为tG(t):G(t)=工wh(t),w=wnnjjjj、j=1式(3-4)中，由于对固定的teT,E(h(t)|F)=0jj-1那么，,Y,0/1j-1(3-4)且(h(t),F为零均值鞅,M=1,有工wE(亠h(t)IF)2TOC o 1-5 h zj09jj-1-j=工E(wh(t)21F)jjj-1对于G(t)，式(3-9)可以由G(t)的鞅信息量表示，公式如下表示nn忆wE(孑h(t)IF)2耐)j09jj-1工E(wh(t)21F)jjj-1j=1是G(t)中的鞅信息量.n条件有效性选择不同的鞅h(t)产生不同的M=M,teT类，以及与此相一致的拟jt积分函数族=G

40、*(t),teT和拟积分估计族9*,teT如鞅nntH=h,Fnj=1其中E(hIFjj-i可以在多种方法中选择，随着积分函数的不同产生不同的鞅估计函数类.特别的，一类鞅估计函数类，其离散时间过程&,F由半鞅表达式nn工Y上E(YIF)+h,h二Y-E(YIF)jjj-1jjjjj-1j=ij=1j=1为了区分有效性，以下给出条表示，产生鞅估计函数类时取决于鞅h.jj=1件有效性规则.对于拟积分函数G*(t)相对于积分函数S的条件有效性由下式给出TOC o 1-5 h zn(、nef(G*(t),S)=I/1cnnG；(t)S”同样的，对于G*(t)eM相对于G*(t)eM的条件有效性也可以类

41、似”1t1”2t2给出，由下式表示eff(G*(t),G*(t)=I/1C”1”2G*(t)G*(t)由于拟积分函数G*(t)与其信息量I仅用它们的条件函数表示，且；G*(t)E(I)甚至可能不存在(比如，平稳分布的模型)，比起非条件部分E(I)G*G*I更容易计算.所以，拟积分函数G*的有效性通常由O-optimality求解.G*nFn结论可以参考McLeishe和Merkouris29.拟积分函数信息量拟积分函数信息量反映的是拟似然估计的渐近分布的变量范围，其值为在G(t)=G*(t)最大值，由下式给出nnI=He(w*h(t)21F)G*(t)jjj-1”1j=1拟似然估计由G*(t)

42、=0可以求得参数6的估计，得出的估计称为拟似然估计，拟似n然概念的全面解释可参考GodambeandHeyde和Heydea.对于多维矢量的基本形式p维矢量参数6，以及k维矢量h(t)的鞅估计函数有一般的混合形jG(t)=wh(t)”jjj=1其中wj是pXk权重矩阵，其值取决于,Yj_1和e此时抑制t，得到Gn的最优值G*(t)=工w*hnjjj=1其中w*=(E(hlF)(E(hhlF)-1jjj-1jjj-1h=E(亠h)jQejiJi在偏序非正定矩阵中，信息矩阵I=G，：；GtG,对于每一个Gnnnnn1,：G1和G都假定非退化的，且有nnI=.；G*=He(w*h)(w*h)|FG*

43、;njjjjj-1n/=1参考McLeishe.j丄通过分析有效性的概念得知的有效性是度量O信息矩阵的大小，其FTOC o 1-5 h zef(G*(t),G*(t)的条件有效性为比率III/III.Merkouris讨论了基于cn1n2G*Snn鞅信息矩阵的有效性值的详细结果.当把单个变量推广到多元变量时，对于r维随机变量jrY=(Y，,Y),1jnjj1其核函数由普通核函数(3-10)gC)=HgC)tjtjii=1构成.选择有效的拟积分函数的规则在鞅估计函数估计类中，通过最大化I,teT,在j中就可以选择G*(t)nn最有效的拟积分函数.这个最有效的积分函数的判断可以由下面的两个不等式给

44、出，即对一些t*eT有IIG*(t)G*(t*)nn且ef(G*(t),S)ef(G*(t*),S)cnncnn3.2基于变换的鞅估计函数代入拟似然框架最大似然估计方法中，已知密度函数，代入对数函数中，然后通过对参数求导数可以得到参数估计，基于这种思想，把基于变换的鞅估计函数纳入拟似然框架中.特别的，如果对于每一个teT，GC)关于9是平方可积且可微的，把n基于变换的鞅估计函数类代入一般拟似然框架中的方法可以参考GodambeandHeyde39.以下给出特殊的变换(傅立叶变换)可以代入一般拟似然框架的变换.积分函数S=Ys由下式表示jj=1工s(FwC)exp(ty)7t(3-11)其中jj

45、=1jj=1w(t)=Js(yFf牛j=s(y;F)的傅立叶反变换.jj-1()F丿容易,j-1j-1)expCity)dy,1jnjw.(t)是s由于wC)处理起来比s=sjjj数丈w(t)exp(tY)任意渐近逼近，其中,l=1Y,Y,12且式(3-10)可以由累积函=w(t)是关于9,t和函数lljjljl,Y的系数，所以，积分函数可以用下式表示j-1工Js(yIf)dF(y)jj-1-j=1wexp(ity)dF(y)F(yIF)jlljjj-1在式(3-11)中，与F(y|F丿有关的值是恒等于0的.那么变换式(3-11)jj-1的右边可以写成下面的形式工为wjl-j=11=1当随机变

46、量是独立同分布时，j-1jexpitY-Eljwjl3-12)j-1-3-13)利用上式可以得出核函数为g（Y）=exp（itY）tjj的广义矩方法，可以参考FeuervergerandMcDunnoughw,42，而且，一般核函数类的积分函数可以线性逼近，参考FeuervergerandMcDunnougkM,更多详细的讨论可以参考Brant4）.当核函数为g（Y）=expCtY）时，式（3-12）可由下式表示tj乙乙wjiLj=1i=1=1l为wj=1i=1由上可知，傅立叶变换函数和一类基于变换的线性逼近积分函数可代入到一般的拟似然框架中最优鞅变换估计函数样本Iy,1jn和特殊核Hg（Y）

47、所包含的信息，已遍布t值的范jtj围.在t值的选取中，给出选择最优化积分函数丁的规则，目的是减少信息n量的损失，提取更多的点，获取尽可能大的信息量.这就涉及到鞅变换估计函数的合并问题（参考Heybe】4o）.从而构造基于变换的混合鞅估计函数.这种变换方法的优势是使用任意点t,teT形成形如工为wh（t）=Hwh（t）的合并，可以产生更多有1kjlj1jjj=11=1j=1效地变换拟积分函数，而且这种混合鞅估计函数是可以计算的.以下构建了一种鞅变换的最优化合并代入非退化且条件有效的拟积分函数中的方法.为了使鞅变换的最优化能够得以实现，首先给出拟似然估计函数是估计函数到鞅估计函数类的投影的证明.3

48、.3.1最优化和投影首先考虑任意随机变量希尔伯特空间L=L2（0,F,P）,此空间平方可0积.A是L2的闭子空间.内积为模为则称E*(3-14)IIX11=(X,X)12(3-15)定义3.3.1对于XeL2，E*(XIA)是A中唯一的元素，如果IIXE*(XIA)ll2=infIIXZlb=infE(XZ)2(3-16)ZeAZeA丿是X到A的投影.定理3.3.1鞅拟积分函数G*=gw*h，其中njjIfChf)jI/1/11j-1w*=jj是积分函数S到空间M的投影.n证明用M表示形式为g=wh,1jn函数的子空间.则MuB.由于函数h是正交的，所以对于i丰j,E(hh)=0空间M是子空间

49、M的直和.即，jj-1M=MMM(3-17)12n考虑希尔伯特空间L2(0,F,Pj),1jn,其中Pj是限制到F上的概率值.关于9,Y,Y的所有可测平方可积函数的子空间Bu2(6,F,Pj,1jjj9第j个积分函数seB.jj因为E(hIF)=E(shIF)所以在弱对称条件下，w*是seB中g*=w*h投影到子空间Mjjjjjj的系数.特别的，定义HI是在条件F上由Pj引进的范数.F-1j-19常数对于所有的9G0,元素g*eM为jj2Fj-1=gnMi卜一gj2Fj-1(3-18)通过正交条件E(s一wh)h*IF=0得出w*的值，同时对jIIsII2=IIg*II2+IIs一g*II2j

50、Fj-1jFj-1jj-求和，那么条件Fisher信息量I=zSnjIIS1|2jF-1F-1分解成拟积分函数信息I丄G*njIIg*II2jj=HE(w*h)(w*jjjj=1和最小化剩余和工IIS-g*I|2j又因为s和h是L2(Q,F,P)中的元素，通过IIs-gjj9jIIs一g*II2=infIIs一gII2jjgwMjj6jj*II2的期望得到jFj-1其中,g*=E*(sIM)然后，使用线性投影算子，利用(3-17)的分解式和鞅差分s和h,i丰jjj是相互正交的性质，有E*(SIM)=HE*(sIM)=HE*(sIM)=工g*=G*njjjjnj=1j=1j=1成立.从而证明了鞅

51、拟积分函数是积分函数到空间M的投影.以下说明空间M是一个线性空间.形式为G=工whnjjj=1的一般鞅估计函数类M，是由基本鞅函数类H=Hh,Fnjnj=1其中,h=(h，h)jj1jkw=(w，w)jj1jk分别为k维鞅差分和k元系数生成的.那么，G=whnjj就是取决于参数矢量9的F可测函数且M类是由h扩张成函数类的线性j-ij子空间.那么，M类是一个线性空间.特别的，当内积定义为：对所有的X,YeLp,2(X,Y)二trE(X,Y)且这个空间是希尔伯特空间时，G*可以看作是S到nnMp=MpMp1n的射影.3.3.2获取鞅估计函数方法不同的鞅生成不同的鞅估计函数族，合并鞅估计函数可以有效

52、的增加相关鞅拟积分函数的信息，虽然由它的元素生成的空间的维数也相应的增加，但是，通过最大化I(teT)，可以得到有效的拟积分函数G*(t*).其中,G*(t)nnG*(t*)是属于拟积分函数族和与离散空间M=M,teT相一致的族.nt由于使用teT中的点构造混合鞅变换估计函数涉及到基本鞅变换的维数增加和相关的鞅变换估计函数空间维数的增加，在这里，给出一种拟积分函数的方法，这样方法既有利于来自不用空间的鞅拟积分合并的比较，而且可以确保随着点teT的增加，使得有效性增加.为了方便起见，记t*,1l2，首先保留先前步骤得出的优化l点teT，然后代入其他的点，通过比较拟积分函数的有效性，逐步生成鞅变换

53、估计函数的增序列.由于T中的优化点取决于前k-1步.所以在近似第k步的时候，让t*固l定，然后选取一个新点t丰t*，得到M的估计函数与kx1矢量鞅的形klt*t*t1k-lk式分别如下M的估计函数形式为t1，k-i,tkG(t*，,t*,t)=whn1k-1kjjj=1二工艺whC*)+wh(t)Ijlj1jkjk)j=11=1丿以及kX1矢量鞅的形式为H(t*，t*,t)=工h(t*),.,工1k-1kj1jj=1j=1的拟积分函数的表达式为L*，,t*,t)=工w1k-1kh(t*)k-1那么，M,乞h(t)；Fjknj=1j=1其中W*=E5j-ij-ijjG(t*，,t*,t*)的信息

54、表达式为n1k-1kI=工(E(hIF)(E(hhlF)-1E(hIF)G；(t*，,S)jj-1jjj-1jj-1j=1很明显，对于任何teT，kMuM*，,t*,t)是S1k-1kt*t*tt*t*t1k-ll1k-lk到M的投影，那么t*，,仁1,tkIIG；(t；,.以丿G*(t*,.,t*-1,tk)这个可以根据鞅估计函数空间M的增序列和与此相关的拟积分函数的序k列G*=E*(SIM)n,k+1nk+1和射影性质,E*(G*IM)=E*(E*(SIM)IM)=E*(SIM)=G*,k+1knk+1knkn,k得到G*是G*到M的投影的类似证明中得到G*匕，,t*,t)是S到n1k-1

55、kn而且还可以在n,kn,k+1kM的投影的证明t*SkIISn-G*n,k+12勒|S-G*kI2的条件下得到IG*,kG*,k+1nn的类似证明中得到IGn(t;a)Gn(t;仁山)的证明.那么，在G(t*，,t*,t),teT中，通过最大化I，就可以选n1k-1kkG*(t*，,t*,?)n1k-1k择最有效的拟积分函数.纳入一个新点t*eT的依据为条件有效性，k对于t;eT，如果有3-19)G(*,t*，,t*)=e*5Im=2s1n12knt*.t*jljl1kj=1l=13-20)满足：*(*,(*,t*)n1k-1keffd*，,t*)S)effd*，,t)Gcn1k-1G”(；

56、,.,J仃(；,)0，存在无穷合并g(t,t，,t)仝wh(t)j12kjljl且对于M的子空间M/_1j，込.j,，2*.满足IIs-g(t,t，t)l|2jj12kFTOC o 1-5 h z根据JIIs-g*II2=infIIs-gII2jjgeM丿丿6jj可知，IIs-g*(t,t，,t)II2IIs-g(t,t，,t)II2jj12KF._jj12KF._和IIs-g*(t,t，,t)II2KJIIs-g*(t,t，t)II2jj12kFj-1即，当kT8IIs-g*(t,t，t)II2T0jj12k片_1而且通过分解式JIIsII2=IIg*(t,t，,t)II2+IIs-g*(t

57、,t，,t)II2jFj-1j12kFj-1jj12kFj-1得到IIg*(t,t，,t)II2tIIsII2(3-22)j12kjjj又由于L2(Q,F,Pj)中元素s.和g*(t,t，,t)的条件平方可积性，有jejj12kIIs-g*(t,t，t)II2t0kt8(3-23)jj12k或者s=g*(t,t,.)=w*h(t)jj12jlj1i=1则有下式成立其中G*(t,t,.)是空间M三n12t/,是唯一的投影E*(SIM)n込,这样，积分函数S可由不完全和nS=G*(t,t,.)=w*h(t)nn12jljl_j=1l=1_MM中的拟积分函数，且1；2n;込G*(t,t，,t)w*h

58、(t)n12kjljlj=1l=1任意闭逼近.由于=limISnkSGn(I,(2，,)那么limef(G*(t,t，t),S)二1cn12knkT8定理中要求的完备性保证变换拟积分函数G*(t,t,.)的完全有效性，但n12是不是完全有必要的.完备性需要满足对于一些k和T中点t，,t或者_1kSGM，使得SGM.对于主要变换的核函数集合的完备性可以n”2,nt1，t2，tk参考FeuervergerandMcKunnough43.概率值为pj的无限集合中的点a，,aj.空间L2(Q,F,住)是N维的,核函数线性独立，其有限集合g，,g是完备的.核函数的线性独立性要t1tN求矢量(g(a),.

59、，g(a),1l2t*t*t*t*tk-11k-1k中的前k-1个点固定其值为t*t*Q，Q1k-1然后关于t使kIGn(t;,t*-1,tk)最大化，形成上述空间的增序列.最大化一个时间的一个点的信息可能导致一些有效性的损失，这点在许多例子中随着k的增加可忽略.由于t的渐近值逐渐取决于未知的参数.现在提出两步方法l首先用I得出一些参数的初步估计(例如，条件最小二乘估计)，在G*(t)渐近第k阶的时候估计I，其值可以从式子G；(t；S)G*(t*，,t*)二0n1k-1得到.然后使用最优化点t*的值处理估计式kG*（t*，t*,t*）二0n1k-1k获得变换拟似然估计和信息量的值.随着点数量的

60、增加，这种迭代收敛的更快，估计函数的有效性也会增加.鉴于此，在第一步很容易计算的情况下，引入更多的点t直到迭代结束.3.4比较鞅估计函数下面比较基于矩的多项式拟积分函数和基于变换，特征函数（CF）,矩母函数（MGF）和概率母函数（PGF）的拟积分函数.这种比较是理论上的和方法上的.3.4.1比较g*（t，,t）和G*（1,.,k）TOC o 1-5 h zn1kn定理给出.定理3.4.1CF，MGF，PGF的拟积分函数和矩（M）拟积分函数的关系通过下列假设E（Y2k|F）存在，那么对于CF变换与其复值核函数jj-1exp（itY）和MGF变换，有如下的关系：limG*（t，t）=G*（1,.,