半参数估计方法在测绘数据处理中的应用研究进展

1、东华理工大学 实用测量数据处理方法 实用测量数据处理方法结课题目：半参数估计在测绘数据处理中的应用研究进展 学 号： * 姓 名： * 专 业： 测绘工程 授课教师： *博士 2015.12摘要半参数回归模型,又称为部分线性回归模型,是由Engle eta1(1986)在研究天气变化与供电需求之间的关系时引入的,是20世纪80年代以来发展起来的一种重要的统计模型。在实际的回归分析中,由于存在不可避免的系统误差,独立变量便不能被直接观测到,而是由带有误差的值所代替。由于系统误差的问题,普通最小二乘便不再有效,所以研究半参数回归模型比一般回归模型更具有挑战性和实际意义。本文首先介绍了半参数回归模型

2、的两种不同类型的回归模型:线性半参数回归模型和非线性半参数回归模型;研究了目前半参数回归模型常见的估计方法(补偿最小二乘估计、核光滑估计、拟似然估计、虚拟观测法)并得到了一些满意的结果。另外本文主要是分析讨论以上各种方法以及存在的问题，并对补偿最小二乘加以研究，对方法优缺点进行分析，最后对半参数方法进行展望。关键词：半参数回归模型，补偿最小二乘估计，正则化矩阵目录1.绪论12.半参数模型介绍62.1线性半参数回归模型62.2非线性半参数回归模型62.3解法介绍72.3.1自然样条函数法NCS(Natural Cubic Spline)72.3.2补偿最小二乘估计PLSE(Penalized L

3、east Square Estimation)72.3.3核光滑估计法KSE(Kernel Smoothing Estimation)92.3.4拟似然估计法QLE(Quasi-Likelihood Estimation)103.半参数模型的补偿最小二乘法123.1经典模型的解算方法123.2确定正则化矩阵的方法163.2.1时间序列法163.2.2距离法184.进一步工作与展望20参考文献211.绪论 现代科学研究和工业技术中,为得到某些未知数,常常要通过一系列测量手段得到相关观测值,但由于测量的局限性,任何观测数据或实测信号总是不可避免地包含除了信息之外的干(误差)部分,而采集数据就是为了

4、获取有用的信息,因此要设法将误差予以排除或减弱其对所需信息的影响,但有些误差可以从中分离出来进行其他方面的研究与应用,例如利用GPS进行气象研究中,定位测量中分离出的电离层延迟误差在此就可以提供大气水汽含量及温度信息,从而进行天气预报,成为非常有用的观测量,因此随着空间技术不断得到应用,对观测误差的处理变的越来越重要。根据观测误差对测量结果的影响性质,可将其分为偶然误差、系统误差和粗差三类"在传统的测量数据处理中,通常假定数据中只含有偶然误差,用经典平差进行处理,这主要是因为传统测量中,对于系统误差的处理方面,常规仪器本身有完整的校验办法和观测方程式,可以通过重复实验对干扰因素对测量

5、结果的影响的规律性有较为明确的了解,然后通过附加常数项将其减弱或消除,另外,还可以规范操作流程、差分处理技术、对系统误差建立数学模型、尽量避开或改善引起系统误差的观测环境等手段减弱或消除系统误差的影响"剔除了观测值中的系统误差和粗差之后,观测误差中偶然误差占主导地位,此时完全可以用经典最小二乘平差理论进行处理,德国数学家C.F.Gauss于1794年提出的最小二乘法为此理论奠定了基础,随后经过200多年的发展,经典平差理论已经发展成为最完善、最成熟的测量平差处理理论。关于测量中出现的粗差,国内外学者提出了较为深入、系统的处理理论,从粗差的可靠性和可区分性,到粗差的探测和定位技术以及抗

6、差估计(稳健估计)理论;然而随着空间测量技术的应用和测量新技术的不断发展,短时间获得海量的观测数据己经成为事实,这些观测值受外部环境影响较大,影响因素较多,函数关系也较为复杂且对其认识较少,若采用常规的系统误差处理方法对观测数据进行处理,残余的系统误差与偶然误差相比达到了不容忽视的程度,已不能满足空间测量中对误差处理精度越来越高的要求。因此,空间科学技术的发展推动了系统误差处理理论研究的不断深入,目前已有处理系统误差的理论和方法主要有以下几种:最小二乘配置，附加系统参数和系统权的方法，部分延续模式，回归模型残差检验法，小波滤波，硕士学位论一章绪论基于自适应拟合的卡尔曼滤波，经验模式分解等,但是

7、由于测量过程中观测值受到多种因素的影响,一般认为模型误差或系统误差的形态很复杂,系统误差在一定程度上存在随机性和非随机性,无法用少数参数进行表示,得到精确的参数模型,而这些方法大多是基于线性或非线性的参数回归模型,经典参数回归模型并不能很好地和测量中的实际问题相吻合,此时可以在每个观测方程中增加一个非参数分量,这样以来方程中既有参数分量又有非参数分量,结合了参数回归模型和非参数回归模型两种模型的优势,描述函数关系明确的参数分量部分可以将结果外延,而描述函数关系不明确的非参数分量部分可以提高拟合结果的准确性,这种既含有参数分量又含有非参数分量的函数模型即为半参数回归模型。一般情况下,半参数平差模

8、型的解算准则采用补偿最小二乘准则,该准则既顾及到了拟合程度又顾及到了光滑程度,因此得到了广泛应用"该准则中的关键问题是正则化参数和正则化矩阵的确定,目前确定两者的方法均有多种,但各种方法得到的结果并不统一,且没有很好的评定各种方法好坏的标准;另外,对于非参数部分函数光滑性的描述仍然不够明确"为了满足现代测绘技术对测量精度提出的高要求,本文将以解决以上问题为出发点,探索分析影响正则化参数选取的因素及其对数据处理结果产生的影响,正则化矩阵与非参数部分的光滑性之间的关系"这些问题的解决将为完善半参数模型数据处理方法提供理论依据,有利于提高数据处理结果的精度,因此具有重要

9、的理论意义和实用价值"国内外研究现状众所周知,测量平差中的数学模型具有根本的重要性,测量平差是测绘类专业中一门重要的技术基础课,是用于观测数据处理的一门应用数学，数学领域的理论发展为测量数据处理理论提供了极大的便利,数理统计中的古典参数回归模型为经典平差中的数学模型奠定了基础"从应用初期到目前的传统测量中,人们通常对回归函数做出较强的基本假设,因而可以得到高精度的推断结果,使得参数回归模型在测量平差尤其是经典测量平差中得到广泛应用,包括间接平差、条件平差、附有未知数的条件平差、附有限制条件的条件平差四种经典平差模型,然而,实际测量中对函数模型的假设并不都成立,并且观测值的影

10、响因素并不一定都能够完全参数化,因此参数回归模型存在一定的缺陷。为了让函数模型与实际问题能更好地吻合,人们进行了对非参数回归模型的研究,该模型并没有对回归函数提供大量额外信息,不假设固定的函数形式,对实际问题具有较大的适应性。Stone于1977年提出了非参数估计的权函数估计法硕士学位论一章绪论后,该方法得到了广泛关注,相继出现了局部多项式估计、补偿最小二乘估计等方法,这些方法的提出使非参数回归模型得以更快速更完善的发展,同时有力地推动了测量数据处理理论的发展。但美中不足的是单纯地用非参数回归模型来解决问题时,不能够充分利用先验信息提供影响因素的显著性,降低了模型对实际问题的解释能力,为了更好

11、地解决上述参数回归模型和非参数回归模型的不足,RobertF.Engle等人于1986年研究天气状况与供电量的关系这一实际问题时,结合了两种模型的优势,提出了既含参数分量又含非参数分量的半参数回归模型。近年来,对半参数回归模型的研究成果已大量涌现,主要表现在:在数理统计领域,很多学者对半参数模型的回归性质做了大量研究,主要有半参数回归模型的大样本性质在参数与非参数是否具有随机性以及两者是否相关等条件下,基于核估计和最小二乘法等不同的方法,研究了参数的偏样条估计是相合估计、参数估计的收敛速度以及参数估计的渐近有效性等问题;Green和silverman等研究了半参数回归模型的惩罚似然估计方法、样

12、条估计、平滑因子的选择、偏样条估计、薄板样条估计等一系列相关问题,为半参数回归模型的基本理论奠定了基础;在国内关于半参数回归模型的研究,高集体、圣洪岩等学者开创了先河。他们主要的研究成果有:基于核估计或近邻估计方法,参数估计的加权最小二乘估计的渐近正态性以及参数和非参数估计的强弱收敛速度;柴根象、圣洪岩、施云驰、钱伟民等在总结前人研究的基础上,着重研究了半参数回归模型的估计方法,根据模型的可加性首次提出了两阶段估计,并研究了参数估计的相合性,渐近正态性以及渐近最小方差,重新讨论了参数和非参数的大样本性质;施沛德、薛留根等从构造相关统计量,利用随机加权法系统地研究了参数分量和非参数分量的M估计的

13、渐进性质,极大地丰富了半参数回归模型的理论研究;朱忠义、韦博成等对半参数非线性模型进行了系统地研究,同时也为半参数非线性模型在测量领域的应用打下了基础"结合参数模型估计和非参数模型估计方法,经过大量的理论研究,归纳总结半参数回归模型的估计方法,可分为参数化估计法:主要是对函数空间施加一定的限制,这里主要是针对光滑性,用有限和对其逼近,将非参数分量参数化,利用最小二乘法或其他估计方法进行求解,主要包括偏核光滑样条估计、偏残差估计、分段多项式估计等;两阶段估计:首先假设参数已知,用非参数回归方法估计非参数分量,然后将估计量代入用最小二乘法对参数分量进行估计;补偿最小二乘估计:主要是在普通

14、最小二乘的基础上增加补偿项,不仅顾及到了拟合程度还顾及到非参数分量的光滑程度,因此成为了目前应用最广泛的估计方法,主要包括直接解法、迭代法等;稳健估计:鉴于最小二乘法缺乏稳健性,学者针对半参数回归模型的最小二乘法提出了M估计,并相继发展.另外,还有半参数模型的Bayes估计、差分估计、泛补偿最小二乘估计等,这些估计方法的提出和对各种方法的完善为半参数回归模型在各领域的应用提供了极大的便利。在测绘领域,由于半参数模型既含有参数分量又含有非参数分量,可以将观测误差中的偶然误差和系统误差分离,因此半参数模型的应用也越来越广泛。在国际方面:最早在1978年,奥地利著名大地测量学家MorizH.在地球重

15、力场研究中用到了最小二乘配置理论,而在后续研究中发现最小二乘配置是半参数模型的一种特殊形式;Fische:B.于1999年研究了非参数模型中的数据光滑方法并将其应用到半参数模型的平滑因子的确定中,并结合大地测量中实际算例进行了验证和说明;在GPS数据处理中,JiaMinghai首次将半参数平差模型应用到基线解算、静态定位等的系统误差处理中,取得了较好的效果。在国内,关于半参数平差模型的研究也取得了较大发展,主要集中在两大方面:理论上,对半参数模型的估计方法、估计量的统计性质以及相应算法进行了研究,并用测量语言介绍半参数模型的处理系统误差的能力,主要有潘雄、孙海燕、陶本藻、丁士俊等首次将半参数平

16、差模型引入测量数据处理中,进行了有关估计量的统计诊断方面的研究,对系统误差和粗差的可区分性、粗差的检验等方面进行了研究;彭军还、王振杰、孙海燕等对半参数模型本身进行了研究,并将半参数平差模型与传统的平差模型进行了对比分析,为测量工作者对该模型的理解提供了很好的帮助,有力地推动了半参数模型在测量领域的应用发展;胡宏昌、孙海燕、潘雄、陶本藻等对半参数平差模型的估计方法做了进一步的扩充和发展,提出了两阶段估计、两步估计、累计估计、小波估计等,并对估计量的精度评定做了研究;朱建军、周晓卫、乐科军等提出了半参数平差模型的基于虚拟观测的Helmert方差分量估计的解法,用纯测量语言解释了半参数模型,并在此

17、基础上发展丰富了相关理论"学者们在半参数模型的理论研究中很快认识到用补偿最小二乘解算半参数回归模型时,正则化参数和正则化矩阵的确定,是提高解算精度的关键问题,王振杰、欧吉坤、胡宏昌、孙海燕等在这方面进行了大量研究,结合测量实际问题,提出了各种不同的确定方法,确定正则化参数的方法主要有L曲线法,广义交叉核实法,基于虚拟观测的Helmert方差分量估计法、均方误差最小法、信噪比值法、效率法、控制法、自适应算法等,确定正则化矩阵的方法主要有自然样条函数法、距离法、时间序列法等,他们还对原有方法进行综合整理和改进,丰富了半参数模型本身的理论研究。由于在解算半参数模型时,采用的是补偿最小二乘准

18、则,正则化参数和正则化矩阵是该准则中最关键的两个待定量,需先固定两者的其中之一,然后确定另一个,最终达到解算半参数模型的目的。虽然目前对于两者的确定方法均有多种,但仍存在一些问题:在同一模型中,固定正则化矩阵的情况下,用各种正则化参数确定的方法确定正则化参数,得到的结果不统一,并且缺少对数据处理结果评价的标准;此外,对于正则化矩阵如何反映非参数部分的光滑性,正则化矩阵和非参数部分的光滑性之间的关系缺乏合理的解释,即光滑性的描述并不明确。 应用上,由于测量领域中,系统误差总是客观存在的,并且按照传统方法处理后的系统误差不能满足现代测量精度的要求,而半参数模型的引入为此提供了很好的出路,主要是用非

19、参数分量部分来解决测量中碰到的有关系统误差不能用简单公式表达的问题,从而更好地符合实际情况,解决实际问题。丁士俊、陶本藻、孙海燕、王振杰、胡宏昌、潘雄等做了大量研究,主要是半参数模型在测量数据处理中的应用,范围涉及到地球重力场中板块运动参数的求解、变形监测、高精度GPS基线解算、卫星定轨、高程拟合与推估、单点定位等方面的系统误差处理等。另外,张松林、王新洲等还进行了非线性半参数模型的研究,极大地丰富了测量数据处理理论,使实际测量中出现的非线性问题得到了很好地解决。2.半参数模型介绍2.1线性半参数回归模型半参数回归模型( Semiparetric regression model)又称为部分线

20、性模型(Partial linear regression model)是Engle et al(1986)在研究天气变化与供电需求之间的关系时引入的,具体形式如下: i=1,2.,n (2-1)上述模型的向量形式为: (2-2)其中Y表示n维观测向量,Y=();X为n*p维列满秩设计矩阵,X=,rank(X)=p;为p维参数向量,;为n维偶然误差向量,N(0,),:=;S表示描述系统误差的n维非参数向量,S=。(值得注意的是半参数模型的目的在于估计参数,非参数S的引入主要是为了更加准确的估计参数,S本身的大小和精度并不重要)由于参数部分X为线性的,所以此时模型也称为线性半参数模型。2.2非线

21、性半参数回归模型在常规半参数模型(线性半参数模型)基础上将参数部分加以拓展便可得更加一般的半参数模型一非线性半参数回归模型,形式如下: （2-3） 其中是己知的二次可微函数,其它的量与线性的半参数回归模型相同。很明显,不论是线性半参数回归模型还是非线性的半参数回归模型中的S，如果简单的把其看作参数,则上述问题变为具有n+p个未知量,只有n个观测值的不定问题,如果不增加其它的信息,则不可求解。目前半参数模型的解法具有两种思路:一是对非参数S的函数施加光滑性限制,使用合理的参数逼近,将非参数部分参数化;二是分别对参数部分和非参数部分进行估计的两阶段估计方法。例如可以先假定参数已知,使用标准非参数方

22、法估计非参数部分,然后去掉非参数部分,再使用标准的参数方法估计参数部分。2.3解法介绍2.3.1自然样条函数法NCS(Natural Cubic Spline) 自然样条函数法属于无穷维函数空间的光滑曲线,用来描述连续变化的模型误差有其独特的灵活性和简洁性。 若用自然样条函数来表示随时间连续变化的系统误差,即用参数在表示测量值中可线性化部分的基础上,增加用自然样条函数表示随时间连续变化的系统误差部分,也就是非参数分量部分,从而构成半参数模型的方法,称为半参数估计的自然样条函数法。设S（t）为区间上的自然样条插值函数,为节点,且,S(t)满足如下插值条件: i=1,2,.n (2-4)可以找到唯

23、一满足上述条件的自然样条插值函数,因此可以将观测方程写为: i=1,2,.,n (2-5)可以发现(2-5)式与(2-1)式完全相同。2.3.2补偿最小二乘估计PLSE(Penalized Least Square Estimation) 首先对最小二乘法加以说明讨论 最小二乘法在线性模型参数估计理论与方法中,占有中心的基础地位.它开始于19世纪中叶,是由著名的数学家Legendre和Gauss分别于1805年和1809年独立提出的,接着在1900年Markov证明了最小二乘估计的一种优良性,即Gauss一Markov定理,可估函数的最小二乘估计为此函数的惟一的最佳线性无偏估计。 对于线性模型

24、Y=X+ E()=0 Cov()= (2-6)Y为n维观测向量,X为n*p列满秩的设计矩阵,为p维参数向量,为n维随机误差。运用最小二乘法获得参数向量的估计,其思想是的真值应该使误差向量=Y-X达最小,也即达最小。因此,应通过求Q()的最小值来求的估计值。 令其等于0,得到正则方程 (2-7)由于rank(X)=p,则可逆,则上述正则方程的解为 (2-8)根据函数极值理论,只是函数Q()脚的驻点,还需证明它确实使Q()达到最小。事实上,对由于P满足正则方程(1-7),从而上式中为O,而是非负的,从而 (2-9)由上式表明刀确使Q(）达到最小。下面进一步证明,使Q(）达到最小的必是，事实上,(2

25、-9)式中等式成立,当且仅当上式的右边等式两边同乘以有 这就证明了,使Q()达到最小的点必为正则方程(2-7)的解综上,若rank(X)=p,则可逆,这时，且有即是的无偏估计,这时我们称为的最小二乘估计。2.3.3核光滑估计法KSE(Kernel Smoothing Estimation) 核光滑估计法是由Silverman在解决非参数模型求解的过程中于1986年提出的,Hardle、Bowman & Azzalini、Simonoff、Pagan & Ullah对此方法均有详尽的描述。Scott和Wand&Jones将此方法用于处理多元变量的情况,而对此方法的渐近性质

26、则由Collomb和Gasser & Muller加以描述证明。 核光滑估计法是在考虑非参数模型求解的过程中提出的,将非参数模型中的非参数部分用核权函数加以表达,使最终的估计用核权函数表示。为了讨论半参数模型的核估计问题,首先考虑非参数模型情况,即模型Y=S(t)+ （2-10）设权函数的生成仅与有关,而且可能与全体或部分有关,则回归函数S(t)的估计可以表示为下面的形式: （2-11）在一般实际问题中,权函数满足下述条件: （2-12）满足上述条件的权函数为概率权"不同的权函数形式产生了不同的估计方法,较为常用的两种权函数为核权函数和最近的邻权函数,由此产生的非参数估计为核

27、估计和近邻估计。由于处理实际问题时一般采用前者,所以下面着重介绍核权估计。 核权函数是一种最重要的权函数,有关文献提出了一种适合模型(2-10)的核函数,即选定空间上的核函数(一般为概率密度),定义核权函数为: i=1,2,.,n (2-13)由此回归函数为 (2-14)其中窗宽h为光滑参数,当d=1,K(.)以-1,1为其支撑,K为对称,单峰时,是集中在t附近一个邻域的加权平均值,而h正好是该邻域的宽度。当h较大时，参加平均的样本较多,这样会提高估计的精度,但有可能会增大偏差,当h较小时,正好相反,因此与密度估计一样,要合适的选择h,一般采用的方法为交叉核实法。对于核函数K(.)而言,假定为

28、上的核函数,若有支撑-1,1且满足 i=1,2,.m-1 (2-15)其中C为非零常数,则称K(.)为一维m阶核函数。较为常用的核函数有: 2.3.4拟似然估计法QLE(Quasi-Likelihood Estimation) 拟似然估计是由Godambe和Durbin于1960年提出的固定样本的最优性理论发展而来的,后来Godambe又将此理论用于随机过程而不再仅仅局限于固定样本。Heyde于1986年证明了此理论的优良性,于是拟似然由Godambe和Heyde于1987年共同提出。Wedderburn等人加以发展,Liang、zeger、Prentice和James W.Hardin基于此

29、方法发展了广义估计等式方法。 拟似然估计是从误差矩出发,利用估计函数对待估参数进行估计,而不是局限于从误差的分布出发,并且拟似然估计具有优良的统计性质,是广义拟似然估计类(极大似然估计、最小二乘估计、约束最小二乘估计、极小卡方估计)中的最优估计。 设Y是n维观测向量,为n维未知向量,由方程 (2-16)确定的称为的拟似然估计。拟似然估计已经得到广泛的应用,Liang和Zeger证明了拟似然估计具有优良的统计性质。 由最小二乘原理知得到方程 (2-17)的解称为最小二乘估计.显然,的拟似然估计不是最小二乘估计,只有当是与无关的常数矩阵时,拟似然估计才与最小二乘估计是一致的。一般由式(2-17)确

30、定的最小二乘估计是无偏估计和相合估计,因此,拟似然估计优于最小二乘估计。3.半参数模型的补偿最小二乘法3.1经典模型的解算方法 经典最小二乘平差模型为： (3-1)式中，L为n维观测向量，为n维误差向量，B为列满秩设计矩阵，X为t维参数向量，t为必要观测数。 若模型（3-1）中含有系统误差，则，为了削弱或消除系统误差对参数估计的影响，可以将系统误差与偶然误差分开，在上述模型中引入非参数分量S，从而将经典最小二乘平差模型改写为如下形式： (3-2)其中为偶然误差，,为一个描述模型误差或观测值系统误差的n维未知非随机向量，表示第i个观测值中的系统误差（），通常称之为非参数分量。P为对称正定矩阵，是

31、观测值L的权。 对于模型（3-1），对应的误差方程 (3-3)在测量平差问题中，如果控制网中具有足够的起算数据，可以将其他的待定点坐标作为参数，此时误差方程中的系数阵为列满秩，在最小二乘准则 下组成法方程 得到X的估计值和协因素阵如下： (3-4)这就是经典的间接平差情形。由（3-4）得： 从（3-3）、（3-4）式可以看出，是X的有偏估计，即当时，最小二乘估计不具有无偏性。模型（3-2）对应的误差方程变为： (3-5) 再利用（3-2）式可得 (3-6)协方差阵为 (3-7)其中为幂等阵，事实上(3-8)为幂等阵。对于模型（3-2），根据最小二乘原理 （3-9）可知，未知量为参数估计量和非参

32、数估计量，共有n+t个，而方程只有t个，从而得不到估计量的唯一解，因此，需修改平差准则。根据（3-7）式，要使模型方差达到最小，由知，为了与（3-3）式区别，即为,我们可以采用如下规则： (3-10)对于模型（3-2），根据（3-10）中采用的规则，利用拉格朗日乘数法，构造如下函数： 分别令,可得如下方程： (3-11) (3-12) (3 -13)在（3-11）两边左乘，将（3-5）、（3-13）代入得 (3-14)由（3-11）、（3-12）及（3-5）可得 (3-15)由于为幂等阵，事实上， 因此，由（3-14）、（3-15）不能求得未知参数的唯一解，事实上，缺乏S所需要的外部配置条件，

33、所以问题可归结为秩亏网平差，仿秩亏网平差，为方便起见，采用秩亏网平差的术语，对S给定d个基准约束条件。一般情况下，为了获得未知参数的唯一解，采用如下基准约束条件： （3-16）式中,而且 (3-17)G是矩阵的d个零特征值所对应的d个互不相关的特征向量所构成的矩阵，可由的特征方程求出。称为基准权，不同的取值反应了所取得基准约束不同，即对应了所选的基准。按照最小二乘原理，重新构造如下拉格朗日函数 分别令,可以得到如下法方程： (3-18) (3-19) (3-20)由（3-18）得 即 (3-21)将（3-21）代入（3-19）式，并简化得， (3-22)对（3-22）两边左乘,顾及（3-16）

34、得 (3-23)因二次型不能为零，故必有 K=0 （3-24）于是拉格朗日函数变为： 可见，半参数模型下自由网平差的最小二乘原则与未知参数附加的基准约束无关，亦即是个不变量，平差所得的改正数不因所取基准约束不同而异。将（3-20）左乘后与（3-19）相加，顾及K=0，可得 (3-25)为了计算的方便，不妨设,由于系数列满秩，则得非参数分量的估计值为 (3-26)将（3-26）代入（3-18）得：3.2确定正则化矩阵的方法 正则化矩阵是在描述光滑性的基础上得出,是对补偿项光滑性的直接表达,最初是将系统误差随时间的变化趋势拟合成三次自然样条函数曲线,从而经过推导得到的,描述了函数曲线的光滑性,但在

35、后来的发展中,许多学者从离散化的硕士学位论文第四章补偿最小二乘准则中补偿项的光滑性分析角度运用时间序列法确定正则化矩阵,并根据一定的实际情况,来具体确定正则化矩阵的形式,以下是对各种方法的总结归纳。3.2.1时间序列法 该方法是将观测值看成一个时间序列,由于信号是随时间连续变化的,因此认为相邻时刻的信号相差不大,由此来构建正则化矩阵:令 (3-27)该方法可以用一阶差分方程进行证明，此时将正则化矩阵看成信号的权阵：如果信号（此处为系统误差）是在时刻得到的时间序列。则可以用一阶差分方程将信号表示为： （3-28）式中为第i时刻的信号；为动态乘数；为随机噪声，由式（3-27）可得： （3-29）

36、（3-30）因此。期望值为： （3-31） （3-32） （3-33）由式（3-32）和（3-33）可以得到相应的协方差矩阵D为： （3-34）此时可得信号权阵（即正则化矩阵）为： (3-35) 由于不能等于1，因为无限接近于1时，可由式（3-35）得到正则化矩阵为： （3-36）此即为用时间序列法确定的正则化矩阵表达式。 同样，当采用二阶差分计算时，正则化矩阵为： （3-37）此时矩阵为：3.2.2距离法MoritzH.于1989年在进行物理大地水准测量的研究时,考虑了系统误差的随机性,在解算中为了评定其精度,必须考虑其自协方差矩阵,而自协方差矩阵是由单位权方差与相关矩阵相乘得到的,即 （3

37、-38）其中在计算时用影响到相关函数的距离d来代替相关长度r，因此在确定正则化矩阵时，若考虑系统误差的随机性，且协方差矩阵已知或可求时，则正则化矩阵可取为：。一下的各种方法均为不考虑系统误差的随机性的情况，即将系统误差看成非随机参数：基于以上思想介绍了确定正则化矩阵的方法，令 （3-39） 其中b=b(r),满足下述条件以确保函数b(r)可以看成相关函数： (3-40)此时将非参数分量（系统误差）表示成分量的形式为： （3-41）上式可以看成S在各点处的估值是由函数b(r)的线性组合，并可以通过下式来计算在任意一点处的非参数分量（系统误差）的估值 （3-42）因此可以看出表示非参量分量部分的函

38、数的光滑性由函数b(r)来决定，当函数b(r)为k阶可导时，得到的非参数分量的插值函数也k阶可导。 经过验证可以得出，函数b(r)可以取三次B样条B样条函数，即1.5为选定系数，在区间-d,d上非零，并具有二阶连续导数，因此插值函数也是二阶可导的。 其中一个可行的选择是,d=1.5,式中r表示任意两点的距离，此时正则化矩阵表示为： （3-43）另外，在文献12中取函数b(r)为薄板样条，在一维空间的基础上研究了多维空间的问题，最终得到正则化矩阵可表示为成： (3-44)式中该文献中还介绍了另外一种用距离来确定正则化矩阵的方法，将该方法表示为非参数分量和时间两者的函数，其形式为：，其中为与的某种

39、距离。如。 4.进一步工作与展望基于半参数回归模型的各种优势,对其理论研究的完善将极大地促使其在测绘领域中得到更好地应用,除了本文中的研究与分析,仍有以下几个方面工作需进一步研究与完善:1.用自适应算法确定正则化参数的方法有待进一步研究与证明,各种影响正则化参数确定的因素是如何从量上对其产生影响的,综合考虑这些影响因素能否得到一种统一的确定正则化参数的方法,对其评价的指标与相对精度的具体关系是怎样的,该如何建立其评价体系。2.关于补偿最小二乘准则中的补偿项的光滑性怎么具体定义,怎么根据实际问题选择离散化表示还是连续性表示,从而得出更明确的表述光滑性的正则化矩阵。3.在补偿最小二乘估计及泛最小二

40、乘估计中，平衡参数及正规矩阵的选取仍是一个值得探讨的问题。4.将半参数模型的泛最小二乘法及抗差估计理论化和系统化，将有宽广的发展空间。参考文献1 Wolfgang Hardle. Partially Linear Models. New York:Physiea-VerlagHerdelberg,2000,55-752 王志忠、郭兴翠、周玉娜.非线性半参数模型的虚拟观测法.数学理论与应用,2007,27(2):60-633 You jinhong and Zhou Yong. Empirical likelihood for semiparametricVarying-coefficient

41、Partially linear regression models. Statisties And Probability letters,2006,76:412-4224 Wolfgang Hardle, Junlene Muller. NonParametric andSemiParametricModels. Germany: Springer-Verlag Berlin Herdelberg, 2004.,102-1045 Wang,Q.H.and Jing,B.Y. Empirical likelihood for linear models.Ann.Inst. Statist.

42、Math,2003,55:585-5956 MaJun-ling . Empirical likelihood for error-in-variablespartially 1inear models. Math. Appl.(Wuhan)2005,18(no.1):136-1437 陶肖静.半参数平差模型的平差准则研究.硕士学位论文. 湖南：中南大学，20118 Schaffrin B, Wieser A. On weighted total least-squares adjustment for linear regression J.Journey ofGeodest.2008，82：415-4219 曾文宪.系数矩阵误差对EIV 模型平差结果的影响研究.博士学位文.武汉：武汉大学，201310 丁士俊,姜卫平.补偿最小二乘半参数模型解及估计量的统计性质.大地测量与地球动力学,2010,30(