




已阅读5页,还剩29页未读, 继续免费阅读
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
目录前言第1章 估计方法和广义测量平差原理. (1)1-1概述1-2多维正态分布 1-3极大似然估计1-4最小二乘估计)1-5极大验后估计1-6最小方差估计1-7线性最小方差估计1-8贝叶斯估计1-9广义测量平差原理第2章最小二乘平差的统一理论和方法2-1概述2-2秩亏自由网平差2-3附加系统参数的自由网平差2-4极大验后滤波与推估2-5最小二乘配置2-6静态逐次滤波2-7随机模型具有奇异协因数阵的平差2-8广义G-M模型的平差问题2-9广义G-M模型下的精度和统计性质第3章平差随机模型的验后估计3-1概述3-2赫尔墨特方差分量估计法3-3方差一协方差分量估计3-4二次无偏估计法3-5方差分量估计中的精度评定第4章动态线性系统的卡尔受滤波4-1连续线性系统的数学模型4-2离散线性系统的数学模型4-3离散线性系统的卡尔曼滤波4-4动态测量系统的卡尔曼滤波4-5离散型卡尔曼滤波的推广4-6离散线性系统的预测4-7离散线性系统的平滑第5章稳健估计的基本理论5-1统计稳健性5-2稳健性的数学描述5-3位置参数的稳健估计第6章有偏估计6-1概述6-2岭估计6-3广义岭估计参考文献1 崔希璋,於宗祷,陶本藻,刘大杰广义测量平差北京:测绘出版社,19822 崔希璋,於宗祷,陶本藻,刘大杰,于正林广义测量平差(第二版)北京:测绘出版社, 19923 黄琳系统与控制理论中的线性代数北京:科学出版社,19844 袁天鑫最佳估计原理,北京:国防工业出版社,19795 王松桂线性模型的理论及其应用合肥:安徽教育出版社,19876 贾沛璋,朱征桃最优估计及其应用北京:科学出版社,19847 黄维彬近代平差理论及其应用北京:解放军出版社,19928 李庆海,陶本藻概率统计原理和在测量中的应用(第二版)北京:测绘出版社,19909 陶本藻自由网平差与变形分析北京:测绘出版社,198410 周江文误差理论北京:测绘出版社,197911周江文,陶本藻,庄昆元等拟稳平差论文集北京:测绘出版社,198712王新洲稳健二次估计理论及其在GPS随机模型估计中的应用:博士论文武汉:武汉测绘科技大学,199413孙海燕P范分布理论及其在测量数据处理中的应用:博士论文武汉:武汉测绘科技大学,199514 方开泰,金辉,陈庆云实用回归分析北京:科学出版社,198815 刘大杰,陶本藻等实用测量数据处理方法北京:地图出版社,200016陈希孺,方兆本等非参数估计上海:上海科学技术出版社,198917MoritzHLeast-Squares KolloKationDGK-A75,Mnchen 197318Wolf. HAusgleichungsrechnungFormeln Zur Praktischen Anwendung. Dmrnler: Bonn,197519Huber,PJRobust Statistics. JohnwilleyNew York,198620Kocb K R Parameterschtung und Hypothesentests in Linearen Modellen Dmmler.Bonn,198021Rao. C. RLenear Statistical Inferences and Its ApplicationJohn Wiley:New York, 1973第1章 估计方法和广义测量平差原理1-1概述在测量、通讯和控制等学科中,为了求得某些未知参数,常常要进行一系列的观测。由于测量上的局限性,往往只能观测未知量的某些函数,且观测值中必然含有误差(或称为噪声)。这就产生了根据含有误差的观测值求定未知参数估值的问题。下面举几个例子。(1)为了确定平面或三维控制网中各点的坐标,对控制网的边长和方向进行了观测,当然,观测值包含有误差。设各点的坐标为未知参数向量X,而包括边长和方向的观测值向量为L,则L和X之间有函数关系式中表示误差向量。通过含有误差的观测向量L来求定待定点坐标的最佳估值,就是一个估计问题。在测量中,就是一个平差问题。(2)通讯理论中的一个重要间题是从接收到的信号中,提取被发送的信号。设被发送的信息调制成信号,而接收到的信号也就是信号的观测值,由于大气噪声和电路噪声的干扰,因此有其中是噪声,t表示时间。通讯中的主要问题就是从中将有用的信号分离出来,也就是由求定的最佳估值。信号也是一种未知参数。(3)生产过程的自动化可以达到高效率和高精度。在实现生产过程的控制中,需要通过对生产系统进行状态的不断测量,得到与系统运行状态有关的观测值;然后对观测值进行分析处理得到控制信号,实时地控制生产系统按要求运行。但由于观测值中存在误差,所以,为了得到控制信号,就要求由观测值来估计系统的运行状态。(4)卫星(或其它运动体)的轨道往往可以由如下微分方程确定式中 t 表示时间;表示卫星的轨道参数,在此处称为状态向量;为控制向量;是随机的状态噪声(不是观测值的噪声)。为了精确估计或预测卫星的轨道,就需要对卫星进行观测,从而得到大量的观测数据,然后实时地由含有误差的观测值来估计卫星的轨道,即估计卫星的轨道参数。以上例中所述的信号或状态都可以说是一种未知参数。在测量平差中,通常称非随机的未知参数向量为参数,而称随机参数向量为信号,而称随时间t变化的动态系统中的未知参数向量为状态向量,或简称为状态。可以看到,在上面的例子中,都存在一个对未知参数进行估计的问题。一般说来,若设X为 t 阶未知参数向量(简称为参数),L为 n 阶观测向量(或称观测值),表示 n 维误差(或噪声)向量。那么,所谓估计问题,就是根据含有误差乙的观测值L,构造一个函数,使成为未知参数向量X的最佳估计量,其具体数值称为最佳估值(以后一般不区分其含义)。通常将简记为,并记称为的估计误差。可以看到,当的数学期望等于零时,的方差就等于;而当X为非随机量时,未知参数的估值的方差也就等于其误差方差。在估计理论中,通常是用估计量的误差方差来衡量其精度的。但在经典的最小二乘平差中,由于X一般都是非随机参数,所以习惯上都用估值(平差值)的方差衡量精度。在根据观测值L求未知参数X的估值时,总是希望所得到的估值是最优的。由估计理论知道,最优估计量主要应具有以下几个性质:(1)一致性。由观测值得到的估值通常与其真值是不同的,我们希望当观测值个数n增加时,估计量变得更好些;当n无限增大时,估计量向被估计的参数趋近的概率等于1。即如果对于任意e0,有 (1-1-1)则称估计量具有一致性;若有 (1-1-2)则称此估计量是均方一致的。估计量的一致性是从它的极限性质来看的。(2)无偏性。若估计量的数学期望等于被估计量X的数学期望,即 (1-1-3)如果X是非随机量,上式即为 (1-1-4)则称为无偏估计量。如果,则称为渐近无偏。(3)有效性。若由观测向量L得到无偏估计量X的误差方差,小于由L得到的任何其它无偏估计量X*的误差方差,即或写为 (1-1-5)则称是有效估计量,也称具有有效性或方差最小性以不同的准则来求定未知参数的最佳估值,可得到不同的估计方法。估计方法主要有极大似然估计,最小二乘估计,极大验后估计,最小方差估计和线性最小方差估计等;经典的测量平差法都是以最小二乘估计或极大似然估计为根据导出的;而滤波、配置和动态系统的卡尔曼滤波等,最初是以极大验后估计或最小方差估计为根据导出的。因此,概率统计中的估计理论是广义测量平差的理论基础。1-2多维正态分布正态分布是测量平差理论中最常用的误差分布,是最小二乘平差误差理论的基础。本节在已学过一元正态分布基础上,对多维正态分布作全面阐述。广义测量平差理论中还牵涉到其它分布,则将分别在相应章节中一一介绍。1。多维正态分布的定义和性质设有m个互相独立的标准正态随机变量构成的随机向量,则称它们的有限个线性函数 (1-2-1)为n维正态随机向量。此时,X的数学期望和方差阵为 (1-2-2)X的分布函数和概率密度都简称为n维(或n元)正态分布,简记为,或写为。由互相独立的标准正态随机变量组成的随机向量Z,可写为,为n阶单位阵。多维正态分布具有以下性质:(1)正态随机向量的线性函数还是正态的。例如,设,Y = BXb,则(2)设,记,则 , 2。多维正态分布设有n维正态随机向量,其中方差阵为可逆阵,即det(),则它的概率密度为 (1-2-3)式中表示的行列式。对于二维正态随机向量,若它有可逆方差阵和数学期望为和则由(1-2-3)式可得其概率密度为因相关系数,所以上式可写为(1-2-4)这就是二维正态随机向量概率密度。当或时,即当X和Y是互不相关的两个正态随机变量时,则有 (1-2-5)这就是说,当时,X和Y是互相独立的。所以,对于正态分布来说,随机变量的“互不相关”与“互相独立”是等价的。根据(1-2-4)式绘制二维正态曲面(密度曲面)如图1-1。曲面在点处取得最大值。如果用平行于XOY面的平面ZZo(常数)截此曲面,即得到一族椭圆,椭圆上所有点的概率密度值均相等,因此,称这些椭圆为等密度椭圆。3。正态随机向量的条件概率密度设有n+t 维正态随机向量X,且设,X1和X2分别是由X的前n个分量和后t个分量构成的正态随机向量,即, 。X的概率密度是 (1-2-6)按分块矩阵求逆公式,有 (1-2-7)或为 (1-2-8)其中 (1-2-9)可将(1-2-7)和(1-2-8)两式分别写为 (1-2-10) (1-2-11)因还分解为 所以,的行列式之值为 利用(1-2-10)和(1-2-9)和(1-2-13)式,可将概率密度式(1-2-6)改写为(1-2-14)或(1-2-15)其中 (1-2-16)根据边际概率密度和多维正态分布的性质知 (1-2-17) (1-2-18)又由条件概率密度公式知 (1-2-19) (1-2-20)将(1-2-14)和(1-2-17)两式代入(1-2-19)式,得 (1-2-21)而将(1-2-15)和(1-2-18)两式代入(1-2-20)式,即得(1-2-22)显然,上两式仍然是正态概率密度,根据条件期望和条件方差的定义和正态概率密度的性质可得 (1-2-23) (1-2-24)因此,(1-2-21)和(1-2-22)又可写为(1-2-25)正态分布的条件期望具有以下性质:(1) 由(1-2-23)式知,是的线性组合,所以,它是正态随机向量;当然,也是正态随机向量。(2) 设X和Y为正态随机向量,且设 (1-2-26)则是与Z互相独立的随机向量。因为由协方差传播律可得(3) 设,且,而,则有 (1-2-27)证 因为 所以 =(4) 设,且,令,则有证 因为所以 , (1-2-29)利用分块求逆公式和(1-2-29)式得 =4。矩阵反演公式由于正定矩阵的逆阵惟一,故由(1-2-7)、(1-2-8)两式直接可得: (1-2-30) (1-2-31)由此可知,对于任意矩阵A、B和任意可逆阵C、D,只要在下式中它们可以相乘,就有上两式关系,-般形式为 (1-2-32) (1-2-33)通常称(1-2-32)、(1-2-33)两式为矩阵反演公式,是两个非常重要的关系式,在测量平差推导公式时常要用到。矩阵反演公式也可直接证明。令,则有 (1-2-34)将上式左乘B,得或 此即(1-2-33)式,代入(1-2-34)式,即得(1-2-32)式。1-3极大似然估计设有参数向量,它可以是未知的非随机量,也可以是随机向量,为了估计X进行了n次观测,得到了观测向量的观测值,又假定对X的所有可能取值为,在X的条件下得到的观测向量L的条件概率密度为。容易理解,是和的函数,但对具体的观测值来说,可以认为只是的函数。因此,如果是中的一个,而是中的最大值,那么,是X的准确值的可能性最大。此时把叫做X的极大似然估值,并记作或。这就是说,极大似然估计是以max (1-3-1)为准则求最佳估值戈的方法。显然,它满足于 (1-3-2)由于对数是单调增加函数,因此与在相同的值达到最大,亦即(1-3-2)式等价于 (1-3-3)此方程称为似然方程,称为似然函数,而称为对数似然函数。如果参数X是非随机量,则而(1-3-1)式变为max (1-3-4)此时,是的概率密度,其中的只是表示函数与参数X有关。由似然方程或(1-3-2)式可见,极大似然估值是观测值L的函数。在采用极大似然估计求,需要首先知道似然函数或对数似然函数ln。例1-3-1 设有观测方程为(k1,2,n)并且已知与互相独立,的概率密度为试由观测向量,求和的极大似然估值。解 由于与具有相同的分布,所以有似然函数下面分几种情况讨论:(1)当为已知,求的极大似然估值。因对数似然函数为故由似然方程可得:即因此又因为所以是的无偏估计量。(2)当为已知,求的极大似然估值。由对数似然函数和似然方程可得:可得因为所以是的无偏估计量。(3)当和均为未知时,求和的极大似然估值。由于这时有两个参数,若设,则似然方程为可得因此且 即是的无偏估计量;是的的有偏估计量,但当时, ,因此,是的渐近无偏估计量。上例中的似然函数是正态条件概率密度。一般来说,当是正态条件概率密度时,有(1-3-5)式中 (1-3-6) (1-3-7)则似然方程等价于min也等价于由此可得:而所以有即得(1-3-9)上式就是当为正态条件概率密度时求极大似然估值的公式。例1-3-2 设有线性模型 (1-3-10)若,且,正定,由(1-3-10)式知,因此,(1-3-6)、(1-3-7)式为代入(1-3-9)式,可得 (1-3-11)结果说明,对于线性模型(1-3-10),尽管X是随机参数,其极大似然估计并不受其先验期望和先验方差的影响。例1-3-3 设对被观测量X进行了n次独立的同精度观测,得观测值L1,L2,Ln,其真误差分别为1,2,n:,若假设X的极大似然估值为,且满足 (1-3-12)试根据极大似然估计原理求观测误差的概率分布密度函数。解 设误差的概率密度函数为f(A) ,则的联合概率密度为 (1-3-13)将上式取对数并对求导,考虑到,可得 (1-3-14)记,由于为极大似然估值,所以由知 (1-3-15)令 (1-3-15)成为 (1-3-16)由于满足(1-3-12)式,所以应有即 记 (1-3-17)则有 (1-3-18)由(1-3-17)知可表达为的函数,所以亦可表达为的函数,不妨记。将展开为的幕级数将上式求和,考虑到(1-3-16)式得由此式及(1-3-18)式并顾及到可取任意值,知及 即 (1-3-19)对上式取积分,并写成指数形式得所以观测误差D的概率密度函数为 (1-3-20)由偶然误差的特性知为偶函数,则随的增加而减小,所以k10,记,()则(1-3-20)可写成 (1-3-21)考虑到及可得 和 式中为观测误差的母体方差。为伽玛函数,将A、h代入(1-3-21)式即得 (1-3-22)式(1-3-22)称为-元p范分布的概率密度函数。本例说明当x的极大似然估值满足(1-3-12)式时,其随机误差服从-元p范分布,概率密度为(1-3-22)式。1-4最小二乘估计设被估计量是维未知的参数向量X,观测向量为,其观测误差(或称为噪声)向量为,观测方程 (1-4-1)式中B的秩rk(B)t,设X的估值为,则有 (1-4-2)所谓最小二乘估计,就是要求估值使下列二次型达到最小值,即 (1-4-3)其中,是-个适当选取的对称正定常数阵,称为X的最小二乘估值,记为或(L)。当参数X的各个分量之间没有确定的函数关系,即它们是函数独立的参数时,可将对求自由极值,令其-阶导数为零,得 (1-4-4)转置后,得或 (1-4-5)解得 (1-4-6)又因为所以使达到极小值。最小二乘估计量的估计误差为 (1-4-7)由此式按协方差传播律可得的误差方差阵为 (1-4-8)将对称正定阵表示为(R为可逆阵),并令则得:且由“矩阵形”许瓦茨不等式可得:即只有当或(为常数)时,上式才取等号,而使的误差方差阵达到最小,此时有 (1-4-9)有时将取为或时的估计称为马尔柯夫估计,此时应将(1-4-3)式写为 (1-4-10)可以看到,最小二乘估计具有如下性质:(1)最小二乘估计是-种线性估计,即X的估计量比是观测值的线性函数。(2)当观测误差的数学期望为时,因所以即具有无偏性。(3)当观测误差的方差阵为,而取或时,的误差方差阵达到最小值。(4)最小二乘估计不需要X的任何先验统计信息。当X是非随机量,或X虽然是随机量,但完全不考虑其先验统计信息时,由观测方程(1-4-1)和(1-4-6)式按协方差传播律可知 (1-4-11) (1-4-12)上面是不考虑概率分布,直接将(1-4-3)式作为-种估计准则。当观测误差和参数X是正态随机向量时,这种最小二乘估计准则还可以从极大似然估计导出。设,由于X和D-般是互相独立的,故设如。则由观测方程(1-4-1)式可得: (1-4-13)而在条件下的条件概率密度为式中 将(1-4-13)式代入上式得: 由于似然方程等价于min所以也等价于 (1-4-14)考虑到或则(1-4-14)式也就是最小二乘估计的准则(1-4-10)。这就由极大似然估计导出了最小二乘估计。从上述讨论看到,在由极大似然估计导出最小二乘估计的过程中,虽然将参数X作为随机向量,但是在求最小二乘估值时,并不需要知道X的先验期望和先验方差。因此,从这个意义上可以说,最小二乘估计实际上并没有考虑参数的随机性质。正因为如此,当不知道参数的先验期望和先验方差,或者参数是非随机量时,可以应用上述最小二乘估计求其估值。本节是以间接平差的函数模型为例,说明了最小二乘估计的准则。至于其它的各种经典平差法(如条件平差、附有参数的条件平差、附有限制条件的间接平差),尽管它们各具自己的函数模型,但它们所依据的估计准则不变,其差别仅在于:在不同的函数模型下,它们的具体求解方法有所不同。因此可以说,各种经典平差方法,都是依据最小二乘估计准则,去求未知参数X的最小二乘估值和观测值L的平差值。1-5 极大验后估计如1-3中所述,极大似然估计是以“=min”为准则的估计方法,而极大验后估计则是以 (1-5-1)为准则的估计方法。这里是随机参数向量在观测向量的条件下的条件概率密度,仍然表示L的观测值。这个准则的含义在直观上是较明显的。它的含义是:给定了L的-组子样观测值,由这组可以按-定的概率取得参数X的不同估值,其中最佳估值的条件概率密度应为极大值。-般用或表示由极大验后估计得到的最佳估值,称之为极大验后估值,显然应满足 (1-5-2)此方程称为验后方程。因为将上式对求导,则有由此可知,极大验后估计的准则(1-5-1)式也等价于max (1-5-3)例1-5-1 设有观测值,观测方程为, (i1,2,n)其中参数与观测误差均为相互独立的正态随机变量,且有,试求的极大验后估值。解 因和的概率密度为由此可得所以则由验后方程得:即有或写为解此方程就可得到极大验后估值。下面讨论X和L均为正态随机向量的情况。因为此时条件概率密度为(1-5-4)其中 (1-5-5) (1-5-6)上式中各个符号的意义均与1-3中相同。将(1-5-4)式代入验后方程(1-5-2),有则得所以亦即 (1-5-8)估值的估计误差为 = (1-5-9)由协方差传播律可得的误差方差阵为即得: (1-5-10)(1-5-8)和(1-5-10)式就是当X、L为正态随机向量时,极大验后估计求X的估值及其误差方差的基本公式。由(1-5-8)式不难看出,是X的无偏估值。例1-5-2 设有观测方程 (1-5-11)也设X和为正态随机向量,cov(X,)0。此时有将它们代入(1-5-8)式即得: (1-5-12)它的误差方差阵为 (1-5-13)从上面的讨论可知,由于极大验后估计考虑了参数X的先验统计特性,因此,当参数的先验期望和先验方差已知时,极大验后估计改善了最小二乘估计,此时,极大验后估值的误差方差要小于其最小二乘估值的误差方差。1-6最小方差估计最小方差估计是-种以估计误差的方差为最小作为准则的估计方法,即根据观测向量L求得参数X的估值,如果它的误差方差比任何其它估值的方差小,就认为这个估值是最优枯值。记X的最小方差估值为或。设任-估值为,其估计误差为,而误差方差阵为 (1-6-1)当取最小值时的就是最小方差估值。因(1-6-1)式表示的方差阵是-个非负定对称阵,所以,为了求得使取得最小值的,只需要求下式的最小值,即得: (1-6-2)由上式可写出因为 化简得(1-6-3)由于总是-个非负定阵,所以 (1-6-4)欲使取得最小值,就应使上式取等号,此时应使即得参数的最小方差估值为 (1-6-5)而最小方差估值的误差方差阵为 即 (1-6-6)它是估计误差的最小方差阵。 (1-6-7)因可见,是X的无偏估计量。可以看到,当X和L都是正态随机向量时,X的最小方差估值和它的极大验后估值是相等的。然而,当X和L不都是正态随机向量时,就不-定等于了。1-7线性最小方差估计前面所述的极大似然估计、极大验后估计和最小方差估计,均要求知道观测向量L和未知参数向量x的条件概率密度或联合概率密度,它们所得到的估计量可以是L的任意函数。而最小二乘估计可以不需要知道任何统计性质,所得到的估计量是L的线性函数,所以说最小二乘估计是-种线性估计。本节的线性最小方差估计则是放宽对概率密度的要求,只要求已知L和X的数学期望和方差、协方差,以及限定所求的估计量是观测向量L的线性函数,再以估计量的均方误差达到极小为求最优估计量的准则。这样得到的估计量称为线性最小方差估计量,并记为或。设已知观测向量L的数学期望和方差为和,参数向量X的先验期望和方差为和,L和X的协方差为,又设估计量是L的线性函数 (1-7-1)式中和:只是非随机常数向量和系数矩阵。此时,的误差向量是 (1-7-2)则的数学期望和方差分别为 (1-7-3) (1-7-4)而的均方误差阵为即得 将上式配方,则有 (1-7-5)上式右边第一、二项都是非负定阵,而第三、四项均与、无关。显然,为使(1-7-5)式中的达到极小,惟-的解就是选取、,使(1-7-5)式右边的第一、二项等于零,亦即使 (1-7-6) (1-7-7)将(1-7-6)和(1-7-7)两式代入(1-7-3)式可得: (1-7-8)再将(1-7-7)和(1-7-8)两式代入(1-7-1)式,即得线性最小方差估计量 (1-7-9)因为,所以,的方差D()可由(1-7-5)式得出 (1-7-10)如果把线性最小方差估计的达到最小的准则,改为其迹tr()达到最小,即tr()(1-7-11)则可按求极值的方法求定、。将(1-7-11)式分别对、求导数,并令其为零,可得: (1-7-12) (1-7-13)由(1-7-12)式可得:代入(1-7-13)式得:即有所以也可得 (1-7-14) (1-7-15)此即(1-7-7)、(1-7-8)式,由此可知,这种以方差阵之迹达到最小的准则,与前面以方差阵达到最小的准则所得到的结果完全相同。有时也称这种以方差阵之迹达到最小为准则的估计方法称为最小方差迹估计。不难看到,线性最小方差估计量具有以下性质:(1) 由(1-7-9)式可得:所以,是X的无偏估计,即具有无偏性。 (2) 具有有效”,即的误差方差取得最小值。这是显然的,因,其误差方差等于其方差阵。(3)因为估计误差可表为所以与观测向量L的协方差阵为可见,估计误差向量与观测向量L是不相关的;从几何的角度看,可以将此性质叫做与L正交。X与L本来不是正交的,但从X中减去-个由L的线性函数构成的随机向量后,即与L正交。因此可以说,是X在L上的投影。(4)当X,L的联合概率密度是正态时,因为所以,此时X的线性最小方差估计量丸就等于最小方差估计量,也等于其极大验后估计量。1-8贝叶斯估计在1-5和1-6中介绍的极大验后估计和最小方差估计,可以说是贝叶斯(Bayes)估计的两种形式,因此有必要介绍-些关于贝叶斯估计的概念。仍设X是被估计的未知参数向量,L是观测向量,是根据L给出的X的-个估计量,其估计误差为。设有估计误差的-个标量值函数: (1-8-1)如果它具有性质:(1)当时,;(2)当时,;(3)。其中。,则称为估计量对X的损失函数(或代价函数),并称其数学期望为的贝叶斯风险,记为 (1-8-2)上述的第一个性质说明它是原点到的距离的非减函数;第二个性质的含义是,当估计精确时,估计的损失为零;第三个特性说明对称于原点。所谓贝叶斯估计,就是根据使贝叶斯风险达到最小的准则来求定未知参数的估计量,也就是使满足 (1-8-3)可以看到,选择不同形式的损失函数,就可得到不同的贝叶斯估计方法和结果。下面来说明极大验后估计和最小方差估计是贝叶斯估计的两种形式。1。极大验后估计设选择的损失函数是 (1-8-4)上式的损失函数称为均匀损失函数,此时,的贝叶斯风险为 (1-8-5)上式可写为若设X的贝叶斯估计量为,因等价于当足够小(0)时,这又等价于 (1-8-6)所以,此时又是X的极大验后估计量。也就是说,当损失函数是(1-8-4)式,且足够小时,贝叶斯估计就是极大验后估计。2。最小方差估计设选择的损失函数是 (1-8-7)式中S为任意对称非负定阵,(1-8-7)式的损失函数称为二次型损失函数。此时,的贝叶斯风险为 (1-8-8)不难看到,上式也可写为矩阵迹的形式,即有 (1-8-9)式中的积分就是的误差方差阵,当取SE时,选择二次型损失函数的贝叶斯估计,是以估计量的误差方差阵之迹达到最小为准则来求X的方法。因此,可以说,它就是最小方差估计。如果将(1-8-8)式写为则它也等价于 (1-8-10)又因为所以有由于S是非负定阵,因此下式成立:亦即 (1-8-11)又由于因此,当时,确使具有最小值。也就是说,根据(1-8-9)式求得的也是X的最小方差估计量。1-9广义测量平差原理测量平差的主要任务,是根据含有随机误差的观测值来确定被观测量及其函数的平差值,也就是求定未知参数的最佳估值。前面所讨论的各种估计方法也就是广义测量平差的理论基础。为了进一步说明广义测量平差原理,下面先讨论在正态分布的情况下,上述估计方法的关系。从前面的叙述可以看到,对于正态分布来说,极大验后估计所得到的结果,与最小方差估计、线性最小方差估计相同;而在一定的情况下,可以由极大似然估计导出最小二乘估计。因此,本节主要说明极大似然估计、最小二乘估计与极大验后估计之间的关系。由1-3知,对于正态分布,极大似然估计的准则max等价于min (1-9-1)若未知参数为,观测误差 ,并有观测方程 (1-9-2)再记 (1-9-3) 则由1-4知,似然方程等价于最小二乘估计准则 (1-9-4)其中若取1,则。(1-9-3)式也就是观测值L对应的误差方程。又由1-5知,极大验后估值应满足验后方程根据贝叶斯公式可得:将上式对求导,则有 (1-9-5)考虑正态分布的概率密度f(lx)和fl(x)可知,极大验后估计准则,也等价于 (1-9-6)而当有观测方程(1-9-2),且时,上式便等价于 (1-9-7)下面根据(1-9-5)和(1-9-7)式来进行讨论。在式(1-9-6)中,其左边第-项就是极大似然估计准则的等价公式(1-9-1)的左边项。因此,当X是随机参数时,极大验后估计改善了极大似然估计或最小二乘估计。而当X的先验概率密度为常数时,则有 (1-9-8) (1-9-9)所谓先验概率密度为常数,也就是说在-定的范围内,参数X在验前取任何值的概率都相等,亦即X是不具有先验统计特性的非随机量。上两式表明,极大验后估计在此时便退化为极大似然估计或最小二乘估计。如果将(1-9-7)式中的未知参数看成非随机量,亦记为X*,将此时的观测向量记为L*;而将X的先验期望看成是与L*相互独立,且方差为的虚拟观测值,记为,相应的虚拟观测误差记为,则有观测方程为 (1-9-10)若仍以表示X*的估值,并记 (1-9-11)此式也就是误差方程。于是,(1-9-7)式可写为 (1-9-12)式中,当取1时,即有,它们表示权矩阵。也就是说,在上述情况下,可以对L*和 列出误差方程(1-9-11),按(1-9-12)式来求非随机参数X*的估计值。容易看到,(1-9-12)式是1-4中的最小二乘估计准则的扩充,因此,称(1-9-12)式为广义最小二乘原理。而将按广义最小二乘原理进行平差的过程,称为广义测量平差。不难理解,在上述情况下,按极大验后估计(或最小方差估计)求得的(或)同按广义最小二乘原理求得的估值,在数值上是完全相等的。同时,由于按广义最小二乘原理求时,X*是非随机量,因此所得到的估值的方差()也就等于其误差方差,当然它也等于的误差方差,但一般并不等于的方差。在以后按广义最小二乘原理进行平差时,一般不区分和。以上的讨论说明,在正态分布的情况下,极大验后估计可以转化为广义最小二乘估计,实际上,随机参数的先验期望和先验方差的精确
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2025年绿色环保型展览馆智能照明系统改造工程劳务分包合同
- 2025年城市绿化工程合同生态效益评估与维护管理协议
- 操作并发症练习卷附答案
- 2024年辽宁社区《网格员》模拟试题(含答案)
- 消化科门诊病历范文
- 2025年民事纠纷和解协议书及财产保全执行合同
- 平面设计的毕业论文
- 2025年度贷款中介居间业务代理合同
- 化工技术专业毕业论文
- 2024年社区《网格员》考前自测卷(含答案)
- 《教育强国建设规划纲要(2024-2035年)》全文
- 2025年中国人寿:养老险总公司招聘笔试参考题库含答案解析
- 《中国动漫发展史》课件
- DB52-T1631-2021自然保护区综合科学考察技术规程
- 学校安保合同范本
- 客服外包合同范例
- 六年级阅读题打印20篇
- 制造业安全隐患举报与奖励制度
- 华师大版(新)七年级上册数学全册教案(教学设计)及教学反思
- 初中道德与法治教师培训
- 全过程工程造价咨询投标方案(技术方案)
评论
0/150
提交评论