《误差理论与测量平差基础教学课件》第四讲

第二章误差理论与最小二乘原理,ErrorTheoryandTheLeastSquaresPrinciple,第三讲精度估计标准（复习）,1、在仅含有偶然误差时，精度和精确度是统一的,上节课内容回顾：,2、方差指的是随即变量的离散程度，亦即反映了随即变量精度的高低,3、衡量精度的标准包括：中误差、平均误差和或然误差，统称为绝对误差,4、相对误差一般用于长度测量,5、极限误差是真误差的限值（界限）,第四讲参数估计和最小二乘原理ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,2、PropertiesofTheEstimates,3、MaximumLikelihoodEstimate,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,.Collectivity（母体，总体）,.Individual（个体）,随机变量可能取值的全体,1)SomeConcepts,组成母体的每个单元,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,.Sample（子样，样本）,.Amount（容量）,1)SomeConcepts,总体中随机抽取的若干个体,样本中个体的数目,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,.TheoreticalCharacteristic,.StatisticalCharacteristic,1)SomeConcepts,母体所具有的特性（理论方差，理论分布）,子样具有的特性（统计分布，统计方差）,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,Example:,某项观测所有可能取得的观测值为总体,一观测组的n个观测值称为子样（样本）,n就是子样的容量,观测本身就是抽样,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,科学实践中，常以子样的某些特征估计推断母体的相应的特征,2)ParametersEstimation,此时，我们关心的不是母体的分布，而是母体的某些数字特征,例如，为了推断一批灯泡的质量，就要求出这批灯泡的平均使用寿命，使用时数长短的差异，即要推断母体的期望和方差,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,2)ParametersEstimation,例如，已知偶然误差服从正态分布，需要确定的只是期望和方差，因此确定分布问题又归结为确定其中参数的问题。,当需要确定母体分布时，亦可以事先断定母体服从某种分布，未知的还是母体的某些数字特征,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,2)ParametersEstimation,通常，我们能得到母体的理论特征值吗？,因为子样具有随机性；,因为子样的容量不可能很大；,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,2)ParametersEstimation,参数估计定义：,用有限个数的子样观测值，来估计母体中某些特征参数的问题,分为点估计和区间估计,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,3)PointandIntervalEstimation,A、点估计的定义母体X服从某种分布，概率密度函数f(x)，其中有参数，则PDF通常写作f(x;)，设参数个数为t个。现从母体中抽取子样(x1,x2,xn)，点估计就是遵循某种原则，由子样构成一些统计量(x1,x2,xn)将这些分别作为母体参数的估计量。由子样观测值计算出的数值称为参数的估值。,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,3)PointandIntervalEstimation,B、区间估计的定义在一定置信概率下，估计参数所在区间的方法。例如，或然误差的求法。,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,4)ParametersEstimationinLS,依据作为子样的观测值，估计被观测量母体的均值和母体的方差。,No.4ParametersEstimationandPrincipleofLS,1、ConceptsofParametersEstimation,4)ParametersEstimationinLS,例：对某量x（如角度）进行了n次等精度、独立观测，得子样观测值，在不含系统误差时，母体服从正态分布，即x（u，），其中u，是其数学期望和方差，求其估值。,2、PropertiesofTheEstimates,No.4ParametersEstimationandPrincipleofLS,1)Unbiased,若参数的估计量的数学期望等于参数，即,称为的无偏估值,2、PropertiesofTheEstimates,No.4ParametersEstimationandPrincipleofLS,1)Unbiased,例1：证明子样的均值是母体均值的无偏估值。,例2：证明子样的统计方差是母体方差的有偏估值。,期望表达式：,因为,所以,取,子样统计方差有偏,2、PropertiesofTheEstimates,No.4ParametersEstimationandPrincipleofLS,1)Unbiased,例3：Bessel公式。,当未知参数个数为1，观测值个数为n时，根据改正数计算中误差公式,2、PropertiesofTheEstimates,No.4ParametersEstimationandPrincipleofLS,2)Validity,设和都是的无偏估值，如果的方差小于的方差，即,称比更有效。,2、PropertiesofTheEstimates,No.4ParametersEstimationandPrincipleofLS,2)Validity,例1：证明均值比任一观测值更有效。,当n1时，子样平均值比观测值更有效。,2、PropertiesofTheEstimates,No.4ParametersEstimationandPrincipleofLS,3)Identical,如果参数的估计量，随着子样容量n的增大，依概率收敛于，则有,称为的一致估计量。,2、PropertiesofTheEstimates,No.4ParametersEstimationandPrincipleofLS,证明:子样均值是母体均值的严格一致估计量。,3)Identical,3、MaximumLikelihoodEstimate,No.4ParametersEstimationandPrincipleofLS,Description：,1）f(x)称为PDF，f一定时，可以计算点密度和区间密度；,2）当分布参数已知时，任一向量都有确定的概率密度，但是，我们关心的是向量取值观测向量时的概率密度；在观测向量确定后，如何估计分布参数就是参数估计,3、MaximumLikelihoodEstimate,No.4ParametersEstimationandPrincipleofLS,Description：,3）如果不附加任何条件，分布参数取值不唯一；,4）极大似然估计：子样出现概率为最大的前提下，来求取未知参数估计量的方法。,3、MaximumLikelihoodEstimate,No.4ParametersEstimationandPrincipleofLS,Example：,设观测值母体服从正态分布N（a,2),由子样（x1,x2,xn)求参数a和2的最大或然估计量。,解：或然函数取对数得到,3、MaximumLikelihoodEstimate,No.4ParametersEstimationandPrincipleofLS,最大或然估计就是：当子样（x1,x2,xn)取值确定后，参数a和2取何值时，或然函数取值最大。,分别对a和求导，令其等于零,3、MaximumLikelihoodEstimate,No.4ParametersEstimationandPrincipleofLS,解得,当母体服从正态分布时，子样算术平均值和子样方差就是母体数学期望和方差的最大或然估计量。,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,1）设某一量n个非等精度观测结果L1,L2,Ln，观测值服从正态分布，以中误差mi代替均方差，以估值代替E(L),组成的或然函数为,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,或然估计就是使上式取得最大值，即,亦即,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,上式乘以常数22，对求最小值无影响,vi表示观测值Li和参数估值之差,并令,于是,或者,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,其中,此即为非等精度且观测值独立时的最小二乘原理。,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,2）设存在n个未知量，根据随机向量的正态分布密度函数，观测值向量L的分布密度函数为,其中,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,协方差矩阵,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,引入非零参数参数0,于是,可得到如下关系式,此即为权矩阵和协方差矩阵的关系式。,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,2）设存在n个未知量，根据随机向量的正态分布密度函数，观测值向量L的分布密度函数为,上式中以估值代替理论值,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,2）设存在n个未知量，根据随机向量的正态分布密度函数，观测值向量L的分布密度函数为,或然函数取最大值时，得到最小二乘估值公式,4、TheLeastSquaresEstimate,No.4ParametersEstimationandPrincipleofLS,当观测值服从正态分布时，最小二乘原理与参数估计中的最大