七 参数估计.doc

第七章 参数估计参数估计是这样一类问题, 即随机变量(总体)的分布类型(或说分布函数)已知, 但分布形式中含有未知参数, 如何通过的样本值来估计未知参数的值或它的取值范围以及该范围包含未知参数真值的可靠程度的问题.参数估计分为参数的点估计和参数的区间估计.一、点估计1. 点估计的提法如下: 设已知总体的分布函数（其中是未知参数）及的一个样本和一组样本值, 建立统计量, 用它的观察值作为的近似值, 这称为参数的点估计. 观察值称为的点估计值, 统计量称为的点估计量.注意, 由于估计量是随机变量, 因此对于不同的样本值, 估计值一般是不同的.2. 估计方法(1) 矩估计法矩估计法的思想: 第六章中曾指出, . 因此, 我们可以以样本矩作为总体矩的估计得到一个方程组, 解该方程组便会得到未知参数的一个估计量矩估计量.矩估计法的具体做法: 设是来自总体的一个样本, 是它的一组样本值. 假设存在, 且都是总体分布中未知参数的函数, 即,则令解此方程组, 得称, 分别为的矩估计量, 称分别为的矩估计值.例1 P178 例2例2 P179 例3该例表明, 对任意总体, 总体均值与总体方差的矩估计总为,即它们不因不同的总体分布而有差异.(2) 最大似然估计法最大似然估计法的思想是: 设在总体变量的分布形式已知（含未知参数）的情形下, 已观察到的样本的一组样本值. 由于取到这组样本值的概率(在总体变量是离散型的情况下), 或落在的邻域内的概率(在总体变量是连续型的情况下）与参数有关, 依据“实际推断原理”, 选取的值（称为最大似然估计值）应该使达到最大.最大似然估计法的思想引出最大似然函数.最大似然估计法的具体做法: 设是来自总体的一个样本, 是它的一组样本值. 则依总体变量的分布构造出最大似然函数; 求解方程组或.方程组的解称为的最大似然估计值, 而相应的估计量,称为的最大似然估计量.最大似然估计具有性质: 设参数的函数具有单值反函数, 又设是参数的最大似然估计, 则是的最大似然估计.事实上, 因为是的最大似然估计, 所以有,其中是的一组样本值. 考虑到, 且有, 于是上式可写成.这就证明了是的最大似然估计.例3 P182 例4例4 P183 例5例5 P183 例6例6 P185 基于截尾样本的最大似然估计在统计问题中往往先使用最大似然估计法, 在最大似然估计法使用起来不方便时再用矩估计法.习题P207-209 1 2(1) 3(1) 4 73. 估计量的基本评估标准(1) 无偏性 设为未知参数的估计量, 若, 则称为的无偏估计量.注: 称为以作为的估计误差. 无偏估计的实际意义是要求估计为零误差.样本均值和样本方差是总体期望和总体方差的无偏估计量;也是总体方差的无偏估计量, 其中是总体变量的期望.是总体期望和总体方差的矩估计量, 也是泊松分布、指数分布、正态分布总体的期望与方差的最大似然估计量. 前者是无偏估计量, 后者不是无偏估计量.例7 P189 例1该例表明, 对任意总体, 样本阶原点矩总是总体阶原点矩的无偏估计.例8 P189 例2(2) 有效性（最小方差性） 设, 都是未知参数的无偏估计量, 若, 则称较有效. 如果对于固定的, 若某个使达到最小, 则称为的有效估计量.有效性表明, 在样本容量相同的情况下, 方差小的无偏估计量是相对好的估计量.(3) 相和性（一致性） 设是未知参数的估计量, 若依概率收敛于, 即对于任意正数, ）, 则称为的相和估计量（或一致估计量）.注: 相和性表明, 若估计量不具有相和性, 那么不论样本容量有多么大, 都不能将估计得足够准确. 因此, 不具有相和性的估计量是不可取的.样本均值和样本方差是总体期望和总体方差的相和估计量; 也是的相和估计量. 用矩估计法得到的许多估计量都具有这种性质. 最大似然估计量在一定条件下也具有相和性.样本阶原点矩及其函数是总体阶原点矩和的相和估计量.总的来说, 具有相和性且方差小的无偏估计量才是好的估计量.习题P209-210 9 10 11(1)二、区间估计1. 区间估计的提法如下: 作为对未知参数的估计, 显然结果取得宽泛一些更合理. 另外, 对结果范围包含未知参数真值的可信程度应予以说明. 找到这个范围并判断未知参数真值落在这个范围的可信度的过程, 称为参数的区间估计. 这个范围通常以区间的形式表示, 称为置信区间.2. 基本概念置信区间 设是总体分布中的未知参数, （是的可能取值范围）. 对于给定的正数（）, 若由样本的确定的两个统计量和, 对任意满足, （7.1）则随机区间称为的置信水平为的双侧置信区间, 和分别称为的置信水平为的双侧置信区间的置信下限和置信上限, 称为置信水平.若, 对任意满足, 则随机区间称为的置信水平为的单侧置信区间, 称为的置信水平为的单侧置信区间的单侧置信上限.若, 对任意满足, 则随机区间称为的置信水平为的单侧置信区间, 称为的置信水平为的单侧置信区间的单侧置信下限.(7.1)式的含义如下: 若反复抽样多次(设各次抽样的样本容量相等, 都是), 则每组样本值都会确定一个区间, 每个这样的区间要么包含的真值, 要么不包含的真值(参见右图). 按伯努里大数定理, 在这样多的区间中, 包含的真值的约占, 不包含的真值的约占. 例如, 若, 反复抽样1000次, 则得到的1000个区间中不包含的真值的约仅为10个.3. 区间估计的方法求未知参数的置信区间的做法如下: 设是来自总体的一个样本, 是它的一组样本值. 则寻求一个样本的函数,它包含参数, 但不包含其它未知参数, 并且的分布已知且不依赖于任何未知参数(当然也不依赖于待估参数);对于给定的置信水平, 定出两个常数, 使;若能从得到等价的不等式, 其中,都是统计量, 那么就是的一个置信水平为的置信区间.函数的构造通常可以从的点估计着手考虑.显然的置信水平为的置信区间不唯一. 置信区间小表示估计的精度高.例9 P192 例4. 正态总体均值与方差的区间估计(一)几个常用统计量及其分布设是来自正态总体容量为的的样本, 样本均值, 样本方差, 则有, ; 且; .(二) 单个正态总体的情形设给定置信水平为, 并设是来自总体的一个样本, 分别是样本均值和样本方差.1o. 均值的置信区间若已知, 由于统计量, 所以的置信水平是的一个置信区间为. 它是由确定的; 的置信水平是的(单侧)置信区间为或. 若未知, 由于统计量, 所以的置信水平是的一个(双侧)置信区间为. 它是由确定的; 的置信水平是的(单侧)置信区间为或.实际问题中, 总体方差未知的情况居多.例10 P196 例1例11 P2032o. 方差的置信区间若未知, 由于统计量, 所以的置信水平是的一个(双侧)置信区间为. 它是由确定的; 的置信水平是的(单侧)置信区间为或.这时实际中常见的情形.例12 P197 例2例13 P204 例例14 P203(三) 两个正态总体的情形设给定置信水平为, 并设是分别来自总体和的两个样本, 它们相互独立. 又设分别为总体一、二的样本均值, 分别为总体一、二的样本方差.1o. 均值差的置信区间若与已知, 由于统计量, 所以的置信水平是的一个(双侧)置信区间为. 它是由确定的. 的置信水平是的(单侧)置信区间为或.若未知, 由于统计量, 其中, 则的置信水平是的一个(双侧)置信区间为. 它是由