概率论与数理统计ch7

1、第七章第七章 参数估计参数估计 7.1 7.1 点估计点估计一一. . 问题的提法问题的提法: :1212X( ; ), , , , nnF x XXXXx , x , , x设总体 的分布函数的形式为已知是待估参数，是 的一个样本，是相应的一个样本观测值。 )( ), , ,(),() , ,(21212121的估计值。的估计值。为参数为参数称称的估计量，的估计量，为为，我们称，我们称来估计未知参数来估计未知参数，用，用它的的观察值值一个一个适当的的统计量计量点估计问题点估计问题就是是要构造构造nnnn,x, ,xxXXXxxxXXX二、矩估计法二、矩估计法: :kkPnikikEXXnA1

2、1 由辛钦定理可知：样本的原点矩依概率收由辛钦定理可知：样本的原点矩依概率收敛到总体的原点矩，即敛到总体的原点矩，即据此，我们来定义一种参数的估计方法。据此，我们来定义一种参数的估计方法。为未知参数）为未知参数）（其中（其中，的分布函数为的分布函数为设总体设总体kkxFX , ,) , , ;(2121的的样样本本，是是来来自自XX, X Xn21定义：定义：的的矩矩估估计计量量。为为的的解解称称), 2 , 1(),(, 2 , 11),(21121kiXXXkrXnAEXininirrrkri的矩估计。的矩估计。求求是一个样本，是一个样本，均未知，均未知，又设设但都都存在，及方差方差的均值

3、的均值、设总体、设总体例例2n2122 , X ,X ,X , X1 样本原点矩样本原点矩依概率收敛于相应的总体依概率收敛于相应的总体原点原点矩矩, , 而样本矩的连续函数依概率收敛于相应的而样本矩的连续函数依概率收敛于相应的总体矩的连续函数总体矩的连续函数，所以所有的矩估计都有依，所以所有的矩估计都有依概率收敛这一性质（相合性）。概率收敛这一性质（相合性）。的的矩矩估估计计。求求的的样样本本，为为来来自自总总体体、已已知知例例212121,),(,2UXXXn的矩估计。的矩估计。的样本，求的样本，求是来自总体是来自总体其中其中，设总体设总体、例例2212222),(0,00,),( ),(

4、322XXXXxxexxfxfXnx的矩估计。的矩估计。的样本，求的样本，求是来自总体是来自总体，设总体设总体、例例XXXXxexfXnx),(21),( 421|三、极大似然估计方法三、极大似然估计方法:, , ,), , , ;(n212121的一个样本的一个样本是是的参数的参数待估计估计是是其中其中定义：总体定义：总体XXXXxfXkk.) , , ;() , , (n1i2121称为样本的似然函数称为样本的似然函数kikXfL., ,1 21的的函函数数似似然然函函数数是是参参数数k为为密度函数。度函数。为连续为连续型随机变量时，随机变量时，为分布为分布律；为为离散型随机变量时，随机变

5、量时，)()(2 xfXxfX。即似然函数的值比即似然函数的值比较大大的概率比的概率比较大大可以可以认为取到这为取到这组值值已已经发发生的随机的随机事件件它是是是一是一组样本值样本值易于发于发生的的事件件概率大的概率大的事件比概率小件比概率小根据根据经验验 , , , ,21n, x, , x x的极大似然估计值。的极大似然估计值。称为称为取到最大值的参数值取到最大值的参数值们们就将使得得我我较大大数值数值使得得因而是参而是参的函数的函数它是参数是参数是常数是常数对似然函数而对似然函数而言kkknLL,x, ,xx, , , , , ,21212121的极大似然估计量。的极大似然估计量。数数称

6、为参称为参应的应的统计量计量相相的极大似然估计值，而的极大似然估计值，而为为则称则称处取最大值取最大值在如如果似然函数似然函数定义定义iniiinikkiXXXxxxL), 2 , 1(),( ,),(), ,(:212121极大似然估计的求解方法极大似然估计的求解方法: :2 2、直接根据定义计算。、直接根据定义计算。1 1、求解对数似然方程：、求解对数似然方程：), 2 , 1(0),(ln21kiLik令若驻点唯一，即为极大似然估计。若驻点唯一，即为极大似然估计。的极大似然估计。的极大似然估计。求参数求参数的样本，的样本，是来自是来自；，设设、例例pXXXXxpppxfXnxx),(1

7、, 0)1(),( 5211的的极极大大似似然然估估计计。求求的的样样本本，为为来来自自总总体体、已已知知例例)(,621eXXXn221227 (, ), , , .nX NX , X , X 例 、 设总体其中均未知 设是来自该总体的一组样本 求的极大似然估计例例8 8、设总体、设总体X服从服从 0 , 区间上的均匀分布区间上的均匀分布, , 求求 的极大似然估计的极大似然估计。例例9 9、设总体、设总体X服从服从 ,+1 区间上的均匀分布区间上的均匀分布, , 求求 的极大似然估计的极大似然估计。极大似然估计的性质极大似然估计的性质:的极大似然估计。的极大似然估计。是是则则计计的极大似然

8、估的极大似然估是参数是参数又设设具有单值有单值反函数函数的函数的函数设设)(u)uu ,u),u(),(uu(例如，例例如，例8 8中参数中参数的方差的方差DX的极大似然估计的极大似然估计为：为：222max12112)12(iXDX.0, 00,1),(的极大似然估计求练习：总体xxexfXx7.2. 7.2. 估计量的评选标准估计量的评选标准 . ,:有效性和一致性有效性和一致性无偏性无偏性估计的三个常用标准是估计的三个常用标准是1 1、无偏性、无偏性: :估计量。估计量。的无偏的无偏是是则称则称有有且对于且对于存在的数的数学期期望定义：若估计量定义：若估计量 ,)(, ,)(),(n21

9、EEXXX的的渐近无无偏偏估估计计。为为，则则称称若若limEn例例1 1、对任何总体、对任何总体X，EX= =， DX= =2 2, ,X1, ,X2, , ,Xn是来自是来自X的样本，证明：的样本，证明：)0(43;2;1222222时时DXXEESnXDXEn例例2 2、X1,X2,Xn是来自是来自XU( (0 0, ,) )的样本，的样本， 证明：证明： 都是都是的无偏估计。的无偏估计。,max1,22121nXXXnnX2 2、有效性、有效性: :. )()( :212121有效有效比比称称则则，若有，若有若若定义定义DDEE 所有无偏估计中方差最小的无偏估计称为所有无偏估计中方差最

10、小的无偏估计称为最小方差无偏估计，或称为有效估计。最小方差无偏估计，或称为有效估计。上例中，上例中，n1n1时，时，)2(3222112nnDnD，有有效效：比比例例3 3、对任何总体、对任何总体X，EX= =，DX=2 2 , ,X1 ， X2, ,Xn 是来自是来自X 的样本，的样本，证明：证明： 比比 有效。有效。12)(,1121为为常常数数ininiiiiXX信信息数。数。称为称为其中其中下下界）（则则，若，若定理：总体定理：总体FisherXfEIRGnIDExfX2),(ln)()(1)();(.)(1)(的无偏估计）的无偏估计）（或称为（或称为达到方差下到方差下界的有效估计，的

11、有效估计，为为，则称，则称若若nID的的渐近有效估计。有效估计。为为则称则称若若, 1)()(1limDnIn的的渐近有效估计。有效估计。是是的有效估计；的有效估计；是是证明证明的样本的样本为正态总体为正态总体，设设、例例222212X1:,),(X,X 5nnSN。达到到方方差差界的的无无偏偏估估计计是是参参数数的的样样本本，证证明明：为为来来自自，、总总体体例例pXpXXXXxpppxfXnxx,1,0,)1 ();(42113 3、相合性（一致估计）、相合性（一致估计）: :. , 0 lim , 0,),(:n21的相合估计量的相合估计量为为则称则称即对即对若若定义定义PXXXPn由辛

12、钦定理知：由辛钦定理知：), 2 , 1(11kEXXnAkkPnikik故所有的矩估计都是相合估计。故所有的矩估计都是相合估计。的相合估计。的相合估计。为为的相合估计；的相合估计；为为的相合估计；的相合估计；为为证明：证明：的样本的样本为正态总体为正态总体、例例222221,),(,，6BSXNXXnn7.3 7.3 区间估计区间估计 :),(),() 10(,),;(n2122n2111满足和和，统计量计量给定的值定的值若对于若对于未知未知其中参数其中参数设总体设总体XXXXXXxfX定义定义: :。置信置信水平称为置信度称为置信度和置信下限，和置信下限，的置信上限的置信上限分别称为置信度

13、为分别称为置信度为和和区间区间的置信的置信的置信度为的置信度为是是则称随机区间则称随机区间)(11,1) ,(21211)(21P2 2、置信区间长度越短，估计越精确，所、置信区间长度越短，估计越精确，所以一般我们是对称的取；可以证明此时的以一般我们是对称的取；可以证明此时的置信区间长度最短。置信区间长度最短。1 1、所以置信区间并不唯一。所以置信区间并不唯一。即可，即可，满足条件条件计量计量置信区间的定义中，置信区间的定义中，统1)(,2121P求置信区间的一般思路求置信区间的一般思路（枢轴量法）（枢轴量法）1 1、设法构造一个随机变量、设法构造一个随机变量Z=Z(X1,X2,Xn; ),除

14、参数除参数 外外, , Z不包含其他任何未知参数不包含其他任何未知参数, ,Z的分的分布已知布已知( (或可求出或可求出),),并且不依赖于参数并且不依赖于参数 , ,也不也不依赖于其他任何未知参数。（依赖于其他任何未知参数。（Z即称为枢轴量即称为枢轴量）的置信区间。的置信区间。的置信度为的置信度为这这就是是解得解得、由不、由不等式1 ),(),( );,(321221121nnnXXXXXXbXXXZa1)(21P即即：1);,( ,1221bXXXZaPban使得得求出求出、对于、对于给定的置信度定的置信度7.4.7.4.正态总体参数的区间估计正态总体参数的区间估计一、单个正态总体参数的区

15、间估计一、单个正态总体参数的区间估计: :置信区间。置信区间。的的，样本，求样本，求的的是来自是来自设总体设总体1 , , , ),(2n212XXXXNX.,. 12的置信区间的置信区间求求已知时已知时当.,. 22的置信区间的置信区间求求未知时未知时当.32的置信区间的置信区间求求7.47.4 正态母体参数的置信区间正态母体参数的置信区间已知2XUn,22unXunX) 1 , 0(N未知2nSXT/,22tnSXtnSX) 1( nt被估 条件 选用 分布 1 的置信区间参数 枢轴量 222) 1(Sn) 1(2n) 1() 1(,) 1() 1(2212222nSnnSn未知已知212

16、niiX)(2n)()(,)()(221122212nXnXnini21 1、我们讲的都是双侧的置信区间，实、我们讲的都是双侧的置信区间，实际中还有单侧的置信区间，如书上的际中还有单侧的置信区间，如书上的定义。定义。2 2、若函数、若函数g(x)单调增，则：单调增，则：1)()()(1)(2121gggPP 若函数若函数g(x)单调减，则：单调减，则：1)()()(1)(1221gggPP问题举例问题举例例例1：设某异常区磁场强度服从正态分布：设某异常区磁场强度服从正态分布 ，现对该区进行磁测，按仪器规定其方差不得超过现对该区进行磁测，按仪器规定其方差不得超过0.01，今抽测，今抽测16个点，

17、算得个点，算得 问此仪器工作是否稳定问此仪器工作是否稳定 ？2( ,)N 212.7,0.0025,XS例例2：设样本：设样本 为正态分布为正态分布 的样本，其中的样本，其中 和和 为未知参数。设随机变为未知参数。设随机变量量 L 是关于是关于 的置信度为的置信度为 1 的置信区间的的置信区间的长度，求长度，求 。12,nXXX2( ,)N 22()E L例例3：设某种清漆的：设某种清漆的9个样品，其干燥时间（以小时个样品，其干燥时间（以小时计）分别为计）分别为6.0、5.7、5.8、6.5、7.0、6.3、5.6、6.1、5.0设干燥时间总体服从正态分布设干燥时间总体服从正态分布 ，求：求：

18、（1） 为为0.6时，时， 的置信度为的置信度为0.95 的单侧置信上的单侧置信上限。限。（2） 为未知，为未知， 的置信度为的置信度为0.95 的单侧置信上的单侧置信上限。限。2( ,)N 例例4：随机地取某种炮弹：随机地取某种炮弹9发做试验，得炮口速度发做试验，得炮口速度的样本标准差为的样本标准差为 S11（m / s），设炮口速度服），设炮口速度服从正态分布。从正态分布。求这种炮弹的炮口速度地标准差求这种炮弹的炮口速度地标准差 的置信度为的置信度为0.95的置信区间。的置信区间。二、两个正态总体的区间估计二、两个正态总体的区间估计:., . 1212221的置信区间的置信区间求求已知时已知时和和当., . 221222221的置信区间的置信区间求求未知未知但的的样样本本）为为来来自自（的的样样本本，）为为来来自自（，相相互独独立立，YYYYXXXXNYNXnm,),(),(2121222211. . 32221的置信区间的置信区间求求用表格表示如下：用表格表示如下：2221未知21,2211222/221/211,(1,1)(1,1)SSSFmnSFmn已已知知2221,2221222212nmuYXnmuYX未未知知2111,1122nmStYXnmStY