概率论与数理统计第七章

1、第七章参 数 估 计二二 、估计量的评选标准、估计量的评选标准一一 、点估计、点估计 三三 、区间估计、区间估计 四四 、正态总体均值与方差的区间估计、正态总体均值与方差的区间估计 统计推断的统计推断的 基本问题基本问题估计问题估计问题假设检验问题假设检验问题点估计点估计区间估计区间估计矩估计法矩估计法最大似然估计法最大似然估计法 参数估计是参数估计是统计推断统计推断的基本问题之一的基本问题之一参数估计要解决的问题参数估计要解决的问题: :总体分布函数的形式为已知总体分布函数的形式为已知, ,估计估计其一个或多个未知参数其一个或多个未知参数点 估 计 第七章 第一节二二 、矩估计法、矩估计法一

2、一 、点估计问题的一般提法、点估计问题的一般提法三三 、最大似然估计法、最大似然估计法一一 、点估计问题的一般提法、点估计问题的一般提法nXXX,21是待估参数，是的一个样本,Xnxxx,21是相应的一个样本值。 点估计就是构造一个适当的统计量),(21nXXX用它的观察值作为未知参数的近似值。),(21nxxx称为估计量),(21nXXX为估计值),(21nxxx设总体X的分布函数为);(XF形式为已知,二二 、矩估计法、矩估计法 其基本思想是用样本矩估计总体矩。 它是基于一种简单的“替换”思想建立起来的一种估计方法。是英国统计学家K.皮尔逊最早提出的。kPkA.PkkA 命题：命题：若总体

3、X 的 k 阶矩存在，则证明证明 因为样本12,nXXX相互独立且与总体X 服从相同的分布。则12,kkknXXX也相互独立，且与kX服从相同的分布。由辛钦定理11nPkikiXn 即.PkkA kkXE)(kknkkXEXEXE)()()(21即基本思想基本思想:Eg.若X为连续型随机变量，设概率密度为11( ,) ,eef x未知令1122eeAAA11nkkiiAXn1()( ,)kkkeE Xx f xdx解出12(,),1,2,iing XXXis例例1 1设总体求的矩估计量。解解: 令11A其中111niiAXXn所以的矩估计量为为X的一个样本，nXXX,1的指数分布，服从参数为,

4、1)(1XE.1X.11niixnx估计量估计值例例2 2设总体X 的概率密度为解解 dxxxXE ) 1()(10121) 1(110 dxx即211其它, 010,) 1()(xxxf 是未知参数,其中1 X1,X2,Xn是取自X 的样本,求参数的矩估计量.11A令，则12X从而的矩估计量21.1XX12( , ), ,nXU a ba bXXX未知，为X 的一个样本，求, a b的矩估计量。例例3 3设总体解解 1()()/2E Xab22222()()()()()124baabE XD XEX令1122AA12222()()124abAbaabA21213()aAAA21213()bA

5、AA111niiAXXn2211niiAXn213()niiaXXXn213()niibXXXn例例4 设 12,nXXX为X 的一个样本，求X 的数2和方差的矩估计量。学期望解解 ： 令1122AA1()E X22222()()()E XD XEX其中则1222111niiniiXnXn解得数学期望2和方差的矩估计量分别为11niiXn2211()niiXXn21nSn总结：任何分布的均值和方差的矩估计量的表达式都不变例例5设总体212( ,),nXNXXX 一个样本，求2, 的矩估计量。为X 的解解 由 22( ,)(),()XNE XD X 知所以由上例可得11niiXn221nSn若X

6、为离散型随机变量，设其分布律为11( ,) ,iisspP Xxp x未知令1122ssAAAi求，其中1,nXX为样本，1,nxx为样本值，11nkkiiAXn11()( ,)nkkkiisiE Xx p x解出12(,),1,2,iing XXXis三、最大似然估计法三、最大似然估计法 这是在总体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家高斯在1821年提出的 , GaussFisher 然而，这个方法常归功于英国统计学家费歇 。 费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 .最大似然法的基本思想：最大似然法的基本思想：假定一个盒子中有白、黑球共

7、3个，但不知各有几个，如果有放回的抽取3次球，发现第1，3次是黑球，第2次是白球，试估计黑球所占的比例？准备内容：准备内容：当总体X是离散型，,kkpxXP分布律改写为：).,(xpxXP以泊松分布为例，, 2 , 1 , 0,!xxexXPx的联合分布律为：则样本nXX,1niixp1),(分布律为( , )iipp x，其中未知。12,nXXX为X 的样本，12,nx xx为X 的样本值， X 为离散型为离散型,112211nnnnxXPxXPxXxXxXPniixp1),(),()(1nxxLL记为niixp1),( 样本的似然函数样本的似然函数1(,)nXX为的最大似然估计量最大似然估

8、计量；1( ,)nxx为的最大似然估计值最大似然估计值；满足条件:),(max),(11nnxxLxxL具体算法：具体算法：令),()(1nxxLLniixp1),(, 0)(求出利用ddL, 0)(ln求出常用Ldd对数似然方程设x1,x2,xn是取自总体 Xb(1, p) 的一个11( )(1)iinxxiL ppp解解niiniixnxpp11)1 (例例1 1似然函数为:1(1),0,1xxP Xxppx11ln ( )ln( )ln(1)()nniiiiL ppxp nx样本值，求参数p的最大似然估计值。11ln ( )11()01nniiiidL pxnxdppp11ln ( )l

9、n( )ln(1)()nniiiiL ppxp nx所以11niipxxn为 p 的最大似然估计值。设 X1, X2, , Xn 是取自总体 X 的一个样本,，求参数的最大似然估计值。( )X 例例2解解例例2设 X1, X2, , Xn 是取自总体 X 的一个样本,，求参数的最大似然估计值。( )X ,0,1,!ixiiieP Xxxx1( )!ixniieLx似然函数为:niixnniiex11!1)(ln)!1ln()(ln11niiniixnxL0)(1niixnddLnxnii1为一样本值，设nxx,1 X 为连续型为连续型思想思想：随机点1(,)nXX落在点1( ,)nxx的邻域内

10、的概率近似地为1( , )niiif xdx所以似然函数为11( )( ,; )( ; )nniiLL xxf x( )0dLdln ( )0dLd利用或得11( ,; )max ( ,; )nnL xxL xx使，例例3 3设 X1, X2, , Xn 是取自总体 X 的一个样本,X 服从参数 的指数分布，求的最大似然估计值。解解,0,( ; )0,0.xexf xx01( )( , )niiLf x1,0,1,2,0,0.niiXniiexinx似然函数为一样本值，设nxx,1当( )0,L1ln ( )lnniiLnx令ln ( )0dLd10niinx所以1.x设 x1, x2, ,

11、xn 是取自总体 X 的一个样本值,2( ,)XN ，求参数的最大似然估计值。2, 解解22()221( ; ,),2xf xex 例例422()2211( ,)2ixniLe 222211ln ( ,)ln2ln()222niinnLx 令2122241ln10ln1()022niiniiLnxLnx 222211ln ( ,)ln2ln()222niinnLx 所以2, 的最大似然估计值为12221111()niiniixxnnxsnn例例5设 X1, X2, , Xn 是取自总体 X 的一个样本,，求参数 a , b 的最大似然估计量。( , )XU a b解解1,( ; , )0,.a

12、xbf x a bbaothers1/() ,( , )0,.nibaaxbL a bothers似然函数为一样本值，设nxx,1则要使得( , )L a b取最大值注：特殊的似然函数通过求导得不到其最大，注：特殊的似然函数通过求导得不到其最大， 需要从函数本身入手。需要从函数本身入手。),min(1nxxa),max(1nxxb所以，最大似然估计量为),min(1nXXa),max(1nXXb例例6 6设设 X1, X2, , Xn 是取自总体是取自总体 X 的一个样本的一个样本,求参数求参数 的最大似然估计值。的最大似然估计值。(1),01,( ),10,.xxf xothers 解解11

13、( )( ; )(1)nniiiiLf xx似然函数似然函数1ln ( )ln(1)lnniiLnx1ln ( )ln01niidLnxd所以所以的最大似然估计值为的最大似然估计值为11.lnniinx 例例7 7 设 X1, X2, , Xn 是取自总体 X 的一个样本,求 参数 和的矩估计量；1,( ; , ),00,.xexf xx 参数 和的最大似然估计量。解解 令1122AA21211niiAXAXn其中，1()( ; , )E Xxf xdx xxedx222()( ; , )E Xx f xdx 22222xxedx所以122211122niiniiXnXn解得参数和的矩估计量为

14、11,nnSXSnn 设x1, x2, , xn是X1, X2, , Xn的样本值，则似然函数为11()1( , )( ; , )niinxniiLf xe 其中,1,2,ixin当,1,2,ixin时令21ln1()0ln0niiLnxLnln0Ln，表明L是的严格递增函数，,1,2,ixin，故1min ,nxxniixnL1)(1lnln11()1( , )( ; , )niinxniiLf xe 1min ,nxx所以当时L 取到最大值从而参数和的最大似然估计值分别为1min ,nxx111()min ,ninixxxxn则参数和的最大似然估计量分别为1min,nXX1min,nXXX

15、估计量的评选标准 第七章 第二节二二 、有效性、有效性一一 、无偏性、无偏性三三 、一致性、一致性一一 、无偏性、无偏性定义定义的无偏估计量。为参数则称),(1nXX 的估计量，是参数，存在，且如果)()(EE),(1nXX 设结论：结论：无论X 服从什么分布,只要它的数学期望存在，X总是1()E X的无偏估计量。2S是2的无偏估计例例1 设总体 X 的2, 则都存在，且的估计量2, 都未知,22211()niiXXn是无偏的吗?证明证明222211()niiXXAXn22222()()E AE X2222()()()/E XD XEXn22221()()()nEE AE Xn2所以2是有偏的

16、。例例2设 X1, X2, , Xn 是取自总体 X 的一个样本,2( ,)XN 求k 使为12211()niiikXX2的无偏估计. 求l 使为1|niilXX的无偏估计.解解 1222111()(2)niiiiiEkE XXX X1222221(2)nik1212nik22(1)nk故当1/2(1)kn时结论成立. 由于211(0,)nXXNn1(|)EXX222(1)/1|2 (1)/znnzedznn2(1)nn1222221(2)nik.22 (1)n nl故当2 (1)ln n时结论成立,( ).EniiXXElE1|)(|) (|)(|XXnlEi1(|)EXX2(1)nn的样本

17、，证明，都是总体)(X,1nXX 为任意常数）（统计量22)1 (,XSXS的无偏估计。都是参数)()(XEXE)()(2XDSE)1 (2SXE)()1 ()(2SEXE)1 (一个未知数可以有不同的无偏估计量。的无偏估计。所以都是参数解解例例3二、有效性二、有效性定义：定义：),(),(122111nnXXXX与设都是参数的无偏估计量，如果)()(21DD有效。比则称21注：注：比较有效性，必须是在无偏估计量的前提。例例4设 X1, X2, , Xn 是取自总体 X 的一个样本,2( ,),XN 验证都是123, ()E X的无偏估计. 问那个估计量最有效?2123111,244XXX31

18、23111333XXX,6323211XXX 解解 )(1E)632(321XXXE 613121都是总体均值的无偏估计量;321, 故 )(3 E )(2 E 414121)442(321XXXE )333(321XXXE 313131)632()(3211XXXDD 22221873619141 )442()(3212XXXDD )333()(3213XXXDD 22228316116141 222231919191 因为),()()(123 DDD 所以更有效3nXXX,21是总体的样本),(2NX,)(11221niiXnSniiXXnS1222)(11证明都是的无偏估计量，且有效。2

19、221,SS221S22S比证证 (1) 由于总体因此),(2NX)(21SE即是的无偏估计量。21S2)(112niiXEn2121nin例例5 设)(22SE得)1(12222SnEn12n) 1( n21222Sn) 1(2n又由即是的无偏估计量。22S2(2) 由得),(2NXi)(2iX),()(212nXnii),()(12122nXnii即)(21SD),1 (2)(112224niiXDnnnn424221222Sn)(22SD得又由),()(2221SDSD21S22S有效。比即因为) 1(2n)1() 1(22224SnDn12) 1(2) 1(422nnn)(21SDn4

20、2三、相合性（一致性）三、相合性（一致性）定义：定义：的估计量，为设),(1nXX ,p若。的相合（一致）估计量为则称区 间 估 计 第七章 第三节二二 、正态总体均值与方差的区间估计、正态总体均值与方差的区间估计一一 、置信区间、置信区间三三 、两个正态总体均值与方差、两个正态总体均值与方差 的区间估计的区间估计 例如，在估计湖中鱼数的问题中，若我们例如，在估计湖中鱼数的问题中，若我们根据一个实际样本，得到鱼数根据一个实际样本，得到鱼数 N 的最大似然的最大似然估计值为估计值为1000条条.湖中鱼数的真值湖中鱼数的真值 也就是说，希望确定一个区间，使我们能也就是说，希望确定一个区间，使我们能

21、以以比较高的可靠程度比较高的可靠程度相信它包含真参数值相信它包含真参数值.一一 、置信区间、置信区间1, (01)P 定义定义1 设总体X,含一待估参数,1nXX 为一样本，11(,),(,),nnXXXX满足则称,为的置信度为 的置信区间，1的分布函数为( ; )F x，其中给定),10（若由样本确定的两个统计量下限上限置信水平通常, 采用95%的置信度, 有时也取99% 或 90%.，%5即置信度为%.951这时重复抽样 100次, 则在得到的100个数值区间中包含 真值的有95个左右, 不包含真值的有5个左右。含义含义： 若具体的计算方法具体的计算方法 由样本12,nXXX寻找一个样本函

22、数12(,; )ng XXX，不含其他任何未知参数，分布已知，且只含有一个未知参数。 由12(,; )nag XXXb解出等价的不等式11(,)(,)nnXXXX11 (,), (,)nnXXXX是的置信度为1的置信区间。 对于给定的置信水平1，找 a , b 使得1);,(1bXXgaPn二二 、正态总体均值与方差的区间估计、正态总体均值与方差的区间估计nXX,1设为总体),(2NX的一个样本置信度1下，来确定的置信区间, 已知方差，估计均值2) 1,0(/NnX对于给定的(01)/2/21/XPzzn ，有可得/2/21P XzXznn 所以的置信水平为1-的置信区间为/2/2,XzXzn

23、n简记为/2Xzn注：注： 的置信水平1的置信区间不唯一。,可以取标准正态分布上分位点-Z0.04和Z0.01，则也有则的置信度为0.95的置信区间为01. 001. 0z04. 004. 0z0.010.040.95P XzXznn0.010.04,XzXznn但对称时的区间长度/22Lzn最短。0.05115)110120115(91x已知幼儿身高服从正态分布，现从56岁的幼儿中随机地抽查了9人，其高度分别为：115, 120131, 115, 109, 115, 115, 105, 110 cm; 假设标准差，70置信度为95%; 试求总体均值的置信区间解解 已知.05. 0, 9, 7

24、0n由样本值算得：查正态分布表得，由此得置信区间57.119,43.110例例10.0251.96z00.025Xzn例例2 从一批零件中随机抽取从一批零件中随机抽取16个个, 测得长度（单测得长度（单位位:厘米厘米) 为为 2.14, 2.10, 2.13, 2.15, 2.13, 2.12, 2.13, 2.10, 2.15, 2.12, 2.14, 2.10, 2.13, 2.11, 2.14, 2.11设设零件长度零件长度，)01. 0,(2 NX求总体均值求总体均值的置信水的置信水平为平为 0.90 的置信区间。的置信区间。解解，01. 0 ，10. 0 ，645. 12 z查表得查

25、表得，125. 2161161 iixx所以所以的置信水平为的置信水平为0.90的的置信区间为置信区间为)129. 2,121. 2(即即:20.012.1251.64516xzn设总体，)25. 1,(2NX问需要抽取容量为多大的样本,才能使的置信水平为0.95 的置信区间的长度不大于 0.49 ?解解 设需要抽取容量为n的样本, 其样本均值为,X,05. 095. 01,96. 12z查表得于是的置信水平为0.95的置信区间为025. 025. 1znX该区间长度例例31.254.921.96Lnn0.49解得100n 取100n 方差未知，估计均值2nSX t/ )1( nt /2/21

26、/XPttSn 所以的置信水平为1-的置信区间为/2/2,SSXtXtnn简记为/2(1)SXtnn。),(2 NX用仪器测量温度, 重复测量7次, 测得温度分别为: 115, 120, 121, 115, 109, 115, 115 ; 设温度 在置信度为95%时, 试求温度均值所在范围。例例443.19, 7 .1152Sx0.025(6)2.447t查表得已知.05. 0, 7 n由样本值算得：解解 得区间：8 .119, 6 .111743.194469. 27 .115例例5 对对某种型号飞机的飞行速度进行某种型号飞机的飞行速度进行15次试验次试验, 测测 得最大飞行速度得最大飞行速

27、度(单位单位: 米米/秒秒)为为420.3, 425.8, 423.1, 418.7, 438.3, 434.0, 412.3, 431.5最大飞行速度服从正态分布最大飞行速度服从正态分布. 求飞机最大飞行速度求飞机最大飞行速度 422.2, 417.2, 425.6413.5, 441.3, 423.0, 428.2, 根据长期经验根据长期经验, 可以认为可以认为的期望值的置信水平为的期望值的置信水平为 0.95 的置信区间。的置信区间。 解解 以以X 表示该飞机的最大飞行速度表示该飞机的最大飞行速度, 则则 ),(2 NX0 .425151151 iixx，05.72)(115115122

28、 iixxs查表得查表得145. 2)14()1(025. 02 tnt 由于总体方差由于总体方差未知未知, 因此因此的置信水平为的置信水平为0.952的置信区间为的置信区间为: 145. 21549. 80 .425)1(2ntnsx 05. 095. 01 由由(420.3, 429.7) 方差的置信区间2（均值未知）设nXX,1),(2 NX为总体的一个样本 niiXXnS122)(112是的无偏估计并且样本函数：)1()1(222 nSn 由于2 分布不对称性， 1)1(2221SnP由2 分布表的构造， 1)1(2221SnP22222122(1)(1)1(1)(1)nSnSPnn

29、置信区间222/2212(1)(1)(1)1nSPnn ，即2222122(1)(1),(1)(1)nSnSnn212(1)n2/2(1)n/2/2标准差的一个置信水平为1的置信区间2222122(1)(1),(1)(1)nSnSnn注意：注意：在密度函数不对称时，如2F分布和 分布，习惯上仍取和对称类似的分位点，但其置信区间的长度并不最短。例例6 某自动车床加工零件，抽查16个测得长12.15 12.12 12.0112.08 12.09加工零件长度的方差。解解 先求222111niisxnxn度（毫米）12.16 12.03 12.01 12.15 12.06 12.13 12.0712.11 12.08 12.01 12.06，怎样估计该车床(0.05)1120.150.120.612.07516x 0024. 05 . 716121515100001222查表262