第7章参数估计

1、第第7章章 参数估计参数估计参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计区间估区间估 计计统计统计推断推断 DE基本基本问题问题什么是参数估计？什么是参数估计？参数是刻画总体某方面的概率特性的数量参数是刻画总体某方面的概率特性的数量.当这个数量是未知的时候，从总体抽出一个当这个数量是未知的时候，从总体抽出一个样本，用某种方法对这个未知参数进行估计样本，用某种方法对这个未知参数进行估计就是参数估计就是参数估计.例如，例如，X N ( , 2), 点估计点估计区间估计区间估计若若 , 2未知，通过构造样本的函数未知，通过构造样本的函数, 给出它给出它们的估计值或取值范围就是参数

2、估计的内容们的估计值或取值范围就是参数估计的内容.)1 . 0,(2 N（假定身高服从正态分布（假定身高服从正态分布 ） 设这设这5个数是个数是:1.65 1.67 1.68 1.78 1.69 估计估计 为为1.68，这是这是点估计点估计.这是这是区间估计区间估计.估计估计在区间在区间1.57, 1.84内，内，假如我们要估计某队男生的平均身高假如我们要估计某队男生的平均身高. 现从该总体选取容量为现从该总体选取容量为5的样本，我们的样本，我们的任务是要根据选出的样本（的任务是要根据选出的样本（5个数）求出个数）求出总体均值总体均值 的估计的估计. 而全部信息就由这而全部信息就由这5个个数组

3、成数组成 .参数估计的类型参数估计的类型点估计点估计 估计未知参数的值估计未知参数的值区间估计区间估计 估计未知参数的取值范围，估计未知参数的取值范围， 使得这个范围包含未知参数使得这个范围包含未知参数 真值的概率为给定的值真值的概率为给定的值. .矩估计法一极大似然估计二 .1. 估计量估计量：用于估计总体参数的随机变量 如样本均值，样本方差等 例如: 样本均值就是总体均值 的一个估计量 参数用 表示，估计量用 表示2. 估计值估计值：估计参数时计算出来的统计量的具体值 如果样本均值 x =80，则80就是的估计值估计量与估计值估计量与估计值, 0 , 1 Xn11 ()nPiikXXpnn

4、n kp), 1 (pbXpX12,nXXXp pXXn2 (), ()E XD Xn1010,980,975,1050,1100,990,1020,1150,1210,9602( ,)XN X10 X10111044.510iix( ),XF x,F,12,nXXXX12(,),nXXX12(,)nxxx12(,)nXXX12(,)nxxx12(,)nXXXn 其基本思想是其基本思想是用样本矩估计总体矩用样本矩估计总体矩 . 理论依据理论依据: 或格列汶科定理或格列汶科定理矩估计法矩估计法是基于一种简单的是基于一种简单的“替替换换”思想建立起来的一种估计思想建立起来的一种估计方法方法 .是英

5、国统计学家是英国统计学家K.皮尔逊皮尔逊最早提出的最早提出的 .大数定律大数定律记总体记总体k阶矩为阶矩为)(kkXE 样本样本k阶矩为阶矩为11nkkiiAXn记总体记总体k阶中心矩为阶中心矩为kkXEXE)( 样本样本k阶中心矩为阶中心矩为11()nkkiiBXXnn12(,) (1,2, )kiik 1212( ,),kkXF x 12,nXXXX() (1,2, )iiE Xik11() () (1,2, )nPiiijijAXE Xnikn () (1,2, )iiiAE Xik12()( ,)iikiE Xx dF x 1121122212(,)(,) (,)kkkkkAAA 11

6、21122212(,)(,)(,)kkkkkAAA 12,k 1112221212(,)(,)(,)kkkkkA AAA AAA AA12(,)k 12(,)k 12,k 12,nXXX( ) (0)X 11(), niiE XXXnX,X12,nXXX ( ) (0)XE11(), niiE XXXn,XXX()E X( , ) (01)XB m ppnXXX,21pmpXE)(11niiXXnXmppXpm,m p,m p()E XX2()D X12,nXXX2, 2, 2211()niiXXXn2, X221nSSn2S2211()niiXXn22( ,) ,XN 22211, ()ni

7、iXSXXn22 ()/2() /12a bXb aS , a b 2 2 3a bXb aS 12,nXXX( , ) ()XU a bab, a b2 ( )()/2, ( )() /12E Xa bD Xb a 33 , aXSbXS2211()niiSSXXn(a)bX ab a , b1 minii nX 1 maxiinX 解解: dxxxXE ) 1()(10121) 1(110 dxx由矩法由矩法,21 X样本矩样本矩总体矩总体矩从中解得从中解得21,1XX的矩估计的矩估计.即为即为数学期望数学期望是一阶是一阶原点矩原点矩 设总体设总体X的概率密度为的概率密度为(1),01(

8、)0,xxf x其它是未知参数是未知参数,其中其中1 X1,X2,Xn是取自是取自X的样本的样本,求参数求参数 的矩估计的矩估计.解解:由密度函数知由密度函数知 设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本()1,( ),0,xexXf x 为未知参数其它 其中其中 0,求求 的矩估计的矩估计. , X具有均值为具有均值为 的指数分布的指数分布故故 E(X- )= 2 D(X- )=即即 E(X)= 2 D(X)=X211()niiXXn解得解得211()niiXXn令令X niiXXn122)(1 用样本矩估计用样本矩估计总体矩总体矩即即 E(X)= 2 D(X)=2)(1

9、11) (xxf； 是在总体类型已知条件下使用的一种是在总体类型已知条件下使用的一种参数估计方法参数估计方法 . 它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的年提出的 , 然而，这个方法常归功于然而，这个方法常归功于英国统计学家英国统计学家费歇费歇 (Fisher). 费歇费歇在在1922年重新发现了年重新发现了 这一方法，并首先研究了这这一方法，并首先研究了这 种方法的一些性质种方法的一些性质 . 极大似然法的基本思想极大似然法的基本思想 先看一个简单例子：先看一个简单例子：一只野兔从前方窜过一只野兔从前方窜过 .是谁打中的呢？是谁打中的呢？某位同学与一位猎人一某位同

10、学与一位猎人一起外出打猎起外出打猎 .如果要你推测，如果要你推测，你会如何想呢你会如何想呢?只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下 . 你就会想，只发一枪便打中你就会想，只发一枪便打中,猎人命中的猎人命中的概率一般大于这位同学命中的概率概率一般大于这位同学命中的概率. 看来这看来这一枪是猎人射中的一枪是猎人射中的 . 这个例子所作的推断用到了这个例子所作的推断用到了小概率原理小概率原理.小概率原理：小概率原理：一个概率非常小的一个事件一个概率非常小的一个事件在一次试验中几乎是不可能发生的；也就在一次试验中几乎是不可能发生的；也就是说，如果一个事件在一次试验中居然发是说，如果一个事

11、件在一次试验中居然发生了，那么这个事件发生的概率不可能很生了，那么这个事件发生的概率不可能很小，而应认为其概率会尽可能地大小，而应认为其概率会尽可能地大极大似然估计方法是利极大似然估计方法是利用小概率原理来建立对用小概率原理来建立对未知参数的估计量未知参数的估计量. 设总体，现从中抽取一个样本观设总体，现从中抽取一个样本观察值（察值（500,300,600,400,700),试估计试估计 的值的值解解:设为样本，在一次试验中事件设为样本，在一次试验中事件发生了，而发生了，而( )XP125(,)XXX1255003007005007005500,300,700500!300!700!500!7

12、00!P XXXeeee 由小概率原理，这个概率不会太小，应尽由小概率原理，这个概率不会太小，应尽可能大，即求这个概率的最大值它是可能大，即求这个概率的最大值它是的函数的函数, ,问题转化为求问题转化为求使得这个函数达使得这个函数达到最大到最大, ,我们称这个函数为似然函数我们称这个函数为似然函数, ,简记简记为为L(L().).利用求导可得到当利用求导可得到当 =500时，这时，这个函数即概率达到最大因此，我们有理个函数即概率达到最大因此，我们有理由认为参数为由认为参数为500.这就是极大似然估计这就是极大似然估计 极大似然估计原理极大似然估计原理： 当给定样本值当给定样本值x1,x2,xn

13、时，定义时，定义似似然函数然函数为：为： 设设X1,X2,Xn是取自总体是取自总体X的一个样本，的一个样本，样本的联合密度样本的联合密度(连续型）或联合概率函数连续型）或联合概率函数(离散型离散型)为为 f (x1,x2,xn; ) . )( Lf (x1,x2,xn; ) 似然函数：似然函数：)(max)( LL 极大似然估计法就是用使极大似然估计法就是用使 达到最达到最 大值的大值的 去估计去估计 . )( L 称称 为为 的极大似然估计的极大似然估计. 看作参数看作参数 的函数，它可作为的函数，它可作为 将以多将以多大可能产生样本值大可能产生样本值x1,x2,xn的一种度量的一种度量 .

14、)( L )( L f (x1,x2,xn; ) 12,nXXX( ,)Xf x；12( )max ( ,)nLLX XX121( )( , ,)(, )nniiLLX XXf X12(, ,)nX XX)(L12(, ,)nX XXMLE .niXieL11)(1 , 0,( , (0) 0 , 0,xexf xx）( ),XEXPniiXne11Xnne)(L)(lnL0d)(dln2XnnL.X12,nXXXMLE.11ln(,)0, 1,2,kiLik ；12,nX XX12( ,)kXf x 12121(,)( ,)nkikiLf X ；11,k MLE1112221212 (,)(

15、,)(,)nnkknXXXXXXXXX两点说明：两点说明：1、求似然函数、求似然函数L( ) 的最大值点，可以应的最大值点，可以应用微积分中的技巧。由于用微积分中的技巧。由于ln(x)是是x的增函的增函数，数，lnL( )与与L( )在在 的同一值处达到的同一值处达到它的最大值，假定它的最大值，假定 是一实数，且是一实数，且lnL( )是是 的一个可微函数。通过求解所谓的一个可微函数。通过求解所谓“似似然方程然方程”： 可以得到可以得到 的的MLE . 0)(lndLd 若若 是向量，上述方程必须用似然方程是向量，上述方程必须用似然方程组代替组代替 .2、用上述求导方法求参数的、用上述求导方法

16、求参数的MLE有时有时行不通，这时要用极大似然原则来求行不通，这时要用极大似然原则来求 .,220,3 X123 设总体 的概率分布律为：21-3其中,未知 现得到样本观测值2，3，2，1，3，求 的矩估计与极大似然估计。36 1 解：矩估计1kkE Xx p352223 (1 32) 2.2X 再由 0.32可得 12(3)52(3)5X 2 极大似然估计( )(2)(1 32)(2) (1 32)L32116(23 )ln ( )ln163ln2ln(23 )L ln( )36023dLd0.4 设设x1,x2, xn是取自总体体是取自总体体 XB(1, p) 的一个子的一个子样，求参数样

17、，求参数p的极大似然估计的极大似然估计.1:()(1)(0,1)xxXP Xxppx： 的概率函数为解解)1 , 0()1(),;(:)1(111 inixxnxppxxpLii似然函数似然函数 niiniixnxpp11)1()1ln()(ln)(ln)2(11pxnpxLniinii 011)(1)(ln11 pxnpxdpLdniinii令令11(3)nLiipxxn 注注本书中，当似然函数的驻点唯一时，不必验证该驻点是否为极大值点，可直接把驻点作为所求参数的极大似然估计练习练习求下列常见分布中参数的极大似然估计泊松分布泊松分布(),0,1,2,0!xP Xxexx niixnexxxx

18、Li121!),;(:)1( 似然函数似然函数,!211 nnxexxxnii niiniinxxL11) !ln(ln)(ln)2( 0ln1 nxdLdnii 令令xnxnii 1)3( 指数分布指数分布)0, 0(,);( xexfx nixniexxxL121),;(:)1( 似然函数似然函数 niixne1 niixnL1lnln)2( 0ln,1 niixndLd 令令x1)3( 数的函数，数的函数，是这些未知参是这些未知参的情形，这时似然函数的情形，这时似然函数参数参数于分布中含多个未知于分布中含多个未知极大似然估计法也适用极大似然估计法也适用k 1达到极大的达到极大的数数同样，

19、我们把使似然函同样，我们把使似然函L，即满足，即满足的值的值kk 11 );(max);(11111nknkxxLxxLk 的的称作称作k 1极大似然估计极大似然估计11( ;),kkf x若关于的偏导数都存在，分别令 0, 01kLL . 0ln, 0ln1kLL 或或似然方程组似然方程组对数似然方程组对数似然方程组ii 似然估计似然估计的极大的极大到各未知参数到各未知参数解上述方程组，即可得解上述方程组，即可得 设总体设总体 X N ( , 2), x1, x2, xn 是是 X的样的样本值本值, 求求 , 2 的极大似然估计的极大似然估计.解解),;,(221nxxxLniixnne12

20、22)(222)()2(1)ln(2)2ln(22)(ln2122nnxLnii222)(121ixniexxnniimle11niimlexxn122)(1 , 2 的极大似然估计量分别为11,niiXXn212)(1BXXnnii似然似然方程方程组为组为0)(1ln12niixL0)(2)()(21ln)(212222nxLnii( , )XU a b12,nX XX, ()a b abniabbaL11),(1)(1)( )(1) ()0 (,)()0nnnLn baaaXXbLn bab (1)( )(), ,nnbaaXXb(1)( )11min, max niii ni nXXXX

21、 ., max ( , )a bL a b(1)( ),min()na XXbba(1)( ), naXbX( )(1)max , minnXba Xab.max ,min11iniiniXbXa,a b( ),min,maxiniabbaLa ba XX bXX(1)直观上, 越大越小的值越小,从而的值就越大.因此的极大似然估计为= 设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本()1,( ),0,xexXf x 为未知参数其它其中其中 0,求求 的极大似然估计的极大似然估计., 其它, 0min,11)(1 ixnxenii对数似然函数为对数似然函数为niixnL1)(1l

22、n),(ln 解：似然函数为解：似然函数为其它，, 01),(1)(niixxeLi i=1,2,n11niixn nL),(ln=0 (2)由由(1)得得21ln ( , )1()niiLnx =0 (1)对对 分别求偏导并令其为分别求偏导并令其为0,对数似然函数为对数似然函数为niixnL1)(1ln),(ln 用求导方法无法最终确定用求导方法无法最终确定用极大似然原则来求用极大似然原则来求 .、 , 是是*1minii nx 对对, 0),(,min Lxi其它, 0min,1),(1)(12 ixxeLnii故使故使 达到最大的达到最大的 即即 的的MLE， ( , )L ,*11ni

23、ixn于是于是 取其它值时，取其它值时，. 0),( L 即即 为为 的的MLE .*, 且是且是 的增函数的增函数 设 X U ( a , a + ), x1, x2, xn 是 X的一个样本, 求 a 的极大似然估计值.解解 由上例可知, 当2121maxminaxxa时, L 取最大值 1, 即2121minmaxxax显然, a 的极大似然估计值可能不存在, 也可能不惟一. 无偏性 一.有效性 二.一致性 三. 对于同一个未知参数对于同一个未知参数, ,不同的方法得不同的方法得到的估计量可能不同到的估计量可能不同, ,于是提出问题于是提出问题应该选用哪一种估计量应该选用哪一种估计量?

24、?用何标准来评价一个估计量的好坏用何标准来评价一个估计量的好坏? ?常用常用标准标准(1) 无偏性无偏性(3) 一致性一致性(2) 有效性有效性)(E 定义定义 设设 ),(21nXXX是总体是总体X 的样的样本本是是总体总体参数参数 的估计量的估计量),(21nXXX则称则称是是 的无偏估计量的无偏估计量. . 存在存在, ,)(E都有都有且对于任意且对于任意 无偏性无偏性若若 是是 的无偏估计量的无偏估计量, ,则尽管则尽管 的值的值随样本的值的不同而变化随样本的值的不同而变化, ,但平均来说它但平均来说它会等于会等于的真值的真值. .lim( )nE 定义定义 设设 为为参数参数 的的)

25、,(21nXXX成立成立, ,则称则称是是 的一个渐近无偏估计量的一个渐近无偏估计量. . 渐近无偏估计量渐近无偏估计量一个有偏估计量一个有偏估计量,若对任意的若对任意的, ,都有都有: :),(21nXXX是总体是总体X 的样本的样本,证明证明: 不论不论 X 服从什么分布服从什么分布,nikikXnA11是是k的无偏估计量的无偏估计量.证证nikinikikXEnXnEAE11)(1)1()(例例1 1 设总体设总体X 的的 k 阶阶矩矩)(kkXE存在存在因而因而niXEkki, 2 , 1)(由于由于kknn1特别地 样本二阶原点矩样本二阶原点矩niiXnA1221 是总体是总体是总体

26、期望是总体期望 E( X ) 的的X样本均值样本均值无偏估计量无偏估计量的无偏的无偏)(22XE二阶原点矩二阶原点矩估计量估计量例例2 2 设总体设总体 X 的期望的期望 与方差存在与方差存在, X 的的),(21nXXX样本为样本为 (n 1) . (1) 是是 D( X )的渐近无偏估量的渐近无偏估量; niinXXnS122)(1(2) 是是 D( X ) 的无偏估计量的无偏估计量. niiXXnS122)(11证证212121)(1XXnXXnniinii前已证前已证证明证明2)()(,)()(XDXDXEXEiinXDXEXE2)(,)()()()(1)(121212XEXEnXXn

27、Eniinii因而因而)()(2222n221nnSn故 是的渐近无偏估计.212)(11niiXXnE故故2S故 是的无偏估计.0,设总体服从上的均匀分布考察考察 的矩估计和极大似然估计的无偏性的矩估计和极大似然估计的无偏性解解: : 的矩估计和极大似然估计分别为的矩估计和极大似然估计分别为2,max()MMLEiXX()2 ()2()22MEE XE X 的矩估计是无偏的的矩估计是无偏的. .记记max()MLEiZX1, 0( )0,nnZnzzfz其它例例3 3 101nMLEnnznEzdzn故故 的极大似然估计不是无偏的的极大似然估计不是无偏的. .注注: :取取1*MLEnn则则

28、 * *是是 的无偏估计的无偏估计. .例例4 设总体设总体 X 的密度函数为的密度函数为00, 01);(xxexfx0为常数为常数),(21nXXX为为 X 的一个样本的一个样本证明证明X与与,min21nXXXn都是都是的无偏的无偏估计量估计量证证 ()XEE X故故)()(XEXE是是 的无偏估计量的无偏估计量.X,min21nXXXZ令令000)(zenzzfnzZ即即( )ZEE Znn0100zeznz)(nZE故故 nZ 是是 的无偏估计量的无偏估计量.)()()(121zXPzXPzXPnniizXP1)(1 (1),(1)(21zXzXzXPzFnZ例例5 5 设设),(2

29、1mXXX是总体是总体 X 的一个样本的一个样本 ,XB(n , p) n 1 , 求求 p 2 的无偏估计量的无偏估计量. 解解 由于样本矩是总体矩的无偏估计量由于样本矩是总体矩的无偏估计量以及数学期望的线性性质以及数学期望的线性性质, 只要将未知只要将未知参数表示成总体矩的线性函数参数表示成总体矩的线性函数, 然后用样然后用样本矩作为总体矩的估计量本矩作为总体矩的估计量, 这样得到的未这样得到的未知参数的估计量即为无偏估计量知参数的估计量即为无偏估计量. npXEX)(令令)1 ()()(12212pnpnpXEXmmiiXXmnnpmii122211因此因此, p 2 的无偏估计量为的无

30、偏估计量为) 1() 1(11nnXXmmiii故故XXmpnnmii12221)(1)()(21DD则称则称 比比 更有效更有效,如果对如果对 的一切无的一切无偏估计量偏估计量 , 均有均有12定义定义 设设参数参数 的无偏估计量的无偏估计量 和和 满足满足 有效性有效性2*1( )()DD则称则称 为为 的最优估计量的最优估计量.12 设设参数参数 的无偏估计量的无偏估计量 和和 满足满足 2 设设参数参数 的无偏估计量的无偏估计量 和和 满足满足 2例例6 6 设总体设总体 X，且，且 E( X )= , D( X )= 2 ),(21nXXX为总体为总体 X 的一个样本的一个样本证明证

31、明iniiXc11是是 的无偏估计量的无偏估计量(2) 证明证明X比比iniiXc11更有效更有效证证 (1) niiiniicXEcE111)()(. 11niic., 2 , 11ninci(1) 设常数设常数(2) niiiniicXDcD122121)()(而而ncnii112)(1) (12DnDniinjijiniicnccc1212212)(结论结论算术均值比加权均值更有效算术均值比加权均值更有效. .2211112nniiijiiij ncccc 例如例如 X N( , 2 ) , ( X 1 ,X 2 ) 是一样本是一样本.213212211212143413132XXXXX

32、X都是都是 的的无偏估计量无偏估计量由上例知由上例知3最有效最有效.例例7 (续例续例4) 试证试证 当当 n 1 时时 的无偏估计量的无偏估计量 较较 有效有效 .1min(,)nXZXX 证证 2,D X 221111()()nniiiiD XDXD Xnnn故有故有 22,D Zn 而而故有故有 2.D nZ 当当 n 1 时时 , (),D nZD X XnZ故故 较较 有效有效 .lim()0nP 定义定义 设设 是总体参数是总体参数 ),(21nXXX则称则称是总体参数是总体参数 的一致的一致(或相合或相合)估计量估计量.的估计量的估计量. 若若相合性相合性(一致性）一致性）依概率

33、收敛于依概率收敛于 , 即即,0 相合性相合性被认为是对估计的一个最基本要求被认为是对估计的一个最基本要求, , 如如果一个估计量果一个估计量, , 在样本量不断增大时，都不能在样本量不断增大时，都不能把被估参数估计到任意指定的精度把被估参数估计到任意指定的精度, , 那么这个那么这个估计是值得怀疑的。通常估计是值得怀疑的。通常, ,不满足相合性要求不满足相合性要求的估计一般不予考虑。证明估计的相合性一般的估计一般不予考虑。证明估计的相合性一般可应用可应用大数定律大数定律或直接由定义来证。或直接由定义来证。若把依赖于样本量若把依赖于样本量n的估计量的估计量 看作一个随机变看作一个随机变量序列量

34、序列,相合性就是相合性就是 依概率收敛依概率收敛于于 ,所以证明所以证明估计的相合性可应用依概率收敛的性质及各种估计的相合性可应用依概率收敛的性质及各种大数定律。大数定律。关于相合性的两个常用结论关于相合性的两个常用结论 1. 样本样本 k 阶矩是总体阶矩是总体 k 阶矩的一致性估计量阶矩的一致性估计量. 是是 的一致估计量的一致估计量.由大数定律证由大数定律证明明用切贝雪夫用切贝雪夫不不 等式证明等式证明矩法和极大似然估计得到的估计量矩法和极大似然估计得到的估计量一般为一致估计量一般为一致估计量.2. 设设 是是 的无偏估计的无偏估计 量量, 且且 , 则则0)(limDn在判断估计的相合性

35、时下述两个定理非常有用。在判断估计的相合性时下述两个定理非常有用。定理定理1 设设 是是 的一个估计量，若的一个估计量，若 则则 是是 的相合估计。的相合估计。1( ,)nnnxxlim(),lim()0nnnnEVarn1,nnk定理定理2 若若 分别是分别是1, , k 的相合估的相合估 计，计， =g(1 , , k) 是是1, , k 的连续函数，则的连续函数，则 是是 的相合估计。的相合估计。1(,)nnnkg例例800, 01);(xxexfXx0为常数为常数则则 是是 的无偏、有效、一致估计量的无偏、有效、一致估计量.X证证 由前例知由前例知 是是 的无偏、有效估计量的无偏、有效

36、估计量.X)(limXDn0lim2nn所以所以 是是 的一致估计量的一致估计量, 证毕证毕.X一、单个正态总体的均值与方差的区间估计一、单个正态总体的均值与方差的区间估计二、两个正态总体的均值差与方差比的区间估计二、两个正态总体的均值差与方差比的区间估计p 矩估计与极大似然估计，都是一种点估计。矩估计与极大似然估计，都是一种点估计。p点估计的两个缺陷点估计的两个缺陷: (1)(1)不能说明估计值与真值的偏差到底有多大不能说明估计值与真值的偏差到底有多大( (精确性精确性);); (2) (2)不能说明这个估计有多大的可信度不能说明这个估计有多大的可信度( (可靠可靠性性);); p区间估计是

37、指用一个区间估计是指用一个(随机随机) 区间去做未知参数区间去做未知参数 的估计，可以解决这两个不足的估计，可以解决这两个不足 。点估计与区间估计点估计与区间估计: :例例: :设有一批电子元件的寿命设有一批电子元件的寿命XN(a，），），现从中抽取容量为的一组样本，算得其样本现从中抽取容量为的一组样本，算得其样本均值为小时，试估计均值为小时，试估计a 解：由点估计解：由点估计,a的估计值为的估计值为 . 实际上实际上a的值是非真是的值是非真是000呢？显然，不同的呢？显然，不同的抽样，可得到不同的抽样，可得到不同的 值，故值，故000与与a会有差会有差异这种差异有多大呢？异这种差异有多大呢？

38、 我们从另一个角度考虑我们从另一个角度考虑5000a a/ 21( ,)(0,1)1(01),1XXN anXaUNnXaPn由于a= 是一个随机变量,它有自己的分布因此, 于是对给定的一个正数有 z=1-/2/2/2110.051.96,4999.12.880.95P XXnnP即 zaz=1- 如果取有Z于是有 a95%的把握认为a在区间(4999.12 , 5000.88) 内.5000= 这就是说,我们有这样一种方式的估计称为区间估计.?2/z为什么要取2211.96 ( 1.96) 3.92zz -2-1120.10.20.30.42z21z取 = 0.05/ 2/ 211XaPnX

39、aPnz=1-z=23311.84 ( 2.13) 3.97zz -2-1120.10.20.30.432z31z/ 21/ 2ZZ 在保持面积不变的条件下在保持面积不变的条件下, 以对称区间的长度为最短以对称区间的长度为最短 .12122X,(0 1),(,),(,),1,1,)1.:,nnXXXXXX 1212121设总体 的分布中含有未知参数是任意给定的正数如果能从样本出发确定出两个统计量使得 P成立 我们称为,区间(为参数 的置信度为的定义置信度或置信概率分别称为置信下限和置置信区间信上限. 置信度为置信度为 0.950.95 是指是指 100 100 组样本值所得置信区组样本值所得置

40、信区间的间的实现实现中中, ,约有约有9595个能覆盖个能覆盖 . . 要求要求 以很大的可能被包含在置信区间内以很大的可能被包含在置信区间内, ,就是就是说说 , , 概率概率 要尽可能大要尽可能大, ,即要求估计尽量即要求估计尽量可靠可靠. .置信度即可靠度置信度即可靠度. . 区间的宽度反映了估计的精度区间的宽度反映了估计的精度. .显然显然, ,区间越小区间越小, ,精度越高精度越高. . 区间估计中的精确性与可靠性是相互矛盾的区间估计中的精确性与可靠性是相互矛盾的. .当样本容量一定时当样本容量一定时, ,提高估计的可靠度，将降低提高估计的可靠度，将降低估计的精度，相反，提高估计的精

41、度，将降低估计的精度，相反，提高估计的精度，将降低估计的可靠度估计的可靠度. . 在实际使用中在实际使用中, ,总是在保证一定的可靠度的情况总是在保证一定的可靠度的情况下尽可能地提高其精度下尽可能地提高其精度. .1P 12区间估计的步骤区间估计的步骤22211,)TP TTT 111(1)选取一个合适的随机变量 ,这个随机变量一方面包括了待估参数 ,另一方面,它的分布是已知的;(2)根据实际需要,选取合适的置信度1- ;(3)根据相应分布的分位数概念,写出如下形式的概率表达式 (4)将上式表达式变形为P(5)写出参数 的置信区间( X , S 2 分别是其样本分别是其样本均值和样本方差均值和

42、样本方差, X N( ( , 2/ /n), ), 求参数求参数 、 2 的置信水平为的置信水平为1- - 的置信区间的置信区间. 设设 X1, , Xn 是总体是总体 X N( ( , 2) )的样本的样本, nXU/ 确定未知参数的确定未知参数的估计量及其函数的分布估计量及其函数的分布 是是 的无偏估计量的无偏估计量, 由分布求分位数由分布求分位数 Z / 2即得置信区间即得置信区间( (一一) ) 单个正态总体置信区间的求法单个正态总体置信区间的求法( (1) )已知方差已知方差 2 时时 故可用故可用 X 作为作为 EX 的一个估计量的一个估计量, niiXnX11 N( (0, 1)

43、, ), 对给定的置信度对给定的置信度 1- - , ,/2/2/2|/XZXZXZnnn/2|(|),ZP U 由由Z / 2确确定置信区间定置信区间/2/2(,) ,ZZXXnn 有了分布就可求出有了分布就可求出U 取值于任意区间的概率取值于任意区间的概率简记为简记为 2XZn由抽样分布定理知由抽样分布定理知 1. 均值均值 的置信区间的置信区间 故不能采用已知方差故不能采用已知方差的均值估计方法的均值估计方法 由于由于 与与 有关有关, 但其解决的思路一致但其解决的思路一致. nSX 由于由于 S 2是是 2 的无偏估计量的无偏估计量, 查查 t 分布表确定分布表确定 / /2 分位数分

44、位数令令 ， 1)1(| 2ntTP T = ( (2) ) 未知方差未知方差/2/2(,)ZZXXnnnXU/ 用用 分布的分位数求分布的分位数求 的置信区间的置信区间. 故可用故可用 S 替代替代 的估计量的估计量: S t( (n- -1), ), ) )( ()1(, ) 1(22 ntnSXntnSX 即为即为 的置信度为的置信度为 1- - 的区间估计的区间估计. ) 1() 1(22 ntnSXntnSX 2 时时 由抽样分布定理知由抽样分布定理知 实用价值更大实用价值更大 ! )1(|2/ ntnSX t / 2( (n - -1), ), , )1()1(222 nSn (

45、(2) ) 未知时未知时 1)1()1(222221nnP,)1()1()1()1(22122222 nSnnSn 所以所以 2的置信水平为的置信水平为1- - 的区间估计为的区间估计为因为因为 2 的无偏估计为的无偏估计为 S 2 , 2. 方差方差 2 的的置信区间的求法置信区间的求法 由抽样分布定理知由抽样分布定理知 2 = 由由确定确定 2 分布的分布的 /2 分位数分位数.)1()1(,)1()1(2212222 nSnnSn 找一个含找一个含 与与S, 但不含但不含 , 且分布已知的统计量且分布已知的统计量 为了计算简单为了计算简单, ,在概率密度不对称的情形下在概率密度不对称的情

46、形下, ,如如 2 分布分布, ,F 分布分布, ,习惯上仍取习惯上仍取对称的分位点对称的分位点来计算未知参数的置信区间来计算未知参数的置信区间. . 并不是最短的置信区间并不是最短的置信区间 /2 /2)1()1()1(2222221 nSnn , )1(22 n , )1(221 n ),90%.(1)0.01;(2) 222 随机地从一批钉子中抽取6枚,测得长度为2.14 2.10 2.15 2.10 2.13 2.12并设总体XN( ,试求下列情况下 的的置信区间未知;例例1 1 0000.11.645,6,XnXXnnn 2200.05解:容易求出 x=2.123, (1) =已知时

47、,选取 U=N(0,1) 置信区间为( Z ,Z )这里,Z代入得 的90%的置信区间为(2.056, 2.190) (5)2.015,XtSnSSXXnn220.05 (2) 未知时,选取 T=(n-1) 置信区间为( t (n-1),t (n-1)这里,t代入得 的90%的置信区间为(2.106, 2.140)例例2 2 某工厂生产一批滚珠, 其直径 X 服从解解 (1)6/06. 0,(NX)01. 0 ,(N即)1 , 0(1 . 0NX96. 1025. 02 zz正态分布 N( 2), 现从某天的产品中随机 (1) 若 2=0.06, 求 的置信区间 (2) 若 2未知,求 的置信

48、区间 (3) 求方差 2的置信区间.抽取 6 件, 测得直径为15.1 , 14.8 , 15.2 , 14.9 , 14.6 , 15.1置信度均为0.95由给定数据算得95.146161iixx由公式 得 的置信区间为)15.15,75.14()1 . 096. 195.14, 1 . 096. 195.14(2) 取)5(6tSXT5706. 2) 5(025. 0t查表由给定数据算得95.14x226. 0.051. 0)6(5126122sxxsii)187.15,71.14() 5(6),5(6(025. 0025. 0tsxtsx由公式 得 的置信区间为(3) 取)5(5222S

49、K 831. 0)5(,833.12)5(209752025. 0)3069. 0,0199. 0() 5 (5,) 5 (5(2975. 022025. 02ss查表得.051. 02s由公式 得 的置信区间为 设设 X1, , Xm分别是总体分别是总体 X N( ( 1 1 , 1 12) )的样本的样本, Y1, , Yn分别分别是总体是总体 Y N( ( 2 2 , 2 22) )的样本的样本, X , Y 分别是总体分别是总体 X 和和 Y 的样本均值的样本均值, 求参数求参数 1- - 2 和和 12/ / 22 的的置信水平为置信水平为 1- - 的置信区间的置信区间. 由于由于

50、X , Y 分别是分别是 1, , 2 的无偏估计量的无偏估计量, 即得置信区间即得置信区间( (二二) ) 两个正态总体两个正态总体( (1) )已知方差已知方差 12, , 22 时时 故可用故可用 X - -Y 作为作为 1- - 2 的一个估计量的一个估计量, N( (0, 1), ), 对给定的置信度对给定的置信度 1- - , ,nuYXmuYXuU222/21212/2/| ,21)(2/ u令令查正态分布表可得查正态分布表可得 u / 2 , 由抽样分布定理知由抽样分布定理知 1. 均值均值 1- - 2 的置信区间的置信区间 SX2 , SY2分别是总体分别是总体 X 和和

51、Y 的样本方差的样本方差, 置信区间的求法置信区间的求法 nmYXU222121)( ),(222/212/nuYXmuYX 设设 X1, , Xm分别是总体分别是总体 X N( ( 1 1 , 1 12) )的样本的样本, Y1, , Yn分别分别是总体是总体 Y N( ( 2 2 , 2 22) )的样本的样本, X , Y 分别是总体分别是总体 X 和和 Y 的样本均值的样本均值, 求参数求参数 1- - 2 和和 12/ / 22 的的置信水平为置信水平为 1- - 的置信区间的置信区间. 即得置信区间即得置信区间( (二二) ) 两个正态总体置信区间的求法两个正态总体置信区间的求法

52、( (2) )未知方差未知方差 12, , 22 , 但但 12 = 22 = 2时时 仍用仍用 X - - Y 作为作为 1- - 2 的一个估计量的一个估计量, t( (n+ +m- -2), ), 对给定的置信度对给定的置信度 1- - , ,1111)2(|2/212/2/nmStYXnmStYXmntT 查查 t 分布表可得分布表可得 由抽样分布定理知由抽样分布定理知 1. 均值差均值差 1- - 2 的置信区间的置信区间 SX2 , SY2分别是总体分别是总体 X 和和 Y 的样本方差的样本方差, nmSYXT11)(21 2)1()1(22 nmSnSmYX)1111(2/2/n

53、mStYXnmStYX ，t / 2( (n+ +m- -2),), 设同上设同上, 求参数求参数 12/ / 22 的置信水平为的置信水平为 1- - 的置信区间的置信区间. 即得即得 12/ / 22 的置信区间的置信区间 ( (二二) ) 两个正态总体置信区间的求法两个正态总体置信区间的求法 ( (2) )未知未知 1 , 2 时时 F( (m- -1, n- -1), ), 对给定的置信度对给定的置信度 1- - , ,) 11(1) 11(1) 1, 1(|2/12222212/222/n,mFSSn,mFSSnmFFYXYX查查 F 分布表可得分位数分布表可得分位数由抽样分布定理知

54、由抽样分布定理知 2. 方差比方差比 12/ / 22 的置信区间的置信区间 222212 YXSSF ) 11(1,) 11(1(2/1222/22n,mFSSn,mFSSYXYXF / 2( (m- -1, n- -1),), F1- - / 2( (m- -1, n- -1), ), 主要根据主要根据抽样分布抽样分布Th( (二二) )两个总体两个总体 由由 的概率分布和置信水平的概率分布和置信水平 1- - , 确定其相应的确定其相应的分位数分位数 x / /2 ; 小结小结正态总体置信区间的求法正态总体置信区间的求法 ( (一一) )单个总体单个总体均值均值 已知方差已知方差 2 均

55、值差均值差 1- - 2 已知方差已知方差 12, , 22 方差方差 2 未知方差未知方差 2 . ),( 解得解得所求的置信区间所求的置信区间 根据未知参数的无偏估计量根据未知参数的无偏估计量, 确定其某个估计量确定其某个估计量 ; 由不等式由不等式 ,| x 已知均值已知均值 未知均值未知均值 未知方差未知方差 12, , 22 方差比方差比 12/ / 22 已知均值已知均值 1, 2 未知均值未知均值 1, 2 但相等但相等! ! ; ),(2nNX . ) 1(1222 nSn )1( ntnSX ; )1,0 ()()(21222121NnmYX ，)1, 1(222212 nm

56、FSSYX , )2()11()(2121 nmtnmSYX 例例3为比较为比较, 两种型号步枪子弹的枪口速度两种型号步枪子弹的枪口速度,随机地取随机地取型子弹型子弹10发发, 得到枪口速度的平均值为得到枪口速度的平均值为),s/m(5001 x),s/m(10. 1 1 s标准差标准差随机地取随机地取型子弹型子弹20发发, 得枪口速度平均值为得枪口速度平均值为),s/m(4962 x),s/m(20. 1 2 s标准差标准差假设两总体都可认为近似假设两总体都可认为近似地服从正态分布地服从正态分布,且由生产过程可认为它们的方差且由生产过程可认为它们的方差相等相等, 求两总体均值差求两总体均值差

57、 .950 21的置的置的置信度为的置信度为 信区间信区间.解解 由题意由题意, 两总体样本独立且方差相等两总体样本独立且方差相等(但未知但未知), 0.025,2 ,20,1021 nn,28221 nn : )1( 分布表可知分布表可知查查 nt,0484. 2)28(025. 0 t,2820. 11910. 19 222 ws,1688. 12 wwSs .950 21的置信区间的置信区间的一个置信度为的一个置信度为于是得于是得 201101)28(025. 021tSxxw),93. 04( ).93. 4,07. 3( 即所求置信区间为即所求置信区间为解解,181 n,132 n例

58、例4 研究由机器研究由机器 A 和机器和机器 B 生产的钢管内径生产的钢管内径, 随随机抽取机器机抽取机器 A 生产的管子生产的管子 18 只只, 测得样本方差为测得样本方差为均未知均未知, 求方差比求方差比 .900 的置的置的置信度为的置信度为区间区间.设两样本相互独设两样本相互独);mm(34. 0 221 s).mm(29. 0 222 s抽取机器抽取机器B生产的管子生产的管子 13 只只, 测测得样本方差为得样本方差为立立,且设由机器且设由机器 A 和机器和机器 B 生产的钢管内径分别服生产的钢管内径分别服从正态分布从正态分布),(),(222211 NN)2 , 1(,2 iii

59、2221 信信,10. 0 ),mm(34. 0 221 s),mm(29. 0 222 s,59. 2)12,17()1, 1(05. 0212/ FnnF )12,17()12,17(95. 02/1FF ,38. 21)17,12(105. 0 F .900 2221的置信区间的置信区间的一个置信度为的一个置信度为于是得于是得 38. 229. 034. 0,59. 2129. 034. 0 .79. 2,45. 0 一、置信区间公式置信区间是置信区间是的的的置信度为的置信度为则则为未知参数为未知参数其中其中的分布律为的分布律为的总体的总体分布分布它来自它来自的大样本的大样本设有一容量设

60、有一容量 1, 1, 0,)1();( ,)10(,501ppxpppxfXXnxx,24,2422 aacbbaacbb, 22/ zna 其中其中),2(22/ zXnb .2Xnc 推导过程如下推导过程如下:因为因为(01)分布的均值和方差分别为分布的均值和方差分别为),1(,2ppp , , 21是一个样本是一个样本设设nXXX因为容量因为容量n较大较大,由由中心极限定理中心极限定理知知)1()1(1pnpnpXnpnpnpXnii , )1 , 0( 分布分布近似地服从近似地服从 N,1)1(2/2/ zpnpnpXnzP2/2/)1( zpnpnpXnz 不等式不等式, 0)2()