概率论课件第七章

1、概率论与数理统计课堂练习：1、从正态总体 X N(m,s 2 ) 中，抽取了n = 20的样本(20 )(X- X )220 1 ssP 0.37 1.7622(1) 求i20i=120 1 (X- m )2ss求 P 0.37 1.7622(2)i20i=1(n -1)S 2s 2 c(n -1)解(1)220 19S 21( Xi - X )i=122 c=(19)即s 2s 222 201(X - X ) 1.76s2P 0.37s2故i20i=1201( Xi - X ) 35.2 2= P 7.4 s21i=120 201( Xi - X ) ( Xi i=1- X )22= P7.

2、4- 35.2P22ssi=1查表= 0.99 - 0.01 = 0.983 X - m 220 c 2 (20) is(2)i=1 20 1 (X- m )2ss 1.76故P 0.3722i20i=1 X - m 220 35.2= P 7.4 isi=1- m 2 X - m 220 X20i=1 35.2= P 7.4 - isP isi=1= 0.995 - 0.025 = 0.9742、设随量X 与Y 相互，X N(0,16),Y N(0,9) , X1, X2 , X9 与Y1, Y2 , Y16 分别是取自 X 与 Y 的简单随机样本, 求统计量 Z = 9所服从的分布.+ Y

3、 2 +L+ Y 2Y 21216 N ( 0, 916)解91() N ( 0, 1)93 421613 1,i = 1, 2,L,16 c 2 (16)Yi N (0,1)Yi i=1 35 9 从而Y 2 + Y 2 +L+ Y 212161= 3 4( X+ X+12 t(16)16 1Yi=1 3166第七章参数估计u 点估计u 基于截尾样本的最大似然估计u 估计量的评选标准u 区间估计u 正态总体均值与方差的区间估计u (0-1)分布参数的区间估计u 单侧置信区间7引言上一讲，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念， 介绍了统计中常用的三大分布，给出了几个重要的

4、抽样分布定理.它们是进一步学习统计推断的基础.8总体随机抽样样本作出推断描述统计量研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质.9参数估计现在我们来介绍一类重要的统计推断问题参数估计问题是利用从总体抽样得到的信息来估 计总体的某些参数或者参数的某些函数.估计新生儿的体重估计废品率估计湖中在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.估计降雨量10什么是参数估计？参数是刻画总体某方面概率特性的数量.当此数量未知时,从总体抽出一个样本，用某种方法对这个未知参数进行估计就是参数估计.例如，X N (m ,s 2),若m, s 2未知, 通过构造样本的函

5、数, 给出它们的或就是参数估计的内容.11参数估计问题的一般提法设有一个统计总体,总体的分布函数为F( x,q ) ，其中q参数( q 可以是) .现从该总体抽样，得样本X1,X2,Xn要依据该样本对参数 q 作出估计, 或估计 qg(q ).的某个已知函数这类问题称为参数估计.12参数估计的类型点估计参数估计区间估计点估计 估参数的值.参数的取值范围，区间估计 估并使此范围包含未知参数真值的概率为给定的值.13例如我们要估计某队男生的平均身高.N (m,0.12 )）（假定身高服从正态分布现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值m的估计. 而全部信息就

6、由这5个数组成.设这5个数是:1.651.671.681.781.69估计 m 为1.68， 这是点估计.估计m在区间1.57, 1.84 内， 这是区间估计.141点估计u 点估计概念u 求估计量的方法15一、点估计概念X N ( , 2 )例1已知某地区新生婴儿的体重,( ,未知)得100随机抽查100个婴儿,重数据10,7,6,6.5,5,5.2, 而全部信息就由这100个数组成.估计m 和s 呢 ?据此,我们16为估计m :我们需要构造出适当的样本的函数 f (X1,X2,Xn)，每当有了样本，就代入该函数中算出一个值，用来 作为m的估计值.f (X1,X2,Xn) 称为参数 m 的点

7、估计量，把样本值代入f (X1,X2,Xn) 中，得到 m 的一个点估计值.17点估计的思想方法设总体X 的分布函数的形式已知, 但含有一个或多个未知参数：q1,q2, ,qk设 X1, X2, Xn为总体的一个样本构造 k 个统计量：q1 (q2 (n )n )随量LLLLLLLLqk (n )18并建立k个方程。当测得样本值(x1, x2, xn)方程组，即可得到 k 个数：入上述q ()1nq ()2n数 值LLLLLLLLq ()kn)L,参数q ,L,qq1的估计值称数1参数 q1,L,qkkk的估计量对应统计量19我们知道,若 X N ( , 2 ),则 E( X ) = .由大数

8、定律,样本的平均值- m | 0) 都存例3 , 2在 ,未知 .是来自 X 的样本 ,试X1 ,K, Xn , 2的矩估计量.求1 = E ( X ) = 解= E ( X 2 ) = D( X ) + E( X )2= 2+ 2231总体矩 = 1解得= - 2221 , 2于是的矩估计量为样本矩 = A = X11nn1nn2i =1( Xi =1= A2 -=- X212i2AX=- X )2i32矩估计法的优点是简单易行,并不需要事先知道总体是什么分布.缺点是，当总体类型已知时，没有充分利用分布提供的信息 . 一般场合下,矩估计量不具有唯一性 .其主要在于建立矩估计法方程时，选取那些

9、总体矩用相应样本矩代替带有一定的随意性 .332. 最大似然估计法它是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家在然而,这个方法常1821年提出的.尔.归功于英计学家Gauss尔在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 .Fisher34最大似然估计法的基本思想先看一个简单例子：某位同学与一位猎人一起外出打猎.一只野兔从前方窜过.只听一声枪响，野兔应声倒下如果要你推测，是谁打中的呢？你会如何想呢?35你就会想，只发一枪便打中, 猎人命中的概率一般大于这位同学命中的概率. 看来这一枪是猎人射中的.这个例子所作的推断已经体现了最大似然估计 法的基本思想

10、.36思想方法：一次试验就出现的有较大的概率.例如: 有两外形相同的箱子,各装100个球99个1 个1 个红球99个红球一箱一箱现从两箱中一箱, 并从箱中一球,.结果所取得的球是问: 所取的球来自哪一箱？答: 第一箱.37最大似然估计原理：一般, 设 X 为离散型随量, 其分布律为P(X = x) = p(x,q ),x = u1,u2,L,q Q则样本 X1, X2, Xn的概率分布为=P(n )2= p(x1,q ) p(x2 ,q )L p(xn ,q )记为或n ,q ) = L(q )为样本的似然函数.=L(= u1,u2 ,L,xii =1, 2,L, n,q Q称L( q38最大

11、似然估计法的思想选择适当的q = q,使 L( q)取最大值, 即n ,q)L(= max p(x1,q ) p(x2 ,q )L p(xn ,q )qQ称这样得到的 q = g(n )为参数 q的最大似然估计值.)称统计量 q = g(为参数 q 的最大似然估计量.n )39若 X 连续, 取 f (xi,q )为Xi 的密度函数n 注1 L(q ) = f (xi ,q )似然函数为i=1未知参数可以不止一个, 如q1, qk设X 的密度(或分布)为 f (x,q1,L,qk )则定义似然函数为L(x1,L, xn ;q1,L,qk )= L(q1,L,qk ) = f (xi ,q1,L

12、,qk )i=1 注2 n- xi +, i =1, 2,L, n(q1,L,qk )Q40L(x1,L, xn ;q1,L,qk )若关于q1, , qk可微,则称;q ,q,L,q) = 0r = 1,2,L, kL(qn12kr为似然方程组.若对于某组给定的样本值 x1, x2, xn，参数 q ,q ,L,q使似然函数取得最大值, 即12k)L(x1,L, xn ;q1,L,qk )n;q1,q2 ,L,qk )=maxL(q)1 ,q2 ,L,qk )Q则称 q1,L,qk为q1, qk 的最大似然估计值41若：q= g()r = 1,2,L, krn称统计量q= g(q2,)r =

13、 1,2,L, krn为q1,qk的最大似然估计量.42两点说明：1、求似然函数L(q) 的最大值点，可以应用中的技巧。由于ln(x)是 x 的增函数, lnL(q )微与L( q )在q 的同一值处达到它的最大值，假定q是一实数，且lnL(q )是q 的一个可微函数。通过求解方程：d ln L(q ) = 0dq可以得到q 的最大似然估计值.若q 是，上述方程必须用方程组代替 .2、用上述求导方法求参数的最大似然估计值有时行不通，这时要用最大似然原则来求 .43下面举例说明如何求最大似然估计例4设X1,X2,Xn是取自总体 X b(1, p) 的一个样本，求参数 p 的最大似然估计量.解：设

14、一个样本值,n为相应于样本n 的, x = 0,1,似然函数为:L(p)= f (x1, x2, xn; p )= pxi (1 - p)1-xi i=1n44nnxin-xii =1= p i =1(1 - p)nn xipi =1n-xii =1L( p) =(1 - p)对数似然函数为：nnln L( p) = xi ln( p) + (n - xi ) ln( 1 - p)i=1i=145对p求导并0，nd ln L( p) = 1 n- 1(n - xx )=0ii1 - pdppi=1i=1n1 ip =x = x得ni=1即为 p 的最大似然估计值.从而 p 的最大似然估计量为n

15、 = Xp(ini =146例5 设总体 X N (m,s 2),x1, x2, xn 是 X的样本值, 求 m, s 2 的最大似然估计.-( x-m )212sf ( x; m, s 2 ) =2s 2e,X的概率密度为X 的似然函数为解n ; m,s )2L(n( xi -m )2( x -m )2- i=1n1-1i2s= i=1222se=e2psnn(2p )2 (s 2 )2(x - m)2n2n2nln(2p ) -ln(sln L = - i-2)2s 2i=147ln L =1n- m) = 0i=1(x msi2ln L =1nn(x - m)2-= 0i=1 (sms

16、22(s )2(si2222)i=1= 1nx = xin1n=(x - x)2ini=1m, s 2 的最大似然估计量分别为11nnnX = X ,i=1 (Xi - X )= S22nini=148最大似然估计方法1） 写出似然函数 L2）求出q ,q ,L,q使得,12kqqq )L(max(q1,q2 ,L,qk )Q;,L,n12kn;q1,q2 ,L,qk )=L(49L是q1,L,qk的可微函数,方程组若;q ,q,L,q) = 0r = 1,2,L, kL(qn12kr可得未知参数的最大似然估计值 q ,q ,L,q12k然后, 再求得最大似然估计量.L不是q1,L,qk的可微

17、函数, 需用其它若方法求最大似然估计值.请看下例：50例6设 X U (a,b), x1, x2, xn 是 X 的一个样本值,求 a , b 的最大似然估计值与最大似然估计量.X 的密度函数为解1a x b其它,f (x;a,b) = b - a0,似然函数为a xi b,i = 1,2,L, n其它1,;a,b) =L(b - a)0,nn51似然函数只有当 a xi b, i = 1,2, n时才能获得最大值, 且 a 越大, b 越小, L 越大.xmin = min x1, x2, xn xmax = max x1, x2, xn令b = xmaxa = xmin ,取则对满足 a

18、xmin1 xmax b 的一切 a b ,1都有(b - a)n- x)n(xmaxmin52a = xmin , b = xmax故是 a , b 的最大似然估计值.= min= maxX minX maxnn分别是 a , b 的最大似然估计量.53最大似然估计的不变性设q是q 的最大似然估计值,u(q )(q Q )是q 的函数, 且有单值反函数q = q (u),uU则 u = u(q)是 u(q ) 的最大似然估计值.54如 在正态总体N (m,s 2)中, s 2的最大似然估计值为1nns 2=(x - x)2ii=1s =s 2是s 2的单值函数, 且具有单值反函数，故s 的最大似然估计值为1ns =(x - x )2ini=1lgs 的最大似然估计值为1nnlgs = lg(xi - x )2i=155小结这一讲，我们介绍了参数点估计, 给出了寻求估计量最常用的矩估计法和最大似然估计法 .参数点估计是用一个确定的值去估看来似乎精确，实际上把握不大.的参数 .56作业：课后习题 2、3、557课后练习：用最大似然估计法估计湖中的N，第一次捕上 r 条鱼 ，为了估计湖中的做上记号后放回.隔一段时间后,再捕出 S 条鱼 ,结果发