概率论与数理统计5 1 点估计

1、5.1点估计有时总体的分布类型已知, 而其中的某些参数未知, 要对参数作出推断.例如,已知总体服从正态分布N ( m, 16 ) 其中未知, 只要对作出推断, 也就对总体的分布作出了推断.这类问题称为参数估计问题.未知参数的实值函数, 也称为参数. 如在上例中,2m 3 , m + 1等, 也是未知参数, 利用样本估计未知参数的实值函数, 也叫参数估计.一、点估计例 某厂在某月内 生产了一大批灯泡, 设X是灯泡的寿命,X是随量,代表总体. 已知X但平均寿命未知,服从正态分布 N ( m, 952)于是厂家抽出10只灯进行寿命试验,得到泡10只,灯泡的寿命如下: (单位:小时)1050,1100

2、,1080,1120,1200,1250,1040,1130,1300,1200计算出10只灯泡的平均寿命为1( 1050 + 1100 + . +1200 ) = 1147(小时x =10该厂就用 x = 1147 (小时)作为这一个月生产的灯泡的平均寿命的一个估计值.总体X :这一个月生产的灯泡的寿命.已知 X N ( m, 952),其中为 这批灯泡的平均寿命,未知,但的取值范围为 ( 0, + ), 称为参数空间. 为估计，从总体中抽出样本 X1 , X 2 ,., X10样本观测值: 1050,1100,1130,1080,1120,1200,1250,(单位:小时)1040,130

3、0,1200110统计量X =其观测值为：X,i10 i =1 1( 1050 + 1100 + . +1200 ) = 1147(小时x =10用1147估计110统计量 X =i 称为参数的估计量;统计量 XX10 i =1110= 1147 称为参数的估计值.的观测值 x =xi10 i =1一般地，设总体的分布中有一个未知参数,的取值范围为,即qQ, 称为参数空间.是未知的,为了估计,但其参数空间是事先知道的.从总体中抽取样本X1 , X 2 ,., Xn相应的一个样本观测值为 x1 , x2 ,., xn构造一个统计量h( X用它的观测值, X,., X)12n称 h( X, X,.

4、, X)12nh( x1 , x2 ,., xn ) 来估计未知参数,为的估计量;h( x1 , x2 ,., xn ) 为的估计值.分别记为q( X, X,., X) 和 q( x , x,., x)12n12n在不致引起混淆的情况下, 统称估计量和估计值为的一个点估计, 都简记为 q例如总体X :这一个月生产的灯泡的寿命.已知 X N ( m, 952) 其中为这批灯泡的平均寿命,未知,参数空间为：Q = ( 0, + ),为估计，从总体中抽出样本 X1 , X 2 ,., X10样本观测值: 1050,1100,1130,1080,1120,1200,1250,(单位:小时)1040,1

5、300,1200110统计量X =X, 其观测值为：i10 i =1 1( 1050 + 1100 + 1080 + . +1200 )= 1147(小时x =10 1 10m = X =用1147估计. 参数的估计量为 Xi10 i =1的估计值为：m = x = 1 10= 1147x的点估计i10 i =1二、评价估计量的标准定义5.1 设q( X, X,., X) 是参数的估计量,12n如果 E q( X, X)= q,., X12n则称 q( X, X,., X)是的无偏估计量.12n说明:(1)无偏性的直观意义是没有系统偏差.对不同的样本观测值, q 能取的值很多有的大于,有的小于

6、,但其概率平均值为.q(2)无偏性只保证这一估计量在多次使用时平均起来无偏差,q而不能保证在一次具体使用时偏差一定很小.(3)要证q( X1, X2 ,., Xn )是的无偏估计量,只需证E q( X)= q, X,., X12n定义5.1 设q( X, X,., X) 是参数的估计量,12n如果lim E q( X, X,., X) = q12nn则称q( X, X,., X)是的渐近无偏估计量.12n例 设X是任一总体,存在,DX = s 2EX = m ,X1 , X 2 ,., Xn 是来自 X的简单随机样本,则X = 1nX是EX =的m无偏估计量. 即 E X =(1)in i =

7、1证(1) E X = E 1 ( X)+ X+ . + Xn12n= 1 E( X) = 1 ( EX+ X+ . + X+ EX+ . + EX)n12n12nn= 1 (m + m + . + m )=n X = 1n是的无偏估计量.Xin i =1例 设X是任一总体,存在,DX = s 2EX = m ,X1 , X 2 ,., Xn 是来自 X的简单随机样本,则( X- X )2 是DX =的s= 1n无偏估计量.2(2)2Sin - 1i =1即E ( S 2 )= s 2 1( X- X )2 = 1nn证- n X 2=X 2S 2i =1n - 1in - 1ii =1(11

8、E ( S 2 ) = E =nn-n X 22-X 2X 2i =1Ei =1n Xn - 1n - 1ii= 1EX 2 - nE ( X 2 )nn - 1ii =1(11E ( S 2 ) = E =nE ( X)nn2-X 2EX 2 -i =12n X- 1)nn - 1i =1ii(1nn2X=-EX 2i =1En - 1n - 1i nn - 1()()= 12n+(EX- DX)2+ E X DXiin - 1 i =1ns122 n是 s的2 S 2s+m 2 -=2+ m n - 1 n - 1 i =1n无偏估计量.snm 221=nsn - 1+ nm2 -n -

9、1- n - 1 = s22s21 11nns 2n= = DXiDX = D Xi2nn2ni =1 n i =1i =1例 设X是任一总体,存在,DX = s 2EX = m ,X1 , X 2 ,., Xn 是来自 X的简单随机样本,则()1n2n不是 DX = s 2的无偏估计量.=X -S 2X(3)i =10i()s220即ESn - 1n()= 1= n - 1 S 22n证-X=S 2i =1Xi0nnn - 1nn - 1) = n - 1 s()=2S=202 s 2ESE2E( Snn因此，未修正的样本方差（偏小）S是的有偏估计量.2DX01n ( X - X )2n -

10、 1 i =1i例 设X是任一总体,存在,DX = s 2EX = m ,X1 , X 2 ,., Xn 是来自 X的简单随机样本,则(2)1n2n不是 DX = s 2 的无偏估计量.=X - XS 2(3)i0i =1()s20即ES但是DX=2的渐近无偏估计量.S 20n - 1s()2 = s 2limlim=20ESnnn例 设X1 , X2 , X3 是来自总体X的样本， EX = m 存在,= 1 X+ 3 X1= 2 X1X+ 1 Xmm-+X1231212334125102证明 m1, m2均是的无偏估计量.()2+ 1 X12+ 1 EX+ 1 EX25证 E m=+XX=

11、EEX1232131510102= 2 m +11 mm +510234()+ 3 EX- 1 EX131- 1 XEm=X +EXEX23141221233121= 1 m +3 m -m1234EXEX方差越小, X取值越集中在EX附近;方差越大,取值越分散;若 q 是的无偏估计量, 即 Eq = qq 的取值越集中在q 附近.D越q 小,方差设q 和q 均是参数q 的无偏估计量,即Eq= q = Eq1212q1则q 的取值比q若 Dq Dq更集中1212q2在附近. 因此有: “同一个参数的两个无偏估计量中, 方差小者为优.”q - e q q + e e 1 - DX- eq+ eE

12、qP X - EX()e2qX2.有效性定义5.2设q 和q均是参数q 的无偏估计量,12则称q 比q 更有效.若 Dq Dq1212“同一个参数的两个无偏估计量中, 方差小者更有效.”说明（1）仅对参数q 的无偏估计量, 才有意义.若Eq 则方差越小，q的取值越集中在Eq（错误的值）附近.（2）有效性是相比较而言的.（在参数的几个无偏估计量中比较）比较有效性q1q2Eqq参数的真值例 设X1 , X2 , X3 是来自总体X的样本，EX = m,DX= 2 X1X+ 1 X= 1 X+ 3 X1存在, m+m-,X1123123251023412m1 , m2均是的无偏估计量. 哪个更有效?

13、()2+ 1 X212解Dm1 =+DXX135103() 4 25 110014 42 100 4 25 110014+=DX +DX +DXDXDX12()19DX+ 9 DX+ 1DX231334 1 12Dm2 =DX +X-X116144123)(Dm1 D m2 ,19 9 16 11444972+=DXDXm1 比m2 更有效.例设总体X的期望EX = m 和方差 DX = s 2是来自X的样本，令均存在, X1 , X 2 ,., Xn , Xn+1= 1 ( Xm+ X+ . + X),n12nn=1m), 则 m和 m( X+ X+ . + X+ Xn+1n+1n+1n12

14、nn + 1都是的无偏估计量.比较它们的有效性.= D 1 ( X)解Dm+ X+ . + X nn12n11nDX = 1 DX( DX+ DX+ . + DX=) =12nn2n2n1Dmn+1 =mn+1 更有效性.DX Dmnn + 1越有效.样本均值作为总体期望的估计量,样本容量越大,3.相合性定义5.3 设q( X, X,., X)是未知参数的估计量,12n 0,q -q或limq-q= 1PlimPnn则称q为 的相合估计量.q(q - e)q + e()参数的真值e 0, 当n时,q 取值落在(q - e , q + e )的概率 1q 取值落在 (q - e , q + e )趋于必然.当 n 时 ,当n时, q 取值落在(q - e , q + e ) 外趋于不可能.q期望和方差的点估计设总体X , 期望 EX = m 方差 DX = s 2均存在,是来自总体X的样本.X1 , X2 ,., Xn(1