第九章 点估计

1、二 .点估计问题 统计模型nXXX,21( , )f x( )fnXXX,211( , )(, ),nf xf x 设设()为样本，其公共分布为为样本，其公共分布为未知，但函数未知，但函数的形式已知，我们称的形式已知，我们称()的联合分布的联合分布为统计模型为统计模型.当当X X为离散型时为离散型时, , 为分布律，当为分布律，当X X为连续型时为连续型时 为密度函数为密度函数( , )f x( , )f x0),(E例例 一批灯管寿命服从指数分布一批灯管寿命服从指数分布 未知，从未知，从中随机抽取中随机抽取n n只，只， 为其寿命，则统计模型为为其寿命，则统计模型为 为为nXXX,21nxn

2、xxxenii, 211为大于为大于0 0的实数的实数正态分布？正态分布？ 点估计问题的提法点估计问题的提法( )g( )gnXXX,21( )g，函数，函数为已知，问题是基于为已知，问题是基于()估计函数值估计函数值.( , )Xf xnXXX,21未知，未知，()为样本，而为样本，而是一个同是一个同有关的指标，即有关的指标，即设总体设总体例例 某地区中学生的身高某地区中学生的身高X X服从服从 未知，要未知，要在该地区中学生中挑选排球队员，标准是其身高必须高在该地区中学生中挑选排球队员，标准是其身高必须高于于1.90m1.90m，要求估计选中率，要求估计选中率22,),(N)9 . 1(X

3、P)9 . 1(1XP)9 . 1(1),(1nXX 1( ,)nxx( )g( )g 估计量估计量的统计量的统计量为为的估计量，对应的观测值的估计量，对应的观测值 点估计的自助程序点估计的自助程序为为的一个估计，则的一个估计，则自动地被估计为自动地被估计为我们称任何一个用以估计未知参数我们称任何一个用以估计未知参数为估计值为估计值.设设称这一规则为估计的自助程序称这一规则为估计的自助程序估计量也不必唯一估计量也不必唯一( (有评价标准有评价标准) )上例，上例，SXXPSX90. 1190. 1,),(21kxfk,21其中其中 为待估参数为待估参数,)(),.,;()(),.,;()(21

4、21离散型连续型XRxklklllxpxdxxfxXEnililxnm11其中其中kl, 2 , 1k,.,21k,21k,.,21kkkkkmmm),(),(),(2122121211 klmll, 2 , 1 222( ,) 例（例（第九章例第九章例7） 设总体有均值设总体有均值及方差及方差 ，今有今有6个随机样本的观察数据为个随机样本的观察数据为1.20，0.82，0.12，0.45，0.85，0.30求求 的矩估计的矩估计.及及解解 此例参数此例参数是二维的，要求前是二维的，要求前2阶原点矩阶原点矩2, 的估计量分别为的估计量分别为61161iixm-0.16-0.16612261ii

5、xm0.5240.524542. 0)(222mXE16. 0)(11mXE222)()(XEXE0.50.550. 0,16. 02第九章例第九章例9 解解两个待估参数，连续型两个待估参数，连续型. .先求总体的一先求总体的一, ,二阶二阶( (原点原点) )矩矩. .因为因为X XUa,b,Ua,b,所以所以)(1XE)(22XE2)()(XEXD,2ba即即22212)(baab2211mmniiXnbaabXba122214)(12)(2,)(312niiXXnXa.)(312niiXXnXb,)(1XE22222)()()(XEXDXE2211mm. 即即niiXnX12221 解得

6、解得,2 2的的矩估计量矩估计量分别为分别为: :,X21221XXnniiniiXXn12)(1 解解单参数，离散型单参数，离散型. .)(1XEXmp 因为因为 所以总体所以总体X X的一阶矩的一阶矩( (期望期望) )为为),(pmBXmpmXp 解解单参数，连续型单参数，连续型. .)(1XE 因为总体一阶矩因为总体一阶矩, 0, 10,)(1其它xxxfdxxxf)(101|1x10dxx1故所求故所求为：为：X1) 1(X解得解得: :XX )1 (XX121XX 解解单参数，连续型单参数，连续型. .)(1XE 因为总体因为总体一阶矩一阶矩)(21)(|xexfxdxexx|21

7、0不含不含，故不能由，故不能由“样本一阶矩样本一阶矩= =总体一阶矩总体一阶矩”解得所解得所求矩估计，需要求矩估计，需要继续求二阶矩继续求二阶矩：dxexXEx|22221)(xdexdxexxx202021,2)3(22 由由“样本二阶矩样本二阶矩= =总体二阶矩总体二阶矩”得：得：,21212niiXn 于是于是, ,所求所求为：为：niiXn1221函数函数定义定义 一位老猎人与他的徒弟一起打猎一位老猎人与他的徒弟一起打猎,两人同时向一两人同时向一猎物射击猎物射击,结果该猎物身中一弹结果该猎物身中一弹,你认为谁打中的可能你认为谁打中的可能性最大性最大? 根据经验而断根据经验而断:老猎人打

8、中猎物的可能性最大老猎人打中猎物的可能性最大. 就是对固定的样本值，选就是对固定的样本值，选择待估参数的估计值使择待估参数的估计值使“样本取样本值样本取样本值”离散型离散型或或“样本取值落在样本值附近样本取值落在样本值附近”连续型连续型 的概率最大。的概率最大。下面分离散型与连续型总体来讨论下面分离散型与连续型总体来讨论. .)();(xpxXPnXXX,.,21nxxx,.,21nXXX,.,21)();();,(121niinxpxxxL根据总体分根据总体分布律写出似布律写出似然函数：换然函数：换x为为xi这正是事件这正是事件“样本取得样本值样本取得样本值” 的概率的概率, ,称之为样本称

9、之为样本的的似然函数似然函数, ,它是待估参数它是待估参数的函数的函数. .),(21nxxx相应统计量相应统计量称为参数称为参数的的.),(21nXXX)();(xfnXXX,.,21nxxx,.,21nXXX,.,21)();();,(121niinxfxxxL),(21nxxx,),;(, );();,(1121连续型离散型niiniinxfxpxxxL0);,(21nxxxLdd0);,(ln21nxxxLdd 所以所以, ,样本的样本的为为: : 因为总体因为总体 其分布律为其分布律为),(pmBX)., 1 , 0()1();(mxppCpxfxmxxmniipxfpL1);()(

10、nixmxxmiiippC1)1 (在在f中换中换x为为xi写出连乘写出连乘积积ninixmnixxmiiippC111)1 (nixmnxxmniiniiippC111)1 ()1ln()(lnln)(ln(111pxmnpxCpLniniiinixmi0) 1(1)(ln(11pxmnpxpLniinii, 0)()1 (11niiniixmnppx即即, 01pmnxnii也即也即解得解得为为mxxmnpnii11为为mXp 当总体分布中含有当总体分布中含有个待估参数时，可类似于单个待估参数时，可类似于单参数情形来求其最大似然估计，其步骤为：参数情形来求其最大似然估计，其步骤为： 写出似

11、然函数写出似然函数);,(21kL 求求；当；当L关于各参数关于各参数可导时，可解可导时，可解似然方程组似然方程组).,2, 1(0klLl得各参数的最大似然估计。得各参数的最大似然估计。 解解双参数，连续型双参数，连续型. .因为因为X XN(,N(,2 2),),所以所以X X总体的概率密度为总体的概率密度为)0,(2)(exp21),;(222Rxxf 设设 为样本为样本 的一个样本值的一个样本值, ,则似然函数为则似然函数为: :nxxx,.,21nXXX,.,212212)(21exp21),(inixLniinnx122222)(21exp2从而从而, ,取对数得取对数得: :21

12、222)(21ln22ln2),(lnniixnnL由似然方程组由似然方程组视视2为整体为整体0)()(212ln01ln12222212niiniixnLnxL解得解得,2 2的的为为: :niixxnx122)(1,从而从而,2 2的的为为: :niiXXnX122)(1,同一个待估参数的同一个待估参数的与与可能可能相同相同 如二项总体、正态总体如二项总体、正态总体,也可能不同也可能不同 如均匀如均匀总体总体. 对于同一个参数对于同一个参数, ,用不同方法求出的估计量可能用不同方法求出的估计量可能不同不同. .那么那么, ,采用哪一个估计量为好呢采用哪一个估计量为好呢? ?用何种标准来用何

13、种标准来评判估计量的优劣评判估计量的优劣? ? 下面下面, ,介绍几个常用标准介绍几个常用标准. . 1 1、)(E 则称则称 为为 的的. . 称为用称为用 来估计来估计 的的. .因此因此, ,. .)(E 解解因为因为niiXnEXE11)(X2SniiXnXnESE122211)()()()()() 1(1221XEXDnXEXDninii)(11niiXEn,11nin)()() 1(1212XnEXEnnii)()() 1(122221nnnni)() 1(12222nnn 1 1、样本均值、样本均值 是总体均值是总体均值的无偏估计的无偏估计; ;X 2 2、修正样本方差、修正样本

14、方差 是总体方差是总体方差2 2的无偏估计的无偏估计. .2S所以所以2 易知：对均值易知：对均值,方差方差20都存在的总体都存在的总体,方差的估计量方差的估计量是是有偏估计有偏估计:.2无偏化无偏化得得:212)(1niiXxn2S)1()()(12222niiXXnESEEniiXEXEn122)()(1niXEXDXEXDn122)()()()(1)(1XDnn221nn)(2*SE21Enn 可以证明可以证明:无论总体无论总体X服从何种分布服从何种分布,k阶阶样本矩样本矩是是k阶阶总体矩总体矩的无偏估计的无偏估计,即有即有 因此因此,一般都是一般都是取样本均值取样本均值 作为总体均值的

15、估计作为总体均值的估计量量,修正取样本方差修正取样本方差 作为总体方差的估计量作为总体方差的估计量.2SX是总体均值是总体均值的无偏估计的无偏估计; ;并确定常数并确定常数a,ba,b使使D(Y)D(Y)达到达到最小最小. . 解解因为因为)2 , 1()(,)(2knXDXEkkk 【例例1111】设从存在均值设从存在均值与方差与方差2 200的总体中的总体中, ,分分别抽取容量为别抽取容量为n n1 1,n,n2 2的两个独立样本的两个独立样本, ,其样本均值分别其样本均值分别为为 . .证明证明: :对任意常数对任意常数a,b,a,b,21,XX) 1(21baXbXaY 由由期望性质期

16、望性质得得: :)()(21XbXaEYE)()(21XbEXaE)(ba 由无偏性知由无偏性知:Y:Y是是的无偏估计量的无偏估计量. . 由由方差方差性质得性质得: :)()()()(221221XDbXDaXbXaDYD22212222122)1 (nananbna0)1 (22)(221令nanaYDdad即即: :21)1 (nana解得当解得当212211,nnnbnnna时时D(Y)D(Y)最小最小. .由导数应用知由导数应用知: 解解因为因为极大似然估计量为极大似然估计量为其它, 0,0,1)(xxfmax1iniX而总体分布函数而总体分布函数Z令令xxxxxF , 10 ,0

17、, 0)( Z 的分布函数为的分布函数为故其概率密度为故其概率密度为从而从而, 不是不是 的无偏估计的无偏估计.dzznnn01nnnxzzFzF)()(zzzznn , 10 ,0 , 0其他 , 00 ,)(1znzzfnndzzzfZE)()( 2 2、有效性、有效性)()(21DD 则称则称 较较 为为有效有效. .12 同一个参数的无偏估计可能有多个同一个参数的无偏估计可能有多个, ,在容量相同在容量相同情况下情况下, ,认为取值密集于参数真值附近的估计量较为认为取值密集于参数真值附近的估计量较为理想理想. . 由于方差度量随机变量取值与其数学期望的偏由于方差度量随机变量取值与其数学

18、期望的偏离程度离程度, ,故无偏估计应以方差小者为好故无偏估计应以方差小者为好. .定义定义),(),(212211nnXXXXXX 解解因为因为其它, 0, 0,1);(xexfxX),(min21nXXXnnZnZX,)(,)(2nXDXE所以所以, , 是是的无偏估计量的无偏估计量. .X,)(nZE1 易知易知 服从参数为服从参数为 的指数分布的指数分布,故故min1iniXZn,)(nZE 所以所以, , 也是也是的无偏估计量的无偏估计量. .nZ 于是于是, , 由于由于, ,)()(2222nnZDnnZD 注意到当注意到当n1n1时时: :),()(nZDXD 在实际问题中常常

19、使用无偏性、有效性这两个标在实际问题中常常使用无偏性、有效性这两个标准准. .至于一致性请自学，暂存不议至于一致性请自学，暂存不议. .故当故当n1n1时时, , 较较 为有效为有效. .XnZ,)(nZE 所以所以, , 也是也是的无偏估计量的无偏估计量. .nZ 于是于是, , 由于由于, ,)()(2222nnZDnnZD 注意到当注意到当n1n1时时: :),()(nZDXD 在实际问题中常常使用无偏性、有效性这两个标在实际问题中常常使用无偏性、有效性这两个标准准. .至于一致性请自学，暂存不议至于一致性请自学，暂存不议. .故当故当n1n1时时, , 较较 为有效为有效. .XnZ思考题思考题1 1设随机变量设随机变量 为来自二项分布总体的简单为来自二项分布总体的简单随机样本随机样本 分别为样本均值和修正样本方差，若分别为样本均值和修正样本方差，若 的无偏估计，则的无偏估计，则k=k=nXXX,.,212,SX22npkSX为22)(npkSXEnpXEXE)()()()(22SkEkSE)(XkD)1 (pnpk2)1 ( nppknpnp1k思考题思考题2 2设随机变量设随机变量 为来自正态总体为来自正态总体 的简单随机的简单随机样本，其中样本，其中 已知，已知， 分别为样本均值和样本方差，分别为样本均值和样本方