充分统计量与完备统计量

1、一、充分统计量一、充分统计量二二、因子分解定理因子分解定理三、完备统计量三、完备统计量2.3 充分统计量与完备统计量充分统计量与完备统计量四、指数型分布族四、指数型分布族1. 问题的引出问题的引出 一、充分统计量一、充分统计量 由于样本来自总体，抽取出来的样本包含有总体由于样本来自总体，抽取出来的样本包含有总体的信息。数理统计主要是利用样本信息推断总体的信的信息。数理统计主要是利用样本信息推断总体的信息，如何将样本中包含总体的信息提取出来？以及是息，如何将样本中包含总体的信息提取出来？以及是否将样本中包含总体的信息完全提取出来？这些都是否将样本中包含总体的信息完全提取出来？这些都是数理统计需要

2、解决的问题。数理统计需要解决的问题。22( ,),nNX S 例例如如，设设总总体体服服从从在在上上一一节节中中，用用222,nX S去去估估计计总总体体的的 和和， 能能否否将将 和和的的信信息息完完全全提提炼炼出出来来呢呢？ 2. 定义定义 定义定义 1.41.4 1922年英国统计学家年英国统计学家Fisher提出了描述总体信息提出了描述总体信息是否被完全提炼的概念是否被完全提炼的概念充分统计量充分统计量.1212,( , )(,)(nnXXXXF xTT XXX 设设是是来来自自总总体体具具有有分分布布函函数数的的一一个个样样本本，为为一一个个 一一维维或或多多 12),TnTtXXX

3、维维 统统计计量量，当当给给定定时时，若若样样本本（）的的12(,| )nF xxxtT 条条件件分分布布( (离离散散总总体体为为条条件件概概率率，连连续续总总体体为为条条件件密密度度) )与与参参数数 无无关关，则则称称 为为 的的充充分分统统计计量量. . 3. 充分统计量的意义充分统计量的意义 如果知道了统计量如果知道了统计量T的观察值以后，样本的条的观察值以后，样本的条件分布与件分布与 无关，也就是样本的剩余部分不再包含无关，也就是样本的剩余部分不再包含关于关于 的信息，换言之，在的信息，换言之，在T中包含了关于中包含了关于 的全部的全部信息，因此要做关于信息，因此要做关于 的统计推

4、断，只需用统计量的统计推断，只需用统计量T就足够啦就足够啦.例例1 11 ( , ),XBp设设总总体体 服服从从两两点点分分布布即即111 0(), ,xxP Xxppx 12(,)TnXXXX是是来来自自总总体体 的的一一个个样样本本，试试证证11.niiXXpn 是是参参数数 的的充充分分统统计计量量证证利用定义证明其是充分统计量利用定义证明其是充分统计量1122,|nnkP Xx XxXxXn 1122,nnkP Xx XxXxXnkP Xn 1122,nnP Xx XxXxnXkP nXk 112211,nnniiniiP Xx XxXxXkPXk 11221,nnniiP Xx X

5、xXxPXk 11221 nnniiP Xx P XxP XxPXk 111110(),(), nniiiixnxnikkn kinppxkC pp 其其他他，110, , nikinxkC 其其他他，.pXp显显然然该该条条件件分分布布与与 无无关关，因因而而 是是 的的充充分分统统计计量量说明说明利用定义判别充分统计量比较麻烦，因而需利用定义判别充分统计量比较麻烦，因而需要需求更好的判别准则。要需求更好的判别准则。二、因子分解定理二、因子分解定理1. 充分统计量的判别准则充分统计量的判别准则 定理定理1.3(因子分解定理因子分解定理)(Fisher-Nerman准则准则)(1) 连续型情况

6、连续型情况12( , ),(,)TnXf xXXX设设总总体体 具具有有分分布布密密度度12(,)nT XXXT是是一一个个样样本本，是是一一个个统统计计量量，则则是是 的的充充分分统统计计量量的的充充要要条条件件是是：样样本本的的联联合合分分布布密密度度可可以以分分解解为为12121( )(, )(,) ( (,), )ninniLf xh x xxg T x xx 1212,.nnhx xxgTx xx其其中中 是是的的非非负负函函数数且且与与 无无关关， 仅仅通通过过 依依赖赖于于(2) 离散型情况离散型情况1 2( )( )(, ),(, ,),iiXP Xxp xi 设设总总体体 的

7、的分分布布律律1212(,)(,)TnnXXXT XXX是是一一个个样样本本，是是一一T个个统统计计量量，则则 是是 的的充充分分统统计计量量的的充充要要条条件件是是：样样本本的的联联合合分分布布律律可可以以分分解解为为12121( )(, )(,) ( (,), )innniP xh x xxg T x xx 1212,.nnhx xxgTx xx其其中中 是是的的非非负负函函数数且且与与 无无关关， 仅仅通通过过 依依赖赖于于说明：说明：T如如果果参参数数 为为向向量量时时，统统计计量量 也也是是随随机机向向量量，例例如如22( ,),(,).nTX S 则则相相应应的的统统计计向向量量可

8、可以以为为以下将通过几个例子来说明判别法则的应用以下将通过几个例子来说明判别法则的应用证明涉及测度论，从略证明涉及测度论，从略例例2 根据因子分解定理证明例根据因子分解定理证明例2.32.3解解1122,nnP Xx XxXx 111111()() ()nnniiiiiixnxxnppppp 11 11 111() ()() ()niixnnnnXnpppppp 121212111(,), (,),( (,), )() (),nnnnTnT x xxX h x xxpg T x xxppX 其其中中因因而而， 是是充充分分统统计计量量. .例例3 31211(,)( ).TnniiXXXPXX

9、n 设设是是来来自自泊泊松松分分布布的的一一个个样样本本，试试证证是是参参数数 的的充充分分统统计计量量解解111221,e!niixnnnniiP XxXxXxx 11111ee!niixnnnXnnnniiiixx 12121121(,), (,),!(,),)e,nnniinTnnT xxxX h xxxxg T xxxX 其其中中因因而而，是是充充分分统统计计量量. .例例4 41211(,).TnniiXXXNXXn 设设是是来来自自正正态态总总体体 ( ( , ,1 1) )的的一一个个样样本本，试试证证是是参参数数 的的充充分分统统计计量量解解211212() ()e()niix

10、nL 211122exp()()ninixxx 22111222exp()() ()nininxxx 22111222exp() exp() ()nininxxx 12122121212122(,), (,)exp() ,(,),)exp()() ,nnninniT xxxx h xxxxxg T xxxnTX 其其中中因因而而，是是充充分分统统计计量量例例5 51221212 (,),)(,),.TnnTniiTXXXT XXXXX 2 2 设设是是来来自自正正态态总总体体N N( ( , ,) )的的一一个个样样本本，试试证证 ( (是是参参数数 = =( () ) 的的联联合合充充分分统

11、统计计量量解解2211212() ()e()niixnL 22222111222exp()nininnxx 212121212221221221111222(,)(,) , (,),(,),)exp(),(,)(,)nTnininnininTniiT xxxxxh xxxng T xxxxxnT xxxxx 其其中中因因而而，是是充充分分统统计计向向量量。2. 充分统计量的函数特性充分统计量的函数特性 定理定理1.412(,)( )( ).nTT XXXf tf T 设设是是 的的一一个个充充分分统统计计量量，是是一一个个单单值值可可逆逆函函数数，则则也也是是 的的一一个个充充分分统统计计量量

12、证证以连续型为例，由因子分解定理可知以连续型为例，由因子分解定理可知12121( )(, )(,) ( (,), )ninniLf xh x xxg T x xx 11212(,) ( ( (,), )nnh x xxg ff T x xx 12(,)nf x xx由由因因子子分分解解定定理理可可知知，是是 的的充充分分统统计计量量，因因而而充充分分统统计计量量不不唯唯一一. .1212(,) ( (,), )nnh x xx q f x xx 三、完备统计量三、完备统计量( , )()F x 设设总总体体的的分分布布函函数数族族为为，若若对对于于任任意意一一个个满满足足0 (),Eg X 对

13、对一一切切，(),g X的的随随机机变变量量总总有有 统计量的充分性与完备性在寻找参数的优良估统计量的充分性与完备性在寻找参数的优良估计中将起到重要的作用计中将起到重要的作用.定义定义1.501 (),P g X 对对一一切切，( , ),.F x 则则称称 的的完完备备的的分分布布函函数数族族 定义定义 1.61.61212,( , )(,)nnXXXXF xTT XXX 设设是是来来自自总总体体 具具有有分分布布函函数数的的一一个个样样本本，的的分分布布函函数数族族 12( , ),(,)TnFxTT XXX是是完完备备的的分分布布函函数数族族，则则称称为为完完备备统统计计量量. . 说明

14、说明 完备性的含义不是很显然完备性的含义不是很显然. 但它具有下列性质但它具有下列性质12121( )( ), ( )( ),P g Tg TEg TEg T 一一方方面面，121201( )( ), ( )( ),Eg Tg TP g Tg T 另另一一方方面面，例例6(p11 6(p11 例例1.81.8)1 ( , ),XBp设设总总体体 服服从从两两点点分分布布即即111 0(), ,xxP Xxppx 12(,)TnXXXX是是来来自自总总体体 的的一一个个样样本本，试试证证11.niiXXpn 是是参参数数 的的完完备备统统计计量量证证1(),kkn knkP XP nXkC pp

15、n 由由于于因因而而010( ()( )()nkkn kpnkkEg XgC ppn 如如果果，则则0101()( )()nnkknkkppgCnp ，0010101( )()nkknkkppgCnppp 即即对对任任意意的的, ,，而而此此式式是是关关于于的的多多项项式式，因因而而每每项项系系数数只只能能为为 ，则则001( (,pkkgPgXnn ），因因而而满满足足）所所以以 是是完完备备统统计计量量. .充分完备统计量充分完备统计量 如果一个统计量既是充分的，又是完备的，则称为如果一个统计量既是充分的，又是完备的，则称为充分完备统计量充分完备统计量.四、指数型分布族四、指数型分布族(

16、, ),Xf x 设设总总体体 的的分分布布密密度度为为其其中中1212( ,) ,TmnXXX 为为其其样样本本，若若样样本本的的联联合合分分布布密密度度具具有有形形式式1、指数型分布族的概念、指数型分布族的概念12(,)nT XXX 判判断断一一个个统统计计量量是是否否为为充充分分完完备备统统计计量量比比较较复复杂杂，为为此此介介绍绍一一类类分分布布族族，其其参参数数的的充充分分完完备备统统计计量量容容易易发发现现。定义定义1.71.7121211(, )( )exp( )(,) (,)nmijjnnijf xCbT x xxh x xx ( ),( ),( , )jjCbT hf x其其

17、中中只只与与 有有关关而而与与样样本本无无关关，只只与与样样本本有有关关，而而与与 无无关关. .则则称称为为指指数数型型分分布布族族. .说明说明对于离散型分布律也有类似的定义对于离散型分布律也有类似的定义.2、指数型分布族参数的充分完备统计量的构造、指数型分布族参数的充分完备统计量的构造( , )Xf x 设设总总体体 的的分分布布密密度度为为为为指指数数型型分分布布族族，即即样样本本的的联联合合分分布布密密度度具具有有形形式式定理定理1.51.5121211(, )( )exp( )(,) (,)nmijjnnijf xCbT x xxh x xx 12(,)Tmm 其其中中，如如果果

18、包包含含一一个个1122( (),(),()TnnBbbb 维维矩矩形形，而而且且的的值值域域112( (,),nmTT XXX 包包含含有有一一个个 维维的的开开集集，则则2121212(,),(,)(,).TnmnTmT XXXTXXX 是是参参数数的的充充分分完完备备统统计计量量证明（略）证明（略）例例7(p12 7(p12 例例1.91.9)1211(,)( ).TnniiXXXPXXn 设设是是来来自自泊泊松松分分布布的的一一个个样样本本，试试证证是是参参数数 的的充充分分完完备备统统计计量量解解111221,e!niixnnnniiP XxXxXxx 11111eeexpln!niixnnnnnniiiiX nxx 121211(,), (,),!( )e, ( )ln,nnniinT xxxX h xxxxCbnX 其其中中因因而而，是是充充分分完完备备统统计计量量例例8(p12 8(p12 例例1.101.10)12122211(,),)(,),.TnnnTTiiXXXT XXXXXn 2 2 设设是是来来自自正正态态总总体体N N( ( ,