-基本概念与抽样分布

1、 3 基本概念与抽样分布基本概念与抽样分布一、基本概念一、基本概念二、统计量二、统计量三、抽样分布三、抽样分布四、抽样分布定理四、抽样分布定理五、分位点五、分位点下 页上 页 返 回一、基本概念一、基本概念1. 总体总体总体中每个成员称为总体中每个成员称为个体个体.一个统计问题总有它明确的研究对象一个统计问题总有它明确的研究对象.研究对象的全体称为研究对象的全体称为总体总体(母体母体)，研究某批灯泡的质量研究某批灯泡的质量总体总体下 页上 页 返 回 然而在统计研究中，人们关心总体仅仅是关心然而在统计研究中，人们关心总体仅仅是关心其每个个体的一项其每个个体的一项(或几项或几项)数量指标和该数量

2、指标数量指标和该数量指标在总体中的分布情况在总体中的分布情况. 这时，每个个体具有的数量这时，每个个体具有的数量指标的全体就是总体指标的全体就是总体.某批某批灯泡的寿命灯泡的寿命该批灯泡寿命的该批灯泡寿命的全体就是总体全体就是总体国产轿车每公里国产轿车每公里的耗油量的耗油量国产轿车每公里耗油国产轿车每公里耗油量的全体就是总体量的全体就是总体下 页上 页 返 回 由于每个个体的出现是随机的，所以相应由于每个个体的出现是随机的，所以相应的数量指标的出现也带有随机性的数量指标的出现也带有随机性. 从而可以把从而可以把这种数量指标看作一个随机变量，因此随机变这种数量指标看作一个随机变量，因此随机变量的

3、分布就是该数量指标在总体中的分布量的分布就是该数量指标在总体中的分布.这样这样总体就可以用一个随机变量及其分布来描述总体就可以用一个随机变量及其分布来描述.统计中，总体这个概念的要旨是：统计中，总体这个概念的要旨是： 总体就是一个随机变总体就是一个随机变(向向)量或其概率分布量或其概率分布.数理统计研究的内容：数理统计研究的内容： 总体相应随机变总体相应随机变(向向)量量的概率分布及数字特征的概率分布及数字特征.下 页上 页 返 回 为推断总体分布及各种特征，按一定规则从为推断总体分布及各种特征，按一定规则从总体中抽取若干个体进行观察试验，以获得有关总体中抽取若干个体进行观察试验，以获得有关总

4、体的信息，这一抽取过程称为总体的信息，这一抽取过程称为 “抽样抽样”，所，所抽取的部分个体称为抽取的部分个体称为样本样本. 样本中所包含的个体样本中所包含的个体数目称为数目称为样本容量样本容量.2. 样本样本从国产轿车中抽从国产轿车中抽5辆辆进行耗油量试验进行耗油量试验样本容量为样本容量为 5(1). 抽样、样本、样本值抽样、样本、样本值下 页上 页 返 回 但是，一旦取定一组样本，得到的是但是，一旦取定一组样本，得到的是n个具个具体的数体的数 (X1,X2,Xn)，称为样本的一次观察值，称为样本的一次观察值，简称样本值简称样本值 . 样本是随机变量样本是随机变量.抽到哪抽到哪5辆是随机的辆是

5、随机的容量为容量为n的样本可以看作的样本可以看作n维随机向量维随机向量.下 页上 页 返 回样本具有两重性：样本具有两重性：10. 随机性随机性 样本样本(X1,X2,Xn)本身是随机向量。本身是随机向量。20. 相对确定性相对确定性经过一次抽样否，样本经过一次抽样否，样本(X1,X2,Xn)又是又是一组确定的样本值一组确定的样本值(x1,x2,xn)。下 页上 页 返 回 由于抽样的目的是为了对总体进行统计推断，由于抽样的目的是为了对总体进行统计推断，为了使抽取的样本能很好地反映总体的信息，为了使抽取的样本能很好地反映总体的信息，必须考虑抽样方法必须考虑抽样方法. 最常用的一种抽样方法叫作最

6、常用的一种抽样方法叫作“简单随机抽简单随机抽样样”，它要求抽取的样本满足下面三点，它要求抽取的样本满足下面三点:10.随机性随机性： X1,X2,Xn每个结果等可能被抽取。每个结果等可能被抽取。20.代表性代表性： X1,X2,Xn中每一个与所考察的总体中每一个与所考察的总体有相同的分布；有相同的分布；30.独立性独立性： X1,X2,Xn是相互独立的随机变量是相互独立的随机变量,每每个样本值互不干扰。个样本值互不干扰。(2). 简单随机样本简单随机样本下 页上 页 返 回 由简单随机抽样得到的样本称为由简单随机抽样得到的样本称为简单随机样简单随机样本本，它可以用与总体独立同分布的，它可以用与

7、总体独立同分布的n个随机变量个随机变量X1,X2,Xn表示表示. 简单随机样本是应用中最常见的情形，今后，简单随机样本是应用中最常见的情形，今后，当说到当说到“X1,X2,Xn是取自某总体的样本是取自某总体的样本”时，时，若不特别说明，就指简单随机样本若不特别说明，就指简单随机样本. 数学定义：数学定义： n个随机变量个随机变量X1,X2,Xn独立同分独立同分布布(X与同分布与同分布)，则称，则称(X1,X2,Xn)来自总体来自总体X的容的容量为量为n的的简单随机样本简单随机样本，简称为样本，简称为样本.下 页上 页 返 回 事实上我们抽样后得到的资料都是具体的、事实上我们抽样后得到的资料都是

8、具体的、确定的值确定的值. 如我们从某班大学生中抽取如我们从某班大学生中抽取10人测量人测量身高，得到身高，得到10个数，它们是样本取到的值而不是个数，它们是样本取到的值而不是样本样本. 我们只能观察到随机变量取的值而见不到我们只能观察到随机变量取的值而见不到随机变量随机变量.3. 总体、样本、样本值的关系总体、样本、样本值的关系下 页上 页 返 回总体（理论分布）总体（理论分布） ？ 样本样本 样本值样本值 统计是从手中已有的资料统计是从手中已有的资料-样本值，去推断总样本值，去推断总体的情况体的情况-总体分布总体分布F(x)的性质的性质. 总体分布决定了样本取值的概率规律，也就是总体分布决

9、定了样本取值的概率规律，也就是样本取到样本值的规律，因而可以由样本值去推断样本取到样本值的规律，因而可以由样本值去推断总体总体. 样本是联系二者的桥梁样本是联系二者的桥梁下 页上 页 返 回实际上，样本的分布与总体分布的关系如下实际上，样本的分布与总体分布的关系如下 定理定理1. 若总体的分布函数为若总体的分布函数为F(x)，则其简单随，则其简单随机样本的联合分布函数为机样本的联合分布函数为)()()(),(211nnxFxFxFxxF niixF1)()()(),(1111nnnnxXPxXPxXxXP niiniiXnxfxfxxfi111)()(),( 联合密度联合密度 niinxpxx

10、p11)(),( 联合分布律联合分布律下 页上 页 返 回 由样本值去推断总体情况，需要对样本值进行由样本值去推断总体情况，需要对样本值进行“加工加工”，这就要构造一些样本的函数，它把样，这就要构造一些样本的函数，它把样本中所含的（某一方面）的信息集中起来本中所含的（某一方面）的信息集中起来.二、统计量二、统计量1. 定义定义 设设(X1,X2,Xn)为总体为总体X的一个的一个样本样本, f(X1,X2,Xn)是一个不含任何有关总体分布未知参数的函数，称是一个不含任何有关总体分布未知参数的函数，称为此总体的一个为此总体的一个统计量统计量，它是完全由样本决定的量，它是完全由样本决定的量. 统计量

11、实际上也是一个随机变量，它是一个统计量实际上也是一个随机变量，它是一个随机向量的函数。随机向量的函数。下 页上 页 返 回.,),( 2未知未知其中其中如如 NX niiXnX11 nikikXXnB1)(1是统计量是统计量. niiXn121 niiX1221 不是统计量不是统计量.统计量的两重性统计量的两重性(1). 统计量统计量f(X1,X2,Xn)本身是随机向量本身是随机向量,他有他有确定的概率分布抽样分布。确定的概率分布抽样分布。(2). 经过一次抽样否，经过一次抽样否， f(X1,X2,Xn)又是由样又是由样本值本值(x1,x2,xn)确定的一个统计值确定的一个统计值。下 页上 页

12、 返 回样本样本k阶原点矩阶原点矩样本样本k阶中心矩阶中心矩 k=1,2,它反映了总体它反映了总体k 阶矩阶矩的信息的信息它反映了总体它反映了总体k 阶阶中心矩的信息中心矩的信息 nikikXnA11 nikikXXnB1)(1 2. 常用的统计量（样本矩）常用的统计量（样本矩）(1). 定义定义它们均是随机变它们均是随机变量量下 页上 页 返 回样本均值样本均值样本方差样本方差它反映了总体它反映了总体均值的信息均值的信息它反映了总体它反映了总体方差的信息方差的信息 niiXnX11 niiXXnS122)(1k=1时，时， A1称为样本均值称为样本均值k=2时，时， B2称为样本方差称为样本

13、方差 niinXXnS122*)(11修正方差：修正方差：更加常用简称为更加常用简称为样本方差样本方差22*1nnSnnS 两者关系：两者关系：表表示示相相应应统统计计值值。通通常常用用2,nkksxba下 页上 页 返 回(2). 矩的性质矩的性质性质性质1. 则则阶阶矩矩存存在在的的设设总总体体, kX 1lim EXXPn 1lim2 DXSPnn由大数定由大数定律可知律可知 大样本条件下，一次抽样后样本均值、方差大样本条件下，一次抽样后样本均值、方差可作为总体的均值、方差的近似。可作为总体的均值、方差的近似。 一般地，抽样分为大样本和小样本问题。一般地，抽样分为大样本和小样本问题。下

14、页上 页 返 回性质性质 2. 222存存在在，则则阶阶矩矩的的设设kkEXkX nDAEAkkkkk22 , 证证 11 nikikXnEEA 11 nikiEXn 11 nikEXn k 11 nikikXnDDA 112 nikiDXn 112 nikDXn nikkEXEXn12221 nEXEXkk22 nkk22 下 页上 页 返 回推论推论 2存在，则存在，则、的的设设 DXEXX.,1,1 , 22*222 nnESnnESnXDXE111 niiXnEXE证证 nXnDXDnii21211 21 n 21221 niiXnEEA2 2221 nXEXDXE下 页上 页 返 回

15、 niinXXnEES1221 niiXXnE12212121XEXnEnii 22XEEA 2222211 nnn 22*1nnSnnEES2 . ,1 2*22*2的方差的方差的均值为的均值为越大越大XSESXnXDnnn 下 页上 页 返 回 3. 次序统计量次序统计量(1). 定义定义. , ,1且且具具有有相相同同分分布布是是相相互互独独立立的的随随机机变变量量设设nXX 如如下下：定定义义随随机机向向量量),()()()1(nXXX .,1重重新新排排列列所所得得的的值值按按从从小小到到大大的的次次序序把把nXX 即：即：X(k)的取值的取值x(k)为为(x(1) ,x(n) )按

16、从小到大的按从小到大的次序重新排列后第次序重新排列后第k个位置的数，个位置的数，)()()2()1(nkxxxx .),(),(1)()1(的的次次序序统统计计量量为为称称nnXXXX下 页上 页 返 回 nXXX,min 1)1( 事事实实上上 nnXXX,max 1)( 1111,minmax ),()2( nniiiiXXX 1111,minmax ),()( knkniiiikXXX.),( 1)(的函数的函数是随机向量是随机向量故故nkXXX., 2 , 1,21种种共共有有个个数数的的组组合合的的任任意意是是lnlClniii下 页上 页 返 回(2). 最小、最大的分布最小、最大

17、的分布 nXxFxXPxFX 11 )( )1()1()1(的分布函数的分布函数 )( )( )()()(xFxXPxFXnnXnn 的分布函数的分布函数 )(1 )( 1)1(xfxFnxfnX 密度函数密度函数)()( )( 1)(xfxnFxfnXn 密度函数密度函数另外，另外，(X(1),X(2),X(n)联合密度联合密度),( 1nxxf 其他其他0)(!11nniixxxfn下 页上 页 返 回(3). 中位数、样本极差中位数、样本极差 为偶数为偶数为奇数为奇数nXXnXXnnn1222121中位数中位数)1()( XXRn 样本极差样本极差次序统计量、中位数、样本极差都是统计量。

18、次序统计量、中位数、样本极差都是统计量。极差可以反映样本值变化的程度或离散程度。极差可以反映样本值变化的程度或离散程度。下 页上 页 返 回 例例1. 用用Excel计算下列样本中位数、均值、方计算下列样本中位数、均值、方差、标准差、极差差、标准差、极差.值值1值值2值值3值值4值值5值值6样本样本326528353029例题例题解解下 页上 页 返 回 4. 经验分布函数经验分布函数(1). 定义定义.),(),(1)()1(的的次次序序统统计计量量的的样样本本为为总总体体nnXXXXX)()()2()1(nkxxxx 当给定次序统计量的一组值当给定次序统计量的一组值定义对定义对. 1, 1

19、1, , 0)()()1()()1( nxxkxxxnkxxxFnkkn 称称Fn(x)为总体为总体X的经验分布函数。为样本值不的经验分布函数。为样本值不超过超过x的频率。的频率。Rx下 页上 页 返 回经验分布函数经验分布函数Fn(x)从样本直观得到描述性分布从样本直观得到描述性分布.样本直方图可以描述样本直方图可以描述.(2). 经验分布函数的性质经验分布函数的性质10. 具有通常分布函数的三个性质具有通常分布函数的三个性质,图形呈跳跃上升；图形呈跳跃上升； 20. Fn(x)是一个随机变量；是一个随机变量； .)(次次出现出现次独立重复试验中次独立重复试验中表示在表示在kxXnnkxFn

20、 )( xFxXPX 的分布函数的分布函数设设 kkknnxFxFCnkxFP 1)(1)()(下 页上 页 返 回)(,()(xFnBxnFn )(1)(1)(),()(xFxFnxFDxFxFEnn 30. 经验分布函数经验分布函数Fn(x)与总体分布函数与总体分布函数F(x)的关系的关系 1)()(lim),(, 0 xFxFPxnn格列汶科格列汶科(Glivenko)定理：定理：10)()(suplim xFxFPnxn .)()(,是大概率事件是大概率事件对一切对一切充分大充分大 xFxFxnn下 页上 页 返 回三、三、 抽样分布抽样分布 统计量既然是依赖于样本的，而后者又是随统计

21、量既然是依赖于样本的，而后者又是随机变量，故统计量也是随机变量，因而就有一定机变量，故统计量也是随机变量，因而就有一定的分布，这个分布叫做的分布，这个分布叫做统计量的统计量的“抽样分布抽样分布” . 抽样分布抽样分布精确抽样分布精确抽样分布渐近分布渐近分布 (小样本问题中使用小样本问题中使用)(大样本问题中使用大样本问题中使用) 抽样分布是由一个抽样分布是由一个统计量统计量(随机变量函数随机变量函数)的的分布分布. 研究统计量的性质和评价一个统计推断的研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质优良性，完全取决于其抽样分布的性质.下 页上 页 返 回 由实际问题与中心

22、极限定理可知，讨论正态由实际问题与中心极限定理可知，讨论正态总体的样本统计量的分布非常必要。总体的样本统计量的分布非常必要。1. 正态总体正态总体X与样本线性函数的分布与样本线性函数的分布(1) 总体总体X .,21)( 222)(Rxexfx 密度函数密度函数)(1)( xx 有有)1 , 0( Nx xxF)(),(2 N下 页上 页 返 回(2) (X1, ,Xn)来自来自总体总体X),( 122111 niiniinnnkkNXkXkU 则则)1,(121 nNXnXnii样本均值样本均值 )1 , 0(NnX 的样本的样本),(2 N下 页上 页 返 回设设 X1, ,XnN(0,1

23、)且相互独立且相互独立,则称随机变量：则称随机变量：是由正态分布派生出来的一种分布是由正态分布派生出来的一种分布. .(1). 定义定义22221122nniiXXXX 所服从的分布为自由度为所服从的分布为自由度为 n 的的)( 22n 记为记为n为独立随机正态变量的个数为独立随机正态变量的个数, 也称也称为为分布分布、 22 分布分布 2 分布分布 2 变量。变量。 2 下 页上 页 返 回 000)2(21);(2122xxexnnxfxnn其中其中 (x)为为伽玛伽玛(Gamma)函数函数0,)(01 xdttexxt具有如下性质：具有如下性质： !)1(),()1(, 1)1(nnxx

24、x )21(可由数归可由数归法得到法得到变量的分布密度函数变量的分布密度函数 )2(2)(n 下 页上 页 返 回10 . 设设X1, ,Xn)()(12122nXYnii )1 , 0()(1 NXYii事实上事实上 则则 E(X)=n, D(X)=2n),( .220nX 设设由定义知由定义知E(Xi)=0, D(Xi)=1 niiniiEXXEEX1212 niiiEXDX12= n变量的性质变量的性质 )3(2)(n 且相互独立且相互独立),(2 N下 页上 页 返 回30. 2变量变量的可加性的可加性则则且相互独立且相互独立若若,)(),(222121nXnX )(21221nnXX

25、 要用到独立随机变量和的卷积公式和要用到独立随机变量和的卷积公式和(x) 的性质。的性质。 niiniiDXXDDX1212 niiiEXEX1224=2 n niiixEXDXdxxe122221 ni 113下 页上 页 返 回更一般地有柯赫伦更一般地有柯赫伦(Cochran)分解定理：分解定理： 设设X1, ,XnN(0,1)且相互独立且相互独立,)(212nXQnii kkiiQQQQQ 211 若有分解式若有分解式nnnnQknii 212)( 且相互独立且相互独立则则 .,)(), 2 , 1(),(),( ,),(), 2 , 1( 111为非负二次型为非负二次型即即非负二次型非

26、负二次型的的秩为秩为是关于是关于其中其中iiiTniniiniAnARkiXXAXXQnXXkiQ 其在方差分析中有很重要的作用。其在方差分析中有很重要的作用。下 页上 页 返 回应用应用Lindeberg中心极限定理可得：中心极限定理可得：40. 极限分布极限分布有有则则若若),(,2)(2 xnn dxexnnPxxnn 222212lim )1 , 0(22Nnnn 极限分布极限分布 )2 ,(2nnNn极限分布极限分布 xnnXPxnnPniinnn 122lim2lim2, 1, 222)1(2 iiiDXEXX 其中其中下 页上 页 返 回记为记为Tt(n). 设设XN(0,1)

27、, Y 2(n), 且相互独立，则称随机且相互独立，则称随机变量变量所服从的分布为自由度为所服从的分布为自由度为 n的的 t 分布，也称为分布，也称为t变量变量.3. t 分布分布(1). 定义定义:nYXT (2). T变量变量的密度函数为：的密度函数为： xnxnnnnxfn,)1()2(2)1();(212 下 页上 页 返 回10. T t(n)为具有自由度为为具有自由度为n的的t分布的随机变分布的随机变量，则量，则T的数字特征具有如下性质：的数字特征具有如下性质： 当当 n =1时，时， T t(n)实际上是柯西分布，任何实际上是柯西分布，任何阶矩均不存在；阶矩均不存在； (3).

28、T变量变量的性质：的性质：当当n 2， E(T)=0; D(T)=n / (n-2) . 且有且有存存在在rETnr,1 . )2()21(2)( 2)1( 02为偶数为偶数，为奇数，为奇数，rnrnrnrETrr下 页上 页 返 回)(ntnYXT 则则且相互独立且相互独立,),( .22)(220nYNX 事实上事实上)1 , 0(NX nYXnYX2 )( ntnYXT故故 下 页上 页 返 回 当当n充分大时，其图形类似于标准正态分布密充分大时，其图形类似于标准正态分布密度函数的图形度函数的图形. t分布的密度函数关于分布的密度函数关于x=0对称，是偶函数，且对称，是偶函数，且应用应用

29、函数的性质及司特林函数的性质及司特林(Stirling)公式得公式得：30. 极限分布极限分布).,(,21);(lim22 xenxfxn 0);(lim nxfx 当当n充分大时，充分大时，t 分布近似分布近似N (0,1)分布分布. 但对于但对于较小的较小的n，t分布与分布与N (0,1)分布相差很大分布相差很大.下 页上 页 返 回由定义可见，由定义可见，服从自由度为服从自由度为n1及及 n2 的的F分布，分布，n1称为第一自称为第一自由度，由度， n2称为第二自由度，记作称为第二自由度，记作 FF(n1, n2) .F(n2, n1)4. F分布分布(1). 定义定义则称随机变量则称

30、随机变量且相互独立且相互独立设设,)(),( 2212nYnX 21nYnXF 121nXnYF 也称为也称为F变量变量下 页上 页 返 回EX不依赖于第不依赖于第一自由度一自由度n1.10. 若若XF(n1,n2)，X的数学特征的数学特征:若若n22(2). 若若XF(n1,n2)， X的概率密度为的概率密度为 0001)()()()(),;(222221212112121212121xxxxnnxfnnnnnnnnnnnnn(3). F变量的性质变量的性质 2)(22 nnXE,)4()2()2(2)(4 222121222 nnnnnnXDn，若若下 页上 页 返 回20. 若若n1=1

31、时，时，FF(1, n2)= t 2(n2).2222111 nYXnYXnYnXF30. 极限分布极限分布若若XF(n1,n2)， n24，则，则dxexXDXEXPxxn 2221)()(lim 有有),( x下 页上 页 返 回40. 分解定理：分解定理： 设设X1, ,XnN(0,2)且相互独立且相互独立,nnnXQQQkkiik 11221 , ),( jiijjinnFnnQQF则则 且且次型次型的非负二的非负二秩为秩为是关于是关于若若,),(), 2 , 1( 1ininXXkiQ 是柯赫伦是柯赫伦(Cochran)分解定理的具体应用，分解定理的具体应用，它也在方差分析中有重要作

32、用。它也在方差分析中有重要作用。下 页上 页 返 回四、抽样分布定理四、抽样分布定理 当总体为当总体为正态分布正态分布时，我们简单地叙述时，我们简单地叙述几个抽样分布定理几个抽样分布定理. 1. 一个正态总体一个正态总体X设设X1,X2,Xn是来自总体是来自总体X(1). 定理定理1. (样本均值的分布样本均值的分布)1 , 0( ),(2NnXnNX； ),(2 N的样本的样本),(2 N下 页上 页 返 回n取不同值时样本均值取不同值时样本均值 的分的分布布X下 页上 页 返 回n取不同值时取不同值时 的分布的分布22*)1( nSn 下 页上 页 返 回(2). 定理定理 2 (样本方差

33、的分布样本方差的分布)则有则有，设均值设均值 niiXnX11 niiXXnS122)(1方差方差)1()1( )1(.2222*2220 nSnnnSn ；. ; .12*20相互独立相互独立和和相互独立相互独立和和nSXSX)1()1(1 .32*0 ntnSXntnSXnn； X1,X2,Xn是来自总体是来自总体X的样本的样本),(2 N下 页上 页 返 回2)1(222 )1 , 0( nnnSNnXU ；又相互独立又相互独立30. 的说明的说明),1()1(2 ntnU ),1(1)1(2 ntnSXnUn 下 页上 页 返 回2. 两个正态总体两个正态总体 情形情形修修正正方方差差

34、。分分别别是是两两样样本本的的方方差差与与分分别别是是两两样样本本的的均均值值，的的样样本本来来自自的的样样本本；来来自自设设2*22*1222122212111,;),(),( ),(),( 21SSSSYXNYYYNXXXnn 定理定理 3. ; ),( 22212121nnNYX 则则),(),(222211 NYNX时时当当22221 )2( 2)(2121212122221121 nntnnnnnnSnSnYX 下 页上 页 返 回 )2( 211)(212121212*222*1121 nntnnnnnnSnSnYX 或或 )1, 1(112122122121 nnFSnnSnn也有也有或或)1, 1(212*22*1 n