数理统计课件

1§1.2随机变量的特征函数及其性质

一

定义

2显然，特征函数只与分布函数有关，因此也称某一分布函数的特征函数。

3此时，特征函数即为密度函数的Fourier变换。

4二、特征函数g(t)的性质

性质4

相互独立的随机变量之和的特征函数等于它们的特征函数之积。

56定理

(惟一性定理)分布函数由其特征函数惟一决定.

7三、多元特征函数

与一元的场合类似，对多元特征函数仍具有如下性质与结论：

891011121314§1.3常用分布族15二项分布16例1

设生男孩的概率为p,生女孩的概率为q=1-p，令X表示随机抽查出生的4个婴儿中“男孩”的个数.一、贝努里概型和二项分布我们来求X的概率分布.17X的概率函数是：男女X表示随机抽查的4个婴儿中男孩的个数，生男孩的概率为p.X=0X=1X=2X=3X=4X可取值0,1,2,3,4.18例2

将一枚均匀骰子抛掷3次，令X表示3次中出现“4”点的次数X的概率函数是：不难求得，19

掷骰子：“掷出4点”，“未掷出4点”

一般地，设在一次试验中我们只考虑两个互逆的结果：A或，或者形象地把两个互逆结果叫做“成功”和“失败”.

新生儿：“是男孩”，“是女孩”

抽验产品：“是正品”，“是次品”20

这样的n次独立重复试验称作n重贝努里试验，简称贝努里试验或贝努里概型.

再设我们重复地进行n次独立试验(“重复”是指这次试验中各次试验条件相同)，

每次试验成功的概率都是p，失败的概率都是q=1-p.21

用X表示n重贝努里试验中事件A（成功）出现的次数，则（2）不难验证：（1）称r.vX服从参数为n和p的二项分布，记作X~B(n,p)当n=1时，P(X=k)=pk(1-p)1-k,k=0,1称X服从0-1分布22例3

已知100个产品中有5个次品，现从中有放回地取3次，每次任取1个，求在所取的3个中恰有2个次品的概率.解:因为这是有放回地取3次，因此这3次试验的条件完全相同且独立，它是贝努里试验.依题意，每次试验取到次品的概率为0.05.设X为所取的3个中的次品数，于是，所求概率为：则X~B(3,0.05)，23注：若将本例中的“有放回”改为”无放回”，那么各次试验条件就不同了，不是贝努里概型，此时，只能用古典概型求解.古典概型与贝努里概型不同，有何区别？请思考：24

贝努里概型对试验结果没有等可能的要求，但有下述要求：（1）每次试验条件相同；二项分布描述的是n重贝努里试验中出现“成功”次数X的概率分布.（2）每次试验只考虑两个互逆结果A或，

且P(A)=p

，；（3）各次试验相互独立.可以简单地说，25例4

某类灯泡使用时数在1000小时以上的概率是0.2，求三个灯泡在使用1000小时以后最多只有一个坏了的概率.解:设X为三个灯泡在使用1000小时已坏的灯泡数.X~B(3,0.8)，把观察一个灯泡的使用时数看作一次试验,“使用到1000小时已坏”视为“成功”.每次试验,“成功”的概率为0.8

P(X1)=P(X=0)+P(X=1)=(0.2)3+3(0.8)(0.2)2=0.10426

对于固定n及p，当k增加时,概率P(X=k)先是随之增加直至达到最大值,随后单调减少.二项分布的图形特点：X~B(n,p)当(n+1)p不为整数时，二项概率P(X=k)在k=[(n+1)p]达到最大值；([x]表示不超过

x

的最大整数)n=10,p=0.7nPk27

对于固定n及p，当k增加时,概率P(X=k)先是随之增加直至达到最大值,随后单调减少.二项分布的图形特点：X~B(n,p)当(n+1)p为整数时，二项概率P(X=k)在k=(n+1)p和k=(n+1)p-1处达到最大值.课下请自行证明上述结论.n=13,p=0.5Pkn028二、二项分布的泊松近似

当试验次数n很大时，计算二项概率变得很麻烦，如教材例4中，要计算

我们先来介绍二项分布的泊松近似，后面第十七讲中，我们将介绍二项分布的正态近似.或诸如此类的计算问题，必须寻求近似方法.29证明见教材.

定理的条件意味着当

n很大时，pn

必定很小.因此，泊松定理表明，当n

很大，p

很小时有以下近似式：其中泊松定理设是一个正整数，，则有30n100,np10时近似效果就很好实际计算中，其中31

此例说明，当p不是很小，而是很大(接近于1)，可将问题略为转换一下，仍然可以应用泊松近似.

当n很大时，p不是很小，而是很大(接近于1)时，能否应用二项分布的泊松近似？请看教材例5.下面我们看一个应用例子.32例5

为保证设备正常工作，需要配备适量的维修人员.设共有300台设备，每台的工作相互独立，发生故障的概率都是0.01.若在通常的情况下，一台设备的故障可由一人来处理.问至少应配备多少维修人员，才能保证当设备发生故障时不能及时维修的概率小于0.01?我们先对题目进行分析：33300台设备，独立工作，出故障概率都是0.01.一台设备故障一人来处理.

问至少配备多少维修人员，才能保证当设备发生故障时不能及时维修的概率小于0.01?

设X为300台设备同时发生故障的台数，300台设备，独立工作，每台出故障概率p=0.01.可看作n=300的贝努里概型.X~B(n,p)，n=300,p=0.01可见，34300台设备，独立工作，出故障概率都是0.01.一台设备故障一人来处理.

问至少配备多少维修人员，才能保证当设备发生故障时不能及时维修的概率小于0.01?设X为300台设备同时发生故障的台数，X~B(n,p)，n=300,

p=0.01设需配备N个维修人员，所求的是满足P(X>N)<0.01或P(X

N)0.99的最小的N.35解：设X为300台设备同时发生故障的台数，X~B(n,p)，n=300,p=0.01设需配备N个维修人员，所求的是满足P(X>N)<0.01的最小的N.

P(X>N)n大,p小,np=3,用=np=3的泊松近似下面给出正式求解过程：36即至少需配备8个维修人员.查书末的泊松分布表得N+19,即N8我们求满足的最小的N.37这一讲，我们介绍了二项分布.二项分布是实际中最常见的离散型分布之一.二项分布描述的是n重贝努里试验中出现“成功”次数X的概率分布.我们介绍了二项分布的泊松近似，使用时应注意条件.

在解应用题时需要注意判断问题是否为贝努里概型，可否用二项分布求解.38泊松分布39让我们回忆一下上一讲介绍的泊松定理：

等式右端给出的概率分布，是又一种重要的离散型分布：泊松分布设是一个正整数，，则有40三、泊松分布的定义及图形特点

设随机变量X所有可能取的值为0,1,2,…,且概率分布为：其中>0是常数,则称X服从参数为的泊松分布,记作X~P().41请看演示

泊松分布的图形特点：X~P()泊松分布42

历史上，泊松分布是作为二项分布的近似，于1837年由法国数学家泊松引入的.

近数十年来，泊松分布日益显示其重要性,成为概率论中最重要的几个分布之一.

在实际中，许多随机现象服从或近似服从泊松分布.四、二项分布与泊松分布43

由泊松定理，n重贝努里试验中稀有事件出现的次数近似地服从泊松分布.“二项分布与泊松分布”

我们把在每次试验中出现概率很小的事件称作稀有事件.如地震、火山爆发、特大洪水、意外事故等等请看演示44

在自然界和人们的现实生活中,经常要遇到在随机时刻出现的某种事件.我们把在随机时刻相继出现的事件所形成的序列,叫做随机事件流.

若事件流具有平稳性、无后效性、普通性，则称该事件流为泊松事件流（泊松流）.五、泊松分布产生的一般条件下面简要解释平稳性、无后效性、普通性.45平稳性:

在任意时间区间内，事件发生k次(k≥0)的概率只依赖于区间长度而与区间端点无关.无后效性:普通性:

在不相重叠的时间段内，事件的发生是相互独立的.

如果时间区间充分小，事件出现两次或两次以上的概率可忽略不计.46都可以看作泊松流.某电话交换台收到的电话呼叫数；到某机场降落的飞机数;一个售货员接待的顾客数;一台纺纱机的断头数;

…一放射性源放射出的粒子数；例如47

对泊松流，在任意时间间隔(0,t)内,事件(如交通事故)出现的次数服从参数为t

的泊松分布.称为泊松流的强度.48例1

一家商店采用科学管理，由该商店过去的销售记录知道，某种商品每月的销售数可以用参数λ=5的泊松分布来描述，为了以95%以上的把握保证不脱销，问商店在月底至少应进某种商品多少件？解:设该商品每月的销售数为X,已知X服从参数λ=5的泊松分布.设商店在月底应进某种商品m件,求满足P(X≤m)>0.95的最小的m.进货数销售数49求满足P(X≤m)>0.95的最小的m.查泊松分布表得P(X>m)≤0.05也即于是得m+1=10,或m=9件50这一讲，我们介绍了泊松分布我们给出了泊松分布产生的一般条件

n重贝努里试验中稀有事件出现的次数近似地服从泊松分布.

泊松分布在管理科学、运筹学以及自然科学的某些问题中都占有重要的地位.51正态分布52

正态分布是应用最广泛的一种连续型分布.

正态分布在十九世纪前叶由高斯加以推广，所以通常称为高斯分布.德莫佛

德莫佛最早发现了二项概率的一个近似公式，这一公式被认为是正态分布的首次露面.53不知你们是否注意到街头的一种赌博活动?用一个钉板作赌具。54

也许很多人不相信，玩这种赌博游戏十有八九是要输掉的，不少人总想碰碰运气，然而中大奖的概率实在是太低了。55

平时，我们很少有人会去关心小球下落位置的规律性，人们可能不相信它是有规律的。一旦试验次数增多并且注意观察的话，你就会发现，最后得出的竟是一条优美的曲线。56高尔顿钉板试验这条曲线就近似我们将要介绍的正态分布的密度曲线。57正态分布的定义是什么呢？对于连续型随机变量，一般是给出它的概率密度函数。58

一、正态分布的定义

若r.vX的概率密度为记作f(x)所确定的曲线叫作正态曲线.其中和都是常数，任意，>0，则称X服从参数为和的正态分布.59正态分布有些什么性质呢？

由于连续型随机变量唯一地由它的密度函数所描述，我们来看看正态分布的密度函数有什么特点。60二、正态分布的图形特点

正态分布的密度曲线是一条关于对称的钟形曲线.特点是“两头小，中间大，左右对称”.61

决定了图形的中心位置，决定了图形中峰的陡峭程度.

正态分布的图形特点62

能不能根据密度函数的表达式，得出正态分布的图形特点呢？容易看到，f(x)≥0即整个概率密度曲线都在x轴的上方;63故f(x)以μ为对称轴，并在x=μ处达到最大值:令x=μ+c,

x=μ-c(c>0),

分别代入f(x),

可得f(μ+c)=f(μ-c)且f(μ+c)≤f(μ),f(μ-c)≤f(μ)64这说明曲线f(x)向左右伸展时，越来越贴近x轴。即f(x)以x轴为渐近线。

当x→

∞时，f(x)→0,65用求导的方法可以证明，为f(x)的两个拐点的横坐标。x=μσ这是高等数学的内容，如果忘记了，课下再复习一下。66根据对密度函数的分析，也可初步画出正态分布的概率密度曲线图。67

回忆我们在本章第三讲中遇到过的年降雨量问题，我们用上海99年年降雨量的数据画出了频率直方图。从直方图，我们可以初步看出，年降雨量近似服从正态分布。68下面是我们用某大学男大学生的身高的数据画出的频率直方图。红线是拟合的正态密度曲线可见，某大学男大学生的身高应服从正态分布。69人的身高高低不等，但中等身材的占大多数，特高和特矮的只是少数，而且较高和较矮的人数大致相近，这从一个方面反映了服从正态分布的随机变量的特点。70请同学们想一想，实际生活中具有这种特点的随机变量还有那些呢？71

除了我们在前面遇到过的年降雨量和身高外,在正常条件下各种产品的质量指标，如零件的尺寸；纤维的强度和张力；农作物的产量，小麦的穗长、株高；测量误差，射击目标的水平或垂直偏差；信号噪声等等，都服从或近似服从正态分布.72服从正态分布的随机变量X的概率密度是X的分布函数P(X≤x)是怎样的呢？73

设X~,X的分布函数是74

正态分布由它的两个参数μ和σ唯一确定，当μ和σ不同时，是不同的正态分布。标准正态分布下面我们介绍一种最重要的正态分布75三、标准正态分布的正态分布称为标准正态分布.其密度函数和分布函数常用

和

表示：76它的依据是下面的定理：

标准正态分布的重要性在于，任何一个一般的正态分布都可以通过线性变换转化为标准正态分布.

根据定理1,只要将标准正态分布的分布函数制成表，就可以解决一般正态分布的概率计算问题.,则~N(0,1)

设定理177

书末附有标准正态分布函数数值表，有了它，可以解决一般正态分布的概率计算查表.四、正态分布表表中给的是x>0时,Φ(x)的值.当-x<0时78若~N(0,1)

若X～N(0,1),79由标准正态分布的查表计算可以求得，这说明，X的取值几乎全部集中在[-3,3]区间内，超出这个范围的可能性仅占不到0.3%.当X～N(0,1)时，P(|X|1)=2(1)-1=0.6826

P(|X|2)=2(2)-1=0.9544P(|X|3)=2(3)-1=0.9974五、3准则80将上述结论推广到一般的正态分布,时，可以认为，Y的取值几乎全部集中在区间内.

这在统计学上称作“3准则”（三倍标准差原则）.81

上一讲我们已经看到，当n很大，p接近0或1时，二项分布近似泊松分布;如果n很大，而p不接近于0或1，那么可以证明，二项分布近似于正态分布.

下面我们不加证明地介绍有关二项分布近似于正态分布的一个定理，称为棣莫佛－拉普拉斯定理.它是第五章要介绍的中心极限定理的一个最重要的特殊情况.82六、二项分布的正态近似定理(棣莫佛－拉普拉斯定理）

设随机变量服从参数n,p(0<p<1)的二项分布，则对任意x，有

定理表明，当n很大，0<p<1是一个定值时（或者说，np(1-p)也不太小时），二项变量的分布近似正态分布N(np,np(1-p)).83

实用中，n30，np10时正态近似的效果较好.84例1

将一枚硬币抛掷10000次，出现正面5800次，认为这枚硬币不均匀是否合理?试说明理由.解:设X为10000次试验中出现正面的次数，采用正态近似,np=5000,np(1-p)=2500,若硬币是均匀的，X~B(10000，0.5),近似正态分布N(0,1).即85=1-Φ(16)≈0此概率接近于0，故认为这枚硬币不均匀是合理的.P(X≥5800)=1-P(X<5800)近似正态分布N(0,1).86

例2

公共汽车车门的高度是按男子与车门顶头碰头机会在0.01以下来设计的.设男子身高X～N(170,62),问车门高度应如何确定?解:设车门高度为hcm,按设计要求P(X≥h)≤0.01或P(X<h)≥0.99，下面我们来求满足上式的最小的h.再看一个应用正态分布的例子:87因为X～N(170,62),故P(X<h)=0.99查表得(2.33)=0.9901>0.99所以=2.33,即h=170+13.98184设计车门高度为184厘米时，可使男子与车门碰头机会不超过0.01.P(X<h)0.99求满足的最小的h.88统计三大分布89记为分布1、定义:设相互独立,都服从正态分布N(0,1),则称随机变量：

所服从的分布为自由度为

n

的分布.分布是由正态分布派生出来的一种分布.90分布的密度函数为来定义.其中伽玛函数通过积分91由分布的定义，不难得到：1.

设相互独立,都服从正态分布则2.设且X1,X2相互独立，则这个性质叫分布的可加性.92应用中心极限定理可得，若

，则当n充分大时，若的分布近似正态分布N(0,1).则可以求得，

E(X)=n,D(X)=2n若93T的密度函数为：记为T～t(n).

定义:设X～N(0,1),Y～,且X与Y相互独立，则称变量所服从的分布为自由度为n的t分布.2、t分布94具有自由度为n的t分布的随机变量T的数学期望和方差为:

E(T)=0;D(T)=n/(n-2),对n>2当n充分大时，其图形类似于标准正态分布密度函数的图形.t分布的密度函数关于x=0对称，且95由定义可见，3、F分布定义:设X与Y相互独立，则称统计量服从自由度为n1及n2的F分布，n1称为第一自由度，n2称为第二自由度，记作F~F(n1,n2).~F(n2,n1)96即它的数学期望并不依赖于第一自由度n1.X的数学期望为:若n2>2若X~F(n1,n2)，X的概率密度为97

统计三大分布的定义、基本性质在后面的学习中经常用到，要牢记！！98第二章统计量与抽样分布§2.1基本概念99

数理统计的特点是应用面广，分支较多.社会的发展不断向统计提出新的问题.

计算机的诞生与发展，为数据处理提供了强有力的技术支持，数理统计与计算机的结合是必然的发展趋势.100

由于学时有限，课程的的这部分内容重点在于介绍数理统计的一些重要概念和典型的统计方法，它们是实际中最常用的知识.101

学习统计无须把过多时间化在计算上，可以更有效地把时间用在基本概念、方法原理的正确理解上.国内外著名的统计软件包：SAS，SPSS，STAT等，都可以让你快速、简便地进行数据处理和分析.

配合教学编制的教学软件“数理统计教学系统”，可使你根据自己的进度，在计算机上进行学习.102

从历史的典籍中，人们不难发现许多关于钱粮、户口、地震、水灾等等的记载，说明人们很早就开始了统计的工作.但是当时的统计，只是对有关事实的简单记录和整理，而没有在一定理论的指导下，作出超越这些数据范围之外的推断.103

到了十九世纪末二十世纪初，随着近代数学和概率论的发展，才真正诞生了数理统计学这门学科.数理统计学104

数理统计学是一门应用性很强的学科.它是研究怎样以有效的方式收集、整理和分析带有随机性的数据，以便对所考察的问题作出推断和预测，直至为采取一定的决策和行动提供依据和建议.105

数理统计不同于一般的资料统计，它更侧重于应用随机现象本身的规律性进行资料的收集、整理和分析.

由于大量随机现象必然呈现出它的规律性，因而从理论上讲，只要对随机现象进行足够多次观察，被研究的随机现象的规律性一定能清楚地呈现出来.只允许我们对随机现象进行次数不多的观察试验，也就是说,我们获得的只是局部观察资料.但客观上106

数理统计的任务就是研究怎样有效地收集、整理、分析所获得的有限的资料，对所研究的问题,尽可能地作出精确而可靠的结论.107

由于推断是基于抽样数据，抽样数据又不能包括研究对象的全部信息.因而由此获得的结论必然包含不肯定性.

在数理统计中，不是对所研究的对象全体(称为总体)进行观察，而是抽取其中的部分(称为样本)进行观察获得数据（抽样），并通过这些数据对总体进行推断.108下面我们以一例进行说明：109

某种子公司A，栽种了几种类别的鲜花，收获了大量的花籽，并把每25粒花籽扎成一小包出售.一个零售商批发了若干包，并向顾客保证：在每包25粒花籽中至少有22粒将能发芽，否则的话可免费调换另一包.每包要是有3粒不发芽，马上免费退换！每包25粒110每包25粒中至少有22粒将发芽所有的包都如此吗？？

这种类型的不肯定性，即不知道种子公司出售的小包中可接受的比例，它是由于对总体的真实状态（天然状态）无知所引起的不肯定性.零售商面临如下两种类型的不肯定性：(1)他对种子公司出售的小包中可接受（即至少有22粒花籽将发芽）的包数所占比例是不清楚的.这是第一类不肯定性.111(2)由于种子公司出售的花籽的货单上，这类花籽共有一百万包，而零售商只购买了200包，那些包是可接受的呢？？这就是尽管他知道了一百万包可接受的比例，但对他所购买的200包，其中可接受的比例仍旧没有“把握”.从中购买200包共100万包因此他又面临着另一类不肯定性；112零售商购买的200包仍有可能“碰巧”是从不可接受的一万包中选取的.那些包是可接受的呢？？即使是0.99，即种子公司出售的一百万包中有99万包是可接受的，这样他就要损失一笔资金.从中购买200包共100万包113

这一类不肯定性是由于“随机性”所引起的.

在已知的条件下，这种不肯定性的程度已在概率论部分作过讨论.下面我们回到第一类不肯定性：

零售商对种子公司出售的小包中可接受（即至少有22粒花籽将发芽）的包数所占比例是多少没有把握.114零售商能够根据试验的方法（请公司进行发芽试验）来改善他的处境.根据试验他能作出天然状况是多少的决策.这就是抽取部分种籽进行发芽试验，通过这部分中发芽数所占比例（频率)来对的真值进行推断.115(1)怎样设计试验，决定观察的数目；(2)怎样利用试验观察的结果作出一个“好”的推断等.这都是数理统计所要研究的问题.

虽然他不能精确地和肯定地确定，但可以期望获得一个（在某种意义下）比较好的推断.这就涉及到116

第一个问题是怎样进行抽样，使抽得的样本更合理,并有更好的代表性？这是抽样方法和试验设计问题：最简单易行的是进行随机抽样.

第二个问题是怎样从取得的样本去推断总体？这种推断具有多大的可靠性？这是统计推断问题.本课程着重讨论第二个问题,即最常用统计推断方法.117

概率论是数理统计的基础，而数理统计是概率论的重要应用.但它们是并列的两个学科，并无从属关系.

可见，在数理统计中必然要用到概率论的理论和方法.因为随机抽样的结果带有随机性，不能不把它当作随机现象来处理.

由此也可以说，118统计方法具有“部分推断整体”的特征

.在结束本节之前，我们需要强调说明一点：因为我们是从一小部分样本观察值去推断该全体对象（总体）情况，即由部分推断全体.这里使用的推理方法是“归纳推理”.119这种归纳推理不同于数学中的“演绎推理”，

它在作出结论时，是根据所观察到的大量个别情况，“归纳”起来所得，而不是从一些假设、命题、已知的事实等出发，按一定的逻辑推理去得出来的.120

例如，在几何学中要证明“等腰三角形底角相等”只须从“等腰”这个前提出发，运用几何公理，一步一步推出这个结论.

而一个习惯于统计思想的人，就可能想出这样的方法：做很多大小形状不一的等腰三角形，实地测量其底角，看差距如何，根据所得资料看看可否作出“底角相等”的结论.这样做就是归纳式的方法.121

现在要问：从局部观察要对总体下结论有没有片面性呢？结论是否可靠？

显然这里不仅依赖于进行局部观察的“样本”是否具有总体的代表性，也依赖于对从这些样本得到数据的合理加工、分析并得出论断.122

我们说，如果这一切都建立在可靠的科学基础上，则对总体下结论是可能的也是可靠的.因为这里存在着样品（随机抽取的一个个体）个性(特殊性)和总体共性(普遍性)之间的一种内在的、对立统一的辩证关系.

“每一事物内部不但包括了矛盾的特殊性，而且包含了矛盾的普遍性，普遍性即存在于特殊性之中.”《矛盾论》毛泽东123

我们对每个经过合理手续选取的一个样品也应看到它所具有的两重性：

一方面它具有特殊性，因为它毕竟是个别观察值，不能反映总体的全面性质，有片面性.

因而统计上往往不采用由一次抽取的样品来下结论.124

在这个基础上再加上科学的推断方法，对总体下的结论同样也是可靠的.

另一方面也要看到“普遍性即存在于特殊性之中”，即每个样品的情况又必然反映总体的一些普遍性.

当样品有一定数量时总体的普遍性是可以得到比较真实的反映的.125

但此时还应记住毕竟是由“局部”推断“整体”，因而仍可能犯错误，结论往往又是在某个“可靠性水平”之下得出的.

这种矛盾的特殊性与普遍性的辩证统一在统计学中贯穿始终，是我们应该记住的基本思想.126

一个统计问题总有它明确的研究对象.1.总体…研究某批灯泡的质量研究对象的全体称为总体(母体)，总体中每个成员称为个体.总体一、总体和样本127

然而在统计研究中，人们关心总体仅仅是关心其每个个体的一项(或几项)数量指标和该数量指标在总体中的分布情况.这时，每个个体具有的数量指标的全体就是总体.某批灯泡的寿命该批灯泡寿命的全体就是总体国产轿车每公里的耗油量国产轿车每公里耗油量的全体就是总体128

由于每个个体的出现是随机的，所以相应的数量指标的出现也带有随机性.从而可以把这种数量指标看作一个随机变量，因此随机变量的分布就是该数量指标在总体中的分布.

这样，总体就可以用一个随机变量及其分布来描述.129

而概率分布正是刻划这种集体性质的适当工具.因此在理论上可以把总体与概率分布等同起来.从另一方面看

统计的任务,是根据从总体中抽取的样本，去推断总体的性质.

由于我们关心的是总体中的个体的某项指标(如人的身高、体重，灯泡的寿命,汽车的耗油量…)，所谓总体的性质，无非就是这些指标值的集体的性质.130

例如:研究某批灯泡的寿命时，关心的数量指标就是寿命，那么，此总体就可以用随机变量X表示，或用其分布函数F(x)表示.某批灯泡的寿命总体寿命X可用一概率分布来刻划鉴于此，常用随机变量的记号或用其分布函数表示总体.如说总体X或总体F(x).F(x)131

类似地，在研究某地区中学生的营养状况时，若关心的数量指标是身高和体重，我们用X和Y分别表示身高和体重，那么此总体就可用二维随机变量(X,Y)或其联合分布函数F(x,y)来表示.

统计中，总体这个概念的要旨是：总体就是一个概率分布.132

为推断总体分布及各种特征，按一定规则从总体中抽取若干个体进行观察试验，以获得有关总体的信息，这一抽取过程称为“抽样”，所抽取的部分个体称为样本.样本中所包含的个体数目称为样本容量.2.样本从国产轿车中抽5辆进行耗油量试验样本容量为5133

但是，一旦取定一组样本，得到的是n个具体的数(X1,X2,…,Xn)，称为样本的一次观察值，简称样本值.

样本是随机变量.抽到哪5辆是随机的容量为n的样本可以看作n维随机变量.1342.独立性：X1,X2,…,Xn是相互独立的随机变量.

由于抽样的目的是为了对总体进行统计推断，为了使抽取的样本能很好地反映总体的信息，必须考虑抽样方法.

最常用的一种抽样方法叫作“简单随机抽样”，它要求抽取的样本满足下面两点:1.代表性：X1,X2,…,Xn中每一个与所考察的总体有相同的分布.135

由简单随机抽样得到的样本称为简单随机样本，它可以用与总体独立同分布的n个相互独立的随机变量X1,X2,…,Xn表示.

简单随机样本是应用中最常见的情形，今后，当说到“X1,X2,…,Xn是取自某总体的样本”时，若不特别说明，就指简单随机样本.若总体的分布函数为F(x)，则其简单随机样本的联合分布函数为F(x1)F(x2)…F(xn)

136

事实上我们抽样后得到的资料都是具体的、确定的值.如我们从某班大学生中抽取10人测量身高，得到10个数，它们是样本取到的值而不是样本.我们只能观察到随机变量取的值而见不到随机变量.3.总体、样本、样本值的关系137总体（理论分布）？样本

样本值

统计是从手中已有的资料--样本值，去推断总体的情况---总体分布F(x)的性质.

总体分布决定了样本取值的概率规律，也就是样本取到样本值的规律，因而可以由样本值去推断总体.样本是联系二者的桥梁138

由样本值去推断总体情况，需要对样本值进行“加工”，这就要构造一些样本的函数，它把样本中所含的（某一方面）的信息集中起来.二、统计量和样本矩1.统计量

这种不含任何未知参数的样本的函数称为统计量.它是完全由样本决定的量.139

几个常见统计量样本均值样本方差它反映了总体均值的信息它反映了总体方差的信息140样本k阶原点矩样本k阶中心矩

k=1,2,…它反映了总体k阶矩的信息它反映了总体k阶中心矩的信息141

2.经验分布函数142§2.2充分统计量与完备统计量一充分统计量在数理统计中，由样本来推断总体的前提是：样本包含了总体分布的信息。样本中包含的关于总体分布的信息可分为：1、关于总体结构的信息，即反映总体分布的类型。如总体服从正态分布，则来自该总体的样本相互独立并均服从该正态分布，即样本包含了总体分布为正态分布的信息。2、关于总体未知参数的信息，这是由于样本的分布中包含了总体分布中的未知参数。

为了推断总体分布的未知参数，需要把样本中关于未知参数的信息“提炼“出来，即构造合适的统计量，显然，一个“好”的统计量应该能够将样本中所包含的关于未知参数的信息全部提炼出来，而不没有任何有用信息损失，这就是英国著名统计学家Fisher于1922年提出的一个重要的概念-----充分统计量。二、

因子分解定理

根据充分统计量的含义，在对总体未知参数进行推断时，应在可能的情况下尽量找出关于未知参数的充分统计量。但从定义出发来判别一个统计量是否是充分统计量是很麻烦的。为此，需要一个简单的判别准则。下面给出一个定理——因子分解定理，运用这个定理，判别甚至寻找一个充分统计量有时会很方便。例2.4根据因子分解定理证明例2.3。

证明样本的联合分布律为

若取

则有

若取

则三、完备统计量

为了介绍完备统计量的概念，首先需要引人完备分布函数族的概念。

完备统计量的含义不如充分统计量那么明确，但由定义可见它有如下特征：

但反之不成立，

如果一个统计量既是充分的，又是完备的，则称为充分完备统计量。在寻求总体分布中未知参数的优良估计中，充分完备统计量扮演着重要的角色。

四、指数型分布族与式（2.9）比较有

168§2.3抽样分布尽管在一般情况下,要确定某个统计量的分布是非常困难的,但在总体服从正态分布时,可以确定某些统计量的分布.

169170请注意(3.1)与(3.4),(3.2)与(3.3)的区别和联系.

171证明：略.

172以上定理统称为抽样分布定理,这些定理在以后的区间估计、假设检验中有非常重要的作用.

173因此174175故176所以故177令则U和V相互独立,且由t分布的定义可知,于是以上定理统称为抽样分布定理,这些定理在以后的区间估计、假设检验中有非常重要的作用.

178§2.4

次序统计量及其分布一次序统计量179显然有

180

定理次序统计量是充分统计量。所以

此条件分布与总体分布无关，故次序统计量是充分统计量。

181182183184二、样本中位数和样本极差

它的值为185样本中位数与样本均值一样是刻划样本位置特征的量，而且样本中位数的计算方便并不受样本异常值的影响，所以有时比样本均值更有代表性。

样本极差定义为

它的值为

样本极差与样本方差一样是反映样本值变化幅度或离散程度的数字特征，而且计算方便，所以在实际中有广泛的应用。186例从总体中抽取容量为6的样本，测得样本值为32，65，28，35，30，29，

由小到大排列为28，29，30，32，35，65；

则样本中位数为：

而样本均值为：

187188第三章参数估计

§3.1点估计与优良性189

引言

上一讲，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，介绍了统计中常用的三大分布，给出了几个重要的抽样分布定理.它们是进一步学习统计推断的基础.190

总体样本统计量描述作出推断研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质.随机抽样191

现在我们来介绍一类重要的统计推断问题

参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数.

参数估计估计废品率估计新生儿的体重估计湖中鱼数……估计降雨量

在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.192这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xn要依据该样本对参数作出估计，或估计的某个已知函数.现从该总体抽样，得样本设有一个统计总体，总体的分布函数向量).为F(x,)，其中为未知参数(可以是193参数估计点估计区间估计194（假定身高服从正态分布）设这5个数是:1.651.671.681.781.69估计为1.68，这是点估计.这是区间估计.估计在区间[1.57,1.84]内，假如我们要估计某队男生的平均身高.

现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值的估计.而全部信息就由这5个数组成.195一、点估计概念及讨论的问题例1

已知某地区新生婴儿的体重X~随机抽查100个婴儿…得100个体重数据10,7,6,6.5,5,5.2,

…呢?据此,我们应如何估计和而全部信息就由这100个数组成.196

为估计,我们需要构造出适当的样本的函数T(X1,X2,…Xn)，每当有了样本，就代入该函数中算出一个值，用来作为的估计值.把样本值代入T(X1,X2,…Xn)

中，得到的一个点估计值.T(X1,X2,…Xn)称为参数的点估计量，197

请注意，被估计的参数

是一个未知常数，而估计量T(X1,X2,…Xn)是一个随机变量，是样本的函数,当样本取定后，它是个已知的数值,这个数常称为

的估计值.198使用什么样的统计量去估计？可以用样本均值;也可以用样本中位数;还可以用别的统计量.问题是:199我们知道,服从正态分布由大数定律,自然想到把样本体重的平均值作为总体平均体重的一个估计.类似地，用样本体重的方差.用样本体重的均值样本体重的平均值200样本均值是否是的一个好的估计量？(2)怎样决定一个估计量是否比另一个估计量“好”？样本方差是否是的一个好的估计量？这就需要讨论以下几个问题:(1)我们希望一个“好的”估计量具有什么特性？(3)如何求得合理的估计量？那么要问:201

二、估计量的优良性准则

在介绍估计量优良性的准则之前，我们必须强调指出：

评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量.

这是因为估计量是样本的函数，是随机变量.因此，由不同的观测结果，就会求得不同的参数估计值.因此一个好的估计，应在多次试验中体现出优良性.202

常用的几条标准是：1．无偏性2．有效性3．相合性这里我们重点介绍前面两个标准.203

估计量是随机变量，对于不同的样本值会得到不同的估计值.我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值.这就导致无偏性这个标准.1．无偏性则称为的无偏估计.设是未知参数的估计量，若204

例如，用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在0的周围波动，对同一统计问题大量重复使用不会产生系统偏差.无偏性是对估计量的一个常见而重要的要求.无偏性的实际意义是指没有系统性的偏差.205所以无偏估计以方差小者为好,这就引进了有效性这一概念.的大小来决定二者和一个参数往往有不止一个无偏估计,若

和都是参数

的无偏估计量，比较我们可以谁更优.由于2062．有效性D()<D()则称较有效.都是参数

的无偏估计量，若有设和207在数理统计中常用到最小方差无偏估计.它的定义是:（也称最佳无偏估计）若满足：（1），即为的无偏估计；（2），是的任一无偏估计.则称为的最小方差无偏估计.设是取自总体X的一个样本，是未知参数的一个估计量，208§3.2点估计量的求法

209

二、寻求估计量的方法1.矩估计法2.极大似然法3.最小二乘法4.贝叶斯方法……这里我们主要介绍前面两种方法.2101.矩估计法

其基本思想是用样本矩估计总体矩

.

理论依据:

或格列汶科定理（见教材177页）

它是基于一种简单的“替换”思想建立起来的一种估计方法.是英国统计学家K.皮尔逊最早提出的.大数定律211记总体k阶矩为样本k阶矩为用相应的样本矩去估计总体矩的估计方法就称为矩估计法.记总体k阶中心矩为样本k阶中心矩为212

设总体的分布函数中含有k个未知参数都是这k个参数的函数,记为：,那么它的前k阶矩一般i=1,2,…,k从这k个方程中解出j=1,2,…,k那么用诸的估计量Ai分别代替上式中的诸,即可得诸的矩估计量：j=1,2,…,k213解:由矩法,样本矩总体矩从中解得的矩估计.即为数学期望是一阶原点矩

例2

设总体X的概率密度为是未知参数,其中X1,X2,…,Xn是取自X的样本,求参数的矩估计.214解:由密度函数知

例3

设X1,X2,…Xn是取自总体X的一个样本其中>0,求的矩估计.具有均值为的指数分布故E(X-)=

D(X-)=即

E(X)=

D(X)=215解得令用样本矩估计总体矩即

E(X)=

D(X)=216

矩法的优点是简单易行,并不需要事先知道总体是什么分布.

缺点是，当总体类型已知时，没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.

其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性.2172.极大似然法

是在总体类型已知条件下使用的一种参数估计方法.

它首先是由德国数学家高斯在1821年提出的,GaussFisher然而，这个方法常归功于英国统计学家费歇

.

费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.218

极大似然法的基本思想

先看一个简单例子：一只野兔从前方窜过.是谁打中的呢？某位同学与一位猎人一起外出打猎.如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下.219

下面我们再看一个例子,进一步体会极大似然法的基本思想.

你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.

这个例子所作的推断已经体现了极大似然法的基本思想.220

例4

设X~B(1,p),p未知.设想我们事先知道p只有两种可能:问:应如何估计p?p=0.7或p=0.3如今重复试验3次,得结果:0,0,0由概率论的知识,3次试验中出现“1”的次数k=0,1,2,3221

将计算结果列表如下：应如何估计p?p=0.7或p=0.3k=0,1,2,3p值 P(Y=0)P(Y=1)P(Y=2)P(Y=3)0.7 0.0270.189 0.441 0.3430.3 0.3430.441 0.189 0.027 出现估计出现出现出现估计估计估计0.3430.4410.4410.343222如果有p1,p2,…,pm可供选择,又如何合理地选p呢?从中选取使Qi最大的pi作为p的估计.i=1,2,…,m则估计参数p为时Qi

最大,比方说,当

若重复进行试验n次,结果“1”出现k次(0≤k≤n),

我们计算一切可能的

P(Y=k;pi

)=Qi

，

i=1,2,…,m223

如果只知道0<p<1,并且实测记录是Y=k(0≤k≤n),又应如何估计p呢?注意到是p的函数,可用求导的方法找到使f(p)达到极大值的p.但因f(p)与lnf(p)达到极大值的自变量相同,故问题可转化为求lnf(p)的极大值点.=f(p)224将lnf(p)对p求导并令其为0,这时,对一切0<p<1,均有从中解得=0便得

p(n-k)=k(1-p)225

以上这种选择一个参数使得实验结果具有最大概率的思想就是极大似然法的基本思想.这时,对一切0<p<1,均有则估计参数p为226

极大似然估计原理：

当给定样本X1,X2,…Xn时，定义似然函数为：

设X1,X2,…Xn是取自总体X的一个样本，样本的联合密度(连续型）或联合概率函数(离散型)为f(X1,X2,…Xn;).f(X1,X2,…Xn;)227

似然函数：

极大似然估计法就是用使达到最大值的去估计.称为的极大似然估计（MLE）.

看作参数的函数，它可作为将以多大可能产生样本值X1,X2,…Xn的一种度量.f(X1,X2,…Xn;)228(4)在最大值点的表达式中,用样本值代入就得参数的极大似然估计值.求极大似然估计(MLE)的一般步骤是：(1)由总体分布导出样本的联合概率函数

(或联合密度);(2)把样本联合概率函数(或联合密度)中自变量看成已知常数,而把参数看作自变量,

得到似然函数L();(3)求似然函数L()

的最大值点(常常转化为求lnL()的最大值点)，即

的MLE;229两点说明：1、求似然函数L()

的最大值点，可以应用微积分中的技巧。由于ln(x)是x的增函数，lnL()与L()在的同一值处达到它的最大值，假定是一实数，且lnL()是的一个可微函数。通过求解所谓“似然方程”：可以得到的MLE.

若是向量，上述方程必须用似然方程组代替.2302、用上述求导方法求参数的MLE有时行不通，这时要用极大似然原则来求.两点说明：231

下面举例说明如何求极大似然估计L(p)=f(X1,X2,…Xn;p

)

例5

设X1,X2,…Xn是取自总体X~B(1,p)的一个样本，求参数p的极大似然估计.解：似然函数为:232对数似然函数为：对p求导并令其为0，=0得即为p

的MLE.233解：似然函数为对数似然函数为例6

设X1,X2,…Xn是取自总体X的一个样本求的极大似然估计.其中

>0,234求导并令其为0=0从中解得即为的MLE.对数似然函数为235解：似然函数为

例7

设X1,X2,…Xn是取自总体X的一个样本其中>0,求的极大似然估计.i=1,2,…,n236对数似然函数为解：似然函数为i=1,2,…,n237=0(2)由(1)得=0(1)对分别求偏导并令其为0,对数似然函数为用求导方法无法最终确定用极大似然原则来求.238是对故使达到最大的即的MLE，于是

取其它值时，即为的MLE.且是的增函数由于239极大似然估计的一个性质可证明极大似然估计具有下述性质：

设的函数g=g()是上的实值函数,且有唯一反函数.如果是的MLE，则g()也是g()的极大似然估计.240

例8

一罐中装有白球和黑球，有放回地抽取一个容量为n的样本，其中有k个白球，求罐中黑球与白球之比R

的极大似然估计.解:设X1,X2,…,Xn为所取样本，则X1,X2,…,Xn是取自B(1,p)的样本，p是每次抽取时取到白球的概率，p未知.先求p的MLE：241p的MLE为

在前面例4中,我们已求得由前述极大似然估计的性质不难求得的MLE是242第二次捕出的有记号的鱼数X是r.v,X具有超几何分布：为了估计湖中的鱼数N，第一次捕上r条鱼，做上记号后放回.隔一段时间后,再捕出S条鱼,结果发现这S条鱼中有k条标有记号.根据这个信息，如何估计湖中的鱼数呢？最后，我们用极大似然法估计湖中的鱼数243应取使L(N;k)达到最大的N，作为N的极大似然估计.但用对N求导的方法相当困难,我们考虑比值：把上式右端看作N的函数，记作L(N;k).经过简单的计算知，这个比值大于或小于1，或而定.由244经过简单的计算知，这个比值大于或小于1，或而定.由

这就是说，当N增大时，序列P(X=k;N)先是上升而后下降;当N为小于的最大整数时,达到最大值.故N的极大似然估计为245

这一讲，我们介绍了参数点估计，讨论了估计量的优良性准则.给出了寻求估计量最常用的矩法和极大似然法.

参数点估计是用一个确定的值去估计未知的参数.看来似乎精确，实际上把握不大.为了使估计的结论更可信，需要引入区间估计.这是下一讲的内容.246§3.3最小方差无偏估计

247一、最小方差无偏估计

由定义3.4知，最小方差无偏估计（MVUE）是在无偏估计类中，使均方误差达到最小的估计量，即在均方误差最小意义下的最优估计。它是在应用中，人们希望寻求的一种估计量。

248249250251252253

定理3.7给出了最小方差无偏估计的一种判别方法，但由上例可见，该判别法使用并不方便，而且还只是一个充分条件。为了寻求更好的方法，需要借助充分统计量甚至充分完备统计量的概念。

254255256257258259260261262§3.4区间估计

263

引言

前面，我们讨论了参数点估计.它是用样本算得的一个值去估计未知参数.但是，点估计值仅仅是未知参数的一个近似值，它没有反映出这个近似值的误差范围，使用起来把握不大.区间估计正好弥补了点估计的这个缺陷.264

譬如，在估计湖中鱼数的问题中，若我们根据一个实际样本，得到鱼数N的极大似然估计为1000条.

若我们能给出一个区间，在此区间内我们合理地相信N的真值位于其中.这样对鱼数的估计就有把握多了.实际上，N的真值可能大于1000条，也可能小于1000条.265也就是说，我们希望确定一个区间，使我们能以比较高的可靠程度相信它包含真参数值.湖中鱼数的真值[]这里所说的“可靠程度”是用概率来度量的，称为置信概率，置信度或置信水平.

习惯上把置信水平记作

，这里是一个很小的正数.266置信水平的大小是根据实际需要选定的.例如，通常可取置信水平=0.95或0.9等.根据一个实际样本，由给定的置信水平，我小的区间，使们求出一个尽可能置信区间.称区间为的置信水平为的267

寻找置信区间的方法,一般是从确定误差限入手.使得称

为与

之间的误差限

.

我们选取未知参数的某个估计量，根据置信水平，可以找到一个正数

，只要知道的概率分布，确定误差限并不难.268

下面我们就来正式给出置信区间的定义,并通过例子说明求置信区间的方法.由不等式可以解出：这个不等式就是我们所求的置信区间.269教材上已经给出了概率分布的上侧分位数（分位点）的定义，为便于应用，这里我们再简要介绍一下.在求置信区间时，要查表求分位数.

设0<<1,对随机变量X，称满足的点为X的概率分布的上分位数.270例如:

设0<<1,对随机变量X，称满足的点为X的概率分布的上分位数.标准正态分布的上分位数271例如:

设0<<1,对随机变量X，称满足的点为X的概率分布的上分位数.

分布的上分位数自由度为n的272

设0<<1,对随机变量X，称满足的点为X的概率分布的上分位数.F分布的上分位数自由度为n1,n2的273

书末附有分布、t

分布、F分布的上侧分位数表，供使用.需要注意的事项在教材上有说明.

至于如何由标准正态分布函数表查表求得分位数，若你对分布函数定义熟悉的话，这个问题不难解决.现在回到置信区间题目上来.274

一、置信区间定义：满足设是一个待估参数，给定若由样本X1,X2,…Xn确定的两个统计量则称区间是

的置信水平（置信度、置信概率）为

的置信区间.分别称为置信下限和置信上限.275

一旦有了样本，就把估计在区间内.这里有两个要求:可见，

对参数作区间估计，就是要设法找出两个只依赖于样本的界限(构造统计量)(X1,…Xn)(X1,…Xn)2762.估计的精度要尽可能的高.如要求区间长度尽可能短，或能体现该要求的其它准则.1.要求以很大的可能被包含在区间内，就是说，概率要尽可能大.即要求估计尽量可靠.可靠度与精度是一对矛盾，一般是在保证可靠度的条件下尽可能提高精度.277~N(0,1)选的点估计为求参数的置信度为的置信区间.

例1

设X1,…Xn是取自

的样本，二、置信区间的