数理统计与随机过程讲义_第1页
数理统计与随机过程讲义_第2页
数理统计与随机过程讲义_第3页
数理统计与随机过程讲义_第4页
数理统计与随机过程讲义_第5页
已阅读5页,还剩21页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

《数理统计与随机过程讲义》段法兵复杂性科学研究所PAGEPAGE24第四章假设检验假设检验是一种重要应用价值的统计推断形式,是数理统计的分支。从发展历史上有重要的节点为1:Pearson的拟合优度的检验19002:Fisher的显著性检验19203:Neyman-Pearson一致最优检验19284:Wald的判决理论19505:Bayes方法(二战之后发展的学派)§4.1基本术语关于随机变量的分布、数字特征等,每一种论断都称为统计假设,分为参数假设和非参数假设,例如,假设就称为参数假设;给定一组样本值,假设正态分布,对于分布进行论断,为非参数假设。无论上面那种假设,都是给出一个对立的假设,比如,那么假设的对立假设就是,我们就把称为基本假设,或者原假设,而就称为对立(备选)假设。为了分别那个假设是对的,需要判断假设真伪,就是对假设做出“否”还是“是”的程序就是检验,这个检验常用否定域形式给出,按照一定规则把样本值集合分成两个部分,当样本值落入子集认为不真,那么是的否定域,为的接受域。那么这样就产生了两种错误:第一类错误α:本来是真,但是却否定了,弃真;第二类错误β:本来不真,但是却接受为真,叫取伪。ααβ选定一种检验方法,我们希望上述两种错误概率都小。但是给定样本容量,使得两种错误任意小是不可能的,我们主要研究两大类检验方法:1:样本容量给定,控制第一类错误,使得错误概率有一个上界,叫做检验的显著性水平,根据这种原则建立的检验就是水平显著性检验;2:样本容量给定,控制第一类错误水平固定,还使得第二类错误最小,就是接受不真实假设的概率最小,否定不真实假设的概率就称为检验功效1-β,使得功效最大,,根据这种原则建立的检验就是水平最大功效检验,或者最佳检验。§4.2参数假设检验设符合分布,未知参数参数空间,空间分成两部分和-,二者交集为空。主要对于正态分布参数的统计假设的显著性检验方法。针对不同问题,提出基本假设与备选假设::如果参数空间仅仅是由和两个点组成的,那么我们称简单假设,否则是复合假设。给定检验的显著性水平,其大小依据不同问题不同,比如火箭、飞机等可靠性问题,要越小越好,对于一般生产问题,太小了则意味着生产时间和成本的增加;建立对于基本假设的统计量和否定域;取样,计算统计量值,落入否定域则判读为假,否则为真。例子:某种药片制剂中国家规定成分A的含量必须为10%,现在抽取5个片剂试样,测得A的含量为10.9%9.45%10.38%9.61%9.92%假设,按照显著性水平=0.05进行检验是否与规定10%相符?解:建立基本假设:,这里显著性水平=0.05,样本容量为5,样本值如上。如何确定统计量呢?样本均值可以求出,但是这里方差未知,用无偏估计量来代替,那么统计量这是我们以前推导过的,因此可以建立否定域为即落入区域则认为假,此区域之外就是真。这类检验也称为t-检验法。回到我们的问题,=,=,那么为统计量的值,由显著性水平=0.05,我们查得。由于<,这个统计量值落在否定域之外,就是说基本假设是真的,因此判断显著性水平=0.05下规定成分A的含量与规定10%相符的。两样本t检验法:有时为了比较两种方法、仪器、产品等的差异性,我们在相同条件下做对比试验,然后得到成对的数据,分析这些数据作出推断。再次回顾第二章中定理定理:设子样来自母体,子样来自母体,各自的子样均值,,那么,那么一个新的变量,若,符合+,即,加和性质且上述两个变量相互独立。那么依据定义例子:设两种橡胶轮胎进行耐磨性试验对比,从中各自随机取8个,各取一个随机配对装在8架飞机上,经过一段时间测量磨损量如下(单位毫克)这里显著性水平=0.05。X49005220550060204870634076608650Y49304900514057005010611068807930方法一:假设两个母体,方差一样原假设:,对立假设为:独立那么按照上述定理得到;代入得到查表,可见大于计算的统计量值,那么就不否定(接受)假设,认为二者磨损量无显著差异。方法二:我们采用配对实验Z=X-Y-30320360320-140230780720由于,那么,是来自母体的正态母体,此时假设:等价于的假设,设=320,=102200,那么我们也可以构造查表,显著性水平=0.05下,,我们发现,说明落在了否定域,即否定原假设,两种轮胎的耐磨性是有差异的。讨论:同一显著性水平=0.05下,相同的数据,为何两种方法得到完全不同的推断结论呢?这是因为,配对分析时,自由度下降了n=8-1,从而临界值提高了,即,增加了否定原假设的可能性,每架飞机突出两种轮胎之间差异,消除了飞机之间的数据影响,只要两个轮子耐磨性有一定差异,就可能否定假设;而不做配对,自由度增加为8+8-2=14,临界值降低,减小了否定原假设的可能性。什么时候用方法一还是方法二,还是得靠具体情况定。其他不同的问题,构造不同的统计量,利用不同的分布进行检验,书上有基本的统计量表格,无非就是查表计算问题。§4.3非参数假设的检验所谓非参数假设,就是不确切知道母体分布的数学形式的情况下,对于母体分布的各种论断,比如服从什么什么分布,相互独立,等等。其特点是:A不依赖与母体分布的具体形式,什么形式都适用的检验;B由于缺乏母体分布的完全知识,所以使用的统计量精确分布难以求出,只能求出极限分布,一般需要大样本容量。Pearson提出了检验法,步骤为:1):将所有观测值进行分割不同子集,,子集的数目为;2):统计观测值在每个子集中出现的频数(出现的次数),当然满足;3):在基本假设真实的情况下,就是按照我们设定的分布概率密度函数,计算每个子集中的理论期望频数,设落入概率为=,,注意这是概率那么我们得到期望频数为,就是总共抽取n个样本,那么每个子集内理论上应该抽取了几个。4)建立统计量~符合分布,且表示了实际观察和理论结果之间相对差异的总和,当这个值大于某个临界值,则否定此假设。否则接受假设。Pearson证明为何上述统计量符合分布:证明:1)当r=2两个子集,,那么这里注意,代入即可那么由DeMoirre-Laplace(隶莫弗)定理,二项分布的极限分布为标准正态分布,即,那么分布。这是r=2时是符合的。2)当的一般情况我们知道频数有,上面为二项分布,这里符合多项分布同样由中心极限定理,那么就是个正态随机变量的平方和,但是由于这些变量之间有一个制约关系。就像前面我们证明正态母体均值和方差的分布时一样证明方法,构造的正交矩阵使得,我们会发现,只是正态变量的平方和,所以自由度为。损失的信息就是因为那个制约关系存在。Fisher推论:如果分布有m个未知参数,那么服从分布,这里是最大似然估计量,也是有利用最大似然估计之后,代入假设的分布函数计算得到的。因为也是从样本数据中得到的,已经用掉了m个信息量。或者从矩阵的思想考虑,将写成矩阵形式,其rank是,这个证明具体可以参考陈希孺的《数理统计引论》。注意1)此定理是由样本容量n足够大,因此不应该太小一般选取,如果小了,则进行合并处理。具体看下面例子2)存在下面的转换为什么这样转换?计算了,上面每次都要做减法再平方,除法,而下面少了r-1次减法。计算量下降了。这也是编程序时注意的。浓缩铀(EnrichedUranium),指经过同位素提炼后,铀235含量超过90%的铀金属,与其相对的是贫化铀。不论是和平利用核能,还是为制造核武器,浓缩铀都是必要的。因此,国际原子能机构希望能够控制全球各国所有铀浓缩活动,以防止核武器扩散。α粒子是一种放射性粒子,由两个质子及两个中子组成,并不带任何电子,亦即等同于氦-4的内核,或电离化后的氦-4,He2+。通常具有放射性而原子量较大的化学元素,会透过α衰变放射出α粒子,从而变成较轻的元素,直至该元素稳定为止。由于α粒子的体积比较大,又带两个正电荷,很容易就可以电离其他物质。因此,它的能量亦散失得较快,穿透能力在众多电离辐射中是最弱的,人类的皮肤或一张纸已能隔阻α粒子。α粒子释放出的放射性同位素在人体外部不构成危险。然而,释放α粒子的物质(镭、铀等等)一旦被吸入或注入,那将是十分危险。它就能直接破坏内脏的细胞。这里=(,),总共分了13个区间,进行统计的。而且假设poisson分布还缺一个参数,,那么利用似然估计进行估计。构造似然函数,那么,得到最大似然估计量为(要用次数乘以每次观测的个数得到),再平均,得到=因此我们得带估计参数的理论分布,由此计算理论频数注意:Pearson统计方法也可以验证母体是否服从某个给定的分布,即假设。实质是检验对于划分区间上,并没有对每个点进行计算,虽然这样有可能把不真实的假设包含进来,但是概率很小。独立性检验:设两个母体,分布抽取的样本向量和,那么二者相关性定义为叫做相关系数,如果为0则不相关。从分布来看,设为联合分布,和各自的边缘分布,那么两个变量的独立性检验就是=实际中我们总是随机抽样来考察其独立性,设容量为的二维随机样本,和的可能取值分别分成个和个互不相交的小区间,用表示属于区间和属于区间的个数。记做,,同时设属于区间和属于区间的概率为,那么我们得到边缘概率,,独立性假设就是=和都需要从数据中进行估计,由于制约关系共需要估计量即可。按照最大似然估计方法很容易得到估计概率就是=,=因此,按照一维统计量公式二维统计量公式由于=,所以=由于原来自由度没有估计参数时是,现在估计了个概率参数,所以上式符合了的分布。例题§4.4广义似然比检验这里主要解决如何得到统计量的问题。1928年Neyman——Pearson利用似然比的方法获得统计量的一般方法:设x的分布参数有两个假设,必居其一:基本假设,对立假设,关于随机样本X的联合概率分布为基本假设,对立假设,则定义似然比为类似于最大似然估计问题中一样的原理,如果似然比值较小,那么表明属于假设的概率要比属于假设的概率小,那么应该拒绝基本假设,因此我们称为否定域,否定基本假设,这种假设检验称为水平的广义似然比检验。广义似然比检验有什么意义?意义在于能够构造用于假设检验的统计量。例子:已知正态母体均值和方差都未知,那么假设基本假设,对立假设,代入得到同理对于代入得到那么广义似然比==你会发现当均值和方差都未知时,应该用统计检验量,这也是t分布和t检验的由来。例子:检验统计量怎么构建的?任意一种母体,仅仅取r个值的离散随机变量,其概率分布为,这里,且由于上述制约条件,其参数空间是r-1维空间。我们设基本假设,其子样取值进行计算频数,以表示取的个数,且,那么有得到广义似然比为=由于和接近,可以小参数展开===我们发现自然出现了Pearson定理中的检验统计量。结论:广义似然比检验能够构造检验方法中所用到的检验统计量,其地位和最大似然估计方法一样。§4.5最大功效检验水平显著性检验一般规则就是建立一个统计量,然后判断此统计量来肯定基本假设。但是每种检验方法都相对于一个统计检验量,怎么衡量那种检验方法好?存在一个最优的检验方法吗?是一种假设,但是有可能真实分布参数为=的分布,因此把所有可能取值的范围称为容许假设,则称为母体的可能分布族,那么称为备选假设。我们再次分析两类错误:真真接受正确概率第II类错误拒绝第I类错误正确概率我们希望上述两类错误都是最低,但是实际上不可能,当样本容量一定时,两类错误不可能同时被控制。限制第一类错误:,对于为真,样本值否定域内的概率小于显著水平的前提下,使得的正确概率最大,在此原则下,定义功效函数(势函数)当为真,势函数就是第一类错误,当为真,势函数为正确检测概率。最大功效(mostpower,MP)检验:例子:母体正态,方差已知,对于均值有两种假设给定显著性水平下,考虑下面四种否定域ZZα-Z-Zα-Z-Zα/2Zα/2-Z-Z1-α/2Z1-α/2如果为真,那么上述四种否定域下的水平都等于。这几种检验那个好?我们来看第二类错误大小,或者看功效大小。当为真时,的分布,均值挪动了。我们来看第一种检验的功效:ZZα依次类推我们得到其他三种否定域检验的功效当我们取,,,n=9时,我们计算得到四种功效,,,第一种检验方法功效最大。同理如果,可正可负,那么假设变为可以推出第三种检验方法的功效最大。例子:母体正态,方差已知,对于均值有两种假设给定显著性水平=0.05下,检验的功效,随样本容量n的变化,以及给定样本容量n,三种功效如何变化的。解:1)先解出否定域,查表ZαZα/2-Zα/2当为真时,功效,随着n增加,功效不断增加,随着增加也在增加。这里我们选定,=0.05§4.6Neyman-Pearson定理这个定理就是告诉我们怎么样找到MP检验。定义示性函数这是否定域的表示函数,反之如果一个函数仅仅取0和1,那么则可以对应一个否定域,二者是一一对应关系。示性函数又叫检验函数,功效函数可以表示为=问这样表达的好处是什么?那么最大功效MP检验说的是,假设任意两个检验方法,对应了俩个检验函数和那么检验对应的功效比的大,由任意性,则称检验为MP检验。定理:,分布,对于简单假设,,满足正好等于k>0那么为水平的MP检验,而且肯定存在这样的常数k使得满足上式。证明:满足上面两公式,任意再选一个也是水平的检验,如果我们能证明功效最大即可。因为和都是取1和0的二值函数,所以当->0,那么取1,,当-<0,那么取0,,因此上式必成立。对之积分则得出则表明检验的功效大,由于的任意性,那么可以得出检验的就是MP检验。此定理告诉我们MP检验归结于求似然函数L(X)和一个比值。例子:从MP检验的角度看二进制调幅通信,用幅值0和A>0来代表二进制信息0和1,每个比特时间持续T,但是这个时间T内,你是不知到底是发送0和1的,只有采样进行判别,但是这个二进制调幅信号传输过程中遭到高斯噪声污染,因此我们面临着判断给样本,对于,,那么似然比有L(X)==,那么得到统计量当原假设成立时,符合的分布,那么满足水平时,我们可以先确定判别门限,若信息1和0各自传输概率为1/2,依据最小错误率准则,可以得到,这里暗含了Bayesian准则,得出检验统计量为例子:设总体符合Bernoulli分布B(1,p),p是未知参数,原假设为与对立假设>,构造水平的MP检验。对于简单抽样样本,设,表示了样本中“1”的

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论