3假设检验理论课件

假设检验理论绪论--信号最优线性处理的问题及局限最大信噪比原则只说明处理后信噪比是最大的，容易检测信号，但到底容易到什么程度，可靠性如何，没有定量说明。假设检验理论更加一般化表示瞬时幅值落在某指定范围内的概率，因此是幅值的函数。它随所取范围的幅值而变化。

假设检验理论假设检验假设检验的原理：假设检验的目的：在受扰观察中判别是否包含有用信号假设检验的方法：对所要检测的对象的可能状态或情况做出相应的假设确定信号判决的优化准则（即判断信号有无的依据）观察信号r(t)，观察时间假设为[0,T]对r(t)进行分析处理，根据处理的（统计性的）结果及确定的优化准则判决假设中的哪一个是所要的解答基本要求：充分理解统计检测理论的模型理解几个判决概率的基本概念

数学基础：统计判决理论，又称假设检验理论。假设检验(HypothesisTesting)是数理统计学中根据一定假设条件由样本推断总体的一种方法。具体作法是：根据问题的需要对所研究的总体作某种假设，记作H0；选取合适的统计量，这个统计量的选取要使得在假设H0成立时，其分布为已知；由实测的样本，计算出统计量的值，并根据预先给定的显著性水平进行检验，作出拒绝或接受假设H0的判断。零假设（nullhypothesis），统计学术语，又称原假设，指进行统计检验时预先建立的假设。零假设成立时，有关统计量应服从已知的某种概率分布。当统计量的计算值落入否定域时，可知发生了小概率事件，应否定原假设原假设:研究者想收集证据予以反对的假设。备择假设:研究者想收集证据予以支持的假设。原假设

(nullhypothesis)研究者想收集证据予以反对的假设又称“0假设”总是有符号,或4. 表示为H0H0：

=某一数值指定为符号=，或例如,H0：

10cm研究者想收集证据予以支持的假设也称“研究假设”总是有符号

,

或表示为H1H1：

<某一数值，或某一数值例如,H1：

<10cm，或

10cm备择假设(alternativehypothesis)假设检验很头疼，因为这个玩意看起来很高深，在此先举个简单通俗的例子，告诉大家什么是假设检验。首先解释下什么是零假设（nullhypothesis），通常用H0来表示，H代表假设，下标0代表是零假设。

举个通俗例子：

1、我和A君猜硬币玩，猜正反面，按照常理，我们猜硬币正反面应该是有时对有时错，对的概率大约为50%；

2、但是我们一共猜了10次，A君每次都正确；

3、我开始怀疑了，觉得有点不正常，做个假设检验，H0：A君猜硬币水平高，10次猜对就是水平高的表现；备选假设H1：A君水平高现象不正常，他搞假或硬币有假。

4、不知道那个是真的，但是通过计算，可以通过二项分布计算，A君每次都猜中的概率是2的10次方分之一，1/1024,概率小于0.001（小概率事件），即和A君这样玩1024次，出现这种情况的也就能出现1次，太不寻常了。

5、现在这里有两种可能的解释：

A君猜硬币水平高，出现这种情况的概率非常小大约为0.001

A君搞假或硬币有假，出现这种情况概率肯定大于0.001

6、我必须在这两种解释里面选择一种，因为我并不知道哪种解释正确，也有挑选到错误的风险，但是第一种的可能性如此之小，所以我要否定原假设H0，选择第二种解释，因为高概率肯定比低概率容易出现，我得出我的最后结论：A君搞假或硬币有假。

看，假设检验的原理就是这么简单。

又比如，箱子中有黑球和白球，总数100个，但不知黑球白球各多少个。现提出假设H0：“箱子中有99个白球”，暂时设H0正确，那么从箱子中任取一球，得黑球的概率为0.01，是一小概率事件。今取球一次，如果居然取到了黑球，那么，自然会使人对H0的正确性产生怀疑，从而否定H0。也就是说箱中不止1个黑球。统计应用

药物筛选中的假设检验

制药公司开发研制新的药物时，药物筛选成为需面临的一个极其重要的决策问题统计学是对药物筛选技术做出了巨大贡献的学科之一。药物筛选过程中有两种可能的行为“拒绝”开发的新药，这意味着所检验的药物无效或只有微弱的效果。此时采取的行动就是将该药物废弃暂时”接受”开发的新药，此时需要采取的行动是对该药物进行进一步的细致试验根据两种可能出现的研究结果，人们提出了如下相应的假设形式H0：新药对治疗某种特定疾病无效(或效果微弱)H1：新药对治疗某种特定疾病有效假设检验在统计方法中的地位描述统计推断统计参数估计假设检验统计方法什么是假设?

(hypothesis)对总体参数的具体数值所作的陈述总体参数包括总体均值、比例、方差等分析之前必须陈述什么是假设检验?

(hypothesistest)先对总体分布的参数(或分布的性质)提出某种假设，然后利用样本信息判断假设是否成立的过程有参数检验和非参数检验逻辑上运用反证法，统计上依据小概率原理总体假设检验的过程抽取随机样本均值

x

=20我认为人口的平均年龄是50岁

提出假设

拒绝假设别无选择!

作出决策假设检验的基本思想...因此我们拒绝假设

=50...如果这是总体的假设均值样本均值m=50抽样分布H0这个值不像我们应该得到的样本均值...20【例】一种零件的生产标准是直径应为10cm，为对生产过程进行控制，质量监测人员定期对一台加工机床检查，确定这台机床生产的零件是否符合标准要求。如果零件的平均直径大于或小于10cm，则表明生产过程不正常，必须进行调整。试陈述用来检验生产过程是否正常的原假设和备择假设提出假设(例题分析)解：研究者想收集证据予以证明的假设应该是“生产过程不正常”。建立的原假设和备择假设为

H0：

10cmH1：

10cm

【例】某品牌洗涤剂在它的产品说明书中声称：平均净含量不少于500g。从消费者的利益出发，有关研究人员要通过抽检其中的一批产品来验证该产品制造商的说明是否属实。试陈述用于检验的原假设与备择假设提出假设(例题分析)解：研究者抽检的意图是倾向于证实这种洗涤剂的平均净含量并不符合说明书中的陈述。建立的原假设和备择假设为

H0：

500H1：

<500【例】一家研究机构估计，某城市中家庭拥有汽车的比例超过30%。为验证这一估计是否正确，该研究机构随机抽取了一个样本进行检验。试陈述用于检验的原假设与备择假设提出假设(例题分析)解：研究者想收集证据予以支持的假设是“该城市中家庭拥有汽车的比例超过30%”。建立的原假设和备择假设为

H0：

30%H1：

30%备择假设没有特定的方向性，并含有符号“”的假设检验，称为双侧检验或双尾检验(two-tailedtest)

备择假设具有特定的方向性，并含有符号“>”或“<”的假设检验，称为单侧检验或单尾检验(one-tailedtest)备择假设的方向为“<”，称为左侧检验

备择假设的方向为“>”，称为右侧检验

双侧检验与单侧检验双侧检验与单侧检验

(假设的形式)假设双侧检验单侧检验左侧检验右侧检验原假设H0:m

=m0H0:m

m0H0:m

m0备择假设H1:m

≠m0H1:m

<m0H1:m

>m0以总体均值的检验为例H0:无罪假设检验中的两类错误(决策结果)陪审团审判裁决实际情况无罪有罪无罪正确错误有罪错误正确H0检验决策实际情况H0为真H0为假未拒绝H0正确决策(1–a)第Ⅱ类错误(b)拒绝H0第Ⅰ类错误(a)正确决策(1-b)统计检验过程影响

错误的因素1. 总体参数的真值随着假设的总体参数的减少而增大2. 显著性水平当减少时增大3. 总体标准差当增大时增大4. 样本容量n当n

减少时增大显著性水平和拒绝域

(双侧检验)抽样分布H0临界值临界值a/2a/2

拒绝H0拒绝H01-置信水平拒绝域非拒绝域拒绝域显著性水平和拒绝域

(双侧检验)H0临界值临界值a/2

a/2

样本统计量拒绝H0拒绝H0抽样分布1-置信水平显著性水平和拒绝域

(双侧检验)H0临界值临界值

a/2a/2

样本统计量拒绝H0拒绝H0抽样分布1-置信水平显著性水平和拒绝域

(双侧检验)H0临界值临界值a/2

a/2

样本统计量拒绝H0拒绝H0抽样分布1-置信水平显著性水平和拒绝域

(单侧检验)H0临界值a拒绝H0抽样分布1-置信水平RegionofRejectionRegionofNonrejection显著性水平和拒绝域

(左侧检验)H0临界值a拒绝H0抽样分布1-置信水平样本统计量显著性水平和拒绝域

(左侧检验)H0临界值a样本统计量拒绝H0抽样分布1-置信水平显著性水平和拒绝域

(右侧检验)H0临界值a样本统计量拒绝H0抽样分布1-置信水平显著性水平和拒绝域

(右侧检验)H0临界值a样本统计量抽样分布1-置信水平拒绝H0决策规则给定显著性水平，将检验统计量的值与水平的临界值进行比较作出决策双侧检验：I统计量I>临界值，拒绝H0左侧检验：统计量<-临界值，拒绝H0右侧检验：统计量>临界值，拒绝H0假设检验理论假设检验处理模型和假设：随机过程假设检验理论假设检验模型的特点：现在的问题就是：要根据观测的结果y=r(t0)来选择其中一个假设，即确定r到底有无信号在内假设检验理论假设检验检验信号的优化准则－最大后验概率检验问题的假设（前提条件）：已知干扰情况的完备的统计知识，例如知道干扰的概率密度函数已知信号存在与否的概率：P(H0)信号不存在的概率P(H1)信号存在的概率P(H0)、P(H1)是在统计检验前就已经知道，称为先验概率。先验概率是指根据以往经验和分析得到的概率。后验概率是指在得到“结果”的信息后重新修正的概率，是“执果寻因”问题中的“因”。后验概率是基于新的信息，修正原来的先验概率后所获得的更接近实际情况的概率估计。举一个简单的例子：一口袋里有3只红球、2只白球，采用不放回方式摸取，求：

⑴第一次摸到红球（记作A）的概率；

⑵第二次摸到红球（记作B）的概率；

⑶已知第二次摸到了红球，求第一次摸到的是红球的概率。

解：⑴P(A)=3/5，这就是验前概率；

⑵P(B)=P(A)P(B|A)+P(A逆)P(B|A逆)=3/5

⑶P(A|B)=P(A)P(B|A)/P(B)=1/2，这就是验后概率。

先验概率就是通常说的概率，后验概率是一种条件概率，但条件概率不一定是后验概率。贝叶斯公式是由先验前概率求后验概率的公式。假设检验理论判决的优化准则－最大后验概率准则的原理和分析：（1）原理：即：联合概率联合概率：表示两个事件共同发生的概率。A与B的联合概率表示为P(AB)或者P(A,B),或者P（A∩B）假设检验理论（2）分析：条件概率多了一个条件y,所以称为后验概率P(H1)大，门限值就小，似然比超过门限的可能性就大。假设检验理论假设检验理论最优处理器构成：假设检验理论似然比性质似然比是非负的似然比是一维标量由于y是观测得到的值，所以p1(y)和p0(y)可以通过统计得到的假设检验理论似然比的密度分布假设检验理论似然比的密度分布R1的区域判为信号存在，记为D1R0的区域判为信号不存在，记为D0假设检验理论似然比性质区别假设检验理论虚警、漏警和发现概率：定义：若观测信号的采样或它的似然比处于R1范围内，则判决信号存在，以D1表示。若观测信号的采样或它的似然比处于R0范围内，则判决信号不存在，以D0表示。第一类错误：信号不存在时(H0条件下)，判为信号存在(D1)，在雷达信号检测中，这种错误为虚警，用虚警概率Pf或α度量第二类错误：信号存在时(H1条件下)，判为信号不存在(D0)，在雷达信号检测中，这种错误为漏警，用漏警概率度量确有信号判断为有信号的概率称为检测概率Pd，无信号判断为有信号的概率称为虚警概率Pfa，有信号判断为无信号的概率称为漏报概率Pl。几种概率之间存在一定的关系。

于检测系统，在判断过程中需要设置一个阈值或称作门限，超过门限就做出“有目标”的判断。如果设定门限较高，检测概率和虚警概率都较小，如果设定门限较低，则两种概率都变大。对于固定的输出信噪比，不同的门限对应有一对不同的检测概率和虚警概率。图5-7表示了门限对检测概率和虚警概率的影响，在门限较低（T2）时，三个信号都超过了门限，被检测出来，但也有四处噪声超过了门限，形成虚警；在门限较高（T1）时，没有虚警，但只有一个信号被检测出来，另外两个信号没有超过门限，形成漏报。假设检验理论虚警、漏警和发现概率第一类错误（虚警）：由于噪声总是客观存在的，当噪声信号的幅度超过检测门限时，雷达（或其他检测系统）就会被误认为发现目标假设检验理论虚警、漏警和发现概率第二类错误（漏警）：假设检验理论虚警、漏警和发现概率发现概率：在雷达信号检测中，信号存在条件下(H1条件)正确判为信号存在(D1)的概率称为检测概率，雷达中常叫发现概率。假设检验理论虚警、漏警和发现概率总错误概率：又称为平均错误概率：不仅和两个后验概率有关，还和先验概率有关在不同的事件中，虚警与漏警的要求是不一样的。发生了虚警或漏警，不一定是质量问题，有判断标准的问题贝叶斯决策实例

现在举一个例子说明怎么使用贝叶斯公式来做决策。例子：假设有100个人，每个人都有自己的生日。1年有12个月，假设这100个人的生日从1月到12月的人数的分布情况如下：

3

4

5

7

10

13

14

15

12

8

5

4那么1月到12月生人所占的比率分别为：0.0300

0.0400

0.0500

0.0700

0.1000

0.1300

0.1400

0.1500

0.1200

0.0800

0.0500

0.0400把数据放入matlab中：用matlab绘制看着更直观：这个rate1数组就是概率密度函数了,它满足两个条件：大于0且积分为1(因为sum(rate1)=1现在，假设刚才的那100个人是北半球的样本。现在再收集南半球的100个人的生日作为样本。1到12月生人的分布情况为：15

12

9

6

4

3

4

5

7

9

12

14那么1月到12月生人所占的比率分别为：

0.1500

0.1200

0.0900

0.0600

0.0400

0.0300

0.0400

0.0500

0.0700

0.0900

0.1200

0.1400画出曲线如下显然，rate2曲线可以作为南半球数据的概率密度函数，因为rate2（x）>0且sum(rate2)=1。将南半球人民的生日概率密度曲线和北半球人民的概率密度分布曲线放到一起。（这个例子整得有点极端了，说明问题就好……）假设一个人为北半球人民这个事件为ω1，一个人为南半球人民这个事件为ω2，显然一个地球人要么是南半球的要么是北半球的，所以P(ω1)+P(ω2)=1那现在再来查查看南半球人民和北半球人民的比例是多少呢？谷歌之忽略掉那些不需要的信息，我们得出P(ω1)/P(ω2)=9：1也就是说，P(ω1)=0.9，P(ω2)=0.1所以，在我们的例子可以抽象为：特征值为”生日“，及生日=x。p(x|ω1)=rate1（红色的曲线）,p(x|ω2)=rate2（蓝色的曲线）（红色曲线和蓝色曲线的来历已经介绍了）且先验概率P(ω1)=0.9，P(ω2)=0.1那么现在要求贝叶斯公式的分母，知p(x)=p(x|ω1)P(ω1)+p(x|ω2)P(ω2)现在，假如我们在google+上遇到一个好友，只知道他生日是6月，那怎么猜测这位好友是来自南半球还是北半球呢？？该贝叶斯公式上场了！！公式右侧的参数我们都已经知道了，现在就可以求左边的数了。生日是6月也就是说x=6所以以x为变量的p(ω1|x)、p(ω2|x)以及p(x)都可以求了，分别为p(x|ω1)=rate1(6)=0.1300p(x|ω2)=rate2(6)=

0.0300p(x)=p(x|ω1)P(ω1)+p(x|ω2)P(ω2)=0.13*0.9+0.03*0.1=0.12∴P(ω1|x)=p(x|ω1)P(ω1)/p(x)=0.13*0.9/0.12=0.975P(ω2|x)=p(x|ω2)P(ω2)/p(x)=0.03*0.1/0.12=

0.0250所以这位神秘的朋友有97.5%的可能性是来自北半球的，只有2.5%的可能性是来自南半球。我们可以设定这样的判决规则：”如果P(ω1|x)>P(ω2|x),则判决为ω1类，否则为ω2类

“也就是说，如果我们”大胆假设“这位友人来自北半球，那么我们的猜测出错的概率就是P(error|x)=MIN[P(ω1|x),P(ω2|x)]=0.025

从上述例子中可以看出，证据因子p(x)其实对做出某种判决并不重要，它仅仅是一个标量，用来表示一种比例，即表示我们实际测量的具有特征值x的模式的出现频率。如果把它去掉，也可以将判决规则改为”如果p(x|ω1)P(ω1)>p(x|ω2)P(ω2),则判决为ω1类，否则为ω2类

“

用贝叶斯公式来帮助做决策的大概思路就是计算出某个特征值为x的待测样本属于各个不同类别的可能性，然后根据判决规则，选择概率最大（即可能性最大）的一个作为决策的结果举例说明了如何用贝叶斯公式计算后验概率，然后依据后验概率来做决策。由于P(H1|x)和P(H0|x)不容易计算如果已知P(x|H1)和P(x|H0),可以根据bayes公式计算得到Bayes公式：假设已知先验概率P(ωi)和观测值的类条件概率密度函数p(x|ωi)，i=1,2。

计算后验概率：这个例子说明后验概率P(Hi|x)的计算但是，有时候，后验概率本身只能说明具有特征x的样本属于ωi类的可能性有多少，却没能表示如果将样本分到ωi类时的代价有多大。例3.1设在某二元通信系统中，有通信信号和无通信信号的先验概率分别为：P(H1)=0.9,P(H0)=0.1。若对某观测值x有条件概率分布f(x|H1)=0.25和f(x|H0)=0.45，试用最大后验概率准则对该观测样本x进行分类。解：判决H1假设为真，即有信号状态。假设检验理论接收机的工作特性雷达接收机的工作特性可以用虚警概率和发现概率关系图描述工作特性曲线的切线的斜率便是这个点对应的PD、Pf的门限假设检验理论贝叶斯准则－最小平均风险准则门限的优化问题：前面两类错误都没有加权由于似然比的随机性，按一定门限电平来判断信号的存在与否是不完全可靠的。假设检验理论贝叶斯准则－最小平均风险准则错判的代价和代价函数假设检验理论贝叶斯准则－最小平均风险准则错判的代价和代价函数假设检验理论贝叶斯准则－最小平均风险准则判决的总平均风险和贝叶斯准则贝叶斯检测小结利用贝叶斯判决准则进行检测的基本步骤：步骤1：计算两个似然函数，构建似然比步骤2：根据两个假设的先验概率和代价因子，计算判决门限步骤3：利用上式，形成贝叶斯检测基本表达式步骤4：化简贝叶斯检测例题Ex3.1在二元数字通信系统中,假设为H1时,信源输出为常值正电压m,假设为H0时,信源输出输出零电平,信号在传输过程中迭加了噪声n(t),每种信号的持续时间为T,请:(1)若接收端对接收信号x(t)在(0,T)时间内进行1次采样,给出对应的贝叶斯检测准则(2)若接收端对接收信号x(t)在(0,T)时间内进行N次独立采样,给出对应的贝叶斯检测准则.上述两种情况下,噪声采样值ni是均值为零,方差为的高斯噪声解：一次采样时步骤1：计算两个似然函数，构建似然比由于n是高斯分布随机变量，因此在H0假设下，观察信号x也服从高斯分布，且均值为零，方差为,在H1假设下，观察信号x服从均值为m，方差为的高斯分布。步骤2：根据两个假设的先验概率和代价因子，计算判决门限步骤3：形成贝叶斯检测基本表达式步骤4：化简解：N次采样时步骤1：计算两个似然函数，构建似然比由于n是高斯分布随机变量，因此在H0假设下，第i次采样值xi服从高斯分布，且均值为零，方差为,在H1假设下，第i次采样值xi服从均值为m，方差为的高斯分布。步骤2：根据两个假设的先验概率和代价因子，计算判决门限步骤3：形成贝叶斯检测基本表达式步骤4：化简最小平均风险准则以上就是贝叶斯准则的基本内容,包括:1平均代价的概念2贝叶斯准则;

3

平均代价C的表示式;

4

判决表示式;

5

检测性能分析.假设检验理论贝叶斯准则－最小平均风险准则关于门限的讨论假设检验理论贝叶斯准则－最小平均风险准则贝叶斯准则和最大后验概率准则的关系在贝叶斯判决规则中，假设检验理论最小错误概率准则（理想观察器准则）贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使平均代价最小的检测准则。最小平均错误概率判决准则最大后验概率检测准则等概最大似然判决准则贝叶斯及派生检测准则(1)贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使平均代价最小的检测准则。贝叶斯及派生检测准则(2)代价因子知道信源先验概率未知信源先验概率及代价因子均未知极小极大准则奈曼皮尔逊准则先验概率已知并认为各类错误同等重要，适合用最小错误概率准则，但是有时候确定先验概率及各类错误的代价是困难的，这时。。。。假设检验理论聂曼－皮尔逊准则（Neyman-Pearson)聂氏准则：原理：对于给定的虚警概率：a=Pf=P(D1|H0),求得聂曼门限lNP，使得检测概率PD=P(D1|H1)最大3.4.2与3.4.1是相同的，所以使Q最小与使C最小的检验是一样的，N-P准则也是贝叶斯准则的特例。假设检验理论聂曼－皮尔逊准则（Neyman-Pearson)聂氏准则：聂曼门限的使用场合：先验概率P(H1)，P(H2)未知，且难以确定错误代价分析：推出聂曼门限lNP，

假设：c00=c11=0

c01P(H1)=1,c10P(H0)=0（常数）则贝叶斯总平均风险变为：假设检验理论聂曼－皮尔逊准则（Neyman-Pearson)聂氏准则：求聂曼门限：

假设检验理论假设检验理论

第3章例题解答

第3章例题解答

第3章信号状态的统计检测理论例题解答

假设检验理论极小极大准则几种学过的准则比较：假设检验理论极小极大准则使用极小极大准则的前提条件：想法能否寻找某一个先验概率作代表，用它按（3.2.8）计算门限，用该门限组成的最优处理器，不论信号状态的先验概率为何值，其平均代价都不超过用那个“代表”计算的平均代价。结论从后面的分析，寻找贝叶斯中的最大者对应的先验概率P10(H0)作这个“代表”，即为寻找贝叶斯检验中的最不利先验概率，因此这个准则为极小极大准则。这与贝叶斯准则下的最小平均风险比较起来，所承担的风险更大一些，但它毕竟还是一个最小平均风险，所以它是先验概率为未知时的一个可取的对策。假设检验理论极小极大准则原理贝叶斯总平均风险：假设检验理论极小极大准则极小极大准则原理：假设检验理论极小极大准则极小极大准则原