第三章信号检测与估计理论(2)

1、1各位同学大家晚上好2作作 业业电子版直接发到电子版直接发到 文档名称格式：学号文档名称格式：学号姓名姓名第第X X次作业次作业.doc.doc手写版在每次课后直接交给我本人。手写版在每次课后直接交给我本人。 书写工整，写清楚学号和姓名。书写工整，写清楚学号和姓名。研究报告。研究报告。 文档名称格式：学号文档名称格式：学号姓名姓名研究报告研究报告.doc.doc 手写版书写工整，交给我本人。手写版书写工整，交给我本人。3关于课堂报告1 任何与信号检测与估计课程相关的新颖观点和见解，(思想、模型方法，应用)；2 本科毕业设计和硕士毕业设计的新颖内容；3 自己研究课题的阶段性研究成果； 时间：15

2、分钟不等，如果精彩纷呈、引人入胜，使人三月而不知肉味者可以增加时间 。4第三章1-3节复习1 统计检测理论的基本概念统计理论的基本模型统计检测的结果和判决概率2 贝叶斯准则 平均代价的概念;平均代价C的表示式；贝叶斯准则;判决表示式;检测性能分析.5贝叶斯判决表示式 defdef11011001000101 ccHPccHPH|xpH|xpxHH 00111100| 3.3.2ijjijjiCP HC HP HC Hc P HP HH平均代价63.4 3.4 派生贝叶斯准则派生贝叶斯准则 贝叶斯准则是通用检测准则。如果对先贝叶斯准则是通用检测准则。如果对先验概率验概率 ，代价因子，代价因子 作

3、某些约束，会作某些约束，会得到派生贝叶斯准则。本节讨论二元信号检得到派生贝叶斯准则。本节讨论二元信号检测的几种派生贝叶斯准则。测的几种派生贝叶斯准则。 最小平均错误概率准则最小平均错误概率准则( (特例：最大似特例：最大似然准则然准则) )；最大后验概率准则极小化极大准；最大后验概率准则极小化极大准则；奈曼则；奈曼皮尔逊准则皮尔逊准则 jHPj ic73.4.1 最小平均错误概率准则最小平均错误概率准则(特例特例) 1. 最小平均错误概率准则的概念最小平均错误概率准则的概念 先验概率先验概率 已知；已知； 代价因子代价因子 则平均代价则平均代价 为为 称为平均错误概率，记为称为平均错误概率，记

4、为 。 ）（10,jHPj 1001101100 cc ,ccC 010101|eCP HP HHP HP HHPeP8 这样，在先验概率这样，在先验概率 已知，代价因子已知，代价因子 下使下使 平均错误概率平均错误概率 最小的准则，称为最小的准则，称为最小平均错误概率准则。最小平均错误概率准则。 该准则适用于通信、计算机间数据传输等系统。该准则适用于通信、计算机间数据传输等系统。 2. 最佳判决式最佳判决式 利用利用 则得则得 为使为使 最小，将所有满足最小，将所有满足 jHPijijc 1 101010H|HPHPH|HPHPPe xH|xpH|HPiRjjid xH|xpxH|xpRjR

5、jd1d01 xH|xpHPH|xpHPHPPRed000110 eP9的的 值划归值划归 域，判决域，判决 成立；反之，判决成立；反之，判决 成立。成立。从而得似然比检验判决式从而得似然比检验判决式最佳判决式化简为最佳判决式化简为或或 0011H|xpHPH|xpHP 0Rx0H1H def10def1001 HPHPH|xpH|xpxHH 10HHxl 10HHxl 10 最小平均错误概率准则和贝叶斯准则相比最小平均错误概率准则和贝叶斯准则相比,当对当对贝叶斯准则选择贝叶斯准则选择 代价因子代价因子,则贝叶斯准则就则贝叶斯准则就成为成为最小平均错误概率准则最小平均错误概率准则. defde

6、f11011001000101 ccHPccHPH|xpH|xpxHH def10def1001 HPHPH|xpH|xpxHHijijc 1113. 最大似然准则最大似然准则 若先验概率若先验概率 ，则有，则有 2110 HPHP 10|1,|10HHpHpHxxx或者写成两个似然函数直接比较,哪个大就判决其相应的假设成立，即12 称等先验概率条件下的最小平均错误称等先验概率条件下的最小平均错误概率准则为概率准则为最大似然准则最大似然准则。4. 检测性能分析检测性能分析 基本方法与贝叶斯准则类似：基本方法与贝叶斯准则类似：1010|HHpHpHxx ePH|HPH|HPH| lpH| lpx

7、l 10011013020011101103.4.1(),0,0,(),0,1,(1);.,(2)njeOOKnNAAHxnHxP HccccAnP例 在启闭键控通信系统中 两个假设下的观测信号分别为其中 观测噪声为确知信号 且若两：试确定判个假设的先验概率相等 代价因子采用最小平均决表示式求平均错误错误则概率概率准14 101 220221 221220011100121220:(1),1|exp()221|exp()22(),0,1,|2exp1|22nnnnjHHnnxxp x HxAp x HP Hccccp x HAxAxp x H 解在两个假设条件下 观测量 的概率密度函数分别为由

8、于两个假设的先验概率相等 且代价因子所以似然比检验判决式为化简得到判决式102HHAx 151 220221 22122(2)( ),1|exp221()|exp22,2nnnnl xlp l HlAp l HA 由于检验统计量为所以又因为检验门限所以两种错误判决概率分别为16 lH| lpH|HPd001 1 222221expd22Annll1 22A21expd22nuu2dQ17 0111 222221 222010101222|d1()expd221expdu222,|2,nAnnAenP HHp l HllAludQdPP HP HHP HP HHQAd这样 平均错误概率为本例中为

9、功率信噪比,显然,信噪比越高,平均错误概率越小,检测性能越好.18补充补充（一）（一）条件概率条件概率: : 设试验设试验E E的样本空间为的样本空间为S,A,BS,A,B是事件是事件, , 要考虑在要考虑在A A已经发生的已经发生的条件下条件下B B发生的概率发生的概率, , 这就是条件概率问题这就是条件概率问题. . 例例1.1.老王的妻子一胎生了老王的妻子一胎生了3 3个孩子个孩子, ,已知老大是女孩，求另已知老大是女孩，求另两个也都是女孩的概率两个也都是女孩的概率( (假设男孩、女孩出生率相同假设男孩、女孩出生率相同).).1.1. 定义定义: :设设A,BA,B是两个事件是两个事件,

10、 , 且且P(A)0, P(A)0, 称称为在事件为在事件A A发生的条件下事件发生的条件下事件B B发生的条件概率发生的条件概率. .P(AB)P(B|A)P(A)3.4.2 3.4.2 最大后验概率准则最大后验概率准则19( (二二) ) 乘法公式乘法公式: :, P(A)0, P(AB)P(A)P(B|A).由条件概率定义 立即可得如果则有P(AB)0, P(AB)0, 则有则有 P(ABC)=P(A)P(B|A)P(C|AB).P(ABC)=P(A)P(B|A)P(C|AB). 一般一般, , 设设A A1 1,A,A2 2, ,A,An n是是n n个事件个事件,(,(n2),n2)

11、,P(AP(A1 1A A2 2 .A .An-1n-1)0, )0, 则有乘法公式则有乘法公式: :P(AP(A1 1A A2 2A An n)=P(A)=P(A1 1)P(A)P(A2 2|A|A1 1) )P(AP(An-1n-1|A|A1 1A A2 2A An-2n-2) ) P(A P(An n|A|A1 1A A2 2A An-1n-1).).20( (三三) ) 全概率公式和贝叶斯公式全概率公式和贝叶斯公式: :1. 1. 样本空间的划分样本空间的划分12n: B , B , , B :定义若一组事件满足ij(i) B B, ij, i, j1, 2, .,n, ni1(ii)

12、 B,iS12n, B , BS.B则称为样本空间 的一个划分S SB B1 1B B2 2B B3 3.B Bn n(1) (1) 若若B B1 1,B,B2 2, ,B,Bn n是样本空间是样本空间S S的一个划分的一个划分, ,则每次试验中则每次试验中, , 事件事件B B1 1, B, B2 2, , , B, Bn n 中必有一中必有一个且仅有一个发生个且仅有一个发生. .121221(2) n2, B , BS, B , B, BB . 当时为 的一个划分 则为对立事件 即212. 2. 全概率公式全概率公式: :则则的事件的事件为为的一个划分的一个划分为为设设,EA n), 2,

13、 1,(i0,)P(B ,SB ,B ,Bin21 n1iii)B|)P(AP(BP(A) 称为全概率公式称为全概率公式. .3. 3. 贝叶斯公式贝叶斯公式: :n.n. .,., 2,2, 1,1,i i, ,) )B B| |)P(A)P(AP(BP(B) )B B| |)P(A)P(AP(BP(BA)A)| |P(BP(B , ,0 0) )( ( 0,0,) )P(BP(B, ,.,., ,n n1 1j jj jj ji ii ii ii i2 21 1= = = = =则有则有是一个随机事件且是一个随机事件且且且的下个划分的下个划分是样本空间是样本空间设设A AP PA AS S

14、B BB BB Bn n223.4.2 3.4.2 最大后验概率准则最大后验概率准则10000111,cccc在贝叶斯准则中 如果代价因子满足时,判决表示式为或者等价的表示为或者等价的表示为3.4.133.4.1323因为因为( (贝叶斯公式贝叶斯公式) )且当且当dxdx很小时很小时24从而得从而得这样判决式这样判决式3.4.13式可以表示为式可以表示为3.4.2025不等式不等式3.4.213.4.21的左边和右边分别是在已获得观测量的左边和右边分别是在已获得观测量x x的的条件下条件下, ,假设假设Hj(j=0,1)为真的概率为真的概率, ,称为后验概率称为后验概率, ,因此因此, ,按

15、最小平均代价的贝叶斯准则在代价因子的约束条件按最小平均代价的贝叶斯准则在代价因子的约束条件, ,即即就称为就称为最大后验概率准则最大后验概率准则. .10000111cccc26准则门限说明贝叶斯准则由代价因子和先验概率决定最小平均错误概率准则先验概率决定最大后验概率准则先验概率决定N-P准则由虚警概率决定)()(1101100100ccHPccHP几种准则的说明几种准则的说明0010()()()1()P HP HP HP H0010()()()1()P HP HP HP HF01(P ( (|)P HH27 3.4.3 3.4.3 极小化极大准则极小化极大准则 这里考虑另外一种情况，这种情况

16、这里考虑另外一种情况，这种情况下，下， 只知道各种判决的代价函数只知道各种判决的代价函数( (因子因子) )，若先验概率未知若先验概率未知, ,可采用极小化极大准则可采用极小化极大准则, ,合理合理地猜测先验概率地猜测先验概率 , ,它能使过分大的平均代价极它能使过分大的平均代价极小化小化, ,故称为极小化极大准则。故称为极小化极大准则。28 3.4.3 极小化极大准则极小化极大准则100F1000M0111100PP(|)|1|PP(|)|PP()1 P()1RRRHHp x H dxp x H dxHHp x H dxHHP 为表述方便，将有关符号改记如下29 3.4.3 极小化极大准则极

17、小化极大准则3.3.7式所示的贝叶斯的平均代价可以写为下式M30 3.4.3 极小化极大准则极小化极大准则. .P.1可以证明，当似然比 (x)是严格单调的概率分布随机变量的时候，3422式所示的贝叶斯平均代价是 的严格上凸函数，如图38所示。图图3.8平均代价平均代价C与与P1的关系曲线的关系曲线31 3.4.3 极小化极大准则极小化极大准则 1P,(),11g1g在 =P(H )未知的情况下，猜测P然后获得P并以此固定门限进行判决。图图3.8平均代价平均代价C与与P1的关系曲线的关系曲线32 3.4.3 3.4.3 极小化极大准则极小化极大准则 3.4.25称为极小化极大方程.如果代价因子

18、c00=c11=033 3.4.3 极小化极大准则极小化极大准则 001110100,1,cccc如果代价因子则极小极大方程为342j0001110011,0,A,A0,1,.P H0nHxnHxAnNccncce例3.4.2 考虑与例3.4.1相同的问题,即在启闭键控(OOK)通信系统中,两个假设下的观测信号分别为其中 观测噪声为确知信号 且若两个假设的先验概率 ()未知,代价因子在这种情况下,采用极小化极大：(1)试确定检测门限;(2)求平均错准误概率P则,353.4.4 3.4.4 奈曼奈曼皮尔逊准则皮尔逊准则1.1.奈曼奈曼皮尔逊准则的概念皮尔逊准则的概念; ;2.2.奈曼奈曼皮尔逊准

19、则解的存在性说明皮尔逊准则解的存在性说明; ;3.3.奈曼奈曼皮尔逊准则的判决表示式皮尔逊准则的判决表示式; ;4.4.奈曼奈曼皮尔逊准则的求解步骤皮尔逊准则的求解步骤. .363.4.4 3.4.4 奈曼奈曼皮尔逊准则皮尔逊准则 贝叶斯准则需要知道先验概率贝叶斯准则需要知道先验概率 和代价因子和代价因子 。 如果不知道先验概率，则可用极小化极大准则；如果不知道先验概率，则可用极小化极大准则； 如果先验概率已知，代价因子约束条件为如果先验概率已知，代价因子约束条件为 则采用最小平均错误概率准则；则采用最小平均错误概率准则； 实际上还有这类信号检测问题实际上还有这类信号检测问题: :先验概率未知

20、先验概率未知, ,且无法给定代且无法给定代价因子；价因子； 最关心的判决概率是最关心的判决概率是 希望正确判决概率希望正确判决概率 大，错误判决概率大，错误判决概率P(HP(H0 0|H|H1 1) ) 小；小； jHPi jc10|,P HH001110010,cccc11|P HH 11H|HP371110101110F11D|N|P|PP HHP HHP HHP HHPP HHP HH在信噪比一定情况下，增大，会导致增大。因此提出这样一种检测准则：在错误判决概率的约束条件下，使正确判决概率最大的准则，这就是奈曼皮尔逊准则，简称准则。奈曼皮尔逊准则特别适用于雷达、声纳等信号的检测问题，因为

21、在这类信息系统中，就是虚警概率 ，正确判决概率就是检测概率，为了保证信息系统能有效的处理有用的数10D|PP HH据，通常处理的办法就是对错误判决概率提出约束，避免过多的虚假数据进入信息处理系统而影响其工作效率，当然，同时要求有用的数据尽可能没有丢失的进入信息处理系统，即要求正确的检测概率最大。38 2. 2. 奈曼奈曼皮尔逊准则解的存在性概念说明皮尔逊准则解的存在性概念说明 123图3.9奈曼皮尔逊准则概念性说明示意图 39 归纳：归纳： 一般地说，有无限多种划分判决域的方法，它们都能一般地说，有无限多种划分判决域的方法，它们都能 满足约束条件满足约束条件 ，但各自对应的检测概率，但各自对应

22、的检测概率 互不相等。这样，必有一种划分，在互不相等。这样，必有一种划分，在 约束约束下，使下，使 最大。所以，奈曼最大。所以，奈曼皮尔逊准则的解皮尔逊准则的解是存在的。是存在的。 01H|HP 11H|HP 01H|HP 11H|HP403. 3. 奈曼奈曼皮尔逊准则的最佳判决式皮尔逊准则的最佳判决式 在在 的约束下，使的约束下，使 最大，与使最大，与使 最小是等同的。我们利用拉格朗日乘最小是等同的。我们利用拉格朗日乘 子子 ，构造一个目标函数，即，构造一个目标函数，即 当当 约束后，使约束后，使 最小，则最小，则 最小，因而最小，因而 最大。最大。 01H|HP 11H|HP 11101H

23、|HPH|HP 0 0110H|HPH|HPJ0110| |RRp x Hdxp x Hd x 01H|HPJ 10H|HP 11H|HP41 变换积分域，则有变换积分域，则有 式中，第一项是非负的，欲使式中，第一项是非负的，欲使 最小，应满足当最小，应满足当 时，判决假设时，判决假设 成立；反之，判决假设成立；反之，判决假设 成立。从而成立。从而 得最佳判决式得最佳判决式 为了满足为了满足 的约束，选择的约束，选择 使使 于是，对于给定的于是，对于给定的 ， 可由上式解出。可由上式解出。0101|dRJpHpHxxxJ 01H|xpH|xp 0H1H 10def01HHH|xpH|xpx 0

24、1H|HP 1100|dRP HHpHxx0|d 3.4 . 4 3 pHxx 42 11101101011000110013.4.34, |d |10| (|d |0.)0,RRP HHpHP HHpHP HHP HHP HpHpHPxHP HHxxx的作用,类似有因此因， 增大，增大，减小相反， 减小，减小，增大通过改变 ，调整改变判决所，域0和以为43 说明：说明： 奈曼奈曼皮尔逊准则的判决式仍然是似然比检验；皮尔逊准则的判决式仍然是似然比检验； 如果在贝叶斯准则中，令如果在贝叶斯准则中，令它就演变成奈曼它就演变成奈曼皮尔逊准则，所以，奈曼皮尔逊准则，所以，奈曼皮尔逊准皮尔逊准则也是贝叶斯准则的特例；则也是贝叶斯准则的特例； 为了统一起见，为了统一起见， 仍用仍用 表示。表示。 111011 ccHP 00100ccHP 4. 奈曼奈曼皮尔逊准则的求解步骤皮尔逊准则的求解步骤由于奈曼由于奈曼皮尔逊准则的最佳判决式仍为似然比检验，皮尔逊准则的最佳判决式仍为似然比检验， 所以，其求所以，其求解步骤为：解步骤为： 对观测信号对观