（信号与信息处理专业论文）高斯白噪声序列的检验.pdf

摘要 由于高斯门噪声序列的检验与统计学中的检验问题及工程上的信号检测问 题，在检验原则上是一致的，这就为本文所要讨论的问题提供了已经很完备的理 论依据，使得本文能够据此展开。 本文共分七章，分为四大部分。第一章和第二章是第一部分，主要是介绍随 机序列的概念及性质，给出了高斯白噪声序列与随机序列之间内在的关系，从而 引出了高斯白噪声序列良好的随机性特色，进而产生了对其进行检验的问题；而 为了使本文独立成章，在第二章对本文所用到的相关知识给予了介绍，这对于本 文的理解有着至关重要的作用。第三章独立组成了本文的第二部分，内容主要包 括n e y m a n - - p e a r s o n ( n p ) 检验定理及其证明，并给出了两个例子来加深对此定 理的理解；广义似然比检验理论在未知参数检验问题上有着非常优异的表现，本 章也对这个理论进行了介绍；由于高斯白噪声序列的检验问题最终目的是为建立 相应的检测器，对检测器性能的评估是必不可少的，所以本章对此也进行了论述； 本章最后介绍了小波理论在高斯白噪声序列检验上的应用，这是本文的精华所 在，也是本文的特色之一。第三部分由第四、五和六章组成，内容以检测器的建 立、性能评估和小波变换后性能的提高为结构框架进行展开，在对含有确定信号、 已知随机信号及未知随机信号等三种情况的高斯白噪声检验问题进行了具体的 研究，最后给出了针对不同情况下的检测器。这部分可以被认为是本文的血肉， 有了这部分的内容才使得第二部分的理论变得生动起来。最后一章也是最后一部 分，是对本文的高度概括，指出了本文尚未解决的问题。 在本文中，关于门限值的确立方法和小波变换在高斯白噪声检验问题上的应 用是本人在吕述望教授的指导下提出的新思路，可能还不够成熟，请多指正。 关键词：高斯白噪声；随机序列；检验理论；小波变换 a b s t r a c t v e i l f v i n go fw h i t eg a u s s i a nn o i s es e q u e n c e si np r i n c i p l ei sc o h e r e n tw i t ht h e s t a t i s t i c v e r i f y i n gp r o b i e ma n ds i g n a lv e r i f y i n g i n e n g i n e e r i n g t 1 1 i sp r o v i d e s s e l f - c o n t a i n e da c a d e m i cf o u n d a t i o nf o rt h ei s s u ed i s c u s s e di nt i l i sp a p e r t h e r ea r es e v e nc h a p t e r si nt h i sp a d e r d i v i d e di n t of o i l l p a r t s ，t h ef i r s ta n d s e c o n dc h a p t e rc o n s t i t u t et h ef i r s t p a r t t h e c o n c e p ta n dp r o p e r t i e s o fr a n d o m s e q u e n c ei si n t r o d u c e df i r s t l y a t i e rp r e s e n t i n gt h er e l a t i o nb e t w e e nw h i t eg a u s s i a n n o i s es e q u e n c ea n dr a n d o ms e q u e n c e 、t h ef i n er a n d o m i c i t yo fw h i t eg a u s s i a nn o i s e s e q u e n c ei sd e r i v e d t h e nc o m e st h ef o c u so ft b j sp a d e r ：h o wt ov e r i f y i t ? c o n s i d e r i n gt h ei n d e p e n d e n c yo ft h ep a p e r , s o m er e l a t i v ek n o w l e d g ei sp r o v i d e d ， w h i c hi ss i g n i f i c a n tt ot h eu n d e r s t a n d i n go ft h i sp a p e r t h et h i r dc h a p t e rc o n s t i t u t e st h es e c o n dp a r to ft h i sp a p e ra l o u e t h i sp a r t i n c l u d e st h en e y m a n p e a r s o n ( n p ) t h e o r e ma n di t sp r o o f t w oe x a m p l e sa r e i l l u s t r a t e dt of u r t h e ru n d e r s t a n dt h et h e o r e m g e n e r a l i z e dl i k e l i h o o dr a t i ot e s tt h e o r y b e h a v e sn o t i c e a b l yi nt h ev e r i f y i n go fu n k n o w np a r a m e t e r s t h i st h e o r y i sa l s o i n t r o d u c e si n 也es e c o n dp a r t 码eu l t i m a t ep u r p o s eo fv e r i f y i n g 也ew h i t eg a u s s i a n n o i s es e q u e n c ei st oe s t a b l i s ht h ec o r r e s p o n d e n tv e r i f y i n gw a r e e v a l u a t i n gt h e p e r f o r m a n c eo ft h ev e r i f y i n g i s a b s o l u t e l yn e c e s s a r y t h ea p p l i c a t i o no fw a v e l e t w a r t s f o r l t li nt h ev e r i f y i n go f w h i t eg a u s s i a nn o i s es e q u e n c ei sd i s c u s s e di nt h ee n d ， w h i c hi st h ec r i t i c a lc o n t e n to f t h i sp a p e n t h et h i r dp a r tc o n s i s t so ft h ef o r t h 、f i f t h a n ds i x t hc h a p t e r i tm a i n l yc o n s t i t u t e s e s t a b l i s h i n go ft h ev e r i f y i n gw a r e ，e v a l u a t i n go ft h ep e r f o r m a n c ea n de n h a n c i n gt h e p e r f o r m a n c eb yw a v e l e tt r a n s f o r m t h ep r o b l e mo fv e r i f y i n gt h ew h i t eg a u s s i a nn o i s e s e q u e n c e sc o n s i s t so ft h r e ec a s e s ，t h o s ea r ed e f t n i t es i g n a l ，k n o w nr a n d o ms i g n a l ，a n d n n k r l o w nr a n d o ms i g n a l a f t e rs t u d y i n gt h et h r e ec a s e si ns p e c i f i c ，v a r i o u sv e i l f y i n g w a r e sa r ep r o v i d e d t h i sp a r tc a nb el o o k e da st h ef l e s ha n db l o o do ft h ep a p e r i t m a k e st h es e c o n dp a r to ft h et h e o r yb ev i v i d t h el a s tc h a p t e ri sa l s ot h el a s tp a r to ft h ep a p e ni tg e n e r a l i z e st h ew h o l ep a p e r a n di n d i c a t e ss o m eu n s o l v e dp r o b l e m s t h ea u t h o rp u t sf o r w a r ds o m en e wi d e at oe s t a b l i s ht h et h r e s h o l dv a l h ea n dt h e a p p l i c a t i o no fw a v e l e tt r a n s f o n ni nv e r i a h a gw h i t eg a u s s i a nn o i s ei n t h i sp a p e n t h a n k sf o rp o i n t i n go u tt h em i s t a k e ss ot h a tt h e yc a nb ec o r r e c t e d k e y w o r d s ：w h i t eg a u s s i a nn o i s e ；r a n d o ms e q u e n c e ；t e s tt h e o r y ；w a v e l e tt r a n s f o r m 2 第一章绪论 引言： 在今天的信息社会随着计算机和互联网技术的迅速发展与普及，信息安全领 域的许多问题需要重新认识和思考，信息的真正安全性变得越来越重要。为了确 保信息的安全，对信息进行加密处理是应用最为广泛的技术，这也是密码技术的 核心。而密码技术中，随机序列的生成和检验是重要的研究课题之一，因为计算 机计算速度的不断提升，要求密码的强度越来越高，而密码强度的一个重要参考 点就是算法或协议所产生的密钥序列是否满足随机性要求。这使得随机序列的产 生和分析也成为了密码技术的研究课题之一。那么如何产生 b 满足随机性要求的 序列呢? 正如密码学家b r u c es c h n e i e r 所说，最好的随机序列来源于自然。从自 然界中提取的高斯白噪声序列是随机较好的随机序列，由于此种序列的功率谱密 度为常值，即在所有频率上的能量相同，像“白光”一样而得名。这种随机序列 在自然界中广泛存在，并且在很多场合对于未知的噪声都可以用它来似合，这是 因为它有着非常好的统计特性，便于对其做统计检验，这也是本文选取对高斯白 噪声检验问题的原因之一。由中心极限定理，我们可以把许多自然界中产生的噪 声序列看作为高斯白噪声序列，所以对它进行的检验具有普遍的意义，这也是本 文选取高斯白噪声的另一个原因。 本章从随机序列的理论概念出发，引出随机序列的检验问题。接下来描述了 高斯白噪声的产生理论及与随机数之间的相互转化，这使得高斯白噪声序列与密 码中的随机数建立起一一对应的关系，这也给高斯白噪声序列的检验赋予了重要 的意义：保证使用此高斯白噪声序列进行加密是安全的。本章最后简单地对本文 的内容做了介绍。 1 1 随机序列的概念及应用 1 1 1 随机序列的描述 随机序列的描述方式有许多种，最直观地认为无法用确定的函数来表示 某种变化情况的事件都可以认为是一种随机现象，由此而产生的一组对应数 据就是随机序列。但这种描述不够严格，我们下面介绍随机序列的概率描述。 给定一个概率空间，在时域上由此概率空间所产生的一系列数据，我们 称其为随机过程，而把离散参数的随机过程称为随机序列。该序列应该是任 意的、不可测的和不可知的。这个序列在时域上的随机性可以用相关性来描 述，即自相关函数来描述。如果自相关函数在非零时刻均为0 ，那么我们就 可以认为这个随机序列是随机的，因为这一时刻所产生的值与其它时刻所产 生的值没有相关性。当然此随机序列应是严平稳的随机序列，否则还不能说 是相互独立的。 随机序列也可以进行频域上的分析，由于功率谱密度反映了单位频带信 号功率的大小，是频谱的函数，是随机序列自相关函数的f o u r i e r 变换，所 以当序列称为足随机序列时，我们可以看到其功率谱密度函数表现为一条直 线。反过来，在频域上如果是一条直线表示的序列，那么它在时域上就称 为随机序列。 为随机序列。 我们还可以用描述复杂性理论对随机序列进行描述。首先定义随机有限 串，它是指那些没有描述会比自身的直接描述更短的串。那么如果某序列任 意的初始段都在这种意义上是随机的，就认为它是随机序列。这种描述与概 率上的描述是一致的。 1 1 2 随机序列几种常用的检验方法| 2 叫 随机序列的描述在现实生活中“无法完成的任务”，因为不可能对某种 序列产生无限长度，只能是有限的一段，如何就肯定这段序列就是随机的 昵? 只有进行检验之后，满足某种检验条件，我们才能说它是满足某种条件 下的随机序列。不管这种理论是否让人信服，但这种理论确实给出了一个基 本的道理：小概率事件不可能在一次事件中发生。 下面我们假定所要检验的序列为0 和l 组成的序列，那么有【4 刮 l 、频次检验 频次检验是用来检验这个序列中o 和1 个数是否满足随机性要求。这种 检验主要是基于假设产生0 和1 的概率是等概的。 2 、序列检验 序列检验用来检测待检序列中m 一位可重叠子序列的每一种模式的个 数是否相等。这种检验主要是基于假设每一种模式出现的概率是等概的。 3 、游程检验 游程检验主要检验待检序列中游程总数是否符合随机性要求。它是以频 次检验通过为前提的，这种检验主要是基于假设每种游程出现概率是均等 的。 4 、扑克检验 对任意的正整数m ，长度为m 位的二进制位序列有2 ”种可能性。扑克 检验用来检测这2 。种子序列类型是否相等。这种检验主要是基于假设每种 子序列出现的概率是相同的。 5 、自相关检验 自相关检验是用来检验待检序列与将其左移d 位的序列的关联程度。这 种检验主要是基于假设随机序列应该和将其左移任意位的序列都是独立的。 还有其他检验方澍”，这里就不详述了。 1 2 高斯白噪声序列是一种随机序列l l l 从1 1 节中我们看到随机序列可能是某种抽象出来的东西，是对某种不确定 性的一种描述，自然界中很多的现象都可以用随机序列来进行建模，这其中有一 种用途最为广泛的随机序列一高斯白噪声序列。由于这种序列的概率空间分布函 数是正态的，并其功率谱密度是常值，所以根据上一节在频域上对随机序列的定 义我们可以称其为随机序列。 高斯白噪声序列可以很容易地变为0 和l 组成的位随机数序列，即把大于均 值的数设为l ，小于均值的数设为0 ，这样得出的序列是随机序列。这样对于高 斯自噪声的检验问题就可以化为上一节提到的检验问题。当然对于高斯分布的检 验要首先进行似合检验。 由于高斯白噪声序列的产生是用某种物理设备给以实现的，所以高斯白噪声 是否发“白”，还是要经过检验的，这种检验当然也要基于某种假设前提下做出， 正如卜一节所介绍的检验方法中所提到的。样，在本文中，假设产生高斯白噪声 的菜物理设备器件是无损的，设备本身没有特定的信号。基于这种假设我们就n ， 6 以建克合理的检验统计量了，转化为t 程上所使用的检测器设计的问题上了。 1 3 本文的主要研究内容 本文主要围绕高斯白噪声检验理论的确立，及以此理论为依据如何设计相应 的检测器进行研究。主要包括以下内容：高斯白噪声检验理论、含确定信号的检 验、含已知随机信号的检验及含未知随机信号的检验。在各个部分中，还提出了 小波变换在提高检测性能上的应用。 l 。3 1 预备知识 简单地介绍了本文所用到的一些相关知识，其中包括概率论与统计学中 最基本的概念和定义，例如随机变量、统计检验等等。还对随机过程的有关 知识进行了介绍，小波变换的有关概念也进行了阐述。这些介绍只是对本文 有关概念的一种界定，没有更深层的探讨，所以只能作为一般了解。 1 3 2 高斯白噪声检验理论 对于检验问题已经有许多成熟的理论和方法，作为本文的基础理论应从 有别于从前理论的地方出发，首先就是对有些术语的变化进行了介绍。接下 来主要介绍了n e y r n a n - p e a r s o n ( n p ) 定理，并给出了两个例子加以说明。对于 这个定理的理解，关系到全文的合理性问题，所以它是本文的基石。在性能 评估方面，也是本文重点讨论的问题，由于检验统计量形式上非常复杂，有 时无法求出检测概率的解析解，所以这个方面本章也有讨论。小波变换在检 测性能上对检测效果有所提高，本章也做出理论上的探讨。总之，这章是 本文的理论基石。 1 3 3 各种检验器的建立及性能检测 首先是对含确定信号的高斯白噪声建立了n p 检测器，然后是对含已知 随机信号的高斯白噪声建立了估计器一相关器，对它的讨论引出了严格检测 器的设计思路，最后是对含未知随机信号的高斯白噪声所确立的最严格检测 器。在这个部分小波变换对检验问题所起的作用是通过图形的比较加以说明 的。 在本文中能够找到高斯白噪声检验问题的答案，但并不全面，所以本文的目 的是想说明检验的本质，以便在遇到有关检验的问题时能够找到有针对性的答 案。 参考文献： 樊家琨编著随机过程河南人学出版社开封1 9 8 8 年 【2 】王玉柱随机性测试研究与实现中国科学技术大学研究生院硕士论文2 0 0 0 0 6 【3 】舒畅“密码算法后验测度工具的研制”，中国科学技术大学研究生院硕士论文，1 9 9 7 【4 】m k i m b e d e y ，c o m p a r i s o no f t w os t a t i s t i c a lt e s t sf o rk e y s 奸e a ms e q u e n c e s ，e l e c t r o n i c sl e t t e r s 2 3 ，p p 3 6 5 3 6 6 ，1 9 8 7 5 e k n u t h , t h ea r to fc o m p u t e rp r o g r a m m i n g v 0 1 2 ，3e d r e a d i n g ：a d d i s o n - w e s l e y , i n c ， p p6 1 8 0 ，1 9 9 8 ， 6 p i n c u sa n db h s i n g e r , “r a n d o m n e s sa n dd e 罂 e e so f i r r e g u l a r i l y , ”p r o c n a t l 。a c a d s c i u s a v 0 1 9 3 ，m a r c h1 9 9 6 ，p p 2 0 8 3 - 2 0 8 8 【7 】苏桂平信息安全中随机序列研究及小波分析的应用中国科学技术大学研究生院博士 论文，2 0 0 2 8 第二章预备知识 引言： 从第一章中我们了解到，高斯白噪声信号的检验问题需要一套较为完备的理 论支持，因此在建立这种检验问题的数学模型时，需要有一些必要的知识准备， 本章将围绕这些预备知识进行展开。 本章将以概率论的知识开始，因为概率论作为整篇文章的基石，是本文所有 其他理论建立的基础。统计学是概率论的主要应用之一，本文大量地引用了统计 原理，因此对统计学中估计理论和检验理论的介绍是本章的重点。随机过程理论 是概率论与数理统计理论重要的延伸，是以时间为自变量的一种概率描述，是现 代信号处理的理论基础，本章对随机过程做了必要地介绍。而在现代信号处理中 f o u r i e r 变换及f o u r i e r 级数是重要的研究工具，并且由于存在着快速算法f f t i l j ， 所以成为现代信号处理中重要的一环。功率谱估计是信号在频率域上的一种表 示，直观地反映了随机信号时域上的周期特性；而滤波器的设计反映了随机信号 与噪声信号统计特性的不同，本章对这两方面的内容也进行了介绍。小波变换在 各个领域中越来越广泛的应用，使它的研究已经成为了一个热点，本文在后面的 章节中也对小波变换在高斯白噪声检验上的应用进行了探讨，因此本章在最后从 预备知识的角度，对小波变换的基础知识进行了介绍。 2 1 概率论与统计学的基本原理 概率和统计是研究自然界中偶然现象规律的学科，可以说今天任何一种“不 规则”的事件，我们都可以通过建立概率这种数学模型对其进行研究。高斯白噪 声信号自然属于这个范畴，所以有必要对概率论和统计理论加以介绍。 2 1 1 随机变量的分布函数及特征。1 在概率论中我们要把随机事件与一实值的单值函数联系起来，以便可以 进行运算，这个实值就是随机变量，而函数值就是概率值。在有了随机变量 的概念后，对于任何一种随机事件我们都可以通过建立概率的数学模型进行 研究。下面给出随机变量的定义。 定义2 1 设( q ，p 1 是一个概率空间，对于c o q ，亭( 1 是一个取 实值的单值函数；若对于任一实数x ， 珊：善 ) x 是一随机事件，即 珊：孝( 国) x ) f ，则称吉 ) 为随机变量。 描述随机变量分布的情况是研究随机变量的目的，如果能够给出随机变 量的概率分布函数，那么随机变量的描述就完整了。下面给出分布函数的定 义。 定义2 2 设掌为随机变量，对任意x r i ，令 f ( x ) = p 孝 x 9 称f ( x ) 为掌的分布函数。 要给出随机变量的分布函数是一件非常困难的事情。但我们可以通过给 出随机变量的某些特征来粗略地描述这个随机变量。求随机变量的数学期望 与方差是描述随机变量数字特征最简单且最常用的方法，数学期望就是随机 变量的均值，而方差是对变量与均值之问起伏变化程度的一种插述。它们的 定义如下： 定义2 3 设 为随机变量，其分布函数为y ( x ) ，若 障o f ( x ) m ，则记 e ( 孝) = 脚( x ) 称互( 掌) 为善的数学期望。 定义2 4 设f 为随机变量，其分布函数为f ( x ) ，数学期望为e ( 毒) ， 若e 眵一e ( 孝) 2 m ，记d ( 孝) = e 陟一e 传) 2 ，称d 皓) 为善的方差。 随机变量的数字特征除了上述数学期望与方差外，还有其他数字特征， 例如各阶矩等阴。这就不再详细介绍了。 在统计学中会经常用到多维随机变量分布的情况，所以下面我们也给出 多维随机变量分布函数的定义及数字特征。 定义2 5 设盏，孝：为定义在同一个概率空间( q ，f ，p ) 上的n , j 随j b r t 变量，则( 知磊，己) 称为n 维随机变量。对任意te 置，令 f ( x l ，x 2 ，x 。) = p 磊 一，受 r 2 ，己 x n l 称f h ，屯，x n ) 为( 备，受，) 的联合分布函数，或简称为n 维分布函 数。 对于多维的随机变量，如何定义它的均值和二阶矩呢? 给出f 面的定 义： 定义2 6 设有定义2 1 4 的n 维随机变量，其中鲁的分布函数为f ( x ) ， ( k = 1 ，2 ，棚) 。记 “= 川( x ) i = i 2 称( h ，心，以) 为n 维随机变量( 盏，受，色) 的均值或数学期望。记 = x e ( 专) _ y e ( 最) 蛾( w ) i = l ，2 ，”：k = l ，2 ，n ，称为随机变量专与磊的协方差。而称方阵 l2 r 2 lr z 2 r 1k 2 。 吃。 为n 维随机变量( 备，受磊) 的协方差矩阵。 协方差矩阵是一半正定矩阵4 ，即屹= d 偿) ，= 。 2 1 2 几种常见的概率分布。1 在2 1 1 节中我们知道描述随机变量最确切的是概率分布函数，对于已 知的概率分布函数我们经常会用概率密度函数去描述，在本节就是以概率密 度函数的形式对常用的几种随机变量进行了描述。 1 、高斯分布 高斯分布函数也称为正态分布函数，设均值为, u x ，方差为的随机变 量x ，如果概率密度函数为 m ，= 志e 冲旧州 o n州 2 1 3 统计量及其概率分布”1 数理统计学是运用概率论的基本知识，对要研究的随机现象进行多次观 察或试验，并根据所获得的数据资料，对所关心的问题作出估计与检验。在 这其中最基本的概念是统计量的概念。 首先我们把对某一问题的研究对象的全体称为总体，组成总体的单元称 为个体，从总体中随机抽取的n 个个体称为容量为i i 的子样。那么我们以下 的定义： 定义2 7 设晶，乞是总体善的子样，t 为子样空间中点( 耳，x 2 ，矗) 的实值函数，作子样的函数r = 丁编，乞，磊) ，t 的取值记为 f = r ( x 。，x ：，) 。若r ( 轰，邑磊) 也为一随机变量，则称7 1 ( 舌，乞，量) 为 统计量。 从统计量的定义我们知道统计量也是随机变量，求它的概率分布是一个 非常复杂的问题，下面只给出与本文有关的统计量的概率分布。 定理2 1设总体亭( ，d 2 ) ，点，乞，鼻为其子样，子样的均值与方 差分别记为善和彦2 ，则 鲫知，等圯 且善和彦2 相互独立。 2 1 4 统计学的估计理论 估计理论是数理统计学的重要内容之一，对于参数估计最常用的有矩法 估计、最大似然估计及贝叶斯估计；而非参数估计一般是在某种准则条件下， 由一个随机变量对另一个随机变量作出“最佳”估计。下面就简单地介绍一 下最大似然估计。 定义2 8 设总体毒的密度函数为，( x ；b ，岛) ，其中q ，目是未知参 数，如果盏，乞，彘为子样，它的联合密度函数为，( 五，矗；b ，q ) ，称 上( 岛，岛) = n ，( 毒舄，岛) 为b ，研的似然函数。若有酋，岛使得下式成立： 上( 4 ，岛) = - 。钆m a 一冉x ， 三( b ，- ，岛) ) 则称日，= 口，( 备，岛量) 为o j 的最大似然法估计量。 2 1 5 统计学的检验理论 假设检验同估计理论一样，都是数理统计学的重要内容。在参数检验理 论中是利用子样品，乞，己对总体的概率统计特性提供的信息，建立予样的 函数，从而对未知参数给予判断的理论。在本文要对所给随机序列进行是否 为白噪声序列的检验，这与统计学中的检验问题略有不同，但本质是一样， 就是通过所给数据建立合理的统计量，然后对于每种假设给出满足某种最佳 判决条件的结论。 2 2 随机过程与信号处理的基本理论h 1 有限维的高斯自噪声信号可以被看作一个广义平稳的随机信号，对于它的界 定需要随机过程的知识，而对它的研究自然更离不开信号处理的有关知识，本节 将为高斯白噪声信号建立一个完整的数学理论基础。 2 2 1 随机过程的特征及分类 随机过程可以看作为概率论的一一个分支，它是经典概率论的继续和发 展。我们对随机过程可以给出如下定义： 定义2 9 e ( n ，f ，p 1 是一个概率空间，1 是一个参数集( 一般地t r 1 ) x q ，c o ) 是，x q 上的函数。如果对于每一个f t ，x q ，) 都是( q ，f ，p ) 上的 随机变量，则称随机变量族 ( f ，o j ) ，f 丁 为定义在( q ，f ，) 上的随机过程。 简写为正。如果t = z ，我 r 1 n 称其为随机序列。 从随机序列的定义我们看到，用概率分布函数族来描述随机序列是十分 困难的一件事，所以用某种特征来描述是正确的选择。 定义2 1 0 如果对于每一个t t ，x r 的均值存在，则 m ( f ) = f d c ( t ) ，r t 称为随机过程的均值函数。 如果对于每一对s ，t t ，( x ( j ) ，x ( f ) ) 的协方差存在，则 r ( 蹦) = 仁( s ) 一m ( s ) ) ( x ( f ) 一研( r ) ) s ，t 丁 称为随机过程耳的协方差函数。 对于一个随机过程而言，我们所要研究的范围比较有限，所以只介绍一 下与本文有关的随机过程。可以从随机过程的阶矩特点来给随机过程进行分 类，其中的平稳过程是我们介绍的重点。 定义2 1 1设墨是一个随机过程，如果对于每一个t t ，都有 e i x ( 0 1 2 1 ，离散信号序列 磅，呀厂 野厂，时厂 称为d = s l f ( n ) 。的离散二进小波变换。信号踣，包含了尺度大于2 。 的信号分量。 在本文后面的几章我们将会看到离散二进小波变换的应用。 以上的预备知识只是本文所用到相关知识中比较重要的部分，对于更加详细 的说明和其他有关知识请参阅有关资料和参考文献。 6 参考文献： 【1 i 世一编著数字信号处理( 修订版) 北京理t 大学出版社 2 中山人学数学力学系 编写小组著 高等教育 h 版社1 9 8 0 年 3 中山大学数学力学系 编写小组著 高等教育出版社1 9 8 0 年 北京1 9 9 7 年1 月 概率论及数理统计( 【：册) 概率论及数理统计( 下册) 4 朱华，黄辉宁，李永庆，梅文博编随机信号分析北京理工大学出版社北京1 9 9 0 年 【5 】唐远炎，王玲小波分析与文本文字识别科学出版社，北京2 0 0 4 年5 月 1 7 第三章高斯白噪声检验理论 引言： 本章我们将为高斯白噪声信号的检测设计奠定理论基础。这些理论源于统计 学中的假设检验理论和信号处理中的检测理论。但由于本文是噪声检测方法的论 述，所以本章有着与以往检验理论不同的地方。为了更好地理解本章的内容，首 先把本文用到的术语与统计学及工程中用的术语进行了比较说明，见表3 1 。 表3 1 ：本文术语与统计学术语及工程术语对照表 本章首先对表3 1 的内容进行了说明，接着介绍了最小错误概率准则，这个 准则的使用在本文中没有涉及，所以只是简单地加以介绍。本文是依据给定一个 显著水平q 而使检测概率p d 最大的原则，对数据在n e y m a n - - p e a r s o n ( n p ) 1 2 】 定理下进行假设判定，由于这是本章介绍的重点，所以给出了n p 定理的证明。 对于含未知参数随机变量矢量的复合检验问题，本章给出了广义似然比检验和局 部最大势检验的理论。反映本文特点的“小波变换在高斯白噪声检验上的应用理 论”，是另一个重点，它更是本文的精华所在。 3 1 本文术语的说明 从表3 1 中我们可以看到：零假设饵o ) 在本文称为合格假设，即假设给定的 序列是高斯白噪声序列，这当然是我们想要的假设：而各选假设( i i ) 被称为非合 格假设，即假设给定的序列是噪声序列与其他信号的叠加序列。本文就是要在给 定一个现实数据和给定显著水平的前提下，判定合格假设是否成立。第一类错误 在本文中表示：在有其他信号序列时而判给定的信号序列是噪声信号序列，即误 判为噪声，简称误随机；第二类错误在本文中表示：在噪声信号为真时而判给定 的信号序列含有其他信号，即失去了这个噪声信号，简称失随机。在工程上，也 就是信号处理中检测问题用到的约束条件p f a = p ( h l ；h o ) = n ，属于第一类错误， 而本文中用到的约束条件却是第二类错误( l r ) ，即使显著性水平为p 。= p ( i o ； h 。) = a ，这是因为我们要检验的是高斯白噪声的存在性，所以当然希望不是白 噪声的序列错判成白噪声序列的概率越小越好，而检测概率p d p ( h o ；h o ) 越 大越好。那么，我们将要检验的是概率分布的左尾概率，这将会在后面的讨论中 看到。对于判定域，我们可以设噪声的判决域为焉= x ：判风或拒绝；) 从下面的两个图形可以对本文有关合格假设、非合格假设及口的设定作以说 明。 图3 1 均值不同时显著水平与判决域 图3 2 方差不同时显著水平与判决域 3 2 最小错误概率理论2 j 在开始本文所应用的检验理论之前，简单地介绍一下另一种检验理论，即最 小错误概率理论。这个检验理沧最能体现在两种错误概率之间进行平衡选择的思 想，3 3 节的n e y m a n - - p e a r s o n ( n p ) 定理其实是最小错误概率理论的推广，本 9 质足一样。所以有必要简要地介绍一f 最小错误概率理论。 假设已知先验概率p ( 风) 、p ( 月，) ( 这时我们把随机变量的参数也看作足一 个随机变量) 。另外，条件p ( x i h o ) 、p ( x l 且) 假定是已知的。 我们定义错误概率只为 _ p r 判风，研是真) + p r 判q ，风是真 = p ( 玩fq ) p ( 目) + p ( ql 凰) p ( 饩) ( 3 1 ) 可以看出这种假设完全类似于估计理论中的贝叶斯方法，遵循使最小的原 则，我们可得到如下的定理： 定理3 1 已知先验概率p ( 风) 、p ( 马) ，根据假设检验风，h j 求得 e ( x l 风) 、e ( x ih 1 ) ，那么在最小错误概率准则条件下，如果 里尝 熙：y ( 3 2 ) p ( x i q ) p ( ) 1 、 成立，那么我们判z 乇，即待检验的信号是高斯白噪声信号。 定理证明可参见文献【3 】。 从( 3 2 ) 式中我们可以看到，在计算条件概率时要用到积分运算，而且要对先 验概率做比较合理的假设，所以在应用方面不如以下介绍的n p 检验定理广泛。 3 3 n e y m a n p e a r s o n ( n p ) 定理 3 3 1n e y m a n - p e a r s o n ( n p ) 定理内容 本章遵循的检验原则是从3 1 节中引出的，即在给定显著水平口的前提 下，如何使r 的值最大的原则。应用全部给定的样本数据应是一种合理的想 法；另外也可以对数据进行某种变换，使数据的特征更加明显，之后再进行 检验也应是一种合理的想法。后一点我们将在3 6 节中看到。本节检验的目 的就是根据所观测的数据集合 q o 】，x 1 1 ，x n 一1 】 ，在满足使易虽大的条 件下来判风成立。对于本文的检测器来说，检测性能指标会在3 5 一节中加 以介绍。 定理3 。2 ( n p 定理)设 巩：x n 】- w i n 】n = 0 1 ，一l q ：x n = s n + u l n 】h = o ，1 ，n 一1 其中”】为零均值的高斯白噪声序列，s f ” 为一已知的随机信号序列， 对于一个给定的置。= a ，使最大的判决为 姒，2 揣 ， 其中门限y 由 ( 3 3 ) 么2i 斟。 p ( 。；e ) 出2 a 求得。 证明：【3 l 对于给定的误随机概率p l ra ，也就是显著水平，为了使昂最大，我 们采用拉格朗日乘因子。构造目标函数 f = 匕+ 五( 一位) = p ( x ；风) 凼+ a ( l p ( x ；) 出一口) = ( p ( x ；岛) + z p k 剐净一2 口 为了使f 最大，我们应该使积分为正的x 值归到r 中，即如果 p ( x ；h o ) + 2 p ( x ；h 1 ) 0 那么x 应该归到r 中。这样，如果 矧一 成立，我们就判h o 。由于五是根据约束条件求出，必须满足a y 成立，则判瓯，其中门限y o 南矗一5c “。) ，) p ( 墨q ) 出2 口求出。 证明完毕。 定理说明当( 3 3 ) 成立时，我们可以认为待检验的信号是高斯白噪声信 号。从定理中我们可以看到，似然函数的比值给出了判决条件，但对于求门 限值来说就比较复杂了，要根据具体的假设情况来分别确定，这也是本文要 解决的问题之。 下面我们来看两个最简单的例子，e t f 反映了本文检验方法的思路，即 如何从所给数据得出的最终统计量在均值和方差上的不同，来判断两种假设 的真伪。 3 3 2 例子( 一) 设 风：x n 】w i n 门= o 1 ，n 一1 q ：x n 】- 胛】+ w i n l l = 0 1 ，n 一1 假设x 【n 】是独立同分布的高斯序列，本例从均值的角度对检验问题进行 分析。由样本空间的独立性知，h o 与e 的似然函数仍然是高斯随机变量函 数，只是参数不同，所以本例以一个样本点来说明本文的检验思路，即假设 h o ：x o 】= o 】 q ：x o 】- 虹0 】+ w o 】 其中, 4 0 卜n ( o ，j 2 ) 的一个样本点，札0 】是未知信号随机变量的一个样本 点，不妨设s o o ，设第二类错误概率p ( 风；q ) 为显著水平口，即误随机 率为口。接受域与工程上弱信号提取中使的接受域正好相反，即高斯白噪声 判决域为e o = x ；判风或拒绝q ，我们有 = p ( 风；日) = p r m o 】 o i q = r 而1e x p ( 一击( 【0 】) 2 卜 小q ( 二学) 小( 1 _ q ( 掣) ) = q ( 学冲 ， 由q 函数的严格单调递减性，可以求得 y = 6 q - 1 ) 一s 1 0 】 把上式的结果代入下式得： 易= p ( 风：风) = p r x 0 霹。那么根据n p 检验为，如果 则判风。两边取对数，得 ， 一圭( 寿一寿 篓订一p h ，+ 苦h 等 c 。m 由于和霹，所鹕2n 壁砒雄水l 警m 耕脚域左删、 于0 ，于是我们有 专小， 车掌2 。1l 爵一孑 小妨发本例也 1 1 一个样萃点组厩，即z 1 0j y ，那么仕划伙城上- n t lj 伺 = p ( 风；q ) 钮 _ 护 虹o o l q = 聒赤e x p 一耳1 2 西 斗z q = 口 b s ， 由q 函数的严格单调递减性，可以求得 苷 l i ， 护= t | - - t ；f ) ( 3 6 ) 把上式的结果代入下式得： 弓= p ( h o ：风) = p 十护 o o a m p ( x , o ) 1 0 0 。娟 叫 。嘞 町，找俐判爿o 。 证明可参见文献 3 】。 o l n p ( x ；o ) i 从( 3 9 ) 式我们驯御慌计量( 砷3 麓产， 下，有以下的分布： 岬叱篇，) 风h i ( 3 9 ) 在大数据记录 ( 3 1 0 ) 其中b 是q 条件下口的真实值，s ( o o ) 是在岛计算的f i s h e r 信息。 3 5 检测性能的确立 在3 3 节和3 4 节中，我们看到定理是依据在显著水平一定的条件下，用全 部样本数据来求得检测概率最大的原则。在此原则下找到一个检验统计量，计算 此检验统计量在两种假设情况下的和匕。我们从3 3 节中的两个例子可以想 到，在最。= 瞄一定的情况下，屹的值应与检验统计量的均值和方差有关，以下 进行详细说明。 现假设我们已经从全部样本数据中得到了一个检验统计量r ，假定r 有以下 的概率密度假设： ，f 成，考h o 【矗，群q 从3 - 3 节我们知道，当风矗时，我们可以应用单边检验；而当成= 矗时 我们显然小能j 用伺单的早边检验j ，所以必殒舸两柙情况竹刑垭仃论。 3 5 1 检验统计量均值不同 这时有， p l r = p r 砷悱n 警 华 钮l 等产 。1 ” 把上式的结果代入下式中得 纠巾叫= p r 警 等 z 文譬 ：q ( 华 - q ( 笔塑一直) 2 ) d o d o 从式( 3 1 2 ) 可以看出，当两种假设的均值差别越大时，昂值越大；而当 两种假设的方差比值拿越小时，巴值越大。所以为提高检测器的性能，一 d o 定要从这两方面入手。基于这个思想，我们将会看到对含有弱直流信号的待 检验序列傲小波变换后，将提高检测器的性能，详情请参看第四章。 3 5 2 检验统计量均值相同 这时有， 珊驴h 蚺