（信号与信息处理专业论文）高阶统计量的降秩估计算法研究.pdf

e 海交通大学硕士学位论文 高阶统计量的降秩估计算法研究 摘要 近来随着计算机处理能力的飞速提高，信号处理领域中高阶统计 量估计方面的研究受到了越来越多的关注，用信号的高阶统计量来估 计信号概率特性的方法被更多地应用到j ，系统辨识、系统重建、检测 与估值甚至是地理和声学等方面。 在信号的处理过程中，高阶统计量具有明显的优缺点，其中备受 关注的优点是高阶累积量对加性高斯噪声不敏感的特性，即高斯随机 变量的三阶及三阶以上的累积量等于零。另外，高阶统计量还具有能 保持信号相位的良好特性，这些使得高阶统计量估计在去除高斯噪声 干扰方面效果显著。但是，它的缺点也很明显，具体体现在为r 得到 方差较小的估计需要大量的统计数据，同时，高阶统计量的计算量也 十分巨大，这些又使得高阶统计量估计的处理过程十分繁琐和复杂。 为了克服高阶统计量估计的这些缺点，降秩的方法被引入到高阶 统计量估计中，其基本原理就是利用降秩转换矩阵将信号估计的秩降 l 低，从而达到减少计算量和降低估计方差的目的。i 从实验结果可以看 出，在采样数据较少和信噪比较低的情况下该方法能较为显著地降低 高阶统计量的估计方差，同时其计算量比满秩情况下大大减小，这就 赋予了降秩算法应用的现实意义，即在较为恶劣的信道环境中也能较 好地抵抗高斯白噪声的干扰。当然，估计方差的降低是以估计偏差的 t 上海交通大学硕士学位论又 增大为代价的，因此应尽量选取不会显著增大估计偏差的降秩转换矩 阵，使得估计的均方误差尽量小，从而达到期望的效果。在选取降秩 转换矩阵的环节上，传统的方法是利用先验的信号信息或先验的累积 量信息获得，这一点限制了这些方法的应用。而假若在先验信号累积 量信息未知的情况下采用信号累积量的采样估计获得降秩转换矩阵 的话，一则会使降秩估计效果恶化，二则增大了整个算法的计算复杂 度，因此针对窄带信号本文又提出一种利用信号的自相关矩阵估计求 取转换矩阵的方法，该方法最大的特点就是不需要知道信号的先验信 息，同时还能保证不会显著增大算法的计算复杂度。实验的结果表明 应用该方法同样能降低三阶甚至更高阶统计量估计的估计方差和均 方误差，且克服了传统降秩估计算法的一些缺点，因而扩展了降秩估 计算法的应用范围。1 扩 、，4、一7 ，、一 关键词：降秩，短序列，累积量，子空间，自相关矩阵，特征值分解 i i 海交通大学硕士学位论文 r e s e a r c hi nl o wr a n ke s t i m a t i o n o fh i g h o r d e rs t a t l s t i c sa l g o r i t h m a b s t r a c t w i t ht h eg r e a ti m p r o v e m e n t so f t h ec o m p u t e r sp r o c e s s i n gp o w e ri nr e c e n ty e a r s ， t h er e s e a r c h e sa b o u t h o s ( h i g h e r o r d e rs t a t i s t i c s ) e s t i m a t i o nh a v er e c e i v e d s i g n i f i c a n t a t t e n t i o ni n s i g n a lp r o c e s s i n gf i e l d m o r e a n dm o r em e t h o d sa b o u t e s t i m a t i o n so ft h es i g n a l sc h a r a c t e r i s t i c sb yu s i n gh o sa r eb e i n ga p p l i e di nm a n y f i e l d s ，t h e s ef i e l d si n c l u d es y s t e mi d e n t i f i c a t i o n ，s i g n a lr e c o n s t r u c t i o n ，d e t e c t i o na n d p a r a m e t e re s t i m a t i o n ，b e a r i n g e s t i m a t i o n ，b l u r i d e n t i f i c a t i o n ，g e o p h y s i c s ，a n d a c o u s t i c s ，e t c i ns i g n a l p r o c e s s i n g ，h o sh a ss o m eo b v i o u sa d v a n t a g e s a n dd i s a d v a n t a g e s a m o n gt h e s e ，t h e c h a r a c t e r i s t i co fb e i n gr o b u s tt oa d d i t i v eg a u s s i a nn o i s eh a s r e c e i v e dt h em o s ts i g n i f i c a n ta t t e n t i o n ，w h i c hm e a n st h a tt h et h i r d a n dh i g h e ro r d e r c u m u l a n t so fag a u s s i a nr a n d o mv a r i a b l ea r ez e r o a n o t h e rm o s t i m p o r t a n ta d v a n t a g e o fh o si st h ea b i l i t yt op r e s e r v ep h a s e s oh o se s t i m a t i o nh a so b v i o u se f f e c t si n r e c o v e r i n go r i g i n a ls i g n a lp o l l u t e db yg a u s s i a nn o i s e h o w e v e r , t h ed i s a d v a n t a g e so f h o sa r ea l s or e m a r k a b l e ，s u c ha sh i g hc o m p l e x i t y , a n dt h en e e df o rl o n gd a t ar e c o r d t ok e e pt h ev a r i a n c eo fh o se s t i m a t i o n sl o w t h e s ed i s a d v a n t a g e sh a v eh a m p e r e dt h e a p p l i c a t i o no f c u m u l a n t - b a s e dm e t h o d s t oo v e r c o m et h e s e d i s a d v a n t a g e s ，m a n yr a n kr e d u c t i o nm e t h o d sh a v eb e e n p r o p o s e d i n 9 】l o wr a n ke s t i m a t i o no f h o sh a sb e e no f f e r e da sam e a n so fv a r i a n c e a n dc o m p l e x i t yr e d u c t i o n t h ee x p e r i m e n tr e s u l t sr e v e a lt h a t ，w h e nt h ed a t ar e c o r di s s h o r t e ra n dt h es n r ( s i g n a lt on o i s er a t i o ) i sl o w e r , t h i sm e t h o dc a na t t a i nm o r e r e d u c t i o ni nt h ev a r i a n c e so fh o se s t i m a t i o n sa n dt h ec o m p u t a t i o n a lb u r d e n b u ti n 【9 】，t h et r a n s f o r m a t i o nm a t r i xo fl o w r a n ki sa c h i e v e df r o m p r i o rs i g n a li n f o r m a t i o n , i i i 上海交通大学硕士学位论文 w h i c hl i m i t st h ea p p l i c a t i o no ft h i sm e t h o d w h e nt h ep r i o rs i g n a li n f o r m a t i o ni sn o t k n o w n ，s o m em e t h o d su s et h ee s t i m a t i o no fh i g h e ro r d e rc u m u l a n t s m a t r i xi n s t e a do f p r i o rs i g n a lh o s i n f o r m a t i o n b u tt h e s em e t h o d ss t i l lh a v et h e i ro w n p r o b l e m s o n e i st h a tt h ee f f e c to fe s t i m a t i o ni sw o r s e ，t h eo t h e ri st h a tt h ec o m p u t a t i o n a lb u r d e n i n c r e a s e s f o rt h en a r r o wb a n ds i g n a l ，t h i sp a p e rp r e s e n t sam e t h o df o rc h o o s i n gt h e t r a n s f o r m a t i o nm a t r i xf r o mt h ee s t i m a t i o no fc o r r e l a t i o nm a t r i xo n l y , w h i c hd o e sn o t n e e dt h ep r i o rs i g n a li n f o r m a t i o n s i m u l a t i o nr e s u l t si n d i c a t et h a ts i g n i f i c a n tr e d u c t i o n i nv a r i a n c ea n dm s e ( m e a ns q u a r e de r r o r ) c a l lb ea c h i e v e db yt h i sm e t h o d ，w h e n c o m p a r e dt ot h ec o r r e s p o n d i n gf u l lr a n kr e s u l t s s ot h ei m p r o v e dm e t h o dc a r lm a k e t h el o w - r a n ke s t i m a t i o na l g o r i t h mm o r e a p p l i c a b l e k e yw o r d s ：r a n kr e d u c t i o n ，s h o r td a t ar e c o r d ，c u m u l a n t ，s u b s p a c e ，c o r r e l a t i o n m a t r i x ，e i g e n v a l u ed e c o m p o s i t i o n i v 上海交通大学 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定， 同意学校保留并向国家有关部门或机构送交论文的复印件和电子版， 允许论文被查阅和借阅。本人授权上海交通大学可以将本学位论文的 全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫 描等复制手段保存和汇编本学位论文。 本学位论文属于 保密口，在一年解密后适用本授权书。 不保密口。 ( 请在以上方框内打“”) 学位论文作者签名：9 多手牛 指导教师签名：专” 日期：加吗年上月j 妒日日期：彻弓年月 警衷1 澎曰 上海交通大学 学位论文原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下， 独立进行研究工作所取得的成果。除文中已经注明引用的内容外，本 论文不包含任何其他个人或集体已经发表或撰写过的作品成果。对本 文的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。 本人完全意识到本声明的法律结果由本人承担。 学位论文作者签名：专王柳 日期：2 。3 年2 月，妒日 上海交通大学硕士学位论文 一一 1 1 研究背景1 】 第一章绪论 众所周知，在雷达、通信、自动控制系统中关键的问题是消息的传输和处理。 我们把待传输的数据、资料( 或者说信息) 称为消息。为使消息能远距离传输，须 将其变换、编码并调制成相应的无线电信号，再借助于发射天线辐射到空间，经 电磁波传播抵达接收天线，接收系统将接收到的信号进行处理( 放大、解调等) 后还原为所需的消息，送入接收系统终端或使用者，从而完成信息传输任务。 这样一来，对信息传输系统的要求主要集中在两个方面。一个方面是要求系 统高效率地传输信息，这就是系统有效性；另一个方面是要求系统可靠地传输信 息，这就是系统的抗干扰性( 或信息传输的可靠性) 。使系统信息传输可靠性降低 的主要原因有：1 不可避免的外部干扰和内部噪声的影响；2 传输过程中携带 信息的有用信号的畸变。 为了提高系统传输信号的有效性和可靠性，人们采取了种种措施，以降低外 界及内部因素的干扰，在这些措施上建立的理论就是信号检测与估计理论。信号 检测与估计理论的基本任务是，研究如何在于扰和噪声的影响下最有效地辨认出 有用信号的存在与否，以及估计出未知的信号参量或信号波形本身。它实质上是 有意识地利用信号与噪声的统计特性的不同，来尽可能地抑制噪声，从而最有效 地提取有用信号的信息。 信号检测与估计理论又称为信号检测的统计理论，其数学基础是统计学中的 判决理论和估计理论。从统计学的观点看，可以把从噪声干扰中提取有用信号的 过程看作是一个统计推断过程，即用统计推断方法，根据接收到的信号加噪声的 混合波形，来作出信号存在与否的判断以及关于信号参量或信号波形的估计。检 测信号是否存在用的是统计判决理论，也叫假设检验理论。二元假设检验是对原 假设届( 代表信号不存在) 和备选假设届( 代表信号存在) 所进行的二择一检验，检 验要依据一定的最佳准则来进行。估计信号的未知参量用的是统计估计理论，即 根据接收混合波形的一组观测样本，来估计信号的未知参量。由于观测样本是多 维随机变量，由它们构成的估计量本身也是一个随机变量，其好坏要用其取值在 参量真值附近的密集程度来衡量。因此参量估计问题可以通俗地说成是：如何利 上海交通大学硕士学位论文 用观测样本来得到具有最大密集的估计。此外，估计信号波形则属于滤波理论， 即维纳和卡尔曼的线性滤波理论以及后来发展的非线性滤波理论。这样，信号检 测与估计理论按其基本内容来看，包括三个方面：信号的检测，参量的估计和波 形的估计( 或称复现、提取、过滤) 。信号的检测指的是检验信号存在与否的一种 狭义的检测；参量的估计指的是对信号所包含的连续消息( 在观测期间是恒定值 进行的估计( 或测量) ，所关心的不是信号本身，而是信号所荷载的消息：波 形估计是指在最小均方误差意义下，对信号或者解调后的消息波形( 在观测期间 是时间函数x ( ，) ) 进行的估计，所关心的是整个信号或消息波形本身。 1 2 主要研究内容及其意义【2 】 本文主要研究的是高阶统计量的降秩估计算法，属于上节所述的信号检测与 估计理论的三个方面基本内容中的参量的估计。这一类的估计主要研究的是给定 数据样本估计信号的数值，这时已知信号是存在的，但是由于噪声、数据样本的 不准确，仪器精度有限( 常常用叠加噪声模型表示它们) 或其他人为因素的影响， 使数据样本分散在真实信号值左右。现在的问题是，如何处理数据样本，得到信 号的“最佳估计”。 假定接收信号的一组观测值为r l ，n ，聊，记为观测矢量，它具有某 种已知形式的统计分布，其中含有一定数目的未知参量。我们要基于观测矢量， 来估计这些参量。为此，可以构造一个作为r 的函数的统计量，称为估计量，来 对信号参量进行估计。由于，是个随机矢量，作为，的函数，估计量是个随机变 量，其取值称为估计值，是由，的具体取值决定的。这里产生两个问题。其一是， 对应某一观测矢量，总可以提出许多个r 的函数来作为估计量，那么，如何最 佳地利用，来构成估计量呢? 这就牵涉到“最佳”的含义是什么? 从什么标准来 说是“最佳”的? 随着所定的“最佳”准则的不同，存在着各种不同的构成估计 量的方法，如贝叶斯估计，最大后验概率估计，最大似然估计等等。其二是，一 旦选定了最佳准则从而构成了估计景之后，如何来描述和评定估计量本身的统计 性质昵? 例如，作为随机变量的估计量，具有一定的统计分布，那么，其数学期 望( 均值) 是否就等于待估计参量的真值呢? 还是有偏差? 再者，估计值在参量真 2 上海交通大学硕士学位论文 值附近分布的密集程度如何? 即估计量的方差大小如何? 而本文所讨论的高阶 统计量降秩估计算法主要是针对原高阶统计量估计算法在统计性质上的一些缺 点作出的改进，以估计偏差增大的代价换来了估计方差的降低。 我们知道，高阶统计量有很多优点，比如高阶累积量对加性高斯噪声不敏感， 能保持信号相位特性等等。这些优点使得高阶统计量估计越来越多地被应用到信 号处理的各种不同场合，如系统辨识、系统重建、信号检测与估值、地理地质探 测等等。但是在实际应用中我们发现高阶统计量也具有很多明显的缺点：一是为 了得到方差较小的估计需要大量的统计数据，二是计算量很大，复杂度高。 为了克服高阶统计量的这些缺点，降秩估计的方法被提出，它主要利用降秩 转换矩阵将采样数据的秩降低，从而达到减少计算量的目的。但是，传统的降秩 算法中用作降秩的转换矩阵是由先验的信号信息或先验的累积量信息得到的，这 一点限制了该方法的应用。本文在传统方法的基础上又提出一种利用统计信号的 相关矩阵求取转换矩阵的方法，该方法最大的特点就是不需要知道信号的先验信 息，同时，该方法在求取降秩转换矩阵的时候，也比传统降秩算法的计算量小很 多，因而拓展了降秩估计算法的应用范围。 上海交通大学硕士学位论文 第二章高阶统计量估计的理论基础 2 1平稳随机过程2 1 在现实生活中我们所接触的信号通常都是随机的，即从同一来源取得的数据 样本可能各次都是完全不同的。在概率论中，随机变量定义为实验结果的实值函 数。如果实验在时间上连续，则实验结果的实值函数也是包含时间变量的函数， 我们称之为随机过程。换言之，若一个随机变量的可能取值是时间的连续函数， 就形成一随机过程。连续变化的温度和风速的记录，分子作布朗运动的位置坐标 变化，以及纺纱时纱线直径随时间的变化，凡此等等，都是随机过程的实例。我 们更熟悉的另一实例，是通信或雷达接收机输出端的噪声。若将各记录仪器分别 接至若干台同类型接收机的输出端，则得到的噪声记录可能如图2 1 所示。每 台仪器所记录的噪声随时间变化的波形各不相同，它们都是不可预测的，作不出 准确的预告。然而它们的某些统计平均性质却是相同的，例如，在某一段时间内 的幅度平均值，过零点平均数，幅度分布的直方图，等等。 上述全部可能的记录的集合，称为随机过程，以x ( t ) 表示。集合的单个元 素叫做随机过程的样本函数或实现，以x ( t ) 表示。在某一固定时刻，例如t ：t 1 ， 诸样本函数的可能取值的总和构成一个随机变量x l = x ( f 1 ) ，其取值记为工i ，遵 从一定的统计分布规律。由于r 1 可以有无限多个取值，所以随机过程也可以看作 是一簇无限多维的随机变量。总之，随机过程可以表示为 x ( f ) = 扛( f ) ，t t ( 2 - 1 ) 其中r 可以是区间、半无限区间或无限区间。 在统计学中，随机变量是用概率方法描述的，在现在的情况下，对于随机变 量墨它的值落在x l 与x 1 + 矗l 之间的概率是 p ( 鼍 置 + 幽) = p ( 而， ) 幽( 2 - 2 ) 其中p l ，t 1 ) 是序列k ( r 1 ) ) 的全部可能值中落在x i 与嗣+ d r i 之间的相对比率，称 为随机过程的一维概率密度函数或概率密度，概率密度函数的积分称为概率分布 函数或概率分布，其定义为 f ( x 1 ，r ) = p ( x 1 x 1 ) = i ：p ( x ，t ) d x ( 2 - 3 ) 4 上海交通大学硕士学位论文 t t 0 t ， 图2 - 1 接收机输出端的噪声记录2 1 f i g u r e2 - it h e n o i s er e c o r df r o m o u t p u to f r e c e i v e r 对于两个随机变量筠和恐，它们的值分别落在x lx l + d x l 之间和x 2 与x 2 + d x 2 之间的联合概率是 e ( x l x l x l + d x l ，x 2 o ，所以特锻函数 ( 掰) 在缀蔗脊最大盛，帮 | 辔细羔辔国= l 嚣1 1 ) 羁溺穰率谂串懿熟酝公装 嚣穗骛= d 嵇矽0 酶( 2 - 1 2 ) 黉褥舞将缝滋数豹嫒鬻见形式 m = 砖”( 2 t 3 ) 令善= 手如) 是一随梳变蚤，巧= 磊扛) 为冀分布黼数，最婚国) = 茁f # 艇 燕其特 馥灞蘩。嚣然，蓑露一躇f b ，戴 6 圭里型堕兰旦土型型兰 。如) ：e e 一 = e e 础叫) = e j “e 每 ( 2 - 1 4 ) 因此 巾。白) = p 。中fa c o ) ( 2 - 1 5 ) 进一步地，若r l ，f2 ，f 。是独立的随机变量，且f = r l + + f n ，则 m 0 ) = n 中6 ) ( 2 - 1 6 ) 随机变量x 和y 的联合特征函数( q ，( 0 2 ) 定义为积分 o ( c o 。，：) = e e 似，y 沙螂，( 2 - 1 7 ) 类似于式( 2 - 1 3 ) 可得 巾( c 0 1 ，吐) = e e ，( o ) l x + t a 2 y ( 2 1 8 ) x 和y 的边缘特征函数分别定义为 中，0 ) = e e - “ ( 2 1 9 a ) 和 o ，) = e 每，w ( 2 - 1 9 b ) 由式( 2 - 1 8 ) 和( 2 - 1 9 ) 立即有 中，) = 0 ，0 ) ( 2 2 0 a ) 和 m 。0 ) = 中( 0 ，)( 2 - 2 0 b ) 显然，若g = a x + b y ，则 。：白) = e 每，( “+ 咖b ) = m 0 ，b o o ) ( 2 2 1 ) 因此 中：( 1 ) = m 0 ，b ) ( 2 2 2 ) 由上可知，若对每个a 和b ，西：( 印) 为已知，则o ( c o l ，吐) 唯一被确定。换 言之，若对每个a 和b ，戤+ 砂的分布密度是已知的，贝l j f ( x ，y ) 也就唯一被确定。 如果随机变量x 和y 是独立的，则 ! 堡窒堡奎兰堡主兰里堡羔 e 倍，( w j x + m 2 y ) = e # 一。扛p 一 ( 2 2 3 ) 这是因为对于两个独立的随机变量工和y ，我们有 e 劬 = e x 拉 _ y ( 2 2 4 ) 和 e 厂g ) g ) = e 杪g 肛詹( y ) ( 2 2 5 ) 由式( 2 - 1 8 ) 和( 2 2 3 ) 可知，对于独立的随机变量x 和y 显然有 垂如，哆) = d ，b 净，如：) ( 2 2 6 ) 更一般地，我们来考虑随机向量的特征函数。令x = b 1 ，硝7 是一随机向量 且。= 。l ，。】7 ，则随机向量x 的特征函数定义为 m b ，锦) = e ，( 一+ _ 一一j ( 2 2 7 ) 2 3 高阶统计量5 】 所谓高阶统计量，通常应理解为高阶矩、高阶累积量以及它们的谱高阶 矩谱和高阶累积量谱这四种主要统计量( 此外，还有倒高阶累积量谱即倒多谱) 。 在这里我们主要介绍高阶矩和高阶累积量及其性质。 2 3 1 高阶矩和高阶累积量的定义 考虑单个随机变量x ，我们定义其特征函数为 中白) = e s x ；b 7 “a k = e l , ，“】( 2 - 2 8 ) 其中，b ) 为随机变量x 的概率密度函数。特征函数实际上是概率密度函数的傅 立叶变换。 z 的第二特征函数定义为 甲0 ) = l n ( w )( 2 2 9 ) 第一特征函数o ( 国) 也叫矩生成函数。随机变量x 的k 阶矩定义为 m 。= e h = f = 矿厂g 协( 2 - 3 0 ) 上海交通大学硕士学位论文 显然m l = 五( 劝a 随机变量z 的k 阶中心矩定义为 胁= e 虹氇广 = e ( x 叫y 几净 ( 2 - 3 1 ) 对于零均值的随机变量x ，k 阶中心矩与k 阶矩m 女等价。 若m k ( k = 1 ，2 ，n ) 存在，则x 的特征函数( ) 可按照泰勒级数展开 妇) = 1 + 荟n 百m kv 缈广+ o 白”) ( 2 _ 3 2 ) 而且m k 与中( 国) 的k 阶导数之间有关系 = ( - ，v - d - - 矿曲b k ) 1 0 ( _ ，y ( o ) 伍”) ( 2 3 3 ) 这就是高阶矩的定义式。 同样地，x 的第二特征函数v ( 脚) 也按泰勒级数展开 甲如) = 1 n ) 5 砉告d 广+ o ”) ( 2 - 3 4 ) 并且“与甲扣) 的后阶导数之间的关系为 q = 专防，n m b 0 r 杀甲p 0 吲啪) 吣叭z 琊) 靠称为随机变量z 的k 阶累积量。由于“是用第二特征函数甲( 印) 定义的，故 甲( 国) 又叫累积量生成函数。由中( o ) = 1 及西( ) 的连续性知，存在6 0 ，使 蚓 2 ) 恒等于零： ( 3 ) 高斯随机变量x 的高阶矩只取决于二阶矩口2 ，它们并不比二阶矩多提 供信息，换句话说，高阶矩的信息是冗余的。 上述结论可以推广导高斯随机过程。先讨论l i 维高斯随机向量x = 扛1 ，x 2 ， x 以7 。设其均值向量为口= 【口l ，a 2 ，o 019 刚7 ，协方差矩阵为 1 2 型丝旦塑塑主坚 c = q lc 1 2 c 2 jc 2 2 c h c 2 * 矗1c a 2 “。 r 2 - 5 2 ) 矮中 勺= e ( 鼍一q ) ( t a j ) ( f ，= 1 ，2 , - - , n ) ( 2 - 5 3 ) ”维高斯随机向照x 的联合概率密度函数为 厂( x ) 2 南e x p 一三( x 一“) 7 c “( x 一疗) ( 2 5 4 ) x 的联合特征函数为 m ( 小e 即p 国一i 1 北 ( 2 弼) 其中甜一【。l ，6 9 2 ，。】7 。x 的第二联合特征函数为 中( ) = l n 中( ) = j a t 一去掰7 c a ) # 8 o = - ，a i o ) ，一丢勺咀q ( 2 5 6 ) 利用联合累积量。 妒 的定义式( 2 3 9 ) ，则n 维高斯随机向量x 的阶数，2 l + 2 2 + + 。的联合累积匿气” 的定义如下 ( 1 ) ，= 1 ，即 l ， 2 ， 。中菜个值取1 ( 不妨设 _ 1 ) ，而其余值等 于零。此时 气+ 。= o= a i = e 障】 ( 2 5 7 ) = a b ；= o ( 2 ) r = 2 分鼹季孛情况： ，( 芦1 ，2 ， ) 中某两个值取l ( 设a ，一a j = 1 ，婷劬，其余值为零， 这时 瓢。，。= ( o ) 22 勺 d 、。”= q t - o = e ( _ 一q ) ( - 一吩) ( f - ，) ( 2 - 5 8 ) 鬻 土塑塑盔型型兰生坚 上式利用了关系式c o = c s r 。 ，( f _ 1 ，2 ，z ) 中某个值取2 ( 设 ，= 2 ) ，其余值为零，则 掣l 一删出卅 p 5 9 ， ( 3 ) r 3 。注意到( ) 只是关于自变量，的二次多项式，因而( 。) 关 于自变量的三阶或三阶以上导数等于零，即x 的三阶或三阶以上联合累积量等于 零，即 。 如 = 0 ( + 五+ + - 3 ) ( 2 _ 6 0 ) 由随机过程的累积量定义式( 2 - 4 3 ) 可知，高斯随机过程缸( 胛) ) 阶次高于2 的 k 阶累积量亦等于零，即 ( f 1 ，一，一。) s 0( k 3 ) ( 2 - 6 1 ) 上式表明，高阶累积量对高斯过程不敏感。因此，当加性噪声是高斯有色噪声时， 高阶累积量在理论上可完全抑制噪声的影响。然而，高阶矩却不具备这一性质。 这就是我们使用高阶累积量而不是高阶矩作为主要的分析工具的一个重要原因。 2 3 3 高阶累积量的性质 累积量和矩之间存在下列的显式关系( s h i r y a y e v1 9 8 4 ) ： m c ( 矩一累积量) 公式是 c ，( ) ：( 一1 ) ( g 1 ) ! n 鸭( ) ( 2 - 6 2 ) m ：， ”1 c m ( 累积量一矩) 公式是 ( 2 - 6 3 ) 在上述二式中，1 p ；，代表在集合j 的所有分割范围内的求和；( l ) 是向量_ 内的各元素乘积的期望值，其中屯由x 内指数属于的所有分量组成；q ( ) 则 是向量x 的子向量_ 。的累积量。以k = 3 为例，9 2 1 对应于一个分割 ( 1 ，2 ，3 ) ； 1 4 q 。n 川 ， = 脚 上海交通大学硕士学位论文 日= 2 对应于有2 个子分割，共有三种可能的分割 ( 1 ) ，( 2 ，3 ) ) ， ( 2 ) ，( 1 ，3 ) ) 和 ( 3 ) ，( 1 ，2 ) ) ；q = 3 表示分成三个子集，只有一种可能的分割 ( 1 ) ，( 2 ) ， ( 3 ) ，。换句话说，由式( 2 6 2 ) 和( 2 6 3 ) 得 c ( x l ，工2 ，屯) = c u r e x i ，x 2 ，x 3 ) = e x , x 2 x , - e 【五】e 【x ：屯 一e x ：】e 而为】 一e b 】e 【五】+ e _ 】e 镌】e bj ( 2 - 6 4 ) 和 e 【_ 恐而】= c ( 五，x 2 ，) + c ( t ) c ( 屯，而) + c ( ) c ( 五，x 3 ) + c ( 恐) c ( 五，而) + c ( 五) c ( ) c ( 屯) ( 2 6 5 ) 可以看出，对于一个非零均值得平稳随机过程，用矩表示三阶累积量比较复 杂。如果是四阶情况，这种表示变的非常复杂，以致于它包含了1 5 个( 乘积) 项 之和! 有意思的是，如果缸( f ) ) 是一个零均值的平稳随机过程，则利用矩计算高阶 累积量( 或反之) 就变得非常之简单。特别地，从m c ( 矩一累积量) 公式( 2 6 2 ) 很 容易证明以下重要关系 ( r ) = e 卜( r ) x ( h r ) = r ( r ) ( 2 6 6 ) c 3 x ( _ ，2 ) = e z ( f ) x ( t + r 1 ) x ( t + r 2 ) ( 2 6 7 ) c 4 ，( ，z 2 ，巧) = e z ( f ) x ( f + 1 ) x o + f 2 ) x ( t j t 3 ) - - r x ( t i ) r x ( t 2 一f 3 ) 一疋( 乃) r ( 一弓) 一b ( 乃) 足( 乃一乃)( 2 6 8 ) 这就是说，对于一个零均值地平稳随机过程，二阶累积量( f ) 就是x ( f ) 的自相 关；三阶累积量钆( z 1t ) 等于x ( f ) 的三阶矩。 下面建立累积量的几个重要性质： 性质h 若 ，( f _ 1 ，2 ，助是常数，且而0 = 1 ，2 ，曲为随机变量， 则 c “卅( a _ ， ，i、 取) 5 l 珥丑卜( 砩f ；i f 2 - 6 9 ) 一塑塑堕型堕塑 证明：令y ：【五_ ，五r ，由m c ( 矩一累积量) 公式( 2 - 6 2 ) c ，( l ) = ( 一1 ) ”1 ( q - o ! i = i ( ) 0 护， ”1 注意到= 以及 垂( ) = ( 枣 【垂1 ( ) j 口；l辟lp = 容易看出 q ( ，) = ln 五l t ( l ) 这就建立了式( 2 - 6 9 ) ，证毕。 性质2 ：累积量相对于其变元是对称的，即 c u r n ( x , ，以) = c u m ( x f l ，) ( 2 - 7 0 ) 其中，( f 。，i i ) 是( 1 ，勋的一个排列。 这一性质可以从累积量的定义立即得到。 性质3 ：累积量相对于其变元是加性的，即 c u r e ( x i + y l ，x 2 ，= c u c t ( x j ，x 2 ，x l , ) + c u m ( y , ，毪，h ) 这意味着和的累积量等于累积量之和( “累积量”由此得名) 。 证明：令z = 【一+ y l ，x ：，以】7 ，x = k ，x 2 ，以1 7 和y = 【m ，x z 一 棚：( d 是在五内的元素乘积的期望值，而x l + ) 仅以单位幂形式出现 r m ：( f ：) = n ( ，：) + 兀( ，：) i = 1 i = 1 l = l 将上式代入式( 2 6 2 ) 即可得到式( 2 7 1 ) 的结果，证毕。 佗一7 1 ) ，k 】。由于 故 性质4 ：若随机变量缸i 与随机变量钞l 独立，则 c u ? n ( x l + 咒，以+ y k ) = c u m ( x 1 ，x t ) + c u m ( y l ，乩) ( 2 _ 7 2 ) 正是这一性质给出了累积量的另一个术语半不变( s e m i i n v a r i a n t ) 。 证明：令z = h + m ，k + n r = x + y ，其中x = i x , ，黾r ，y = y a ，儿】7 。 利用 x i ) 和t y j ) 的独立性有 e 海交通大学硕士学位论文 甲( 卯) = l n 五 e x p 俩( 葺+ h ) + + j r a k ( + 儿) ：l n e e x p ( q _ 扣+ q ) ”l n e e x p e j ( c o ，y l + + ( - o k y k ) = t ，( ) + 甲，( ) 由累积量定义和上式，直接可得式( 2 7 2 ) ，证毕。 性质5 ：如果k 个随机变r x ，) 的一个子集同其它部分独立，则 c u m ( x 1 ，) ；0 ( 2 7 3 ) 证明：从性质2 可知，累积量关于它们的变元是对称的。因此，不失一般性， 我们可以假定( x 。，x 。) 同，l ，x t ) 独立，由此可得 甲( 国) = l i l e e x p - j ( c o , x , + + 咀t ) ) + t h e e x p j ( c o i + 。t + 。+ + q t ) 显然，在掣( ) 的泰勒级数展开中不可能存在( q ，吼) 项。这意味着式( 2 - 7 3 ) 为真，证毕。 性质6 ：如果a 是一常数，则 c u m ( o r + x l ，x 2 ，x k ) = c u m ( x 1 ，x 2 ，坼) ( 2 - 7 4 ) 这一性质可从性质3 和性质5 直接得到。 在上面的6 个性质中，性质4 反映了一个极为重要的事实：两个统计独立随 机过程之和的累积量等于各个随机过程累积量之和。因此，如果一个非高斯信号 在与之独立的加性高斯有色噪声中被观测的话，那么观测过程的高阶累积量就是 原非高斯过程的高阶累积量。然而，这一结论对高阶矩不成立。由性质5 反映的 另一个重要事实是，独立同分布( 英文缩写i i d ) 随机序列的累积量为j 函数。即 是说，若 _ h ，( 幻) 是独立同分布过程，则( q ，靠一。) = 万( q ) j ( 靠一，) ，其中 y 。叫做w ( f ) 的k 阶累积量。换句话说，我们有 m 吼m 训= 怡n 。i 茹1 卸( 2 _ ，s ) 然而，独立同分布过程 w ( 幻) 的联合矩却不是万函数。在许多文献中，把满足 式( 2 7 5 ) 的噪声叫做高阶白噪声，因为这种噪声的高阶谱是多维平坦的。上述两 个重要事实使得我们使用累积量作为一种算符比使用矩要容易、方便得多。加上 1 7 上海交通大学硕- k 学位论文 前面已经证明过的事实：高斯有色噪声得高阶累积量恒等于零而其高阶矩并不恒 等于零，我们就回答了这样一个问题一一为什么在非高斯信号处理中不用高阶矩 而要用高阶累积量作分析工具。 2 4 高阶累积量的k r o n e c k e r 积表示形式 矩阵的k r o n e c k e r 积是一种重要的矩阵乘积，它是信号处理与系统理论中的 随机静态分析、随机向量和随机向量过程分析等的一种基本分析工具。 2 4 1k r o n e c k e r 积及其性质 首先，我们来定义一下什么叫k r o n e c k e r 积。设有p x q 的矩阵爿和m x n 的矩阵b ，则矩阵a 和矩阵b 的k r o n e c k e r 积记作a 固占，它是一个p m ) o ( 非负性) ( 1 a ) i i x l l - - o ，当且仅当x = o ( 正性) ( 2 ) i k x l l = k l l l x l ，对所有纯量c f 成立 ( 齐次性) ( 3 ) j i x + e l l - 1 1 4 + i k l i ( 三角不等式) 满足上述公理中的( 1 ) 、( 2 ) 、( 3 ) ，但不一定满足公理( 1 a ) 的函数称为向量范数。 下面是几种常用的向量范数。 ( 1 ) 厶范数9 上的和范数( 或厶范数) 定义为 i i x l l ，= l x l l + + 川 ( 2 - 1 0 5 ) 上述范数有时也叫1 范数。 ( 2 ) 。范数令x = h ，】7 c “，则向量x 的厶l l x l l ：，并定义为 1 1 4 ：= ( 时+ “+ 蚶y ” ( 2 1 0 6 ) 范数j 1 | i 称为酉不变的，i | 阮0 = 对所有向量x c ”和所有酉矩阵u s c 恒 成立。 接下来定义矩阵的范数： 若对所有矩阵4 ，b c ”“满足下面五条公理，则称函数i | | | 为矩阵范数： ( 1 ) j i a i i - 0 ( 非负性) ( 1 a ) l i a i i = o ，当且仅当一= o ( 正性) ( 2 ) i k 4 = 1 4 4 ，对所有纯量c f 成立 ( 齐次性) 上海交通大学硕士学位论文 ( 3 ) i i