高阶谱高阶统计量的定义与性质

1、第1章 高阶统计量的定义与性质1.1 准备知识1. 随机变量的特征函数若随机变量的分布函数为，则称为的特征函数。其中为概率密度函数。离散情况：特征函数是概率密度的付里叶变换。例：设，则特征函数为令，则根据公式：，则若，则。2. 多维随机变量的特征函数设随机变量联合概率分布函数为，则联合特征函数为令,，则 矩阵形式或 标量形式其中，为联合概率密度函数。例：设维高斯随机变量为,的概率密度为 的特征函数为 矩阵形式其中，, 标量形式3. 随机变量的第二特征函数定义：特征函数的对数为第二特征函数为(1) 单变量高斯随机过程的第二特征函数 (2) 多变量情形1.2 高阶矩与高阶累积量定义1. 单个随机变

2、量情形(1) 高阶矩定义随机变量的阶矩定义为 (1.1)显然，。随机变量的阶中心矩定义为 (1.2)由式(1.2)可见，,。若存在，则的特征函数可按泰勒级数展开，即 (1.3)并且与的阶导数之间的关系为 (1.4)(2) 高阶累积量定义的第二特征函数按泰勒级数展开，有 (1.5)并且与的阶导数之间的关系为 (1.6)称为随机变量的阶累积量，实际上由及的连续性，存在，使时，故第二特征函数对有意义且单值（只考虑对数函数的主值），的前阶导数在处存在，故也存在。(3) 二者关系下面推导与之间的关系。形式地在式(2.3)与式(2.5)中令，并利用 (1.7)比较上式中各同幂项系数，得阶累积量与阶矩的关系

3、如下：若，则 由上可见，当随机变量的均值为零时，其前三阶累积量与前三阶矩相同，而四阶累积量与相应的高阶矩不相同。2. 多个随机变量情形(1) 高阶矩给定维随机变量，其联合特征函数为(1.8)其第二联合特征函数为 (1.9)可见，联合特征函数就是随机变量的联合概率密度函数的维付里叶变换。对式(1.8)与(1.9)分别按泰勒级数展开，则阶数的联合矩可用联合特征函数定义为 (1.10)(2) 高阶累积量同样地，阶数的联合累积量可用第二联合特征函数定义为 (1.11)(3) 二者关系联合累积量可用联合矩的多项式来表示，但其一般表达式相当复杂，这里不加详述，仅给出二阶、三阶和四阶联合累积量与其对应阶次的

4、联合矩之间的关系。设和均为零均值随机变量，则 (1.12a) (1.12b) (1.12c)对于非零均值随机变量，则式(1.12)中用代替即可。与单个变量情形类似，前三阶联合累积量与前三阶联合矩相同，而四阶及高于四阶的联合累积量则与相应阶次的联合矩不同。注意，式(1.12)中采用表示联合累积量的方法在以后将时常用到。3. 平稳随机过程的高阶累积量设为零均值阶平稳随机过程，则该过程的阶累积量定义为随机变量的阶联合累积量，即 (1.13)而该过程的阶矩则定义为随机变量的阶联合矩，即 (1.14)这里，表示联合矩。由于是阶平稳的，故的阶累积量和阶矩仅仅是时延的函数，而与时刻无关，其二阶、三阶和四阶累

5、积量分别为 (1.15a) (1.15b) (1.15c)可以看出，的二阶累积量正好就是其自相关函数，三阶累积量也正好等于其三阶矩，而的四阶累积量则与其四阶矩不一样，为了得到四阶累积量，必须同时知道四阶矩和自相关函数。1.3 高阶累积量的性质高阶累积量具有下列重要特性：(1) 设为常数，为随机变量，则(2) 累积量关于变量对称，即其中为中的任意一种排列。(3) 累积量关于变量具有可加性，即 (4) 如果为常数，则 (5) 如果随机变量与随机变量相互独立，则 (6) 如果随机变量中某个子集与补集相互独立，则1.4 高斯过程的高阶累积量1. 单个高斯随机变量情形设随机变量服从高斯分布，即的概率密度

6、函数为故有的第二特征函数为 (1.16)利用累积量与的关系式(1.6)，并比较(1.6)与(1.16)两式，可以得到随机变量的各阶累积量为 ， ， 由此，我们有下列结论：(1) 高斯随机变量的一阶累积量和二阶累积量恰好就是的均值和方差。(2) 高斯随机变量的高阶累积量等于零。(3) 由于高斯随机变量的各阶矩为 可见，高阶累积量与高阶矩不一样。由于高斯随机变量的高阶矩并不比其二阶矩多提供信息，它仍取决于二阶矩的统计知识，所以人们宁愿选择高阶累积量这一统计量，直接把多余的信息用零来处理。2. 高斯随机过程情形先讨论维高斯随机矢量，设其均值矢量为，协方差矩阵为 其中 维高斯随机变量的联合概率密度函数

7、为的联合特征函数为其中，的第二联合特征函数为由于阶数的联合累积量可由第二特征函数定义为于是，维高斯随机变量的各阶累积量为：（1），即中某个值取1(设)，而其余值为零，于是 （2），这有两种情况：1）中某两个值取1(设)，其余值为零，这时 上式利用了关系式。2)中某个值取2（设），其余值为零，这时 （3），由于是关于自变量的二次多项式，因而关于自变量的三阶或三阶以上（偏）导数等于零，因而的三阶或三阶以上联合累积量等于零，即由上一节关于随机过程的累积量的定义可知，对于高斯随机过程，其阶次大于的阶累积量也为零，即 (1.17) 由于高斯过程的高阶累积量（当阶次大于时）等于零，而对于非高斯过程，至少存

8、在着某个大于的阶次，其阶累积量不等于零。因此，利用高阶累积量可以自动地抑制高斯背景噪声（有色或白色）的影响，建立高斯噪声下的非高斯信号模型，提取高斯噪声中的非高斯信号（包括谐波信号）。正因为这样，高阶累积量这一统计量已日益受到人们的重视并已成为信号处理中一种非常有用的工具。因此，文中在今后的算法研究中均代用高阶累积量而不采用高阶矩。1.5 双谱及其性质1. 高阶谱的定义设为零均值平稳随机过程，则其阶累积量的维付里叶变换定义为的阶谱(kth-order spectrum)，即 (1.18)通常，为复数，其存在的充分必要条件是绝对可和，即高阶谱又称作多谱(Polyspectrum)，通常阶谱对应于

9、谱。例如三阶谱对应双谱(Bispectrum)，四阶谱对应于三谱(Trispectrum)，今后我们大多数采用多谱这一概念。取时，式(1.18)分别简化为功率谱、双谱和三谱公式，即，为功率谱 (1.19)，为双谱 (1.20)，为三谱 (1.21)容易看出，式(1.19)就是维纳-辛钦定理。可见，功率谱也是高阶谱的一种特殊形式。2. 双谱的性质在高阶谱中，双谱处理方法最简单，且含有功率谱中所没有的相位信息，是高阶谱研究中的“热点”。因此下面着重研究双谱及其性质。设为零均值、三阶实平稳随机过程，其自相关函数和功率谱分别为 (1.22) 而其三阶累积量和双谱分别为 (1.23) (1.24)由式(

10、1.23)可知，三阶累积量具有如下对称性： (1.25)由式(1.24)双谱的定义及式(1.25)三阶累积量的对称性可知：(1) 通常是复数，即包含幅度和相位。 (2) 是以为周期的双周期函数，即 (3) 具有如下对称性 (1.26)此外，双谱在实际应用中还具有如下重要特性：(1) 高斯过程：如果为零均值、高斯平稳随机过程，则对于所有，都有，因此。(2)非高斯白噪声过程：如果是具有，的非高斯白噪声过程，则其功率谱和双谱分别为一直线与一平面，即，。(3) 非高斯白噪声通过线性系统：设线性系统的传递函数为，系统的输入为零均值非高斯白噪声，且，则系统输出的功率谱与双谱分别为 (1.27) (1.28

11、)设 (1.29) (1.30)则 (2.31) (2.32)由上可见，双谱的幅度谱和功率谱均由决定，因而双谱的幅度谱与功率谱的信息一样多。但功率谱不含相位信息，而双谱则包含相位信息，这就使双谱在信号处理领域得到越来越多的应用，因为有些场合如对图像处理来说，相位信息比幅度信息还重要。(4) 非最小相位系统的辨识双谱含有相位信息，因此在非最小相位系统辨识中变得十分有用，现用一个简单的例子加以说明。设输入为非高斯平稳白噪声过程，它有，。线性系统为下列三种情形的二阶FIR系统。1) 最小相位系统 系统输出为 2) 最大相位系统 系统输出为 3) 混合相位系统 系统输出为 输出，及具有相同的自相关序列

12、，即 这就意味着它们具有相同的功率谱，因此利用功率谱无法将三个系统区分开来。然而利用双谱则可以区分，因为，及具有不同的三阶累积量，见表1.1。这表明三阶累积量可以用来辨识非最小相位系统，这在地震信号反褶积及数据通信中有重要的应用。表1.1具有相同自相关的三个系统的输出的三阶累积量累积量最小相位系统最大相位系统混合相位系统(5) 混合高斯和非高斯系统的辨识设一过程的功率谱为，双谱为。若与相匹配的线性系统的传递函数为，即 (1.33)而与相匹配的线性系统的传递函数为，即 (1.34)当由式(1.33)求得的与由式(1.34)求得的不同时，可用来辨识高斯与非高斯分量组合的系统。下面就来研究这个问题。

13、考虑如图1-1所示的过程，它由两个过程组成：一为高斯白噪声通过AR滤波器的输出，另一为非高斯白噪声通过AR滤波器的输出。设与相互独立， 图1-1 混合高斯和非高斯系统因此与相互独立。为方便起见，设，。于是的双谱是和各自双谱的和，因为是高斯过程，其双谱为零，故的双谱就是的双谱。的双谱可由式(1.34)确定，其中 而的功率谱为与各自功率谱的和，它由式(1.33)确定，其中 而 这个例子表明，描述过程双谱的模型不同于描述过程功率谱的模型。双谱的这一特征使双谱在辨识高斯与非高斯分量组合系统时起着关键作用，这也是我们利用双谱及多谱（或高阶累积量）进行随机信号建模以及有色噪声中谐波恢复的理论依据。双谱还具有其它一些性质，如可用来检测二次相位耦合，辨识系统的非线性等，这里就不再详述。1.6 系统中的高阶累积量对于单输入单输出线性时不变系统，输入与输出的高阶累积量及多谱之间的关系