信号处理中的一些非线性问题.ppt

第五章 信号处理中的一些非线性问题,绪论,本章介绍非线性问题的以下几种求解方法：1.线性化（例如台劳展开并略去高阶项，同态变换）；2.迭代法计算；3.用简单表示复杂，即逼近（例如台劳展开，伏特拉展开，人工神经网络等）。 非线性现象在自然界到处存在，比线性现象多得多，也复杂的多。可以说，“线性”仅仅是一种，而“非线性”则是无穷多种的统称。难于用统一的方法来研究。,在信号处理中，也存在着大量的非线性问题。我们在这一章里只是有选择的介绍几种经典的方法。,通常，一个信号由不同的成分构成，而且构成的方式也不尽相同。例如它可以是真实信号 和噪声 相加而成,5-1 同态滤波,（5-1-1）,或者更广一些，如3-3-3中所讨论的线性模型：,（5-1-2）,也可以是如例3-5-1（回声干扰）所示的卷积形式：,（5-1-3）,还可以是乘积形式：,（5-1-4）,如此等等。对于线性模型（5-1-1）和（5-1-2），可用通常的线性估计的方法来进行滤波。对于模型（5-1-3）和（5-1-4） ，由于是非线性的，故需用特殊的方法来消除噪声。例如第三章中的最小二乘滤波和第四章的维纳滤波都可用来恢复式（5-1-3）中的 。,本节介绍的同态滤波方法，对于模型（5-1-3）和（5-1-4）都是适用的，而且对于不同的成分可以起到分别处理的作用。在做精确描述之前，我们先简述同态滤波的思想方法。,以乘积模型（5-1-4）为例，考虑到对数能将乘积转换成相加，从而成为线性模型，于是可按照图5-1-1所示的过程进行滤波，其中 和 为根据需要而选取的参数。光学原理告诉我们，一幅图像（离散的）其亮度函数 可表示为,（5-1-5）,其中 称为照明成分， 称为反射成分，它们都是取正值的函数。实验表明，照明成分 主要由图像 的低频成分组成，它反映图像亮度的动态范围。反射成分 主要由图像 的高频成分组成，它反映画面上物象边缘的突变部分。若将此 输入到图5-1-1所示的乘积同态系统，则相应的输出为,（5-1-6）,当参数 ， 取得满足 ， 时，该乘积同态系统的滤波效果是：,一些代数概念,为了确切的叙述同态滤波，需要引进一些简单的代数概念，它们属于抽象代数的范畴。设 为一给定的非空集合，如果对 中任意两个元素 和 所构成有序对,既使照明成分压缩，又使反射成分增强。由此可见，此种滤波方法可以同时对照明成分和反射成分分别进行不同的处理。,图5-1-1 乘积同态系统,我们把线性环节 之前的环节称为该系统 的特征系统，常记为 。这里 ，之后 的环节称为逆特征系统，记为 。这里 。,都有 中的元素 与之对应，便称在 中定义了一种运算。若该运算定义为普通的加法，则 ； 。若该运算定义为普通的乘法，则 ， 。如果记该运算为 ，则可以写成 。例如对于普通加法， ， ；对于普通乘法， ， 。在抽象代数中，如果在一个集合中定义一种（或几种）运算，且这些运算满足一定的运算规律，则常称此集合为一个代数，例如线性空间、群、环、域布尔代数等都是代数。,设 和 为两个非空集合。如果对于 中的每一个元素 均有一个确定的规则使得 中有一个元素 与之对应，则称这种对应关系定义了一个从 到 的一个映射。若记此映射为 ，则 和 对应关系记为 ，如果对于 中的任意元素 ，在 中至少有一个元素 与之对应： ，则称映射 是满射。,现有集合 和 分别定义有运算 和 。如果从 到 的映射 都是满射，而且对于任意的 均有等式,（5-1-7）,则称 是 从 到的同态映射。,在信号与系统的分析中，通常涉及的 是系统 的输入信号的集合 和输出信号的集合 。如果这时 是从 到 的同态映射，则称为同态系统，并记为 。,例 5-1-1,设 是双边无穷序列，其傅里叶频谱 存在。这样的序列全体为 。 中的运算定义为序列卷积。定义集合 ，其中的运算定义为普通的函数相乘，,（5-1-8）,则映射 是同态映射，因为根据卷积定理有 从而 是个同态系统。,（5-1-9）,显然，对于卷积定理成立的变换（离散和连续的傅里叶变换、z变换等）都可以导致类似的同态系统。,对于如模型（5-1-3）所示的卷积型信号，易知可通过傅里叶变换或z变换环节，这样做就把卷积化成乘积。相应的滤 波系统如图5-1-2所示，它称为卷积同态 滤波系统，其中，线性环节 之前有三个 环节： ， ， 。 表示傅里叶变换。输入信号为傅里叶频谱存在的信号序列。记这种序列的全体为 。其中的广义加法为卷积，关于数乘，当 为自然数时， 即连续 次卷积，当 不是自然数时， 。于是卷积同态系统的特征系统 由 ， ， 串联而成，它是广义线性,（当然 也是）映射。卷积同态系统常用于语音处理，消除回波干扰等。,在实际中，卷积同态系统的线性环节常取做如下形式： 其中 为序列。显然这是普通的线性映射，根据的取值情况，又可将分为以下几类：,图5-1-2 卷积同态滤波系统,1.低通,2.高通,3.带通,4.点阻,5.梳状,5-2 台劳展开的应用,推广的卡尔曼滤波,这一小节研究非线性卡尔曼滤波。设非线性系统的动态方程和观测方程为,（5-2-1）,（ 5-2-2）,其中 为 时刻的状态向量（n维）， 为 时刻的系统噪声（p维）， 为 干扰矩阵， 为观测向量（m维）， 为观测噪声。如4-7中那样，假定 和 都是零均值的白噪声。,这里非线性是指状态向量而言的。,现在假定 是差分方程,（ 5-2-3）,的解，即,（ 5-2-4）,将 和 按 作台劳展开,（ 5-2-5）,（ 5-2-6）,舍去高次项，代（5-2-1）和（ 5-2-2）， 再令 ， 并将 以 代替（ 本身是误差项，所以,这样是合理的），便得到,（ 5-2-7）,（ 5-2-8）,其中， ， 于是就化成了线性形式的动态方程和观测方程，与式（4-7-1）和（4-7-2）相比只是 和 都换成了 和 而已。于是可以利用卡尔曼滤波方程（4-7-25）对 （从而对 ）进行最佳估计。,我们看到在用台劳展开进行线性化的时，都需要有一个展开的基准。例如式（6-2-9）中的 ，式（6-2-13）中的 式（5-2-5）和（5-2-6）中的 。,对于 ，我们已经指出用迭代法来求。对于 ，可以取为关于 的某种先验估计，或者关于 的预测 ，或者关于差分方程（5-2-4）的迭代值，等等。 当然最好取成函数方程,（ 5-2-9）,的解，如果其存在且可求。,5-3 非线性迭代,本节介绍求解非线性方程时常用的迭代格式-不动点迭代法及其有关的一些问题。不动点理论是泛函分析的重要内容之一。它在计算技术中有着广泛的应用。设有函数 ，如果 满足 ，则称 是函数F的不动点。因此求F的不动点，实际上就是求方程,（ 5-3-1）,的解，而且它可以按迭代格式,（ 5-3-2）,来进行计算，只要此迭代格式收敛。当然 并不是所有形为式（5-3-2）的迭代格式都可用来解方程的。例如对于代数方程,（ 5-3-3）,可化成 ,则求解方程（5-3-3）就是求 的不动点。为此，设 ，利用迭代格式 ，得到 ， ， ， ，毫无结果。这表明此迭代格式是无效的，然而若把方程(5-3-3)改写成,（ 5-3-4）,取 ，则利用迭代格式 可得到依次为0.58,0.64,0.68,0.71,0.73,0.74,0.75, 0.75,，因此 是原方程(5-3-3)的一个近似解。,由此产生一个很自然的问题：什么情形下迭代格式 是收敛的，而且收敛于方程 的解？我们在更为广泛的情形下即巴拿赫空间进行讨论。设 是巴拿赫空间， 是映 为 的算子。设 是算子 的定义域中的一个子集。如果存在常数 ，使得对任意的 均有,（ 5-3-5）,则称 是集合 上的压缩算子，称 为压缩 系数,压缩映像原理：设算子 映巴拿赫空间 中的闭集 为自己，且 为 上的压缩算子，压缩系数为 ，则 在 内存在唯一的不动点 ，若 为 中的任意一点，则迭代格式 收敛于 ，并有误差估计,（ 5-3-6）,仍然考察前面求解方程 的例子。由于 在区间 上严格单调且 ，故 在 内有根且仅有一根。若设 ，则由中值定理 可以看出不是 上的压缩算子，所以不能利用压缩映像原理。而式（5-3-4）中的函数 有关系式 及 （其中 ），故 ，表明 是压缩算子。因此迭代格式 收敛于方程 的解。,例 5-3-1,还可指出，这个例子可选用更为一般的迭代格式 ，其中 为 其中 为参数，它的选择应满足 ，其中 。当 时就成为方程（5-3-4）的情形。,例 5-3-2,考察卷积方程,（ 5-3-7）,的求解问题，其中 是未知量。这是个系统辨识问题。将式（ 5-3-7 ）改写成,在频域对应的关系式便是,由于 ，故当 时 为压缩算子。 可用迭代格式,（ 5-3-8）,进行递推计算，其中 为可调参数。这里，我们没有具体指出在那个空间进行讨论，这要根据原方程（ 5-3-7 ）中的诸量为序列还是函数来定。,从另一个角度考虑上述问题，不难验证 差分方程（ 5-3-8）的解可表为解析形式,（ 5-3-9）,其中 ，当 时， ，当 时。由此可知，当 时， 此即逆滤波。,当然，不动点迭代格式通常用于求解非线性方程。卷积方程（5-3-7）是线性的。这里只是用来作为一个示例。,例 5-3-3,（牛顿迭代法）对于通常的代数 方程,（ 5-3-10）,设其解为 。任取接近于 的值 ，则有,即,因此，为了求解方程（ 5-3-10 ），可从近,似初始值 开始，按照下列迭代格式进行递 推计算 ：,（ 5-3-11）,这个方法称为牛顿迭代法。它要求每次迭 代时都计算 。有时为了方便，改用 下列迭代格式：,（ 5-3-12）,称为简化的牛顿迭代法。一般说来，它的 收敛速度要比式（ 5-3-11 ）来的慢。但因计算简单，故常被应用。将方程（ 5-3-10 ）改为更复杂的形式：,（ 5-3-13）,它含有m个未知数和m个方程。简记成