【《样条的非线性自适应分布式估计分析案例》3900字】

样条的非线性自适应分布式估计分析案例目录TOC\o"1-3"\h\u7307样条的非线性自适应分布式估计分析案例 1135131.1引言 136621.2SAF算法 2209181.3扩散式SAF算法 4131951.4仿真实验结果与分析 7引言最近，学者们重新燃起了对分散推理和估计问题的兴趣。在标准线性滤波领域，扩散滤波（DiffusionFiltering,DF）很显然是一个有非常前途的研究方向。最初，DF算法被研究是用于线性滤波扩展到分布式的情况，通过交替局部更新步骤（通过经典的梯度下降过程）和全局“扩散”步骤，其中每个节点会合并相邻节点的信息。因此，通过只考虑本地化的通信形式，它们能够大面积部署，并具有扩展到更大网络的强大能力。大多数标准线性滤波算法最初被研究是用于使用类似LMS更新的自适应情况，并被命名为扩散式LMS（D-LMS），当前已映射到DF领域，并已有成功的应用案例。显然，它们仅适用于输出和观测变量之间的线性模型是有意义的情况。在需要非线性模型的情况下，DF算法存在几种替代（或延伸）算法。一般来说，可以归为三类，包括分布式的内核方法、线性滤波器与固定的非线性延伸相结合和分布式最优化和机器学习算法。最后一类包括DF理论关于分布式最优化的延伸，被称为DA（DiffusionAdaptation,DA）。然而，这些方法无论是在实施的容易性、对拓扑结构的要求，还是在实时约束方面，往往都会丢失线性DF算法的某部分或多个部分特征。本文在近期研究的样条自适应滤波器（SAF）的基础上DF研究了一类新的非线性DF算法。SAF非线性滤波器之所以很有吸引力，主要有以下两个原因。首先，非线性部分的参数是线性的，允许使用标准线性滤波技术对滤波器的两部分进行调整。其次，虽然样条是由大量的隐性参数进行定义的，但每个时间步长，一般只考虑和调整它们的一小部分。因此，相对于线性滤波器而言，它们允许以稍微增加复杂度为代价来逼近非平凡的非线性函数。作为分布式样条自适应滤波器的第一步，本文重点研究了维纳（Wiener）SAF，并在获得线性滤波器后，通过样条插值获得了一种自适应非线性变换。根基于DF的理论基础，本文研究了一种扩散形式，即D-SAF。特别地，协同行为可以通过两个后续的扩散操作实现，分别在SAF的线性和非线性分量。因此，D-SAF继承了上述集中式SAF的特点，它使代理能够以相对纯线性DF较小的开销集体地估计非线性函数。实际上，D-LMS已被证实是D-SAF的一类特例，其自适应仅限于线性部分。D-SAF能够有效地学习底层模型，其性能优于D-LMS和非协作SAF。SAF算法用表示时刻时SAF滤波器的输入，为最后M个样本的缓冲值。假设处理的值为真实的输入值，未知的维纳模型产生的响应如下所示：(4-1)其中为线性系数，为预期的非线性函数，假定其连续且可微，为高斯噪声项。同样，SAF以两步方式计算输出值。首先，它执行线性滤波操作，计算公式如下：(4-2)然后，通过样条插值计算最终地输出值。样条曲线是由一组Q个控制点（称为节点）定义的柔性多项式，表示为。假设节点是均匀分布的，即，为固定值且。一般来说，设置节点以原点为中心呈对称分布。基于给定的线性滤波器的输出值，样条曲线被定义为一个P阶的插值多项式，并经过与最接近的节点及其P个连续的节点。特别地，给定最近的节点的索引i，可以将和之间的标准横坐标定义为：(4-3)从u中，可以计算归一化参考矢量，而从i中可以得出相关的控制点。将向量称为第i个跨度。滤波器的输出值为：(4-4)其中是自适应非线性，而称为样条基矩阵。在本文中使用Catmull-Rom（CR）样条，其中P=3，由下式给出：(4-5)有几种可选择的方法，比如B样条矩阵。（2）和（4）均为线性参数，可以使用任何标准的线性滤波技术进行调整。运用链式规则，可以很容易地计算出SAF输出相对于线性系数的导数：(4-6)其中：(4-7)同样，对于非线性部分：(4-8)本文考虑了SAF的线性和非线性部分的一阶自适应，定义误差，目标是使均方误差最小化：(4-9)其中。作为标准方法，用得到的瞬时误差作为（9）的近似值，然后采用两个同步的最速下降步骤来解决总体优化问题：(4-10)(4-11)其中，使用两个不同的步长。在（11）中只调整与第i个跨度相关的系数，因为很容易可以得出跨度之外的所有系数均为0。初始化样条的系数，使得。利用该初始化标准，LMS滤波器可以被认为是SAF的一种特例，其中自适应仅限于线性部分，即。扩散式SAF算法在本文的其它部分，运用了DF参考文献[39]中的标准网络参考模型。确切地说，使用了L代理（或节点）的网络模型，其索引为整数1，……，L。网络的连通性整体由实值矩阵表示，其中如果和相连，则输入值，否则为。规定当时，才允许和两个节点之间通信，即只有节点紧邻着节点时才允许。用表示节点的覆盖范围。一般来说，节点用矩阵来合并相邻接点传过来的信息，因此，把称为混合矩阵，其单一输出值为混合系数。根据标准，用混合系数为每个节点定义一个凸组合：(4-12)形式上，任何左随机矩阵都是有效的混合矩阵。在本文中采用了著名的Metropolis权重[40]。在一般的时刻，每个节点都会接收一些由表示的输入/输出数据，在这里引入一个附加的上标（k）来说明节点的相关性。设定局部数据流的生成与（1）类似：(4-13)更具体地说，和通过网络共享，这在大多数情况是比较合理的。然而，每个节点的输入数据都可能具有不同的自相关性和不同的加性噪声条件。此外，假设各个节点均基于特定样条基矩阵和一组初始控制点获得。两者在整个网络中都很常见。通过代理网络进行SAF插值操作的示意图如图4-1所示，每个节点都与其它节点的邻域相连，并且在每个时刻都会更新最优SAF模型的局部估计。图4-1代理网络进行SAF插值操作的示意图基于上述条件，网络目标是找到最优的SAF参数，使得以下全局成本函数最低：(4-14)其中每个预期望值都是根据本地输入统计数据定义的。为了解决这一问题，我们受DF算法启发想到了一种新方法。DF技术的主要思想是将并行自适应步骤与扩散步骤交错，并基于混合矩阵C对当前预估信息进行局部组合。用表示节点在时刻的SAF预估值。在扩散SAF（D-SAF）中，每个节点首先扩散自己的SAF滤波器的线性部分预估值：(4-15)接下来，可以用新的权重来计算滤波器的线性输出值，即。由此，每个节点可以识别其当前跨度索引i。在第二阶段，节点在其跨度上执行第二个扩散步骤：(4-16)（15）的扩散步骤仅需要组合跨度中的系数，因此其节点的数量不影响其复杂度，仅与阶数P有关。因此，它比（16）的扩散步骤需要更少的通信：与w扩散步骤相比，它还需要更少的通信：每个节点将其跨度索引i发送到相邻接点，并回收向量。为了简单起见，假设两个扩散步骤中的混合权重相同。一旦节点传播了它们的信息，它们就可以如在单代理情况下中一样继续进行标准自适应步骤。给定新跨度的样条输出值为：(4-17)由此可知，局部误差为。然后是两个梯度下降步骤：(4-18)(4-19)其中两个步长在不同代理之间可能有所不同。算法I对整个算法进行了总结，见图4-2。注意，在本文中，扩散步骤在自适应步骤之前。在DF文献中，这称为CTA策略。即使扩散步骤不是连续的。实际上，算法I等效于在选择适当的跨度之前交换完整矢量的情况。根据类似的推理，可以通过颠倒这两个步骤轻松地获得ATC策略。此外，D-LMS是D-SAF的一类特例，其中每个节点将其非线初始化为恒等式，且。图4-2D-SAF算法总结仿真实验结果与分析为了测试所研究的D-SAF，我们采用具有L=10个节点的网络拓扑，其连通性是随机生成的，使得每对节点都有60％的概率被连接，如图4-3所示。图4-3L=10的网络拓扑结构根据（13）中的维纳模型生成数据，其中最优权重从正态分布中随机提取，而实验的非线性如图4-4所示。这代表了轻微的非线性。每个节点的输入信号是由25000个样本组成，这些样本根据以下条件生成：(4-20)其中相关系数在[0，0.8]区间随机均匀分布在每个节点，而是具有零均值和方差的高斯白噪声项。所需的信号由（13）给出，其中每个节点处的噪声方差在[-10，-25]dB范围内随机分布。在所有实验中，节点在[－2，2]范围内是等间距的且。图4-4输出信号上的非线性失真本文对比了D-SAF与NC-SAF（Non-cooperativeSAF,NC-SAF）在选择对角线混合矩阵方面的差异。同样，本文还对比了标准的D-LMS与NC-LMS（Non-cooperativeLMS,NC-LMS）。通过保持固定的网络拓扑和系统最佳参数，重复试验15次。然后将所有节点的结果取平均值。局部相关系数，噪声方差和局部步长分别在区间[0，0.7]，[0，10^-2]和[0，10^-2]内随机选择。这些设置允许网络存在一定的变化。本文用均方误差（MeanSquareError,MSE）作为第一个度量误差，以dB为单位：(4-21)图4-5MSE图4-5给出了MSE的结果，其中所研究的算法以实心紫线表示，通过在不同节点上平均（21）来计算MSE。与预测的结果一致，由于非线性失真，LMS的总体性能较差，稳态MSE约为－5dB。此外，与NC-LMS相比，D-LMS几乎没有任何改进。相反，SAF滤波器能够很好地逼近期望的系统。然而，从图4-5可以看出，相对于非合作版本，扩散策略显著改善了收敛时间。通过计算线性均方差（MeanSquareDeviation,MSD）可以进一步证实这两种算法。MSD的计算公式为：(4-22)对于线性MSD的结果，见图4-6。图4-6线性MSD对于非线性MSD同样如此，见图4-7。图4-7非线性MSDD-SAF无论是在线性还是非线性的情况下，其性能都更加优秀。特别地，本文绘制了D-SAF和运行NC-SAF的三个代表性节点的MSD演变图，见图4-8和图4-9。图4-8节点2、节点6和节点10的线性MSD可以根据图4-8看出，在NC-SAF中，由于配置上的差异，某些节点的收敛速度要比其他节点慢得多，例如与节点6相比，节点2的收敛速度更快。图4-9节点2、节点6和节点10的非线性MSD根据图4-9，NC-SAF的节点2比节点10收敛得更快。而在D-SAF中，扩散式算法成功地抵消了这些统计的变化，且收敛速度比NC-SAF中最快的网络节点还快。图4-10NC-SAF节点2、节点6和节点10的输出图4-10显示了运行NC-SAF的三个代表性节点的输出结果。可以看出其中收敛最慢的节点10的曲线还不能很好地逼近预期系统，而收敛较快节点2就比较接近了。图4-11D-SAF的输出图4-11显示了运行D-SAF的输出结果。显然D-SAF更接近预期的系统，其输出曲线与输