神经网络-第三章课件

神经网络原理3.自适应线性元件由Widrow和Hoff提出，主要用于线性逼近一个函数式，因而能用于模式联想、信号处理滤波、预测、模型识别和控制等。线性激活函数,可以输出任意值比感知器具有更快的收敛速度和精度W-H学习规则(LMS)3.1自适应线形神经元

模型和结构网络结构

Adaline：一个自适应线性神经元模型

3.1自适应线形神经元

模型和结构

主要特点：神经元的激活函数为线性函数：ai=f(ni)=ni注意：

多层线性网络与单层线性网络的映射能力相同MALAB构造函数:

newlin()newlind()3.2W-H学习规则

W-H学习规则(δ规则,LMS算法)：由Widrow和Hoff提出的修正权矢量的学习规则。误差函数:E(W,B)=1/2SUM[T-A]2=1/2SUM[T-WP-B]2考虑多组输入输出对3.2W-H学习规则修正值:复习:梯度下降法(最速下降法)MATLAB工具函数:maxlinlr()learnwh()purelin()或3.4例题与分析例3.2模式联想：设输入和目标输出为

▲共16个线性方程，有准确解。但利用其他方法麻烦。▲实际中，只需要找到一定精度的近似解。▲结论：利用自适应网络在一定精度下快速逼近线性映射。，3.4例题与分析例3.3设计训练一个线性网络实现下列输入到输出的变换：P=[123;456],T=[0.51-1]。▲演示线性相关出现的情况。本例中系数矩阵为奇异的。▲newlind.m对奇异矩阵效果一般；对非线性问题，给出最小均方解，但效果不太理想。▲本例中利用newlin.m计算，误差较newlind.m小。3.4例题与分析例3.4在例3.1的输入/输出中增加两组元素，为P=[101.53.0-1.2],T=[0.51.13.0-1.0]。▲本例检验自适应网络的线性逼近能力。▲方程数大于未知数个数，无准确解。▲结论：本例用自适应线性网络解决不太适合。例3.5查看学习率与训练收敛及收敛速度的关系3.6单步延迟线及其自适应

滤波的实现

自适应滤波是字适应网络的主要应用领域之一，常用于数字信号处理领域中。单步延迟线3.6单步延迟线及其自适应

滤波的实现网络结构3.6单步延迟线及其自适应

滤波的实现

自适应线性滤波器的网络输入/输出关系：其中，初始输入3.6单步延迟线及其自适应

滤波的实现例3.6假定一个输入按输入顺序排列，其数值分别为3，4，5和6。该输入量自身产生两次延时，其延时量的初始输入值分别为1和2。用一个自适应线性网络对其滤波所获得的权矩阵为[789]。试计算在给定的输入值下该网络的输出值。3.7自适应线性网络的应用

1.线性化建模

▲参数辨识：系统的模型完全有几个参数决定，根据数据来求解系统内的各个参数。▲系统建模：通过实验所测得的输入/输出数据求解系统的最佳匹配模型。实际物理系统的输入/输出关系式：线性化建模就是将上述关系利用线性关系近似代替3.7自适应线性网络的应用▲神经网络系统建模设计原理图3.7自适应线性网络的应用▲神经网络预测模型原理图

3.7自适应线性网络的应用3.消除噪声

设有效信号为c(k)，噪声信号为v(k)，混合信号m(k),引擎噪声n(k)，误差e(k)m(k)=v(k)+c(k)e(k)=m(k)-a(k)=v(k)+c(k)-a(k)n(k)作