基于人工神经网络的系统辨识

1、基于人工神经网络的系统辨识,系统辨识与自适应控制 课程讲义,主要内容,人工神经网络的概述 人工神经元模型 人工神经网络的结构 人工神经网络的学习 几种典型的人工神经网络 系统辨识概述 系统辨识的基本概念 系统辨识的三要素 系统辨识的基本过程 基于神经网络的系统辨识技术 人工神经网络辨识的基本原理 飞行器系统气动力参数辨识,人工神经网络的概述,1.1 人工神经元模型,生物神经元结构,人工神经网络的概述,1.1 人工神经元模型,三个基本要素： 1、连接权；2、求和单元；3、激活函数。,数学模型,人工神经网络的概述,激活函数：,1、硬限幅(Heaviside)激活函数,2、线性激活函数,3、对数-S

2、型(sigmoid)激活函数,4、对称硬极限激活函数 5、饱和线性激活函数 6、双曲正切S型激活函数 7、正线性激活函数 ,人工神经网络的概述,1.2 神经网络的结构,前馈型网络（FNN）,根据激活函数的不同，FNN又可分为多种类型。如多层感知器（MLP）、径向基网络（RBF）、小波网络（WN）,人工神经网络的概述,反馈（递归）型网络,全局反馈：Hopfield网络、Elman网络,局部反馈网络是在单个神经元上进行反馈，类型很多,人工神经网络的概述,1.3 神经网络的学习,通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点，在一般情况下，性能的改善是按某种规定的度量调节自身参数（如权

3、值）并随时间逐步达到的，学习方式（按环境所供信息的多少分）有以下三种： 有监督学习 无监督学习 强化学习,学习算法： 学习规则（误差纠正规则） Hebb学习规则 竞争学习,人工神经网络的概述,1.4 几种典型的人工神经网络,感知机神经网络 BP（Back Propagation）神经网络 径向基（Radial Basis Function, RBF）神经网络 竞争学习神经网络 Hopfield神经网络 Boltzmann神经网络 ,人工神经网络的概述,BP神经网络,隐含层和输出层的激活函数采用对数-S型激活函数,人工神经网络的概述,隐含层的第i个神经元在样本p作用下的输入为：,隐含层的第i个神

4、经元的输出为：,输出层第k个神经元的总输入为：,输出层的第k个神经元的实际输出为：,BP网络的前馈计算,人工神经网络的概述,BP网络权系数的调整规则,对于每一样本p的输入模式对的二次型误差函数为：,BP学习算法的基本原理是梯度最速下降法，它的中心思想是调整权值使网络总误差最小。 学习过程按使误差函数Jp减小最快的方向调整加权系数直到获得满意的加权系数为止。因此，权系数应按Jp函数梯度变化的反方向调整，使网络逐渐收敛。,输出层的神经元权系数修改公式：,隐含层的神经元权系数修改公式：,人工神经网络的概述,BP网络学习算法的计算步骤,初始化：置所有的加权系数为最小的随机数； 提供训练集：给出输入向量

5、p和期望的输出向量t。 计算实际输出； 计算期望值与实际输出的误差； 调整输出层的加权系数； 调整隐含层的加权系数； 返回步骤（3），直到误差满足要求为止。,系统辨识概述,2.1 系统辨识的基本概念,设有一离散时不变因果系统，它的输入和输出分别为u(t)和yp(t)，并设u(t)是一致有界函数，那么辨识问题可以描述为寻求一数学模型, 使得模型的输出和被辨识系统的输出尽量接近。,系统辨识概述,2.2 系统辨识三要素,辨识三要素和辨识要点,输入/输出数据,系统模型类型,等价准则,能够量测到的 系统的 输入/输出数据,所考虑的 系统的结构,给出辨识的 优化目标,输入信号的选择： 必须能充分激励 系统

6、的所有模态。,模型的选择： 兼顾精确性 和复杂性,最常用的误差 准则是 误差平方和函数,系统辨识概述,2.3 系统辨识的基本过程, 选定和预测被辨识系统的数学模型类型,试验设计：选择试验信号，记录输入/输出数据,参数估计：选择估计方法，根据测量数据估计 数学模型中的未知参数。,模型验证：验证所确定的模型是否 恰当地表示了系统,基于神经网络的系统辨识技术,在正向建模问题中，神经网络与待辨识系统具有相同的输入，两者的输出误差作为网络的训练信号，这是典型的有监督学习问题。学习结束后，网络模型将具有与实际系统相同的输入输出特性。,3.1 人工神经网络辨识的基本原理,正向模型,（1）正向模型,基于神经网

7、络的系统辨识技术,（2）逆向模型,直接逆模型,间接逆模型,直接逆向模型是把系统输出作为网络输入，用网络的输出与系统的输入作比较,两者的误差作为网络的训练信号；而间接模型结构中有一个已知的系统正向模型,同时将逆模型网络与系统串联，网络输入是系统的期望输出，训练信号为系统的期望输出与其实际输出之差，或者是与己知神经网络正向模型的输出之差。,飞行器系统气动力参数辨识,3.2 飞行器系统气动力参数辨识,飞行器系统各主要符号及其含义（6自由度）,飞行器系统气动力参数辨识,滚转姿态（副翼）,飞行器系统气动力参数辨识,俯仰（水平尾翼）,飞行器系统气动力参数辨识,偏航（垂直尾翼）,飞行器系统气动力参数辨识,假设： 飞行器具有对称平面; 运动中对称平面处于铅垂位置,且运动平面与飞机对称平面重合; 飞行器进行定常直线运动。,线性小扰动方程可分为彼此独立的两组，即可在纵、横两个方向上进行解耦。,注：系统方程见文档,飞行器系统气动力参数辨识,纵向系统仿真,飞行器系统气动力参数辨识,通过MATLAB仿真得到纵向系统输入如右 (其中，左侧输入为宽度为3秒的单位幅度脉冲；右侧输入为宽度为1秒的单位幅度脉冲),飞行器系统气动力参数辨识,利用神经网络的正向辨识模型，对飞行器系统在小扰动