基于人工神经网络的系统辨识课件

基于人工神经网络的系统辨识,1,基于人工神经网络的系统辨识,系统辨识与自适应控制课程讲义,基于人工神经网络的系统辨识,2,主要内容,人工神经网络的概述人工神经元模型人工神经网络的结构人工神经网络的学习几种典型的人工神经网络系统辨识概述系统辨识的基本概念系统辨识的三要素系统辨识的基本过程基于神经网络的系统辨识技术人工神经网络辨识的基本原理飞行器系统气动力参数辨识,基于人工神经网络的系统辨识,3,人工神经网络的概述,1.1人工神经元模型,生物神经元结构,基于人工神经网络的系统辨识,4,人工神经网络的概述,1.1人工神经元模型,三个基本要素：1、连接权；2、求和单元；3、激活函数。,数学模型,基于人工神经网络的系统辨识,5,人工神经网络的概述,激活函数：,1、硬限幅(Heaviside)激活函数,2、线性激活函数,3、对数-S型(sigmoid)激活函数,4、对称硬极限激活函数5、饱和线性激活函数6、双曲正切S型激活函数7、正线性激活函数,基于人工神经网络的系统辨识,6,人工神经网络的概述,1.2神经网络的结构,前馈型网络（FNN）,根据激活函数的不同，FNN又可分为多种类型。如多层感知器（MLP）、径向基网络（RBF）、小波网络（WN）,基于人工神经网络的系统辨识,7,人工神经网络的概述,反馈（递归）型网络,全局反馈：Hopfield网络、Elman网络,局部反馈网络是在单个神经元上进行反馈，类型很多,基于人工神经网络的系统辨识,8,人工神经网络的概述,1.3神经网络的学习,通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点，在一般情况下，性能的改善是按某种规定的度量调节自身参数（如权值）并随时间逐步达到的，学习方式（按环境所供信息的多少分）有以下三种：有监督学习无监督学习强化学习,学习算法：学习规则（误差纠正规则）Hebb学习规则竞争学习,基于人工神经网络的系统辨识,9,人工神经网络的概述,1.4几种典型的人工神经网络,感知机神经网络BP（BackPropagation）神经网络径向基（RadialBasisFunction,RBF）神经网络竞争学习神经网络Hopfield神经网络Boltzmann神经网络,基于人工神经网络的系统辨识,10,人工神经网络的概述,BP神经网络,隐含层和输出层的激活函数采用对数-S型激活函数,基于人工神经网络的系统辨识,11,人工神经网络的概述,隐含层的第i个神经元在样本p作用下的输入为：,隐含层的第i个神经元的输出为：,输出层第k个神经元的总输入为：,输出层的第k个神经元的实际输出为：,BP网络的前馈计算,基于人工神经网络的系统辨识,12,人工神经网络的概述,BP网络权系数的调整规则,对于每一样本p的输入模式对的二次型误差函数为：,BP学习算法的基本原理是梯度最速下降法，它的中心思想是调整权值使网络总误差最小。学习过程按使误差函数Jp减小最快的方向调整加权系数直到获得满意的加权系数为止。因此，权系数应按Jp函数梯度变化的反方向调整，使网络逐渐收敛。,输出层的神经元权系数修改公式：,隐含层的神经元权系数修改公式：,基于人工神经网络的系统辨识,13,人工神经网络的概述,BP网络学习算法的计算步骤,初始化：置所有的加权系数为最小的随机数；提供训练集：给出输入向量p和期望的输出向量t。计算实际输出；计算期望值与实际输出的误差；调整输出层的加权系数；调整隐含层的加权系数；返回步骤（3），直到误差满足要求为止。,基于人工神经网络的系统辨识,14,系统辨识概述,2.1系统辨识的基本概念,设有一离散时不变因果系统，它的输入和输出分别为u(t)和yp(t)，并设u(t)是一致有界函数，那么辨识问题可以描述为寻求一数学模型,使得模型的输出和被辨识系统的输出尽量接近。,基于人工神经网络的系统辨识,15,系统辨识概述,2.2系统辨识三要素,辨识三要素和辨识要点,输入/输出数据,系统模型类型,等价准则,能够量测到的系统的输入/输出数据,所考虑的系统的结构,给出辨识的优化目标,输入信号的选择：必须能充分激励系统的所有模态。,模型的选择：兼顾精确性和复杂性,最常用的误差准则是误差平方和函数,基于人工神经网络的系统辨识,16,系统辨识概述,2.3系统辨识的基本过程,选定和预测被辨识系统的数学模型类型,试验设计：选择试验信号，记录输入/输出数据,参数估计：选择估计方法，根据测量数据估计数学模型中的未知参数。,模型验证：验证所确定的模型是否恰当地表示了系统,基于人工神经网络的系统辨识,17,基于神经网络的系统辨识技术,在正向建模问题中，神经网络与待辨识系统具有相同的输入，两者的输出误差作为网络的训练信号，这是典型的有监督学习问题。学习结束后，网络模型将具有与实际系统相同的输入输出特性。,3.1人工神经网络辨识的基本原理,正向模型,（1）正向模型,基于人工神经网络的系统辨识,18,基于神经网络的系统辨识技术,（2）逆向模型,直接逆模型,间接逆模型,直接逆向模型是把系统输出作为网络输入，用网络的输出与系统的输入作比较,两者的误差作为网络的训练信号；而间接模型结构中有一个已知的系统正向模型,同时将逆模型网络与系统串联，网络输入是系统的期望输出，训练信号为系统的期望输出与其实际输出之差，或者是与己知神经网络正向模型的输出之差。,基于人工神经网络的系统辨识,19,飞行器系统气动力参数辨识,3.2飞行器系统气动力参数辨识,飞行器系统各主要符号及其含义（6自由度）,基于人工神经网络的系统辨识,20,飞行器系统气动力参数辨识,滚转姿态（副翼）,基于人工神经网络的系统辨识,21,飞行器系统气动力参数辨识,俯仰（水平尾翼）,基于人工神经网络的系统辨识,22,飞行器系统气动力参数辨识,偏航（垂直尾翼）,基于人工神经网络的系统辨识,23,飞行器系统气动力参数辨识,假设：飞行器具有对称平面;运动中对称平面处于铅垂位置,且运动平面与飞机对称平面重合;飞行器进行定常直线运动。,线性小扰动方程可分为彼此独立的两组，即可在纵、横两个方向上进行解耦。,注：系统方程见文档,基于人工神经网络的系统辨识,24,飞行器系统气动力参数辨识,纵向系统仿真,基于人工神经网络的系统辨识,25,飞行器系统气动力参数辨识,通过MATLAB仿真得到纵向系统输入如右(其中，左侧输入为宽度为3秒的单位幅度脉冲；右侧输入为宽度为1秒的单位幅度脉冲),基于人工神经网络的系统辨识,26,飞行器系统气动力参数辨识,利用神经网络的正向辨识模型，对飞行器系统在小扰动情况下的动态特性进行辨识。采用串并联辨识模型，通过试验发现