系统辨识考试汇总

1、基于人工神经网络的二阶系统辨识摘要：BP神经网络是误差反向传播神经网络的简称，提供了一个处理非线性问题的模型。本文针对带有噪声的二阶系统，提出了改进的BP神经网络对二阶系统的辨识方法，以达到对系统的精确辨识；通过仿真实验数据可得，神经网络的输出与被辨识系统输出之间的误差很小（当k>=8时，error<0.1%）；首先介绍了人工神经网络的系统辨识方面的发展与研究现状，然后介绍常规BP算法和改进的BP算法，最后通过一个具体的二阶系统的实例充分证明了改进BP神经网络具有的良好辨识效果，实用性强。关键字： BP神经网络；系统辨识；二阶非线性系统 Second-order system id

2、entification based on artificial neural networksWeiLu(College of Electrical and Control Engineering, Xian University of Science and Technology，Xian 710054,China)Abstract：BP neural network is the abbreviation of erroneous reverse transmission neural network, which provides a model of dealing with non

3、linear problems.In this paper, the second-order system with noise, and puts forward the improved BP neural network to second order system modeling method. In order to achieve an accurate identification of the system.Through the simulation experiment the error between the output of neural network and

4、 the output of identification system is very small(The error<0.1% when k>=8). First, introduced the artificial neural network system identification aspects of development and research,Then, introduced the conventional BP algorithm and improved BP algorithm,Finally, Through an example of a spec

5、ific second-order system fully proved that the improved BP neural network has good recognition results and practical.Key words：BP neural network；System Identification；Second-order nonlinear system一 绪论 在自然科学和社会科学的各个领域中，越来越多需要辨识系统模型的问题已广泛引起人们的重视，很多学者在研究有关线性和非线性的辨识问题。（一）系统辨识概述 系统辨识（System Identificatio

6、n）是现代控制理论中一个很重要的组成部分，现今控制理论的应用日益广泛，控制过程的复杂性日益提高，但它的实际应用仍不能脱离控对象的数学模型。它是根据系统的输入输出时间函数来确定描述系统行为的数学模型，是现代控制理论中的一个分支。通过辨识建立数学模型的目的是估计表征系统行为的重要参数，建立一个能模仿真实系统行为的模型，用当前可测量的系统的输入和输出预测系统输出的未来演变，以及设计控制器。在多数情况下，被控对象的数学模型是不知道的，或在正常运行期间模型的参数可能发生变化。因此利用控制理论去解决实际问题时，首先要建立被控对象的具体模型，充分掌握被研究对象的变化规律。在表征系统对象的相互关系时，确定对应

7、的数学模型，是控制理论能否成功地应用于实际的关键之一，辨识正是适应这一需要而形成的一门学科。 对系统进行分析的主要问题是根据输入时间函数和系统的特性来确定输出信号。对系统进行控制的主要问题是根据系统的特性设计控制输入，使输出满足预先规定的要求。而系统辨识所研究的问题恰好是这些问题的逆问题。系统辨识包括两个方面：结构辨识和参数估计。在实际的辨识过程中，随着使用的方法不同，结构辨识和参数估计这两个方面并不是截然分开的，而是可以交织在一起进行的。概况起来，辨识的实质就是从一组模型类中选择一个模型，按照某种准则，使之能最好的拟合所关心的实际过程的动态特征。（二）神经网络概述神经网络是从微观结构和功能上

8、模拟人脑的组织结构和运行机制。由大量简单的神经元分层组织在一起，实现人脑的某些功能。它不需要对被描述的对象建模，能够较好地描述非线性系统和不确定性系统。神经网络具有可并行计算、分布式信息存储、自适应和自学习功能强等优点。被广泛应用在非线性控制领域。比其他非线性辨识方法优越的是神经网络可以不依赖模型函数，也就是说，可以不用了解被辨识非线性系统输入和输出之间存在何种数学关系，只要给定系统输入样本、网络的结构以及系统输出的教师信号，利用网络输出和教师信号的差值来修正网络的权值和阈值，直至满足要求。目前广泛使用的有两种神经网络，一种是多层神经网络，另一种是循环神经网络。其中BP网络是最常用的一种多层神

9、经网络。（三）非线性时变系统概述 所谓非线性系统，是指系统的输入输出关系不符合叠加原理的性质。与线性系统相比，非线性系统响应多个信号的输出量，并不等于每个信号的加权求和量。非线性系统广泛存在于人们的生产生活中，随着人类社会的发展进步，越来越多的非线性现象和非线性系统被研究者们认识并关注。在实际应用中，许多模型被当作线性模型来对待，原因是线性系统辨识理论已经趋于成熟，线性模型更易于分析和处理。由于被辨识的系统特性是随时间而变化的，所以历史数据不能完全反映被辨识系统的当前特性，真正能够反映当前特性的是较新的观测数据。因此为提高辨识效果，需强调新信息对模型参数的作用，即通过新的观测数据不断提取新的系

10、统信息，更新参数，从而实时反映时变系统的当前特性。随着科学技术的迅猛发展，控制系统越来越复杂，对控制精度的要求越来越高，具有复杂非线性的系统不能用线性模型来近似替代，所以研究非线性系统辨识理论有着很重要的实际意义。二 BP神经网络在人工神经网络的实际应用中，BP网络广泛应用于系统辨识、函数逼近、模式识别/分类、数据压缩等。80%90%的人工神经网络模型采用BP网络或它的变化形式，它是前馈网络的核心部分，体现了人工神经网络最精华的部分。BP学习算法属于误差修正型学习，其关键在于根据误差修正输出层和隐含层的连接权值。学习的基本实现方式是基于最小平方误差准则和梯度下降最优化方法来确定权值调整法则。（

11、1） BP神经网络模型BP(Back Propagalion)网络是一种基于误差反向传播算法的、单向传播的多层前馈网络。BP网络由于具有结构简单、可操作性强、能模拟任意的非线性输入输出关系等优点而成为目前广泛使用的神经网络模型。BP神经网络由输入层、隐藏层和输出层三层结构组成，其中隐藏层又可分为单层结构和多层结构。每层由若干个神经元构成，相邻层之间由权值来连接，且每一个神经元都与相邻层的所有神经元相连接，其拓扑结构如图1所示：图1 BP网络的拓扑结构BP神经网络由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给隐藏层各神经元；隐藏层是内部信息处理层

12、，负责信息变换，根据信息变化能力的需求，隐藏层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。（2） BP算法推导（1）输出误差E的定义：将以上误差定义式展开至隐层： 其中 进一步展开至输入层：

13、（2）误差反传 综合输出层权值调整式改写为：综合隐层权值调整式改写为： （3）函数激发 在非线性系统模型辨识中，常用的是一种典型的多层并行网，即多层BP网络。其激发函数通常选用连续可导的Sigmoid函数： 故 （三）BP网络存在的问题及解决方案 BP网络在实际应用中存在不少问题： （1）学习算法的收敛速度慢，它是以梯度下降法为基础的，只具有线性收敛速度。（2）学习因子和记忆因子 ，没有一种选择的规则，若选得过大会使训练过程引起振荡，若选得过小会使训练过程更加缓慢。（3）网络对初始值的敏感度。（4）网络的隐层节点个数的选择尚无理论指导，而是根据经验选取。（5）从数学上看BP算法是一个非线性的优

14、化问题，这就是不可避免得存在局部极小问题。 近年来人们对BP算法做了大量研究改进工作，主要包括以下几个方面： （1）提高学习速率的方法研究。Jacobs等在这个研究中做了大量工作。他们主要是根据学习进展情况在训练过程中改变学习因子。采用这种方法改进的BP算法，其好处是不增加额外的计算量，通过调整学习因子基本上可保证算法的收敛，但还是不能令人满意。 （2）利用目标函数的二阶导数信息对网络训练精度的改进。Kramer等在这当面做了大量研究。这种方法主要是利用指标函数二阶信息，即二阶导数矩阵或是对二阶导数矩阵的近似，这样构成其具有超线性收敛的算法。这种研究是以非线性优化理论为基础的，是将BP多层网的

15、训练问题归结为一个非线性的规划问题。但这种算法的应用带来了一些实际问题。BP多层网本身就是一种并行处理结构，要采用这种改进的算法，则必须将网络的权值展开构成一个权向量来进行各种向量、矩阵运算，或者构成一个矩阵近似指标函数，该阵是关系权值向量的Hessian阵。这对于多层网的并行处理能力有较大影响。有些研究者将二阶信息应用到某一层或者某一节点，这在一定程度上对网络训练的精度有所改进，但又使运算工作量增加，从而影响了训练速度。 以上两种改进算法为提高神经网络的训练速度和精度的研究奠定了基础。因此，对非线性程度不太严重、并行算法要求不太高且被测系统过渡过程较慢的情况，二阶算法是可用的。三 采用改进B

16、P神经网络对具有噪声的二阶系统辨识（1） 建模过程系统辨识中有正向建模和逆向建模的结构，从神经网络的输入/输出与被辨识系统的输入/输出的关系上，正向建模可分为两种辨识结构：并联型与串并联型，逆向建模分为直接逆向辨识结构和特殊逆向辨识结果。 1）并联型：如图2所示，由于被辨识系统的输入/输出与神经网络的输入/输出是并联的，所以称之为并联型辨识结构。并联模型由内时延反馈网络、输出反馈网络实现。图2 并联型辨识结构 2）串并联型：如图3所示，由于被控对象的输入与NN的输入并联，而被控对象的输出串联至NN的输入，所以称为串一并联型辨识结构。串并联结构可由时延神经网络、PID神经网络实现。由于此型结构用

17、系统输入/输出作为辨识信息对网络进行训练，因此有利于保证辨识模型的收敛性和稳定性，所以这种结构在系统辨识中应用较多。图3 串并联型辨识结构（2） 基于降低网络灵敏度的BP网络改进算法在网络输入扰动、网络参数变化或被辨识系统参数变化时，根据系统在被辨识过程中的误差，动态地控制神经网络各层权值，特别是最末一级隐层到输出层的权值矩阵（即输出层的权值矩阵）修正，可以使网络的输出的均方差快速减小，从而使网络灵敏度降低。本文采用的基于降低网络灵敏度的BP网络改进算法。神经网络辨识器的灵敏度定义为对第j个输入的网络输出分量，由于激发函数sigmoid作用下，经过化简可以得到： 在常规BP学习算法基础上，在网

18、络的误差反向传播信号线上增加一个协调器，该协调器控制各层权值的修正；当网络的综合误差较大时，协调器控制网络输出层的权值阵增大，使网络输出迅速变化；当训练误差为时，协调器控制网络输出层的权值阵减小，同时停止其他层权值的修正，使网络灵敏度降低，以免网络输出过冲，造成反向误差；当训练误差时，协调器控制只允许靠近网络输入层的第一或第二级隐层权值修正，同时停止网络输出层的权值阵和其他级隐层权值的修正，网络灵敏度再降低，使网络输出和被辨识系统的输出误差达到允许值。基于降低网络灵敏度的BP网络改进算法，动态地将全局反向传播式网络变成局部反传式网络，可以使网络学习速率大大提高。（三）改进BP神经网络对具有噪声

19、的二阶系统辨识 应用Matlab软件里的神经网络工具包对带有噪声的二阶系统模型进行辨识。对具有随机噪声的二阶系统的模型辨识，进行标幺化以后系统的参考模型差分方程为：式中，为随机噪声。由于神经网络的输出最大为1，所以，被辨识的系统应先标幺化，这里标幺化系数为5.利用图2正向建模（并联辨识）结构，神经网络选用3-9-9-1（输入层i、隐层j包括2级，输出层k的节点个数分别为3、9、9、1个）型，采用改进BP算法，在常规的BP网络中增加协调器，采用Sigmoid函数。辨识结果： 图5 改进BP算法对具有随机噪声的二阶系统辨识结果各层权值如下：w11ij = w21j = 0.2352 0.4855

20、0.2455-0.0591 -0.1009 0.1585 0.0691 0.1009 0.2093 0.1989 0.0494 0.0475 0.0607 0.2363 0.1214 -0.1525 0.1005 0.1260 0.0210 -0.1191 -0.0157 -0.1511 0.0994 0.0475 0.0993 0.0989 0.0994 0.0475 -0.0007 0.0989 -0.1506 0.04750.0993 0.2489 0.0994 0.0475w121ij = Columns 1 through 9 0.0166 0.0182 0.0144 0.0105

21、0.0024 0.0034 0.0024 0.0024 0.0024 0.0247 0.0297 0.0212 0.0128 -0.0028 -0.0009 -0.0028 -0.0027 -0.0028 0.1465 0.1672 0.1268 0.0866 0.0069 0.0168 0.0069 0.0069 0.0069 0.3045 0.3436 0.2640 0.1844 0.0240 0.0441 0.0240 0.0239 0.0240 0.1536 0.1729 0.1333 0.0935 0.0132 0.0233 0.0132 0.0132 0.0132 0.1465 0

22、.1672 0.1268 0.0866 0.0069 0.0168 0.0069 0.0069 0.0069 0.1465 0.1672 0.1268 0.0866 0.0069 0.0168 0.0069 0.0069 0.0069 0.1465 0.1672 0.1268 0.0866 0.0069 0.0168 0.0069 0.0069 0.0069 0.1465 0.1672 0.1268 0.0866 0.0069 0.0168 0.0069 0.0069 0.0069 图5中,yx表示被辨识系统的输出，ym表示神经网络的输出，即由改进BP算法辨识的系统模型的输出。在程序中yx和y

23、m已用标幺化系数还原到原系统值。“error”表示辨识过程中的训练误差，在k=8以前最大误差不超过0.2%，之后误差在0.1%以内。“random noise”表示随机噪声。四 结论虽然传统BP神经网络方法具有很高的拟合精度，但是学习算法的收敛速度却比较慢。本文主要根据学习进展情况（一般指训练误差）在训练过程中改变学习因子的基础上，在神经网络的误差反传权值修正时增加一个协调器，该协调器将全反传式网络变成局部反传式网络，使学习速率大大提高。因此提出改进的BP神经网络对具有噪声的二阶系统有很好的辨识效果，误差较小，学习速率快。参考文献1侯媛彬，汪梅，王立琦.系统辨识及其MATLAB仿真M北京：科学

24、出版社，2004:197-214.2翟东海，李力.基于模糊神经网络的非线性系统模型的辨识J.计算机学报，2004，V27（4）：561-5653刘玉儒，张振华，刘陵顺，刘迪.一种基于BP神经网络算法PID控制器的研究与仿真J.电子设计工程，2012,20（12）4何松，戚建宇.基于改进BP神经网络的手写体数字识别.计算机科学J,2011,385宋宜斌，王培进.基于径向基函数神经网络的非线性模型辨识J.计算机工程2004，V30(5):142-1446崔功杰,王国宏,刘振献.基于L-M算法改进BP网络的信息对抗能力评估.火力与指挥控制J.2012,377黄威.非线性时变系统的辨识方法的研究J.湖

25、南农机，2012，39（7）8李昕奇，金勇.GA-BP神经网络在伺服系统辨识中的应用J.机械制造与自动化，2012,419史会余，孟凡荣.BP神经网络在煤矿监测数据预测中的应用J.微计算机信息，2008,2410H Karagvlle;L Malgaca;H F Anslysis of Active Vibration Control in Structures by ANSYSJ.200411欧阳金亮，陆黎明.综合改进BP神经网络算法在股价预测中的应用.计算机与数字工程J.2011,25612张翼飞，杨辉，邓方林.二阶系统模糊结构控制器设计及稳定性分析.系统工程与电子技术J，2005，27（

26、2）13张京军，王二成，何丽丽，高瑞贞.基于BP神经网络的压电智能结构振动系统辨识.噪声与振动控制J，2008,28（3）14ZENG Jun,FANG Hou-hui.PID control and MATLAB simulation of the neural networkJ.Modern Electronic Technology,2004,27(2):51-5215Lu Qiuqin,Liu Guan.An Approach to Air Leakage Points Identification in Branches of Ventilation System Based on

27、Fishswarm AlgorithmJ.Journal of System Simulation(S1004-731X),2007,19(12):2677-2682.)附录：程序清单：w10ij=.01 .01 .02; .1 .11 .02; .01 0 .1; .11 .01 .02;.1 .1 .02; .11 .1 .1;.1 .1 .1;0 .1 .1;.1 0 .1; w11ij=.1 .2 .11; .02 .13 .04; .09 .08 .08; .09 .1 .06; .1 .11 .02; .06 0 .1;.1 .1 .1;0 .1 0;.1 .1 .1; w20j=

28、.01;.02;.1;.2;.1;.1;.1;.1;.1; w21j=0; 0.1; .1; .02;0;.1;.1;.1;.1;q0j=.9 .8 .7 .6 .1 .2 .1 .1 .1; q120j=q0j;q11j=.5 .2 .3 .4 .1 .2 .1 .1 .1;q12j=q11j;w121ij=w20j*q0j;w120ij=w20j*q11j; f1=5;q2j=0; % threshold valuep0=.2;k1=1;p1=.3;w=0;xj=1 1 1; % inputs error=0.0001;a1=1 1 1 1;n=1;e1=0;e0=0;e2=0;e3=0;

29、e4=0;yo=0;ya=0;yb=0;y0=0;y1=0;y2=0;y3=0;u=0;u1=0;u2=0.68;u3=.780;u4=u3-u2;k1=1;kn=28;e3=.055; z1=0;z12=0; q123j=0; t2j=0; o12j=0;r=0;r1=0; s=0.1;d2j=0;%+% calculating output of the hidden layer v1=randn(1,60);for m=1:60 s1=0.1*v1(m) yn=.3366*y2+.6634*u1+s*s1; y1=y2;y2=yn; yp=yn;u0=u1;u1=u2; yx(m)=yn

30、; for k=1:100% calculating output of the hidden layer(1) for i=1:9 x1=w11ij(i,1)*xj(:,1)+w11ij(i,2)*xj(:,2)+w11ij(i,3)*xj(:,3); x=x1+q11j(:,i); o=1/1+exp(-x); o11j(i)=o; end% calculating output of the hidden layer(2) for i=1:9 for j=1:9 z1=z1+w121ij(i,j)*o11j(:,j); end z=z1+q12j(:,i); o=1/1+exp(-x);

31、 o12j(i)=o; end % calculating output of the output layer for i=1:9 yb=yb+w21j(i,:)*o12j(:,i); end yi=yb+p1; y=1/1+exp(-yi); % calculating error value between aim and practice value e0=e1; e1=e2; e2=(yp-y).2/2; e(k)=e2; xj1=e2; xj2=e1; xj3=e0; xj=xj1 xj2 xj3; % revising right value (1) for i=1:9 d1=o

32、11j(:,i)*1-o11j(:,i)*d2j*w21j(i,:);%计算第1隐层误差反传信号 do=o11j(:,i)*d1; qw=q11j(:,i)-q0j(:,i); q2j=q11j(:,i)+.8*do+.4*qw; q3j(:,i)=q2j; for j=1:3 dw=w11ij(i,j)-w10ij(i,j); w12ij=w11ij(i,j)+.8*do*xj(j)+.6*dw; w13ij(i,j)=w12ij; end end w10ij=w11ij; w11ij=w13ij; q0j=q11j; q11j=q3j;% revising right value (2) for i=1:9 d1=o12j(:,i