第11章 神经网络控制系统设计

1、第第11章章 神神 经网络控制系统设计经网络控制系统设计 第第11章章 神经网络控制系统设计神经网络控制系统设计 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.1 神经网络理论基础神经网络理论基础 人工神经网络（人工神经网络（ANNArtificial Neural Networks） 或称联接机制（或称联接机制（Connectionism），是源于人脑神经系统），是源于人脑神经系统 的一类模型，是模拟人类智能的一条重要途径，具有模的一类模型，是模拟人类智能的一条重要途径，具有模 拟人的部分形象思维的能力。拟人的部分形象思维的能力。 它是由简单信息处理单元（人工神经元，简称神

2、经元）它是由简单信息处理单元（人工神经元，简称神经元） 互连组成的网络，能接受并处理信息，网络的信息处理互连组成的网络，能接受并处理信息，网络的信息处理 由处理单元之间的相互作用来实现，它是通过把问题表由处理单元之间的相互作用来实现，它是通过把问题表 达成处理单元之间的联接权来处理的。达成处理单元之间的联接权来处理的。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.1.1 人工神经网络的特点人工神经网络的特点 人工神经网络（简称神经网络人工神经网络（简称神经网络NN）是由人工神经）是由人工神经 元（简称神经元）互连组成的网络，它是从微观结构和元（简称神经元）互连组成的网络，它

3、是从微观结构和 功能上对人脑的抽象、简化，是模拟人类智能的一条重功能上对人脑的抽象、简化，是模拟人类智能的一条重 要途径，反映了人脑功能的若干基本特征，如并行信息要途径，反映了人脑功能的若干基本特征，如并行信息 处理、学习、联想、模式分类、记忆等。处理、学习、联想、模式分类、记忆等。 神经网络对控制领域有吸引力的特征：神经网络对控制领域有吸引力的特征： (1) 能逼近任意的非线性函数。能逼近任意的非线性函数。 (2) 信息的并行分布式处理与存储。信息的并行分布式处理与存储。 (3) 可以多输入、多输出。可以多输入、多输出。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 (4) 便于

4、用超大规模集成电路系统实现，或用现有的计便于用超大规模集成电路系统实现，或用现有的计 算机技术实现。算机技术实现。 (5) 能进行学习，以适应环境的变化。能进行学习，以适应环境的变化。 决定网络整体性能的三大要素：决定网络整体性能的三大要素： (1) 神经元（信息处理单元）的特性。神经元（信息处理单元）的特性。 (2) 神经元之间相互联接的形式神经元之间相互联接的形式拓扑结构。拓扑结构。 (3) 为适应环境而改善性能的学习规则。为适应环境而改善性能的学习规则。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.1.2 人工神经网络原理人工神经网络原理 如同大脑一样，神经网络的基本

5、单元也称为神经元或如同大脑一样，神经网络的基本单元也称为神经元或 人工神经元或处理单元。可认为处理单元是一种类似的人工神经元或处理单元。可认为处理单元是一种类似的 最基本的生物神经元，它能完成生物神经元最基本的三最基本的生物神经元，它能完成生物神经元最基本的三 种处理过程：种处理过程： (1) 评价输入信号，决定每个输入信号的强度。评价输入信号，决定每个输入信号的强度。 (2) 计算所有输入信号的权重之和，并与处理单元的阈计算所有输入信号的权重之和，并与处理单元的阈 值进行比较。值进行比较。 (3) 决定处理单元的输出。决定处理单元的输出。 第第11章章 神神 经网络控制系统设计经网络控制系统

6、设计 阈值由传递函数来确定。传递函数一般是非线性的，阈值由传递函数来确定。传递函数一般是非线性的， 有时也采用线性函数。但应该注意许多问题不能简单地有时也采用线性函数。但应该注意许多问题不能简单地 用一条直线将其分成两类。用一条直线将其分成两类。 将处理单元排成一列，形成一个处理单元层，若将几将处理单元排成一列，形成一个处理单元层，若将几 层连接在一起，接受输入的层称为输入层，给出输出信层连接在一起，接受输入的层称为输入层，给出输出信 号的层称为输出层，其他层为中间层或隐含层，这些层号的层称为输出层，其他层为中间层或隐含层，这些层 在神经网络中类似于黑箱。在神经网络中类似于黑箱。 如果前一层的

7、每一个处理单元都与后一层中的每个处如果前一层的每一个处理单元都与后一层中的每个处 理单元相连，则这种网络称为全面连接的网络。否则为理单元相连，则这种网络称为全面连接的网络。否则为 部分连接的网络。部分连接的网络。 若没有一个处理单元的输出与本层或前一层的处理单若没有一个处理单元的输出与本层或前一层的处理单 元相连接，则这种网络称为正反馈网络；反之，若输出元相连接，则这种网络称为正反馈网络；反之，若输出 可直接返回同层或前一层处理单元的输入，则这种网络可直接返回同层或前一层处理单元的输入，则这种网络 称为负反馈网络。具有闭环的负反馈网络又称为循环系称为负反馈网络。具有闭环的负反馈网络又称为循环系

8、 统统 。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 编制神经网络程序，主要是确定传递函数（即决定编制神经网络程序，主要是确定传递函数（即决定 值的方程）、训练规划（即设置初始权重的规则及修改值的方程）、训练规划（即设置初始权重的规则及修改 权重的方程）以及网络的结构（即处理单元数、层数及权重的方程）以及网络的结构（即处理单元数、层数及 相互连接状况）。相互连接状况）。 在网络中，信息不像普通计算机储存在单一的内存区，在网络中，信息不像普通计算机储存在单一的内存区， 而是储存在整个系统中，这种结构使网络更具有适应性，而是储存在整个系统中，这种结构使网络更具有适应性， 如果遗失某

9、些处理单元，则仍可不丢失存在那儿的信息。如果遗失某些处理单元，则仍可不丢失存在那儿的信息。 这种储存信息的方式是新一代信息处理方式的代表。这种储存信息的方式是新一代信息处理方式的代表。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.1.3 MP神经元模型与人工神经网络的神经元模型与人工神经网络的构成构成 早在早在1943年，年，McCulloch和和Pitts就定义了一种简单的人工就定义了一种简单的人工 神经元模型，称为神经元模型，称为MP模型。其响应函数为阶跃函数，模型结模型。其响应函数为阶跃函数，模型结 构如图构如图11.1所示。所示。 y x1 x2 xn w1 w2

10、wn 早在1943年 McCulloch 图11.1 MP模型结构 第第11章章 神神 经网络控制系统设计经网络控制系统设计 设神经元的一组输入用向量表示为设神经元的一组输入用向量表示为 X=(x1，x2，xn) 其相应权值为其相应权值为 W=(w1，w2，wn) 神经元的阈值为神经元的阈值为，输出为，输出为y，则，则 其中其中 1 () n ii i yfw x 10 ( ) 00 x fx x 第第11章章 神神 经网络控制系统设计经网络控制系统设计 阶层型和全互连接型。如图阶层型和全互连接型。如图11.2和图和图11.3 所示所示 : x1 x2 xn y1 y2 yn 图图11.2 阶

11、层型人工神经网络结构阶层型人工神经网络结构 图图11.3 全互连接型人工神经网络结构全互连接型人工神经网络结构 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.1.4 神经网络的学习方法神经网络的学习方法 1基本的学习机理基本的学习机理 一个神经网络仅仅具有拓扑结构，还不能具有任何一个神经网络仅仅具有拓扑结构，还不能具有任何 智能特性，必须有一套完整的学习、工作规则与之配合。智能特性，必须有一套完整的学习、工作规则与之配合。 其实，对于大脑神经网络来说，完成不同功能的网络区其实，对于大脑神经网络来说，完成不同功能的网络区 域都具有各自的学习规则，这些完整和巧妙的学习规则域都具有

12、各自的学习规则，这些完整和巧妙的学习规则 是大脑在进化学习阶段获得的。人工神经网络的学习规是大脑在进化学习阶段获得的。人工神经网络的学习规 则，说到底就是网络连接权的调整规则。我们可以从日则，说到底就是网络连接权的调整规则。我们可以从日 常生活中一个简单的例子了解网络连接权的调整机理。常生活中一个简单的例子了解网络连接权的调整机理。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 神经网络是由许多相互连接的处理单元组成的。每一个处神经网络是由许多相互连接的处理单元组成的。每一个处 理单元有许多输入量理单元有许多输入量xi ，而对每一个输入量都相应有一个相，而对每一个输入量都相应有一个

13、相 关联的权重关联的权重wi。处理单元将经过权重的输入量。处理单元将经过权重的输入量xiwi相加（权相加（权 重和），而且计算出唯一的输出量重和），而且计算出唯一的输出量yi 。这个输出量是权重和。这个输出量是权重和 的函数的函数f 。处理单元模型如图。处理单元模型如图11.4所示。所示。 图中图中 y1 y2 yn x1 x2 xn w1 w2 wn I | f 图11.4 处理单元模型 () ii i Iwx yfI 第第11章章 神神 经网络控制系统设计经网络控制系统设计 2学习方式学习方式 有两种不同的学习方式或训练方式，即有指导的训练和没有两种不同的学习方式或训练方式，即有指导的训练

14、和没 有指导的训练。很明显，有指导的学习或训练需要有指导的训练。很明显，有指导的学习或训练需要“教师教师”， 教师即是训练数据本身，不但包括有输入数据，还包括有在教师即是训练数据本身，不但包括有输入数据，还包括有在 一定输入条件下的输出数据。网络根据训练数据的输入和输一定输入条件下的输出数据。网络根据训练数据的输入和输 出来调节本身的权重，使网络的输出符合于实际的输出。没出来调节本身的权重，使网络的输出符合于实际的输出。没 有指导的学习过程指训练数据只有输入而没有输出，网络必有指导的学习过程指训练数据只有输入而没有输出，网络必 须根据一定的判断标准自行调整权重。须根据一定的判断标准自行调整权重

15、。 (1) 有指导的学习有指导的学习; (2) 没有指导的学习没有指导的学习; 第第11章章 神神 经网络控制系统设计经网络控制系统设计 3学习规则学习规则 在神经网络中，使用各种学习规则，最有名的是在神经网络中，使用各种学习规则，最有名的是Hebb 规则，研究仍在继续，许多新的想法也在不断尝试。有规则，研究仍在继续，许多新的想法也在不断尝试。有 些研究者将生物学习的模型作为主要研究方向，有一些些研究者将生物学习的模型作为主要研究方向，有一些 在修改现有的学习规则，使其更接近自然界中的学习规在修改现有的学习规则，使其更接近自然界中的学习规 律。但是在生物系统中，到底学习是如何发生的，目前律。但

16、是在生物系统中，到底学习是如何发生的，目前 知道得还不多，也不容易得到实验的证实。知道得还不多，也不容易得到实验的证实。 (1) Hebb规则规则; (2) Delta规则规则; (3) 梯度下降规则梯度下降规则; (4) Kohonen学习规则学习规则; (5) 后传播学习方法后传播学习方法; 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.2 神经网络的模型与算法神经网络的模型与算法 11.2.1 感知器（感知器（Perceptron）网络）网络 感知器是早期仿生学的研究成果，是罗森布拉特感知器是早期仿生学的研究成果，是罗森布拉特 （Rosenblatt）首先提出的一种神经

17、网络模型。早期的研）首先提出的一种神经网络模型。早期的研 究人员试图用感知器模拟人脑的感知特征，但后来发现究人员试图用感知器模拟人脑的感知特征，但后来发现 感知器的学习能力有很大的局限性，以致曾经有人对它感知器的学习能力有很大的局限性，以致曾经有人对它 的感知能力和应用前景得出了十分悲观的结论。尽管如的感知能力和应用前景得出了十分悲观的结论。尽管如 此，这种神经网络模型的出现对早期神经网络的研究，此，这种神经网络模型的出现对早期神经网络的研究， 以及对后来许多神经网络模型的出现，产生了极大的影以及对后来许多神经网络模型的出现，产生了极大的影 响。它仍然是一种很有用的神经网络模型。响。它仍然是一

18、种很有用的神经网络模型。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 感知器采用有教师的学习算法，即用来学习的样本模感知器采用有教师的学习算法，即用来学习的样本模 式的类别是已知的，而且各模式类的样本具有充分的代式的类别是已知的，而且各模式类的样本具有充分的代 表性。当依次输入学习样本时，网络以迭代方式根据神表性。当依次输入学习样本时，网络以迭代方式根据神 经元的实际输出与期望输出的差别对权值进行修正，最经元的实际输出与期望输出的差别对权值进行修正，最 终得到希望的权值。具体算法如下：终得到希望的权值。具体算法如下： 第一步：设置初始权值第一步：设置初始权值wji(m)。通常，各

19、权值的初始值。通常，各权值的初始值 设置为较小的非零随机数。设置为较小的非零随机数。 第二步：输入新的模式。第二步：输入新的模式。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 第三步：计算神经元的实际输出。设第第三步：计算神经元的实际输出。设第k次输入的模式为次输入的模式为 xk，与第，与第j个神经元连接的权矢量为个神经元连接的权矢量为wi(k)=( wj1，wj2， wjn+1 )T，则第，则第j个神经元的实际输出为个神经元的实际输出为 式中式中f为双极值阶跃函数，且为双极值阶跃函数，且 1 1 () n jjii i yfw x 10 ( ) 1 x fx x 0 第第11章

20、章 神神 经网络控制系统设计经网络控制系统设计 第四步：修正权值。设第四步：修正权值。设bj为第为第j个神经元的期望输出，个神经元的期望输出， 则权值按下式修正则权值按下式修正 第五步：转到第二步。第五步：转到第二步。 当全部学习样本都能利用某一次迭代得到的权值正确当全部学习样本都能利用某一次迭代得到的权值正确 分类时，学习过程结束。可以证明，当模式类线性可分分类时，学习过程结束。可以证明，当模式类线性可分 时，上述算法在有限次选代后收敛。权矢量的修正量与时，上述算法在有限次选代后收敛。权矢量的修正量与 输入模式输入模式xk成正比，比例因子为成正比，比例因子为bj-yj(k)。若。若的取值太的

21、取值太 大，算法可能出现振荡，大，算法可能出现振荡，的取值太小，收敛速度会很慢。的取值太小，收敛速度会很慢。 (1)( )( ) jjjjk wkwkbykx 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.2.2 多阶层网络与误差逆传播算法多阶层网络与误差逆传播算法 感知器的发明，曾使神经网络的研究迈出了历史性感知器的发明，曾使神经网络的研究迈出了历史性 的一步。但是正如前面所述，尽管感知器具有很出色的的一步。但是正如前面所述，尽管感知器具有很出色的 学习和记忆功能，可由于它只适用于线性模式的识别，学习和记忆功能，可由于它只适用于线性模式的识别， 因此对非线性模式的识别显得无

22、能为力，甚至不能解决因此对非线性模式的识别显得无能为力，甚至不能解决 “异或异或”这样简单的非线性运算问题这样简单的非线性运算问题 。 误差逆传播学习算法，有时也将按这一学习算法进误差逆传播学习算法，有时也将按这一学习算法进 行训练的多阶层神经网络直接称为误差逆传播神经网络，行训练的多阶层神经网络直接称为误差逆传播神经网络， 简称简称BP算法。算法。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 1误差逆传播神经网络（误差逆传播神经网络（BP）的结构与学习规则）的结构与学习规则 典型的典型的BP网络是三层前馈阶层网络，即：输入层、隐含网络是三层前馈阶层网络，即：输入层、隐含 层（也

23、称中间层）和输出层。各层之间实行全连接，如图层（也称中间层）和输出层。各层之间实行全连接，如图 11.5 所示所示: x1 x2 xn y1 y2 yn 输入层 隐含层 输出层 图11.5 典型BP网络模型结构 第第11章章 神神 经网络控制系统设计经网络控制系统设计 BP网络的学习，由四个过程组成：网络的学习，由四个过程组成： BP网络的学习，网络的学习， 由四个过程由四个过程 成：输入模式由输入层经隐含层向输出层的成：输入模式由输入层经隐含层向输出层的 “模式顺传播模式顺传播”过程；网络的希望输出与网络实际输出过程；网络的希望输出与网络实际输出 之差的误差信号由输出层经隐含层向输入层逐层修

24、正连之差的误差信号由输出层经隐含层向输入层逐层修正连 接权的接权的“误差逆传播误差逆传播”过程；由过程；由“模式顺传播模式顺传播”与与“误误 差逆传播差逆传播”的反复交替进行的网络的反复交替进行的网络“记忆训练记忆训练”过程；过程； 网络趋向收敛即网络的全局误差趋向极小值的网络趋向收敛即网络的全局误差趋向极小值的“学习收学习收 敛敛”过程。归结起来为，过程。归结起来为，“模式顺传播模式顺传播”“误差逆传误差逆传 播播”“记忆训练记忆训练”“学习收敛学习收敛”过程。过程。BP网络的学网络的学 习方法也称为广义习方法也称为广义规则。规则。 第第11章章 神神 经网络控制系统设计经网络控制系统设计

25、(1) 模式的顺传播模式的顺传播 模式顺传播过程是由输入模式提供给网络的输入层开始模式顺传播过程是由输入模式提供给网络的输入层开始 的输入层各个单元对应于输入模式向量的各个元素。设输的输入层各个单元对应于输入模式向量的各个元素。设输 入模式向量为入模式向量为Xk=(x1，x2，xn)，k=1，2，m，m 为学习模式个数；输入层单元到隐含层单元的连接权为为学习模式个数；输入层单元到隐含层单元的连接权为 vhi，h=1，2，n，i=1，2，p；隐含层单元到输；隐含层单元到输 出层单元的连接权为出层单元的连接权为wij，i=1，2，p，j=1，2，q。 将将Xk的值送到输入层单元，通过连接权矩阵的值

26、送到输入层单元，通过连接权矩阵V送到隐含层单送到隐含层单 元，产生隐含层单元新的激活值元，产生隐含层单元新的激活值 式中式中 1 ()1,2, n ihihi h bfv xip 1 ( )(1) x f xe 第第11章章 神神 经网络控制系统设计经网络控制系统设计 按模式顺传播的思路，计算输出层各单元的输入、输出按模式顺传播的思路，计算输出层各单元的输入、输出: 式中式中wij为中间层至输出层连接权；为中间层至输出层连接权；ri为输出层单元阈值；为输出层单元阈值； f为为S函数。至此，一个输入模式完成了一遍顺传播过程。函数。至此，一个输入模式完成了一遍顺传播过程。 1 ()1,2, p j

27、ijij i cfwbrjq 第第11章章 神神 经网络控制系统设计经网络控制系统设计 (2) 误差的逆传播误差的逆传播 作为误差逆传播的第一步，是进行误差计算。误差逆作为误差逆传播的第一步，是进行误差计算。误差逆 传播过程是由输出层的误差从传播过程是由输出层的误差从di向中间层的误差向中间层的误差di传递的传递的 过程。过程。 计算输出层单元的一般化误差计算输出层单元的一般化误差 式中为输出层单元式中为输出层单元j的希望输出。的希望输出。 计算隐含层单元对于每个计算隐含层单元对于每个di的误差的误差 上式相当于将输出层单元的误差反向传播到隐含层。上式相当于将输出层单元的误差反向传播到隐含层。

28、 (1)()1,2, k jjjjj dccccjq 1 (1)1,2, q iiiijj j ebbw dip 第第11章章 神神 经网络控制系统设计经网络控制系统设计 调整隐含层到输出层的连接权调整隐含层到输出层的连接权 式中式中为学习率，为学习率，00为学习率；为学习率；为动量项因子，为动量项因子，00，非线性优化器实现优，非线性优化器实现优 化算法，使二次型性能指标极小，以得到相应的控制化算法，使二次型性能指标极小，以得到相应的控制u(k)。 - - uy r 滤波器 NNP 非线性优化器 图11.19 神经预测控制 被控对象（A） 第第11章章 神神 经网络控制系统设计经网络控制系统

29、设计 11.3.2 神经自校正控制神经自校正控制 自校正控制是一种由辨识器将对象参数进行在线估自校正控制是一种由辨识器将对象参数进行在线估 计，用调节器（或控制器）实现参数的自动整定相结合计，用调节器（或控制器）实现参数的自动整定相结合 的自适应控制技术，可用于结构已知而参数未知但恒定的自适应控制技术，可用于结构已知而参数未知但恒定 的随机系统，也可用于结构已知而参数缓慢时变的随机的随机系统，也可用于结构已知而参数缓慢时变的随机 系统。但传统的自校正控制，是将被控对象用线性或线系统。但传统的自校正控制，是将被控对象用线性或线 性化模型进行辨识，对于复杂的非线性系统的自校正控性化模型进行辨识，对

30、于复杂的非线性系统的自校正控 制，则难以实现，因此，具有一定的局限性。制，则难以实现，因此，具有一定的局限性。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 1神经自校正控制结构神经自校正控制结构 神经自校正控制结构如图神经自校正控制结构如图11.20所示，它由两个回路组成：所示，它由两个回路组成： u y r 控制器设计 辨识器（NNI） 自校正控制器 图11.20 神经自校正控制框图 被控对象（A） 第第11章章 神神 经网络控制系统设计经网络控制系统设计 (1) 自校正控制器与被控对象构成的反馈回路。自校正控制器与被控对象构成的反馈回路。 (2) 神经网络辨识器与控制器设计，

31、以得到控制器的参数。神经网络辨识器与控制器设计，以得到控制器的参数。 可见辨识器与自校正控制器的在线设计，是自校正控制实现可见辨识器与自校正控制器的在线设计，是自校正控制实现 的关键。设被控对象为的关键。设被控对象为 式中，式中，u、y分别为对象的输入、输出；分别为对象的输入、输出；r为控制系统的输入；为控制系统的输入； g、为非零函数。为非零函数。 若若g、已知，根据已知，根据“确定性等价原则确定性等价原则”，控制器的控，控制器的控 制算法为制算法为 此时，控制系统的输出此时，控制系统的输出y(k)能精确地跟踪输入能精确地跟踪输入r(k)。 (1) ( ), , (1); ( ), , (1

32、) ( ), , (1); ( ), , (1) ( ), y kg y ky k nu ku k m y ky k nu ku k mu k nm (1) ( ) r kg u k 第第11章章 神神 经网络控制系统设计经网络控制系统设计 若若g、未知，则通过在线训练神经网络辨识器，未知，则通过在线训练神经网络辨识器， 使其逐渐逼近被控对象，此时，由辨识器的使其逐渐逼近被控对象，此时，由辨识器的Ng、N 代替代替g、，则控制器的输出为，则控制器的输出为 式中，式中，Ng、N分别为组成辨识器的非线性动态神经分别为组成辨识器的非线性动态神经 网络。网络。 (1) ( ) r kNg u k N

33、第第11章章 神神 经网络控制系统设计经网络控制系统设计 2神经网络辨识器神经网络辨识器 为使问题简化，考虑如下一阶被控对象：为使问题简化，考虑如下一阶被控对象： 神经网络辨识器如图神经网络辨识器如图11.21所示。所示。 (1) ( ) ( ) ( )y kg y ky ku k 第第11章章 神神 经网络控制系统设计经网络控制系统设计 A(k+1) u(k) w0v0 W V Ng N y(k) y(k) L L L H HH L L H HH 图11.21 神经网络辩识器 第第11章章 神神 经网络控制系统设计经网络控制系统设计 由两个三层非线性由两个三层非线性DNTT实现，网络输入实现

34、，网络输入y(k)，u(k)，输，输 出为出为 式中，式中，W、V为两个网络的权系为两个网络的权系 其中，其中，p为隐层非线性节点数；为隐层非线性节点数；w0=Ng0，W；v0= N0， V。 (1) ( );( ) ( ); ( ) ( )A kNg y k W kNy k V k u k 0122 0122 ( ) ,( ),( ),( ) ( ) , ( ), ( ),( ) p p W kw w k w kwk V kv v k v kvk 第第11章章 神神 经网络控制系统设计经网络控制系统设计 图中，图中，L为线性节点；为线性节点；H为非线性节点，每一网络各为为非线性节点，每一网络

35、各为p 个，所用非线性作用函数为个，所用非线性作用函数为 则控制系统的输出为则控制系统的输出为 可见，只有当可见，只有当Ngg与与N时，才能使时，才能使 y(k)r(k)。 设准则函数为设准则函数为 ( ) xx xx ee f x ee (1) (1) ( ) ( ) r kNg y kg y ky k N 22 11 ( ) (1)(1)(1) 22 E kr ky kek 第第11章章 神神 经网络控制系统设计经网络控制系统设计 神经网络辨识的训练过程，即权系的调整过程：神经网络辨识的训练过程，即权系的调整过程： 用用BP学习算法：学习算法： (1)( )( ) (1)( )( ) W

36、kW kW k V kV kV k ( ) ( ) ( );( ) ( )(1) ( ) ( )( ) ( ) ( ) ( ); ( ) ( )(1) ( ) ( ) ( )( ) iww ii ivv ii E ky kNg y k W k w ke k w kNy kw k E ky kNy k V k v ke ku k v kNy kv k 第第11章章 神神 经网络控制系统设计经网络控制系统设计 则则 式中，式中，w0和和v0，它们决定着神经网络辨识器收敛于，它们决定着神经网络辨识器收敛于 被控对象的速度。被控对象的速度。 sgn ( ) ( );( ) (1)( )(1) ( )(

37、 ) sgn ( ) ( ); ( ) (1)( )(1) ( ) ( )( ) iiw i iiv i y kNg y k W k w kw ke k Ny kw k y kNy k V k v kv ke ku k Ny kv k 第第11章章 神神 经网络控制系统设计经网络控制系统设计 由以上所述，所描述的非线性被控对象的神经自校正控由以上所述，所描述的非线性被控对象的神经自校正控 制系统如图制系统如图11.22所示。所示。 N A - Ng u y r 学习算法 A(k+1)=Ngy(k)+Ny(k)u(k) u(k)=r(k+1)-Ngy(k)/Ny(k) 图11.22 神经自校正控

38、制框图 y(k+1)=gy(k)+ y(k)u(k) 第第11章章 神神 经网络控制系统设计经网络控制系统设计 例例11.1 被控对象具有非线性时变特性，仿真模型为被控对象具有非线性时变特性，仿真模型为 系统输入为系统输入为 作用于被控对象的扰动为作用于被控对象的扰动为 (1)0.8sin( ( ) 1.2 ( )0200 (1)0.8sin( ( )( )/7 1.2 ( )200 y ky ku kk y ky ky ku kk ( )10100 ( )1.2 ( )A kNg y k W ku k 1 ( ) 1 x x e f x e ( ) (1)( ) ( )(1) ( ) E k

39、 W kW kW kW k W k 第第11章章 神神 经网络控制系统设计经网络控制系统设计 设隐层节点的输出设隐层节点的输出o(k)，输入至隐层、隐层至输出联接权，输入至隐层、隐层至输出联接权 分别为分别为1W、2W，则有，则有 经反复设计，仿真检验，最终取：经反复设计，仿真检验，最终取：-0.031wi(0)，2wi (0) 0.03的随机数，的随机数，w0=0，=0.5，=0.4。 2222 11211 (1)( )(1) ( )( )(1) (1)( )(1) ( )( ) ( )( )(1) iiiii iiiiii w kw keko kw kw k w kw kekf x kw

40、k ykw kw k 第第11章章 神神 经网络控制系统设计经网络控制系统设计 11.3.2 神经神经PID控制控制 PID控制是工业过程控制中最常用的一种控制方法，控制是工业过程控制中最常用的一种控制方法， 这是因为这是因为PID控制器结构简单、实现容易且能对相当一些控制器结构简单、实现容易且能对相当一些 工业对象（或过程）进行有效的控制。但常规工业对象（或过程）进行有效的控制。但常规PID控制的控制的 局限性在于：当被控对象具有复杂的非线性特性，难以局限性在于：当被控对象具有复杂的非线性特性，难以 建立精确的数学模型，且由于对象和环境的不确定性，建立精确的数学模型，且由于对象和环境的不确定

41、性， 往往难以达到满意的控制效果。神经往往难以达到满意的控制效果。神经PID控制是针对上述控制是针对上述 问题而提出的一种控制策略。问题而提出的一种控制策略。 第第11章章 神神 经网络控制系统设计经网络控制系统设计 神经神经PID控制结构如图控制结构如图11.23所示，其中有两个神经网所示，其中有两个神经网 络：络：NNI（系统在线辨识器）和（系统在线辨识器）和NNC（自适应（自适应PID控制控制 器）。系统的工作原理是，在器）。系统的工作原理是，在NNI对被控对象进行在线对被控对象进行在线 辨识的基础上，通过对辨识的基础上，通过对NNC的权系进行实时调整，使系的权系进行实时调整，使系 统具

42、有自适应性，从而达到有效控制的目的。统具有自适应性，从而达到有效控制的目的。 A - e2e1 e PID控制器 - uy r 学习算法 NNI NNC 图11.23 神经PID控制框图 被控对象（A） 学习算法 第第11章章 神神 经网络控制系统设计经网络控制系统设计 1神经网络辨识器神经网络辨识器 设被控对象为设被控对象为 g未知，由神经网络未知，由神经网络NNI进行在线辨识，采用串进行在线辨识，采用串并并 联结构，由联结构，由DTNN实现，网络的输入是被控对象的输入实现，网络的输入是被控对象的输入 输出序列输出序列u(k)，y(k)，如图，如图11.24所示。所示。NNI中的前馈网中的前

43、馈网 络，用多层络，用多层BP网实现，这里设用三层。网实现，这里设用三层。 BP网络的输入为：网络的输入为： (1) ( ), (1), ( ), (1)y kg y ky k nu ku k mnm 12 ( ), ( ),( ) ( ), (1), ( ), (1) n m INI k I kIk y ky k nu ku k mN n m 第第11章章 神神 经网络控制系统设计经网络控制系统设计 式中，式中，u(k)= uI+1(k)。 隐层第隐层第i节点的输出为：节点的输出为： 式中，式中，I0(k)=1，1wio(k)为阀值。为阀值。 令令u(k)=In+1(k)至第至第i个隐节点的权为个隐节点的权为1wiu。 1 0 ( ) ( ) ( )( )1,2, ii N iijj j o kf x k x kw I kjN 1 ( ) 1 x x e f x e 第第11章章 神神 经网络控制系统设计经网络控制系统设计 网络的输出为网络的输出为 式中，式中，o0(k)=1，p是隐层节点的个数。是隐层节点的个数。 设准则函数为设准则函数为 网络权值的调整算法，用具有阻尼项的网络权值的调整算法，用具有阻尼项的BP算法，可得算法，可得 0 (1)( ) p ii i A kwo k 22 11 11 ( ) (1)(1)(1) 22 E ky