第6章 神经网络控制

1、第1，6章神经网络控制，2，6.1概述，6.1.1生物神经元模型6.1.2人工神经网络模型6.1.3人工神经网络模型6.1.4神经网络学习方法，3，6.1.2人工神经元模型，人工神经元是模拟和简化生物神经元的。神经网络的基本处理设备。这张图显示了简单的人工神经元结构。多输入，单输出非线性分量。4，5，其输入、输出关系可以解释为来自其他神经元的输入信号；表示从神经元j到神经元I的连接权重。阈值。这里称为函数或函数。输出激发函数也称为，6，转换函数，它决定神经元(节点)的输出。此输出为1或0，具体取决于输入合计大于或小于内部阈值。函数通常具有非线性特性。下图显示了一些常用的激励函数。1.基于阈值的

2、函数(图(a)、(b) 2)。饱和函数(见图(c)3。双曲线函数(请参阅图(d)4。s型函数(e) 5。高斯函数(见图(f)、7、8、6.1.3人工神经网络模型、人工神经网络作为工程技术模拟人脑神经网络结构和特性的系统。利用人工神经元可构成多种拓扑结构的神经网络是生物神经网络的一种模拟和近似。目前有数十种不同的神经网络模型，其中前馈网络和反馈网络是两种具有代表性的结构模型。9，1。前馈神经网络，前馈神经网络，也称为前向网络。如图所示，神经元按层次排列：输入层、隐藏层(可以有多个层的中间层)和输出层，每个层仅允许输入前一个神经元。从学习的角度来看，前馈网络是一个结构简单、易于编程的强大学习系统。

3、从系统的角度来看，前馈网络是一种静态非线性映射，通过简单非线性处理单元的复合映射，可以获得复杂的非线性处理能力。但是从计算的角度来看，缺乏丰富的力学行为。大部分前馈网络通常是比反馈网络具有更高分类能力和模式识别能力的学习网络，典型的前馈网络包括传感器网络、BP网络等。10，11，6.1.4神经网络学习方法，学习方法离开反映人工神经网络智能主要特征的学习算法，人工神经网络失去适应、适应组织和自学能力。目前，神经网络分为教职员学习、无教师学习、在校女生学习等几个类别。在有教师的学习方式中，将网络的输出与预期的输出(即教师信号)进行比较，然后考虑差异，调整网络的权重，最后使差异变小。在没有教师的学习

4、方式中，进入模式人力资源网络后，网络会根据竞争规则等预设规则自动调整权重，最终使其具有模式分类等功能。再教育是这两者之间的学习方法。12，神经网络中常用的几种最基本的学习方法，1。Hebb学习规则当两个神经元同时处于这里时，它们之间的连接强度会加强。此讨论的数学描述称为Hebb学习规则Hebb学习规则是一种没有教员的学习方法，它仅根据神经元连接之间的激活级别改变权重，因此此方法也称为相关学习或并行学习。13，2Delta()学习规则规则会减少e中的渐层，使错误函数符合最小值。但是，学习规则仅适用于线性可分函数，不能用于多层网络。BP网络中的学习算法(称为BP算法)是基于规则开发的，可以在多个网

5、络中有效地学习。14，3随机学习从统计力学、分子热力学和概率论中对系统稳态能量的标准开始，进行神经网络学习的方式称为随机学习。神经网络处于某种状态的概率主要取决于该状态的能量，能量越低，其概率就越高。此外，这个概率取决于温度参数t。t越大，不同状态发生概率的差异越小，从能量的局部最小点到全局最小点的跳跃就越容易。t时间过后，情况相反。随机学习的典型代表是玻尔兹曼机器学习规则。基于模拟退火的统计优化方法，因此也称为模拟退火算法。15，4竞争学习竞争学习是无教师学习方式。这种学习方法在不同的层间神经元发生兴奋性连接，在同一层内非常接近的神经元之间发生相同的兴奋性连接，在远处的神经元发生抑制性连接。

6、在这种连接机制中，引导竞争机制的学习方式称为竞争学习。其本质在于神经网络中高水平神经元竞争地认识低水平神经元的输入模式。16，6.2前向神经网络，6.2.1拦截器网络感知器是具有单层神经元的神经网络，由线性阈值元素组成，是最简单的前向网络。这主要用于模式分类，单层的拦截器网络结构如下图所示。17，18，传感器的学习算法，随机给定连接权限集的样本和预计输出集(也称为教师信号)计算传感器实际输出修改权重值不同的样本集，并重复上述2)4，直到权重对所有样本保持不变为止，学习过程结束。19，6.2.2BP网络，也称为BP网络，故障反向传播神经网络是单向传播多层前向网络。在模式识别、图像处理、系统识别、

7、函数拟合、优化计算、优化预测和自适应控制等领域应用更广。此图是BP网络的示意图。20，21，误差反向传播的BP算法的缩写，其基本思想是最小二乘算法。使用渐变检索技术将网络的实际输出值和预期输出值的平均平方值最小化。BP算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息通过输入层中隐含的层逐层处理并传递到输出层，每个层神经元(节点)的状态仅影响下一层神经元的状态。如果在输出层无法获得所需的输出，则转子反向传播，沿原始连接路径返回错误信号，并修改每个层上神经元的权重，使错误信号最小化。22，1BP网络的前馈计算2BP网络权重调整规则1)。调整输出层权重系数2)。隐式层节点权重系数调

8、整3BP学习算法计算阶段，23，3BP学习算法计算阶段1)。初始化设置所有权值小随机数2)。提供培训集3。计算实际输出，隐式层，输出层的每个神经元输出4)。目标值与实际输出的偏差为E5)。计算6)。计算7 .返回2 。重复计算，直到错误满足要求。24，25，使用BP算法时需要注意的一些问题如下：1.开始学习时，设置每个隐式层连接权重系数初始值较小的随机数应该更合适。2)。如果使用s型激发函数，因为输出层中每个神经元的输出不能达到1或0，也不能达到1或0。设置每个培训示例时，最好将预计输出组件dpk设置为或0，1。3)选择学习速度，在学习开始阶段选择较大的值，可以加快学习速度。在学习如何接近优化

9、时，值必须相当小。否则，权重系数将在没有收敛的情况下产生振动。平滑系数的选择值位于左侧和右侧。26，6.2.3BP网络学习算法改进，1多层正向BP网络的优点：1)。网络本质上实现了从输入到输出的映射功能，数学理论证明了它具有实现复杂非线性映射的功能。这尤其适合于解决内部机制的复杂问题。2)。网络可以学习具有正确答案的一组示例，并自动提取“合理”的解决规则。也就是说，它有自我学习的能力。27，2多层前BP网络的问题：1)。BP算法的学习速度慢。2)。网络教育失败的可能性很大。3)。应用问题的实例规模和网络规模的矛盾很难解决4。网络结构的选择还没有统一完整的理论指导。一般应仅根据经验选择。5 .新

10、添加的示例将影响学习成功网络，并且必须具有6个特性化每个输入示例的相同功能数。网络的预测能力(也称为泛化能力，泛化能力)和教育能力(也称为近似能力，学习能力)的矛盾，28，3BP网络学习算法的改进，1 .增加“惯性项2”。采用动态阶段3)。与其他全局搜索算法相结合4)。模拟退火算法在当前基于神经网络的学习过程中，基于梯度的算法在理论上不能保证收敛结果是全局最优的。29，6.2.4神经网络训练，能够随机逼近任意集合的任意函数的特征是神经网络广泛应用的理论基础。但是在实际应用中还找不到更好的网络构建方法，通过确定网络的结构和权重参数来描述给定的映射或近似未知映射，只有通过学习才能获得满足要求的网络

11、模型。30、神经网络训练的具体阶段如下：1获取训练样本集训练样本集是神经网络训练的第一阶段，也是非常重要和关键的阶段。这包括多种类型的双选择网络(例如教育数据的收集、分析、选择和预处理)和多种类型的结构神经网络，应根据工作的性质和要求选择合适的网络类型。3培训和测试的最后一步是使用获得的培训样本反复培训网络，直到获得适当的映射结果。尽管31，6.4神经网络PID控制、神经网络控制技术的诸多潜在优势，但单纯利用神经网络控制方法的研究还需要进一步发展。人工神经网络技术通常与现有的控制理论或智能技术一起使用。控制中的神经网络具有以下作用：1用于在现有控制系统中充当对象模型的动态系统建模。2直接发挥控

12、制器在反馈控制系统中的作用。3在传统控制系统中发挥优化计算作用。4与模糊逻辑、遗传算法、专家控制等其他智能控制方法相融合。基于32，6.4.1 BP神经网络控制参数自学习PID控制的BP神经网络具有逼近任意非线性函数的功能，结构和学习算法简单明了。基于神经网络的学习可以找到最佳控制方法下的p，I，d因子。如图所示，基于BP神经网络的PD控制系统结构由两部分组成。经典PID控制器：将控制对象控制为直接闭环，KP、KI和KD的三个参数是联机调节。神经网络NN:根据系统的运行状态调整PID控制器的参数以优化特定性能指标。即使输出层神经元的输出状态对应于PID控制器的三个可调整参数KP、KI、KD，通

13、过网络的自学习、权重系数调整等，确保恒定状态与特定最优控制律下的PID控制器参数相匹配。基于33，34，BP神经网络的PID控制算法可概括为：1)。预选择BP神经网络NN的结构，即选定的输入层节点数m和隐式层节点数q，权重系数的初始值w(2)ij(0)，w(3)li(0)，选定的学习速度和平滑系数，k=1；2)采样计算r(k)和y(k)、e (k)=z (k)=r (k)-y (k)。3)将r(i)、y(i)、u(i-1)、e(i)规范化为NN的输入。4) NN中每个层神经元的输入和输出，NN输出层的输出是PID控制器的三个可调整参数KP (k)、ki (k)、KD (k)。5)。参与PID控

14、制器的控制输出u(k)、控制和计算；6)。计算修正输出层的权重系数w (3) Li (k)。7)。计算修改的隐式层的权重系数w (2) ij (k)。8)。设置k=k 1并返回到“2”。，35，6.4.2改进的BP神经网络控制参数自学习PID控制，控制器设计或直接学习计算控制器的输出(控制量)使用神经网络，通常使用系统的预测输出值或其变化量进行加权系数修正计算。但是实际上，系统的预测输出值不容易直接测量。通常，建立控制目标预测的数学模型，将预测中测量的值替换为该模型的预测输出，从而提高控制效果。采用36，1线性预测模型的BP神经网络PID控制器，37，线性预测模型的BP神经网络PID控制系统算

15、法总结如下。1)。BP神经网络NN的结构，即选定的输入层节点数m和隐式层节点数q，权重系数的初始值w(2)ij(0)，w(3)li(0)，选定的学习速度和平滑系数，k=1；2)利用线性系统辨识方法估计参数向量(k)，形成一步预测模型。3)采样计算r(k)和y(k)、e (k)=z (k)=r (k)-y (k)。4)将r(i)、y(i)、u(i-1)、e(i)规范化为NN的输入。5)。NN中每个层神经元的输入和输出，NN输出层的输出是PID控制器的三个可调整参数KP (k)、ki (k)和KD (k)。6)。参与PID控制器的控制输出u(k)、控制和计算；7)计算和；8)。计算修正输出层的权重系数w (3) Li (k)。9)。计算修改隐式层的权重系数w (2) ij (k)。10)。设置k=k 1并返回到“2”。使用38，2非线性预测模型的基于BP神经网络PID控制器、39，BP神经网络的PID控制算法可概括如下：1)。预先选择BP神经网络NN的结构，即选定的输入层节点数m和隐式层节点数q，权重系数的初始值w(2)ij(0)，w(3)li(0)，选定的学习速度和平滑系数，k=1；2)采样计算r(k)和y(k)、e (k)=z (k)=r (k)-y (k)。3)