智能控制技术概论 课件 第4章神经网络控制

神经网络控制介绍智能控制技术产品质量特性波动5MIE分析法智能控制技术工作原理基本概述典型结构内容神经网络控制介绍主要类型产品质量特性波动5MIE分析法智能控制技术

神经网络概述1神经网络控制介绍神经网络控制介绍5MIE分析法智能控制技术生物神经网络是由一组化学上相连或功能上相关的神经细胞（神经元）组成。一个神经元可能与许多其他神经元相连，形成复杂的网络结构。图1神经网络结构及组成·5MIE分析法智能控制技术神经网络控制介绍人工神经网络是受生物神经网络启发的信息处理范式。它由众多互相连接的节点（神经元）构成，每个节点执行特定的输出函数，即激励函数。节点间的连接代表信号传递的权重，这些权重相当于人工神经网络的记忆元素。网络产出的结果受其结构、连接权重和激活函数共同影响。神经网络控制介绍5MIE分析法智能控制技术在人工智能领域，人工神经网络已被成功应用于语音识别、图像分析和自适应控制等领域，构建了各种智能系统和自主机器人。。产品质量特性波动5MIE分析法智能控制技术

神经网络原理2神经网络控制介绍神经网络控制介绍5MIE分析法智能控制技术神经系统的基本原理包括三个关键要素三要素基本单元网络结构学习算法

5MIE分析法智能控制技术基本单元神经网络控制介绍神经元是构成神经网络的基本单元，包括权重、偏置和激活函数三个要素。各个神经元从其他神经元接收众多输入，对这些输入进行加权汇总并加上偏差值，然后通过激活函数转换产生输出。产品质量特性波动5MIE分析法智能控制技术激活函数实现非线性映射，使网络能够识别复杂模式前向传播与反向传播训练过程的两个主要阶段，通过梯度下降等算法不断优化权重内容神经网络控制介绍

5MIE分析法智能控制技术网络结构神经网络控制介绍神经网络由多个层次组成，包括输入层、隐藏层和输出层。数据在输入前通常需要进行预处理，如归一化或编码，以便更好地被网络处理。

5MIE分析法智能控制技术多输入多输出神经网络控制介绍神经网络可以接收多个输入并产生多个输出，处理复杂的数据模式和关系。通过调整连接权重，使用损失函数和优化算法来优化网络性能。学习过程产品质量特性波动5MIE分析法智能控制技术

神经网络结构3神经网络控制介绍5MIE分析法智能控制技术神经网络的典型结构神经网络控制介绍蓝色层代表输入层，由5个单元组成，功能是接收外界数据。橙色层代表隐藏层，包含4层，每层有7个单元，是网络的核心处理环节。绿色层代表输出层，由4个单元构成，将处理成果转换为最终结果。图2神经系的网络结构产品质量特性波动5MIE分析法智能控制技术神经网络每层由多个神经元构成，相邻层之间通过连接权重建立联系。

典型的网络类型包括前馈神经网络、循环神经网络和卷积神经网络等。神经网络控制介绍产品质量特性波动5MIE分析法智能控制技术

神经网络种类4神经网络控制介绍图3神经网络的类型神经网络控制介绍5MIE分析法智能控制技术1.前馈神经网络这是一种比较简单的神经网络，也称多层感知机（MLP）。由输入层、一个或多个隐藏层以及输出层组成，信息单向流动从输入层至输出层，不存在反向传递。图3神经网络的类型三大类型图3神经网络的类型神经网络控制介绍5MIE分析法智能控制技术2.反馈神经网络在这种网络中，神经元不仅能从其他单元接收信号，还能从自身接收反馈信息。与前馈网络不同，反馈网络中的神经元可以存储状态信息，并且这些状态会随时间变化。图4反馈神经网络结构图三大类型图3神经网络的类型神经网络控制介绍5MIE分析法智能控制技术3.图神经网络这是建立在图结构数据之上的一类神经网络。每个节点可以由单个或多个神经元构成，适用于社交网络、知识图谱、分子结构等应用场景。图5图神经网络结构图三大类型神经网络模型智能控制技术产品质量特性波动5MIE分析法智能控制技术BP神经网络卷积神经网络循环神经网络内容神经网络模型产品质量特性波动5MIE分析法智能控制技术

卷积神经网络1神经网络模型5MIE分析法智能控制技术神经网络模型概述卷积神经网络（简称CNN）是一种擅长模拟人类视觉对图像进行识别的网络模型。CNN经常被用于解决将图像作为输入数据的分类问题。图1CNN网络识别动物的案例将猫的照片输入学习完毕的CNN网络中后，会得到类似90%的是猫、5%是狗、3%是兔子、1%是老鼠等描述照片中物体可能是哪种动物的概率最高的输出数据。其中，卷积层就是负责对输出结果只受部分输入数据影响的需要对局部性特征进行强调处理的网络层，池化层则是负责实现对需要识别对象的位置进行灵活对应的机制。

5MIE分析法智能控制技术卷积神经网络结构神经网络模型在CNN中，网络层主要分为卷积层、池化层和全连接层三种。图像最初被输入到卷积层中，之后又经过多个卷积层和池化层的处理，最后连接到全连接层，也可能在多个全连接层中，位于最后的全连接层将作为输出层。图像数据依次经过这些层次的处理，最终完成特征提取和分类任务。图2CNN网络结构图

5MIE分析法智能控制技术（1）卷积层神经网络模型通过对图像进行卷积运算，可以对图像的某个特征进行选择性地增强或者减弱。卷积层是利用图像的局部性对图像的特征进行检测。在卷积层汇总使用多个过滤器对输入图像的特征进行侦测，不同的过滤器所提取出来的图像特征也不同。假设输入的图像是4*4像素大小，过滤器的数量为1，尺寸为2*2。则卷积运算就是将过滤器移动到输入图像的不同位置上，并在过滤器所覆盖的像素点的值之间进行乘法运算。然后将相乘的结果根据过滤器的位置进行相加，并将结果作为新的像素的值，最终得到一个3*3大小的新图像。图3输入图像卷积处理过程

5MIE分析法智能控制技术（1）卷积层神经网络模型在一般图像数据中，每个像素点都包含RGB三种颜色。这幅图像的张数通常成为通道数。单色图像的通道数为1，实际应用的CNN通常使用多个过滤器对包含多个通道的图像进行卷积处理。通道数有3个，过滤器数量有4个，每个过滤器都拥有与输入图像相同数量的通道。即输入图像对应的是RGB格式，则每个过滤器都必须有对应的通道。在各个过滤器中，每个通道分别进行卷积后会产生三幅图像，然后再将这些图像中的每个像素点相加，最终输出的是一幅图像。每个过滤器分别处理的结果所生成的图像张数与过滤器的总数量是相同的。图4RGB图像卷积处理后与偏置相加处理

5MIE分析法智能控制技术（1）卷积层神经网络模型将通过卷积处理生成的图像中的每个像素与偏置相加，再交由激励函数进行处理，如右图所示。卷积层输入的是通道数为3的图像，输出的是通道数为4的图像，由于进行了卷积处理，每张图像的尺寸都缩小了，卷积层所输出的图像将被作为池化层、全连接层或者其他卷积层的输入数据使用。图5卷积处理后的图像与偏置相加处理后再由激励函数进行处理

5MIE分析法智能控制技术（2）池化层神经网络模型池化层通常是作为卷积层的下一层，其主要作用是将图像的各个区域进行划分，并将各个区域的代表帖子抽取出来，重新排列组合成一幅新的图像，这种处理过程就被称之为池化。如图6所示，每个区域中的最大值被作为代表该区域的值，这种池化方法通常成为最大池化。除此之外，还可以利用整个区域的平均值的池化方式，这种通常称之为平均池化。在CNN模型中使用较多的是最大池化。显而易见，经过池化后的图像尺寸也被缩小了。图中6*6像素的图像经过2*2区域的池化处理后，得到的图像尺寸就是3*3像素大小。图6卷积处理后的数据进行池化处理

5MIE分析法智能控制技术（3）全连接层神经网络模型全连接层通常设置在卷积层和池化层多次叠加后的下一层，主要作用是对卷积层和池化层提取出来的特征量进行运算处理，并输出结果，是普通神经网络中所使用的网络层。全连接层与全连接层之间的链接，与普通神经网络汇中的神经层是一样的，每个神经元都与相邻网络层的全部神经元连接在一起。当卷积层和池化层的输出被传递到全连接层的输入时，图像会被转换成平坦的向量。这与卷积层的结构是有所区别的。卷积层主要是以过滤器为单位进行数据的处理，因此其网络层之间的链接是局部的，适合于局部特征的捕捉，而全连接层则是全部连接的图7卷积层与全连接层与下一层之间的区别产品质量特性波动5MIE分析法智能控制技术BP神经网络2神经网络模型5MIE分析法智能控制技术神经网络模型概述BP神经网络也是由输入层、隐藏层和输出层组成，如图3所示，通过误差逆向传播算法训练。CNN则是由卷积层、池化层以及全连接层组成，通常用于处理图像数据方面。图8BP神经网络算法流程图神经网络模型5MIE分析法智能控制技术参数优化方式BP神经网络利用误差逆向传播算法调整所有的参数。CNN则通过局部连接、参数共享等方法进行训练，可显著减少学习的参数数量，更好地处理具有平移不变性的输入，如图像等。应用场景BP神经网络适用于各种回归和分类问题。CNN则一般用于图像识别、自然语言处理等领域，尤其是图像数据，CNN往往比BP网络具有更好的性能。与CNN的关键区别产品质量特性波动5MIE分析法智能控制技术

循环神经网络2神经网络模型5MIE分析法智能控制技术神经网络模型应用前提标准神经网络采用的是单向信息流动，这简化了学习过程，但也限制了模型处理复杂任务的能力。在许多实际情况下，网络的输出不仅取决于当前输入，还依赖于历史输出。此外，对于视频、语音和文本等时序数据，由于时间维度的不确定性，传统神经网络难以有效处理，并且前馈网络通常处理的是固定长度的输入和输出数据。鉴于此，循环神经网络（RNN）能够更好地应对这类问题。5MIE分析法智能控制技术神经网络模型概述循环神经网络是一种具备序列数据处理能力和短期记忆特性的深度学习模型。在RNN中，神经元不单单接收来自其他神经元的信息，还能自我循环，接收自己先前状态的信息，这就构成了一个包含循环路径的网络结构。

5MIE分析法智能控制技术循环神经网络（RNN）神经网络模型RNN的结构允许信息在时间步之间进行传递，从而更好地处理序列相关的任务。与传统的前馈神经网络不同，RNN在处理每个神经元的输入时都会保留一个隐藏状态，该隐藏状态也会传递到下一个时间步，使其能够记忆之前的信息，也就是神经元的输出可以作为下一个时间步的输入，这种对自身信息进行循环处理的方式也称之为递归。图9循环神经网络流程图产品质量特性波动5MIE分析法智能控制技术工业控制系统的定义自然语言处理：如文本生成、语言建模、机器翻译等场景，因为NLP任务通常涉及理解词序和上下文信息。

语音识别：在处理音频信号时，RNN可以利用其时序特性来提高识别准确率。时间序列预测：例如股票价格、气象预报等领域，RNN可以根据历史数据预测未来趋势。神经网络模型RNN适用场合

5MIE分析法智能控制技术RNN的基本原理神经网络模型1）循环结构：RNN与其他传统前馈神经网络不同的关键点在于其具有循环结构，可允许信息在不同的时间步之间进行传递。因此，在每个时间步，RNN都会接收到当前时间步对应的数据同时还会接收到上一个时间步的隐藏状态，然后生成一个新的隐藏状态。这个新的隐藏状态既包含了当前时间步的信息也包含了过去时间步的信息，因此RNN可以捕捉到序列数据的上下文信息。2）共享权重：在RNN中，权重参数是共享的，换句话说也就是每个时间步使用的权重矩阵或者参数都是相同的。可以在确保不同时间步的数据都是用相同的模型进行处理，保持模型参数数量的相对较小。3）隐藏状态：RNN的隐藏状态是模型的记忆部分，在每个时间步都会被更新。隐藏状态由于包含了之前步的信息和数据，因此可以用来捕获长期依赖关系。4）输入和输出：RNN接收输入序列，然后在每个时间步产生一个输出。这些输出可被用于不通过的任务，如文本生成、情感分析、机器翻译等。

5MIE分析法智能控制技术RNN的结构神经网络模型图10不同类型的RNN结构示意图

5MIE分析法智能控制技术RNN的结构——一对一神经网络模型一对一结构是最基本的单层网络，接受一个输入，经过变换和激活函数后得到一个输出。图11一对一RNN结构示意图

5MIE分析法智能控制技术RNN的结构——一对多神经网络模型一对多结构的输入不是序列但输出是序列的结构，在序列开始进行输入计算。这种结构通常可用于处理从图像生成文字的情况，一般就是图像作为输入，输出则是对应的一段文字，类似于我们通常所受的看图说话，也可用于从类别生成语音或音乐等情况。图11一对多RNN结构示意图

5MIE分析法智能控制技术RNN的结构——多对一神经网络模型多对一结构即有多个输入序列且只有一个输出的结构。只需要在最后一个隐藏层h上进行输出变化即可。这种结构通常用于处理序列分类问题，例如输入一段文字判别它所属的类别，输入一个句子判断其感情倾向或者输入一段视频判断类别等。图12多对一RNN结构示意图

5MIE分析法智能控制技术RNN的结构——多对多神经网络模型多对多结构是一种最经典的RNN结构，通常有两种，一种是输入和输出都是相等长度的序列数据，另一种是输入和输出不等长的序列数据，是RNN的一个变种，这是因为大部分的问题输入和输出都是不等长的。这种不等长多对多结构也可以称作编码-解码结构，应用范围十分的广泛，如机器翻译、文本摘要、阅读理解以及语音识别等场合。图13多对多RNN结构示意图

5MIE分析法智能控制技术RNN的结构——多对多神经网络模型不等长的多对多架构主要的限制在于，编码器和解码器之间的联系仅限于固定长度的语义向量c，这个向量无法完全捕捉整个序列的信息。引入注意力机制可解决这一问题。以中文“我爱中国”翻译成英文为例，输入的四个字可以分别由编码器中的h1、h2、h3和h4表示，分别对应“我”“爱”“中”和“国”。在翻译过程中，第一个上下文c1应与“我”最为相关，因此相应的权重a11会较大，而a12、a13和a14则较小。同理，c2与“爱”关系最大，所以a22会较大。对于c3，它与h3和h4最为相关，因此a33和a34的值将是最大的。这些权重aij代表了各个元素的相关性，是通过模型学习得到的，并且与解码的第i-1个阶段的隐藏状态以及编码阶段第j个隐藏状态紧密相关。图14利用多对多RNN进行翻译的流程图5MIE分析法智能控制技术RNN的主要优势记忆能力时间序列依赖关系捕捉参数共享神经网络模型5MIE分析法智能控制技术RNN的劣势长期依赖问题梯度爆炸和梯度消失神经网络模型神经网络控制系统应用智能控制技术产品质量特性波动5MIE分析法智能控制技术汽车制动系统中的BP神经网络应用循环神经网络的汽车主动避障应用内容神经网络控制系统应用产品质量特性波动5MIE分析法智能控制技术BP神经网络在汽车安全系统中的应用1神经网络控制系统应用神经网络控制系统应用5MIE分析法智能控制技术自动紧急刹车系统（AEB）是现代汽车中的一项关键技术，旨在提高道路安全。学者通过BP神经网络建立刹车距离预测与优化模型，提高车辆的制动性能和驾驶安全性。分析制动力、刹车距离与速度、车辆质量等因素的关系，将其转化为数学模型，进而优化紧急制动系统设计和制动控制策略。应用前提神经网络控制系统应用5MIE分析法智能控制技术当AEB系统检测到前方有障碍物时，测距传感器会评估车辆与障碍物之间的距离。如果这个距离小于预设的警告距离，系统会向驾驶员发出警告。如果距离进一步缩短至小于安全距离，并且驾驶员未能采取行动，AEB系统将自动触发刹车，以防止碰撞或减轻撞击的力度。通过这种方式，AEB系统为驾驶员提供了额外的保护层，有助于避免潜在的事故，从而确保了车辆和乘客的安全。应用前提

5MIE分析法智能控制技术BP神经网络构建神经网络控制系统应用首先有数据集，主要选择“前车速度”“本车最大速度”“本车减速速度”“刹车时间”和“车体质量”五要素作为车辆刹车距离预测模型的输入层，以汽车在自动紧急制动系统下的汽车刹车距离作为输出单元。产品质量特性波动5MIE分析法智能控制技术工业控制系统的定义由输入层神经元负责接收外部的信息与数据，然后传输给单层或者多层的中间层或者隐藏层进行信息的处理和变换，再由中间层传递到输出层，最终输出信息处理结果。当结果不符合期望值时，会再进行反向传播，误差通过梯度下降的方式不断调整各层的权值，重复前面的过程指导误差减少或降低到期望值时停止学习。得到了最终的刹车距离与五个输入参数之间的关系，并与实际真实测量值进行了对比和分析。神经网络控制系统应用BP神经网络运算过程产品质量特性波动5MIE分析法智能控制技术工业控制系统的定义结果表明，该BP网络模型训练集的R值（预测输出与目标输出之间的相关性)）为0.99902，总体R值为0.99199，预测与输出数据之间的关系密切，符合测试精度要求。神经网络控制系统应用BP神经网络运算过程产品质量特性波动5MIE分析法智能控制技术BP神经网络在汽车安全系统中的应用2神经网络控制系统应用神经网络控制系统应用5MIE分析法智能控制技术汽车主动避障是现代汽车安全技术中的重要组成部分。它通过车辆搭载的传感器和控制系统来检测前方的障碍物，并在必要时辅助驾驶员或自动采取措施以避免或减轻碰撞。应用前提神经网络控制系统应用5MIE分析法智能控制技术1.障碍物检测2.碰撞预测利用车载的环境感知系统，如前视摄像头、毫米波雷达等，来检测前方的障碍物，包括其他车辆、行人、自行车等。根据检测到的障碍物信息，系统会评估和预测障碍物与车辆的潜在碰撞轨迹，以判断是否可能发生碰撞。3.避障决策和执行如果系统判断存在碰撞风险，它会采取相应的措施，如紧急制动或转向辅助，以帮助避免或减轻碰撞。汽车主动避障技术的关键步骤5MIE分析法智能控制技术第一步神经网络控制系统应用基于下一代交通仿真数据集进行数据处理与特征提取。如图1所示，为数据集数据提取处理的流程。该数据集的原始数据是由摄像机同步收集，并且直接通过视频图像处理技术输出得到。图1数据集数据提取处理流程5MIE分析法智能控制技术第二步神经网络控制系统应用搭建长短期记忆循环神经网络（LSTM-RNN）预测模型。由于循环神经网络智能记录上一时刻短时间的网络信息，而车辆轨迹在一定的时间内是有着较强的关联性的，因此不能满足牵扯轨迹序列预测的需求，需要加入时间长度轨迹序列信息的记录。图2LSTM-RNN神经网络结构神经网络控制系统应用5MIE分析法智能控制技术LSTM-RNN神经网络预测模型训练数据集划分多种训练超参数建立数据驱动模型交叉验证法将回归问题转化为最优化问题离线LSTM-RNN预测模型应用产品质量特性波动5MIE分析法智能控制技术工业控制系统的定义1）数据集划分。首先，通过创建数据随机索引，提取了1692可用数据进行数据集划分。将所有的训练数据的前70%数据作为训练集，后30%数据作为验证集。然后，将训练数据进行归一化处理。2）多种训练超参数建立数据驱动模型。首先，初始化超参数集；然后，因为车辆位置二维向量、车辆速度和车辆航向角与未来预测时域内车辆位置信息具有非常高的相关性，最终构造四维特征，以该多维特征为输入量，以未来位置信息为输出量，利用多种训练超参数建立数据驱动模型。3）交叉验证法将回归问题转化为最优化问题。随机从所有的训练数据中选取多组的验证集，对训练的模型进行循环精度验证。以计算得出的回归误差为标准，得到精度最好的预测模型。神经网络控制系统应用LSTM-RNN神经网络预测模型训练产品质量特性波动5MIE分析法智能控制技术工业控制系统的定义4）离线LSTM-RNN预测模型应用。最后，基于历史特征数据进行特征递推，并代入精度最好的模型，实现未来车辆位置信息的预测。LSTM-