单神经元自适应PID控制器设计.doc

辽宁科技大学本科生毕业设计 论文 第 页 单神经元自适应 PID 控制器设计 摘要 在控制理论和技术飞跃发展的今天 PID 控制由于其结构简单 稳定性能好可靠性 高等优点而被广泛应用 然而在实际的工业过程中 许多被控过程机理复杂 具有高 度非线性 这就要求在 PID 控制中 不仅 PID 参数的整定不依赖于对象数学模型 并 且 PID 参数能在线调整 以满足实时控制的要求 单神经元自适应 PID 控制将是解决 这一问题的有效途径 利用神经网络具有自学习 自组织 联想记忆和并行处理等功 能和对于复杂系统控制可以达到满意效果的优势 提出了具有自学习和自适应能力的 单神经元来构成单神经元自适应 PID 控制器的策略 这种神经元构成的控制器不仅结 构简单 且能适应环境变化 有较强的鲁棒性 使自适应 PID 控制达到最优 其仿真 结果表明 该控制器与典型的 PID 控制器相比 系统输出能够很好地跟踪参考模型的 输出显著提高了系统的动态响应性能 关键词 自适应 PID 控制 神经元 辽宁科技大学本科生毕业设计 论文 第 II 页 Single Neuron Adaptive PID Controller Design Abstract In the rapid development of control theory and technology nowaday PID control has been widely used because of its simple structure stable performance and high reliability However in actual industrial processes many complex mechanism controlled process has highly nonlinear This requires the PID control PID parameter setting not only do not rely on mathematical models and the PID parameters can be adjusted on line to meet the requirements of real time control Single neuron adaptive PID control will be an effective way to solve this problem Using neural network self learning self organization associative memory and parallel processing features and control of complex systems can achieve satisfactory results this paper proposed a self learning and adaptive capacity of single neurons to form the single neuron adaptive PID control strategy These neurons constitute the controller not only simple in structure and can adapt to environmental changes have stronger robustness Adaptive PID control to optimal The simulation results show that the controller compared with the typical PID controller the system output can track the reference model very well the output of the system significantly improved dynamic response Keywords adaptive PID control neurons 辽宁科技大学本科生毕业设计 论文 第 III 页 目 录 摘要摘要 I ABSTRACT II 1 绪论绪论 1 1 1 自适应控制介绍 1 1 2 自适应控制系统的分类 2 1 3 自适应控制的理论 4 2 PID 控制控制 7 2 1 PID 控制器 7 2 2 PID 控制器的参数整定 8 2 3 自适应 PID 控制 9 3 神经网络控制的发展与应用神经网络控制的发展与应用 10 3 1 传统控制理论的局限性 10 3 2 神经网络控制的发展与现状 11 3 3 人工神经网络与自动控制 13 3 4 单神经元模型 13 3 5 人工神经元的数学模型 15 3 6 激活函数 16 3 7 神经网络学习规则 17 4 单神经元自适应单神经元自适应 PID 控制器的设计控制器的设计 19 4 1 单神经元自适应 PID 控制器 19 4 2 改进的单神经元自适应 PID 控制器 20 3 转换器的实现 20 4 4 常规 PID 控制器与单神经元自适应 PID 控制器仿真比较 21 4 5 单神经元自适应 PID 控制器学习规则可调参数的选取 23 结论结论 24 辽宁科技大学本科生毕业设计 论文 第 IV 页 致谢致谢 25 参考文献参考文献 26 附录附录 A 27 附录附录 B 28 辽宁科技大学本科生毕业设计 论文 第 1 页 1 绪论 1 1 自适应控制介绍 70 年代以来 由于空间技术和过程控制发展的需要 特别是在微电子和计算机技 术的推动下 自适应发展很快 1 到了 80 年代 建立在状态空间概念上的现代控制理 论取得了很大进展 它不仅能用来解决单输入单输出控制系统的分析与设计问题 同 时还能处理多输入多输出的控制系统的情况 更为重要的是 在此期间内 线性系统 最优控制 最优估计 系统的辩识 随机控制等多个现代控制理论分支相继出现 并 取得了有使用价值的成果 为自适应控制技术进一步发展提供了坚实的基础 随着工业和自动化技术的发展 自动化的应用领域日趋广泛 受控对象的复杂程 度差异很大 而且控制精度的要求也参差不齐 特别应该指出的是 对某些实际的工 业受控对象来说 它们的数学模型 包括结构与参数 是很难事先提供的 因为在实 际情况中可能会出现受控对象的数学模型未知的情况和受控对象参数要发生不可知的 变化的情况 于是 对于这一类数学模型事先难以得到或事后又要发生变化的受控对象的控制 问题 人们按照 仿生学 的思想 提出了一种新的控制方案 自适应控制方案 该 方案摹仿自然界中存在的 适应 过程 从而使系统具有能自动适应环境变化的能力 如果我们把受控对象的数学模型 结构形式或和参数 或其变化事先并不知道这 一特性称之为受控对象的不确定性 那么 自适应控制方案的大致思路可归纳为 系 统可随时检测出本身的特性 或其变化 并在此基础上 对控制器的工作加以适当修 正 以使系统内不确定性对系统性能所产生的不良影响得以减小 自适应控制系统是一个具有一定适应能力的系统 它能够认识环境条件的变化 并 自动校正控制动作 使系统达到最优或次优的控制并自动校正控制使系统达到最优或 次优的控制效果 自适应控制系统的原理框图如图 1 1 这一系统在运行过程中 根据 参数输入 控制输入 对象输出和已知外部干扰来测量对象性能指标 tr tu tc tn 进行比较 做出决策 然后通过适应机构来改变系统参数 或者产生一个辅助的控制 输入量 累加到系统上 以保证系统跟踪上给定的最优性能指标 使系统处于最优或 次优的工作状态 辽宁科技大学本科生毕业设计 论文 第 2 页 图 1 1 自适应控制系统原理框图 自适应系统与其他系统的显著区别在于它包含性能指标闭环 1 从本质上讲 自适 应控制应具有 辨识 决策 修改 的功能 即 辨识 不断地测取系统 被控对象 的信号和参数 并加以处理 以获得系统 状态 决策 根据所辨识的系统和事先给定的准则做出决断 决策包括系统的自适应 算法 辨识是获得对系统的认识 而决策则是由此得出具体的控制规律 修改 对决策所计算出来的控制参量必须不断的适当修正并由相应的执行装置 或微机系统中某一运算软件来实现 也就是说 控制率必须与参数调整率相配合 自 适应 以使系统不断地趋向最优或要求的状态 1 2 自适应控制系统的分类 自适应控制的类型大致可分为增益自适应控制 模型参考自适应控制 自校正控 制 直接优化目标函数自适应控制 1 但比较成熟的自适应控制系统有下述两大类 1 模型参考自适应控制系统 模型参考自适应控制系统由参考模型 被控对象 反馈控制器和调整控制器参数 的自适应机构等部分组成 如图 1 2 所示 从图 1 2 可以看出 这类控制系统包含两个环路 内环和外环 内环是由被控对象 和控制器组成的普通反馈回路 而控制器的参数则由外环调整 参考模型的输出 y 直接表示了对象输出应当怎样理想地响应参考输入信号 m tr 当参考输入信号同时加到模型的入口时 由于对象的初始参数不确定 事先未知 tr 辽宁科技大学本科生毕业设计 论文 第 3 页 控 图 1 2 模型参考自适应控制系统 制器的参数不可能整定得很好 因此系统的输出与模型的输出是不会完全一致的 ty 结果产生偏差信号 当进入自适应调整回路后 由驱动自适应机构 产生 te te te 适当的调节作用 直接改变控制器的参数 从而使系统的输出逐步地与模型输出 ty t 接近 直到 t 既偏差 0 后 自适应调整过程就自动停止 由此可 m y ty m y te 见 尽管系统的初始参数未知 但通过对参考模型和对象输出的测量和比较 以及相 应的控制器参数的自适应调整 系统初始参数不确定对系统运行性能的影响将逐步减 小 经过一段时间运行 系统对输入的动态响应最终将自动调整到与所希望模型的动 态响应一致 这就是模型参考自适应的基本原理 设计这类自适应控制系统的核心问题是如何综合自适应律 既自适应机构所应遵 循的算法 目前自适应律的设计有两种不同的设计方法 一种设计方法为局部参数最 优化方法 既利用最优化技术搜索到一组控制器的参数 使得预定的性能指标达到最 小 这种方法的缺点是不能保证参数调整过程中 系统总是稳定的 另一种设计方法 是基于稳定性理论的方法 其基本思想是保证控制器参数自适应调节过程是稳定的 然后再尽量使这个过程收敛快一些 由于自适应控制系统是本质非线性的 所以目前 使用较多的设计工具是李雅普诺夫稳定性理论和波 波夫的超稳定性理论 由于保证系 统稳定是磁铁设计的基本要求 所以基于稳定性理论的设计方法近年来引起了广泛的 关注 辽宁科技大学本科生毕业设计 论文 第 4 页 2 自校正控制系统 自校正控制系统的结构图 1 3 所示 自校正控制系统也可以看作由两个控制回路组 成 内环由被控对象和常规的控制器组成 外环由参数估计器和控制器设计计算两部 分组成 参数估计和控制器设计必须在线实现 因此参数估计必须采用递推算法 控 制器设计必须采用尽量简单的设计方法 常用的有最小方差控制和极点配置法的设计 具有这种结构的控制系统称为自校正控制系统 这个名称强调了这种控制系统能自动 校正自己的参数 以得到希望的闭环系统性能 图 1 3 自校正控制系统的结构图 按照自校正控制系统的结构形式 它通常分为以下两种形式 1 图 1 3 所示 首先明显地估计出控制对象的参数 然后进行控制器设计 这样 的结构形式称为显示结构 2 将控制对象的参数估计和控制器设计这两个步骤结合在一起 而直接估计出控 制器参数 从而大大简化了自校正控制的算法 这样的结构形式称为隐式结构 自校正控制的基本思想是将参数估计递推算法与各种不同类型的控制算法结合起 来 形成一个能自动校正控制系统参数的实时计算机控制系统 根据所采用的不同类 型的控制算法 可以组成不同类型的自校正控制系统 其算法比较简单 实现也比较 容易 实际中它应用得比较多 1 3 自适应控制的理论 自适应控制系统是一种本质非线性的系统 所以分析这种系统相当困难 自适应 系统的理论进展较慢 许多研究工作在理论上仍未达到合理和完整的程度 由于自适 辽宁科技大学本科生毕业设计 论文 第 5 页 应系统的特性复杂 所以必须从几种不同的角度来考察它们 非线性系统理论 稳定 性理论 系统辨识 递推参数估计 最优控制理论和随机控制理论等都有助于理解自 适应控制系统的特性 但是 对自适应控制系统本身来说 最重要的理论研究课题还 是集中在以下三个方面 1 稳定性 稳定性是对控制系统的基本要求 自适应控制系统的稳定性是指系统的 状态 输入 输出和参数等变量 在干扰的影响下 应当总是有界的 目前 稳定性 理论已称为研究模型参考自适应控制系统的主要理论基础 大多数模型参考自适应控 制系统 在分析其稳定性时 都可以归结为研究一个误差模型 这个误差模型由一个 线性系统和一个非线性反馈环节组成 关于系统稳定性的一个主要结果是 如果误差 模型的线性部分的传递函数 G 是严格正实的 而非线性部分是无源的 则闭环系统是 稳定的 如果线性系统的传递函数 G 不是严格正实的 就用一个线性滤波器对误差 c G 进行滤波 使组合传递函数是严格正实的 模型参考自适应控制系统的许多自适 c GG 应律都是由此导出的 而且它还可以保证在任意大的自适应增益下系统稳定 即自适 应的速度可以任意快 2 收敛性 一个自适应控制算法具有收敛性 是指在给定的初始条件下 算法能渐 近达到其预期目标 并在收敛过程中 保持系统的所有变量有界 在许多自适应控制系统中 特别是在自校正控制中 人们要采用各种形式的递推 算法 当一个自适应控制算法被证明是收敛时 它可以提高这个算法在实际应用中的 可信度 另外 收敛性的理论有助于区分各种算法的优劣 指明改进算法的正确途径 因此 收敛性的研究对自适应控制系统具有重要的理论意义和实际意义 由于自适应算法的非线性特性对建立收敛性理论带来很大的困难 目前只在有限 的几类简单的自适应控制算法中取得了一定的结果 而且现有收敛结果的局限性太大 假设条件限制太严 不便于实际应用 即使是保证参数估计收敛的最基本的要求 即 希望系统的输入信号能持续激励或足够丰富 对于实际系统也不一定总能满足 收敛 性的理论研究还有待于进一步深入 3 鲁棒性 自适应控制系统的鲁棒性主要是指 在存在扰动和未建模动态特性的条 件下 系统能保持其稳定性和一定动态性能的能力 鲁棒自适应控制的研究始于 20 世 纪 80 年代初期 现在已经查明 扰动能使系统参数产生严重的漂移 导致系统的不稳 辽宁科技大学本科生毕业设计 论文 第 6 页 定 特别是在存在未建模的高频动态特性的条件下 如果指令信号过大或含有高频成 分 或存在高频噪声 或者自适应增益过大 都可能使自适应控制系统丧失稳定性 目前已有许多重要的理论结果 提出了若干不同方案来克服上述原因导致的不稳定性 但将这些结果用于实际控制工程还有一段距离 因此 如何设计一个鲁棒性强的自适 应控制系统 至今仍是一个重要的理论研究课题 辽宁科技大学本科生毕业设计 论文 第 7 页 2 PID 控制 2 1 PID 控制器 在工程实际中 应用最为广泛的调节器就是 PID 控制器 PID 控制是比例积分微 分控制的简称 2 PID 控制器问世至今已有 70 年的历史 它以其结构简单 稳定性好 工作可靠 调整方便而成为工业控制的主要技术之一 当被控对象的结构和参数不能 完全掌握 或得不到精确的数学模型时 控制理论和其它技术难以采用时 系统控制 器的结构和参数必须依靠经验和现场调试来确定 这时应用 PID 控制技术最为方便 即当我们不完全了解一个系统和被控对象 或不能通过有效的测量手段来获取系统参 数时 最适合用 PID 控制技术 PID 控制 实际中也有 PI 和 PD 控制 PID 控制器就 是根据系统的误差 利用比例 积分 微分计算出控制量进行控制的 PID 调节器的动作规律是 2 1 dt tde KdtteKteKu d t ip 0 是比例作用 它是现在控制效果的现时表现 是积分作用 它 P K te i Kdtte t 0 是对象过去受效果的总和 是微分作用 它是对未来控制作用的需求 因此 PID d K dt tde 控制律是根据对象对控制作用的历史效果 现时表现及未来需求的综合来确定的 而 不是靠对象的具体数学模型来决定的 常规 PID 控制器就是 P I D 三种作用的线性组合 为常数 理论和实践证明 即使是整定得很好的 PID 参数系统响应的快 P K i K d K 速性与超调量之间也存在矛盾 两者不可能同时达到最优 且系统在跟踪设定值与抑 制扰动发面对控制参数的要求也是矛盾的 比例控制 比例控制是一种最简单的控制方式 其控制器的输出与输入误差信号成比例关系 当仅有比例控制时系统输出存在稳态误差 积分控制 在积分控制中 控制器的输出与输入误差信号的积分成正比关系 对一个自动控 制系统 如果在进入稳态后存在稳态误差 则称这个控制系统是有稳态误差的或简称 有差系统 为了消除稳态误差 在控制器中必须引入 积分项 积分项对误差取决于 辽宁科技大学本科生毕业设计 论文 第 8 页 时间的积分 随着时间的增加 积分项会增大 这样 即便误差很小 积分项也会随 着时间的增加而加大 它推动控制器的输出增大使稳态误差进一步减小 直到等于零 因此 比例 积分 PI 控制器 可以使系统在进入稳态后无稳态误差 微分控制 在微分控制中 控制器的输出与输入误差信号的微分成正比关系 自动控制系统 在克服误差的调节过程中可能会出现振荡甚至失稳 其原因是由于存在有较大惯性组 件或有滞后组件 具有抑制误差的作用 其变化总是落后于误差的变化 解决是的办 法是使抑制误差的作用的变化 超前 即在误差接近零时 抑制误差的作用就应该是 零 这就是说 在控制器中仅引入 比例 项是往往不够的 比例项的作用仅是放大误 差的幅值 而目前需要增加的是 微分项 它能预测误差变化的趋势 这样 具有比 例 微分的控制器 就能够提前使抑制误差的控制作用等于零 甚至为负 从而避免 了被控量的严重超调 所以对有大惯性或纯滞后的被控对象 比例 微分 PD 控制 器能改善系统在调节过程中的动态特性 2 2 PID 控制器的参数整定 PID 控制器的参数整定是控制系统设计的核心内容 它是根据被控过程的特性确 定 PID 控制器的比例系数 积分时间和微分时间的大小 PID 控制器参数整定的方法 很多 概括起来有两大类 一是理论计算整定法 它主要是依据系统的数学模型 经 理论计算确定控制器参数 这种方法所得到的计算数据未必可以直接用 还必须通过 工程实际进行调整和修改 二是工程整定的方法 它主要依赖工程经验 直接在控制 系统的试验中进行 且方法简单 易于掌握 在工程实际中被广泛应用 PID 控制器 参数的工程整定方法 主要有临界比例法 反应曲线法和衰减法 三种方法各有其特 点 其共同点都是通过试验 然后按照工程经验公式对控制器参数进行整定 但无论 采用哪种方法所得到的控需制器参数 都需要在实际运行中进行最后调整与完善 现 在一般采用的是临界比例法 在生产过程的发展历程中 PID 控制是历史最久 生命力最强的基本控制方式 在本世纪 40 年代以前 除在最简单的情况下可采用开关控制外 它是唯一的控制方式 此后 随着科学技术的发展特别是电子计算机的诞生和发展 涌现出许多新的控制方 法 然而直到现在 PID 控制由于它自身的特点仍然是得到最广泛应用的基础控制方 辽宁科技大学本科生毕业设计 论文 第 9 页 式 2 3 自适应 PID 控制 在控制理论和技术飞跃发展的今天 PID 控制由于其简单 稳定性好 可靠性 高等优点 仍有其强大的生命力 PID 控制器广泛应用于冶金 机械 化工等工业过 程控制之中 在 PID 控制中 一个关键的问题便是 PID 参数的整定 传统的方法是在 获取对象数学模型的基础上 根据某一整定原则来确定 PID 参数 然而在实际的工业 过程中 许多被控过程机理较复杂 具有高度非线性 时变不确定性和纯滞后等特点 在噪声 负载扰动等因素的影响下 过程参数 甚至模型结构 均会发生变化 这就 要求在 PID 控制中 不仅 PID 参数的整定不依赖于对象数学模型 并且 PID 参数能在 线调整 以满足实时控制的要求 自适应 PID 控制将是解决这一问题的有效途径 自适应控制思想与常规 PID 控制器相结合 形成所谓自适应 PID 控制或自校正控 制技术 人们统称为自适应 PID 控制 自适应 PID 控制吸收了自适应控制与常规 PID 控制器两者的优点 首先 它是自 适应控制器 就是说它有自动辨识被控过程参数 自动整定控制器参数 能够适应被 控过程参数变化等一系列优点 其次 它又具有常规 PID 控制器结构简单 鲁棒性好 可靠性高 为现场工作人员和设计工程师所熟悉的优点 自适应 PID 控制具有的这两 大优势 使得它成为过程控制中一种较理想的自动化装置 成为人们竞相研究的对象 和自适应控制发张的一个方向 自适应 PID 控制器可分为两大类 一类基于被控过程参数辨识 统称为参数自适 应 PID 控制器 其参数的设计依赖于被控过程模型参数的估计 另一类基于被控过程 的某些特征参数 诸如临界振荡增益 K 临界振荡频率 W 等 这种类型的自适应 cc PID 控制器没有一个统一的名称 我们姑且称为非参数自适应 PID 控制器 非参数自 适应 PID 控制器控制参数的设计直接依赖于过程的特征参数和一些工程上常用的经验 整定规则 辽宁科技大学本科生毕业设计 论文 第 10 页 3 神经网络控制的发展与应用 3 1 传统控制理论的局限性 自 20 世纪 40 年代以来 传统控制理论得到了快速的发展 形成了完整的理论体 系和控制系统的大规模生产化 20 世纪 70 年代以来的近 30 年中 为了解决航天 军 事 工业 社会系统等复杂的控制任务 控制理论以科学上前所未有的速度经历了现 代控制理论和大系统理论两个重要的发展阶段 但是 它对精度数学模型的依赖性 使其应用受到很大的限制 无论是现代控制理论还是大系统理论 其分析 综合和设 计都建立在严格和精度的数学模型基础之上的 而在科学技术和生产力水平高速发展 的今天 人们对大规模 复杂和不确定性系统实行自动控制的要去不断提高 因此 传统的基于精确数学模型的控制理论的局限性日益明显 传统控制理论在具体控制系统中的局限性 主要表现在以下几个方面 3 不适应不确定性系统的控制 传统控制是基于模型的控制 即认为控制 对象及 干扰的模型是已知的或者是经过辨识可以得到的 但是 由于被控系统的结构和参数 往往难以测量和辨识 很多被控系统的结构和参数还具有不确定性 甚至常常会发生 突变 对于这些未知 不确定或知之甚少的被控系统 难以建立数学模型 因而采用 传统的控制理论无法实现有效的控制 不适应非线性系统的控制 一般被控系统都具有非线性特性 当非线性的特性的 影响较小时 传统控制理论通常将其近似线性化后设计控制器 当被控系统具有高度 非线性特性时 在传统控制理论中虽然也有一些方法可以利用 但只是针对一些具体 问题 有较多的附加条件 大多数过于复杂而难于实际运用 不适应时变系统的控制 实际被控系统的结构和参数时间而发生变化 绝对不变 的系统是并不存在的 当这种变化较小时 经过一系列的近似后 才能利用传统控制 理论进行系统综合 如果时变因素较大 传统控制理论则无法应用 不适应多变量系统的控制 多变量系统的控制问题一支是控制理论界和控制工程 界研究的重点和难点问题 多变量系统除了与单变量系统一样存在着不确定性 非线 性和时变问题以外 还存在着系统各要素间相互耦合 相互制约等特殊的问题 如果 多变量系统为线性时不变而且结构和参数已知 还可以应用传统控制理论设计解耦器 辽宁科技大学本科生毕业设计 论文 第 11 页 和控制器 对多变量系统进行控制 如果上述条件不成立 传统控制理论则无法应用 而在实际中 这些条件一般很难满足 传统控制是控制理论虽然也有办法对付控制对象的不确定性和复杂性 如自适应 控制和鲁棒控制也可以克服系统中的不确定性 达到优化控制的目的 但是自适应自 动调节控制器的参数 使控制器与被控对象和环境达到良好的 匹配 以削弱不确定 性的影响为目标 从本质上讲 自适应和自校正控制都是通过对系统某些重要参数的 估计 以补偿的方法来克服干扰和不确定性 它较适合于系统参数在一定范围内的慢 变化情况 鲁棒控制则在一点的外部干扰和内部参数变化作用下 以提高系统的灵敏 度来抵御不确定性的 根据这一思想和原理所导出的算法 其鲁棒的区域是很有限的 因此 在实际的应用中 尤其是在工业控制中 由于被控对象的严重非线性 数 学模型的不确定性 系统工作点变化激烈等因素 自适应和鲁棒控制存在着不能满足 被控对象的要求 这就促使人们提出新的控制技术和方法来适应这种变化 3 2 神经网络控制的发展与现状 人工神经网络 artificial neural network ANN 的发展经历了大约半个世纪 从 20 世纪 40 年代初到 80 年代 神经网络的研究经历了低潮和高潮几起几落的发展过程 早在 1943 年 心理学家 W McCulloch 和数学家 W Pitts 合作 从数理逻辑的角 度 提出了神经元和神经网络最早的数学模型 McCufioch Pitts MP 模型 标志着神 经网络研究的开始 但是由于受当时研究条件的限制 很多工作不能模拟 在一定程 度上影响了 MP 模型的发展 尽管如此 MP 模型对后来的各种神经元模型及网络模型 都有很大的启发作用 在此之后的 1949 年 D O Hebb 从心理学的角度提出了至今对神 经网络理论有着重要影响的 Hebb 学习法则 4 1958 年 F Rosenblatt 首次引进了模拟人脑感知和学习能力的感知器 pcrceptron 概 念 引起了人们的极大兴趣 感知器有简单的阈值型神经元构成 初步具备了诸如学 习 并行处理 分布存储等神经网络的一些基本特征 从而确立了从系统角度进行人 工神经网络研究的基础 1950 年 B Widow 和 M Hoff 提出了主要适用于自适应系统 的自适应线性元件 ADAptive LINear Neuron ADALINE 网络 采用了比感知器更复杂 的学习程序 Widow Hoffj 技术被称为最小均方误差 1east mean square LMS 学习规则 辽宁科技大学本科生毕业设计 论文 第 12 页 从此神经网络的发展进入了第一个高潮期 的确 在有限范围内 感知器有较好的功能 并且感知器收敛定理得到证明 单 层感知器能通过学习把那些线性可分的模式分开 但对象 XOR 异或 这样简单的非线 性问题却无法求解 这一点使人们大失所望 甚至开始怀疑神经网络的价值和潜力 1969 年 美国麻省理工学院著名的人工智能专家 M Minsky 和 S Papert 出版了颇有影响 的 Perception 一书 从数学上剖析了简单神经网络的功能和局限性 并且指出多层感知 器还不能找到有效的计算方法 由于 M Minsky 在学术界的地位和影响 其悲观的结论 被大多数人不做进一步分析而接受 加之当时以逻辑推理为研究基础的人工智能和数 字计算机的辉煌成就 大大降低了人们对神经网络研究的热情 故使神经网络的研究 在其后的若干年内处于低潮 尽管如此 神经网络的研究并未完全停顿下来 仍有不 少学者在极其艰难的条件下致力于这一研究 1972 年 T Kohonen 和 J Anderson 不约而 同地提出具有联想记忆功能的新神经网络 1976 年 S Grossberg 与 GA Capenter 提出了自 适应共振理论 adaptive resonance theory ART 并在以后的若干年内发展了 ARTl ART2 ART3 这三种神经网络模型 从而为神经网络研究的发展奠定了理论基 础 进入 20 世纪 80 年代 特别是 80 年代末起 对神经网络的研究从复兴很快转入了 新的热潮 这主要是因为 一方面经过了几十年迅速发展的以逻辑符号处理为主的人 工智能理论和冯 诺依曼 yon Neumann 计算机在处理诸如听觉 视觉 形象思维 联想 记忆等智能信息处理问题上受到了挫折 另一方面 并行分布处理的神经网络本身的 研究成果 使人们看到了新的希望 1982 年美国加州工学院的物理学家 J Hoppfield 提出了 HNN Hoppfield neural network 模型 并首次引入了网络能量函数概念 使网络 稳定性研究有了明确的判据 其电子电路实现为神经计算机的研究奠定了基础 同时 开拓了神经网络用于联想记忆和优化计算的新途径 1983 年 K Fukushima 等提出了神 经认知机网络理论 1985 年 D H Ackley G E Hinton 和 TJ Sejnowski 将模拟退火概念 移植到 Boltzmann 机模型的学习之中 以保证网络能收敛到全局最小值 1986 年 D Rumellhart 和 J McCelland 等提出的 PDP parallel distributed processing 理论则致力 于认知微观结构的探索 同时发展了多层网络的 BP 算法 使 BP 网络成为目前应用最 广的网络 1987 年 T Kohonen 提出了自组织映射 selforganizing map SOM 1987 年 美 电气和电子工程师学会 IEEE institute for electrical and electronic engineers 在 辽宁科技大学本科生毕业设计 论文 第 13 页 圣地亚哥 San Diego 召开了盛大规模的神经网络国际学术会议 国际神经网络学会 international neural networks society 也随之诞生 1988 年 学会的正式杂志 Neural Networks 创刊 从 1988 年开始 国际神经网络学会和 IEEE 每年联合召开一次国际学 术年会 1990 年 IEEE 神经网络会刊问世 各种期刊的神经网络特刊层出不穷 神经 网络的理论研究和实际应用进入了一个蓬勃发展的时期 3 3 人工神经网络与自动控制 人工神经网络的兴起引起了广大自动控制工作者的极大关注 其原因是人工神经 网络对自动控制具有多种吸引力的特点 主要有 5 1 它能任意精度逼近任意连续非线性函数 2 对复杂不确定问题具有自适应和自学习能力 3 它的信息处理的并行机制可以解决控制系统中大规模时实计算问题 而且并行 机制中的冗余性可以控制系统具有很强的容错能力 4 它具有很强的信息综合能力 能同时处理定量和定性的信息 能很好的协调多 种输入信息的关系 适用于多信息融合和多媒体技术 5 神经计算可以解决许多自动控制计算问题 如优化计算和矩阵代数计算等等 6 便于用 VLSL 或光学集成系统实现或用现有计算机技术虚拟实现 神经网络的应用已到自动控制领域的各个方面 包括系统辨识 系统控制 优化 计算以及控制系统的故障诊断与容错控制等 而自适应控制在 PID 方面的应用也必然 会使自适应控制在神经网络方面有深入的应用 6 神经网络和自动控制的结合是非常自 然的 可以预计 神经网络的发展 也像计算机一样 必将对自动控制的发展产生深 刻的影响 3 4 单神经元模型 按照生物神经元的结构和工作原理 目前人们提出的神经元模型已有很多种 其 中最早提出且影响最大的 是 1943 年心理学家 McCulloch 和数学家 W Pitts 在分析总 结神经元基本特性的基础上首先提出的 M P 模型 该模型经过不断改进后 形成目前 广泛应用的形式神经元模型 关于神经元的信息处理机制 该模型在简化的基础上提 出以下 6 点假定进行描述 辽宁科技大学本科生毕业设计 论文 第 14 页 1 每个神经元都是一个多输入单输出的信息处理单元 2 突触分兴奋性和抑制性两种类型 3 神经元具有空间整合性和阈值特性 4 神经元输入与输出间有固定的时滞 主要取决于突触延搁 5 忽略时间整合作用和不应期 6 神经元本身是非时变的 即其突触时延和突触强度均为常数 显然 上述假定是对生物神经元信息处理过程的简化和概括 它清晰地描述了生 物神经元信息处理的特点 而且便于进行形式化表达 上述假定 可以用图 3 1 中的神 经元模型示意图进行图解表示 图 3 1 神经元结构示意图 人脑神经元是组成人脑神经系统的最基本单元 神经元由细胞体及其发出的许多 突 起构成 细胞体内有细胞核 突起的作用是传递信息 作为输入信号的若干个突起 称为树突 最为输出端的突起只有一个 称为轴突 树突于轴突一一对接 从而把众 多的神经元连成一个神经元网络 如上图所示 正如生物神经元有许多激励输入一样 人工神经元也应有许多的输 入信号 图中输入的大小用确定数值 表示 它们同时输入神经元 生物神经元具有不 i x 同的突触性质和突触强度 其对输入的影响是使有些输入在神经元产生脉冲输出过程 中所起的作用比另外一些输入更重要 神经元的每一个输入都有一个加权系数 称 i w 为权重值 其正负模拟了生物神经元中的突触的兴奋和抑制 其大小则代表了突触的 不同连接强度 作为人工神经网络的基本处理单元 必须对全部输入信号进行整合 辽宁科技大学本科生毕业设计 论文 第 15 页 以确定各类输入的作用总效果表示组合输入信号的 总合值 相应于生物神经元 的膜电位 神经元激活与否取决于某一阈值电平 即只有当其输入总合超过阈值时 神经元才被激活而发放脉冲 否则神经元不会产生输出信号 人工神经元的输出也同 生物神经元一样仅有一个 如用 y 表示神经元的输出 则输出和输入之间的对应关系 可以用图中的某种函数来表示 这种函数称为激活函数 一般都是非线性的 3 5 人工神经元的数学模型 上述内容可以用一个数学表达式进行抽象与概括 定义表示其他神经元的轴突输出 亦即该神经元的输入向量 T n xxxx 21 表示其他神经元与该神经元 n 个突触的连接强度 亦即权值向量 T n wwww 21 其每个元素的值可正可负 分别表示为兴奋性突触和抑制性突触 为神经元的阈值 如果神经元输入向量的加权值大于 则该神经元被激活 所以输入向量的加 n j jjx w 1 权和也称为激活值 f 表示神经元的输入输出关系函数 亦即激活函数 因为激活值越 大 表示神经元的膜电位总合越大 该神经元兴奋所发出的脉冲数越多 所以激活函 数一般为单调升函数 但它又是一个有限制函数 因为神经元发放的脉冲数是有限的 这样 神经元的输出可以表示为 3 1 iijjiji txwfty 上式中是从其它细胞传来的输入信号 为阈值 偏差 表示 j x nj 3 2 1 i ij w 从细胞 i 到细胞 j 的连接权值 而称为激活函数 也称传输函数 为输入输出间 f ij 的突触延迟 在网络设计中 阈值起着重要的作用 它使得激活函数的图形可以左 i 右移动 从而增加了解决问题的可能性 为简便起见 将上式的突触时延取为单位时间 则式 3 1 可写为 3 2 n j ijiji txwfty 1 1 上式所描述的神经元数学模型全面表达了神经元模型的 6 点假定 其中输入的 j x 辽宁科技大学本科生毕业设计 论文 第 16 页 下标 输出体现出了神经元模型假定 1 中的 多输入单输出 权重值nj 3 2 1 i y 的正负体现了假定 2 中的 突触地兴奋与抑制 代表假定 3 中神经元的 阈值 ij w i 输入总合常称为神经元在 t 时刻的净输入 用 3 3 1 j jiji txwnnet 表示 体现在假定 3 中提到的神经元 i 的 空间整合性 而未考虑时间整合 i net 当 0 时 神经元才能被激活 与之间的单位时差代表所有神 ii net 1 tyi txj 经元具有相同的 恒定的工作节律 对应于假定 4 中的 突触延搁 与时间无关体 ij w 现了假定 6 中神经元的 非时变 式 3 3 还是可以表示为权重向量和输入向量 X 的点积 i W 3 4 XWnet T ii 式中 和 X 均为列向量 定义为 i W T ni wwwW 21 T n xxxX 21 如果令 则有 因此净输入与阈值之差可以表达 i wx 00 1 i wx 00 3 5 XWxwnetnet T i nn j jijiii 0 显然 式 3 4 中列向量和 X 的第一个分量的下标从 1 开始 而式 3 5 中的则从 i W 0 开始 采用式 3 5 的约定后 净输入改写为 与原来的区别是包含了阈值 综合 i net 以上各式 神经元模型可以简化为 3 6 XWfnetfy T iii 3 6 激活函数 激活函数是神经元和网络结构的核心 它的作用是 控制输入对输出的作用 对 输入 输出进行函数转换 将可能无限域的输入变换成有限域的输出 神经网络解决 辽宁科技大学本科生毕业设计 论文 第 17 页 问题的能力除了与网络拓扑有关外 很大程度上取决于激活函数的选取 常用的激活函数有阈值型函数 线性函数和非线性函数几种 1 简单线性函数 神经元的激活函数连续取值 各神经元构成的输出矢量 y 由输入矢量 X 与连 f 接矩阵 W 加权产生 输出为 3 7 kWXky 1 2 线性阈值函数 这是一种非线性函数 输出只取两值 如 1 与 1 或 1 与 0 当净输入大于某一 时 输出取 1 反之取 1 这一特性可用符号函数表示 3 8 kWXkysgn1 3 Sigmoid 函数 神经元的输出是限制在两个有限值之间的连续非减函数 其表达式为 3 9 kWX u ky 0 1 tanh1 当构成神经网络的神经元采用非线性激活函数 并动态运行时 就形成了一个非 线性动态系统 3 7 神经网络学习规则 学习是神经网络的主要特征之一 学习规则是修正神经元之间连接强度或加权系 数的算法 使获得的知识结构适应周围环境的变化 在学习过程中 执行学习规则 修正加权系数 在工作期内 由学习所得的连接加权系数与计算神经元的输出 学习 算法分为有监督学习和无监督学习两类 有监督学习是通过外部教师信号进行学习 即要求同时给出输入和正确的期望输出的模式对 当计算结果与期望输出有误差时 网路将通过自动调节机制调节相应的连接强度 使之向误差减少的方向改变 经过多 次重复训练 最后与正确的结果相符合 无监督学习则没有外部教师信号 其学习表 现为自适应于输入空间的检测规则 其学习过程为对系统提供动态输入信号 使各个 单元以某种方式竞争 获胜的神经元本身或其相邻域得到增强 其他神经元则进一步 被抑制 从而将信号空间分为有用的多个领域 辽宁科技大学本科生毕业设计 论文 第 18 页 常用的有三种学习规则 1 无监督 Hebb 学习规则 Hebb 学习是一类相关学习 它的基本思想是 如果有两个神经元同时兴奋 则它 们之间的连接强度的增强与它们的激励的乘积成正比 用表示单元 i 的激活值 输出 i o 表示单元 j 的激活值 表示单元 j 到 i 的连接加权系数 则 Hebb 学习规则可 j o ij w 用下 式表示 3 10 kokokw jiij 式中 学习速率 2 有监督学习规则 在 Hebb 学习规则中引入教师信号 将式 3 1 中的换成网络期望目标输出 i o 与实际输出之差 即为有监督学习规则 i d i o 3 11 kokokdkw jiiij 上式表明 两神经元间的连接强度的变化量与教师信号和网络实际输出之 kdi i o 差成正比 3 有监督 Hebb 学习规则 将无监督 Hebb 学习规则和有监督学习规则两者结合起来 组成有监督 Hebb 学 习规则 即 3 12 kokokokdkw jiiiij 这种学习规则使神经元通过对未知的外界作出反应 即在教师信号的 kokd ii 指导下 对环境信息进行学习和自组织 使输出增强或削弱 辽宁科技大学本科生毕业设计 论文 第 19 页 4 单神经元自适应 PID 控制器的设计 4 1 单神经元自适应 PID 控制器 如前所述 单神经元作为构成神经网络的基本单位 具有自学习和自适应能力 而且结构简单易于计算 而传统的 PID 控制器也具有结构简单 调整方便和参数整定 与工程指标联系密切等特点 若将这两者结合 则可以在一定程度上解决传统 PID 控 制器不易在线实时整定参数 难于对一些复杂过程和参数慢时变系统进行有效控制的 不足 用神经元实现的自适应 PID 控制器的结构框图如图 4 1 所示 7 图 4 1 单神经元自适应 PID 控制的结构图 单神经元控制系统的结构如图 4 1 所示 图中转换器的输入为设定值和输出 kr 转换器的输出为神经元学习所需要的状态量 K 为神经元的比例系数 ky 321 xxx 单神经元自适应 PID 控制器运用有监督 Hebb 学习规则的控制算法及学习算法为 8 4 1 3 1 1 i ii kxkwKkuku 辽宁科技大学本科生毕业设计 论文 第 20 页 4 2 3 1 i iii kwkwkw 4 3 kxkukzkwkw I111 1 4 4 kxkukzkwkw P222 1 4 5 kxkukzkwkw D333 1 式中 4 6 kekx 1 4 7 1 2 kekekx 4 8 212 2 3 kekekekekx 分别为积分 比例 微分的学习速率 K 为神经元的比例系数 D PI K 0 为性能指标或递进信号 kz 对积分 I 比例 P 和微分 D 分别采用了不同的学习速率 以使对不同 D PI 的权系数分别进行调整 4 2 改进的单神经元自适应 PID 控制器 在大量的实际应用中 通过实践表明 PID 参数的在线学习修正主要与和 ke 有关 基于此可将单神经元自适应 PID 控制算法中的加权系数学习修正部分进行 ke 改进 即将其中的改为 改进后的算法如下 kxi keke 4 9 3 1 1 i ii kxkwKkuku 4 10 3 1 j jji kwkwkw 4 11 kekekukzkwkw I 1 11 4 12 kekekukzkwkw P 1 22 4 13 kekekukzkwkw D 1 33 辽宁科技大学本科生毕业设计 论文 第 21 页 式中 4 14 kekzkekeke 1 采用改进后的算法后 权系数的在线修正就不完全是根据神经网络学习原理 而 是参考实际经验制定的 3 转换器的实现 由图 4 1 可知 转换器的输入设定值和输出值 经过转换器后输出神经元学习控制 所需要的状态控制信号 且 在 SIMULINK 仿真环境中 可以通过零阶保持器来保存 前一个状态 具体的状态转换器的仿真图如下所示 9 3 Out3 2 Out2 1 Out1 Zero Order Hold1 Zero Order Hold 1 In1 图 4 2 状态转换器的仿真结构图 4 4 常规 PID 控制器与单神经元自适应 PID 控