关于鲁棒神经网络应用于间歇聚合反应控制器的学术报告.ppt

关于鲁棒神经网络应用于间歇聚合反应控制器的学术报告,姓名：xxx 2011年10月1日,1.prediction of polymer quality in batch polymerisation reactors using robust neural networks 2.process monitoring using non-linear statistical techniques 3.nonlinear principal component analysis based on principal curve and neural networks 4.the process chemometrics approach to process monitoring and fault detection 5.智能控制理论与技术,main reference,文献样例,推荐一个网站 全英文的网站，可以找到许多专业文献! free,,学术演讲的主要目的和希望,研究鲁棒神经网络应用于间歇聚合反应控制来解决实际运用中的问题以及优化生产流程。 和同学们一起学习相关的知识，也许不能精通，但可以作为大家的知识储备。 希望同学和老师给我挑出原则错误，只要是与内容相关。大家可以随时打断我！,introduce,几种常见反应类型： 在工程上，聚合流程可以是间歇式的。间歇操作反应器系将原料按一定配比一次加入反应器，待反应达到一定要求后，一次卸出物料。 而连续操作反应器系连续加入原料，连续排出反应产物。当操作达到定态时，反应器内任何位置上物料的组成、温度等状态参数不随时间而变化。 半连续操作反应器也称为半间歇操作反应器，介于上述两者之间，通常是将一种反应物一次加入，然后连续加入另一种反应物。反应达到一定要求后，停止操作并卸出物料。,聚合反应和反应器简介,间歇的聚合反应器适用于生产高附加值的特殊化学品，如：特种聚合物、药物、生物化学制剂。这里要研究是甲基丙烯酸甲酯 的聚合反应器的控制问题 它在现代很多化工企业有很重要的应用，这种类型的间歇反应器的最优化控制 研究现在有很多人从事。 ps,聚合反应器图示,传统控制的局限性,传统控制是以建立精确的数学模型为基础的，但对于复杂的聚合反应模型来说，建模是一件很困难的事情。实际运用的种种不便让学者们开始寻找新的出路。由于现代控制理论的应用中遇到的坎坷，智能控制应运而生，神经网络作为其中的代表在聚合反应器控制应用中获得了令人满意的性质。 ps,神经网络闪亮登场,神经网络的精髓（自己的理解）： 用复杂的输入变量间的相互关系来表达更复杂的函数关系乃至函数表达式都无法表达的繁杂关系。利用这样的技术可以实现抛开系统的建模过程对对象进入深入了解！这样的过程类似计算机：本身只能处理0和1之间的运算，但是有了一定的复杂性后就可以处理看似不可能的事情。 当然在我了解的神经网络的时候我更想要知道的是它的硬件实现方式，故我查得许多信息。,神经网络模型,tip:神经网络的硬件实现,1.基于fpga的人工神经网络实现方法 局限性 (1)fpga上实现的神经网络大多数是计算结构，而不是认知结构(虽然 现在有些人试图在fpga上实现bp算法。但是整个的结构和时序控制变得很复杂，并且无法达到计算机软件那样的计算精度)； (2)在fpga上实现的神经网络通用性差。目前fpga的使用者大多数都是在rtl级(寄存器传输级)编写vhdlveriloghdl实现数字系统，而正在兴起的handel-c&systemc，可以使硬件编程者站在算法级角度，可能对以后的基于fpga的神经网络的性能有所改善。 2.径向基函数神经网络芯片zisc78 应用：zisc78神经网络芯片在舰载武器系统中进行船舶运动实时预报的应用方法,ps,ps:目前，一些著名集成电路制造公司如、-、松下、日立、富士通等均已推出自己的模拟或数字神经网络芯片，这些芯片无论在网络规模还是运行速度上都已接近实用化的程度，因而给神经网络应用的发展以极大的推动。 但是现在在很在程度上还是要用软件来实现神经网络系统。,fpga和zisc78图示,神经网络的软件实现,1.高级语言算法级的实现，如java 2.matlab（比较常用） 这封装了神经网络的函数包可以很方便的调用自己做了一个简单的函数拟合过程 见matlab仿真,神经网络的软件实现,建立网络模型 bp网络建模 rbf网络建立： 参数训练 神经网络的泛化,神经网络的相对局限性,神经网络在连续的非线性函数拟合方面有较好的特性，现在已经应用于系统的建模控制。 这样的特性体现在它的归纳能力上，而且要保证在新的数据下可以表现也良好发收敛性（这样的是性质的好坏主要在网络的训练方法和训练数据方面）。 此外应用场合还有很大的限制，通用性还没有形成。是一个很有前景的领域。现在乌克兰的神经网络技术很先进。,训练数据的派生问题,有些现场的数据是不能测量或者是难于测量的。（如聚合生成物的平均分子质量、聚合物质量品质变量，这是要去检验分析的。）所以在一个间歇批次中可以获得的数据是很有限的.而training要用尽量多的数据，这就产生了矛盾！在实际应用中由于过拟合有限的训练数据，在系统未知数据时spe会很大 。为解决这样的问题，tsen等人提出用一个合适的过程机理模型来扩充有限的实验数据（泰勒外推），问题得以解决。 （具体原理大家可以自己去查询。）这句话你可以在讲幻灯片时说出来，没必要写在这里 keyword:mechanistic model,提升神经网络纳能力,神经权值的规范化 避免毫无必要的大的网络权值造成的巨大的spe的发生。 (如规范化到时-1，1之间),采用简单网络模型,利用神经网络修正技术 可以去除无用的神经元,开发一系列的神经网络模型并将他们相组合，形成堆叠神经网络模型，其预测输出是各个独立的神经网络的结合。此种方法可以在很大程度上提升系统的鲁棒性。,堆叠神经网络模型,具体内容 下文有讲,based methods,学术报告所研究是以间歇过程的处方为参考，预测聚合反应品质变化轨迹为目的，提出一个鲁棒神经网络的控制策略。 研究方向：用于明确处方和新产品品质变量的关系。 隐含的研究内容：聚合反应器的反应杂质的问题,反应杂质,为了保证控制系统的最经济运行，要回收没有参与反应的物料和溶剂或者是催化剂，这样就不可避免的引入了反应杂质。这样的杂质可以减缓甚至是阻止反应的正常进行，由此最优的初始条件是很难给出的，进而使基于处方的聚合反应预测产生很在的误差。但是，神经网络可以预测这样的问题,其它扰动因素,1.反应溶剂的回收 2.反应器沉积 3.杂质和沉积的混合问题 . 对于以上问题我们希望所设计的系统可以很好的区分，进而指导工程人员进行对应措施！,神经网络的基本结构,此函数是隐藏层输出表达式 b偏差 w连接权值 i 隐藏神经元的输入,此函数是神经元的激活函数 它是一个s型函数，可以把输出值映射进（0，1）区间,关于激活函数的小提示,在实际的工业过程是要是用到神经网络，那么它的激活函数通常是线性的，主要原因：可以提供一个较大的输出范围。 ps：控制器的输出范围会从根本上影响控制系统的控制品质,神经网络的权值调节,这就是经典的bp网络的训练方法 ，这里就不再介绍了。 这里就是要提一下训练中止的方法： 1.预测误差到一个很小的程度，比如0.000001 2.通过一个停止判据的交错校验。（自己也不是很理解） 3.预测误差不再减少的时候。 ps：有时候故意的提前结束训练可以在一定的程度 上提高系统的鲁棒性！,单一神经网络的局限性,1.构建一个完善的神经网络系统是很困难的，尤其是在训练数据很有限的情况下 2.网络的训练实质上是一个非线性的优化问题，解决这样的问题要用到大量的搜索方法，这就无法保证在全局的误差最小状态的保持。 3.工业数据不可避免的夹杂噪声，对这些内容的过分拟合会破坏网络的归纳能力。,堆叠神经网络,神经网络的多个结合的产物可以解决以上的问题。 特点：堆叠神经网络的每个网络都是用不同的训练数据不同的初始权值训练而成的。 组成的堆叠网络可以提升整体的精确性和鲁棒性。网络的输出是多个 网络输出的结合 表示如下： 其中w是网络的连接权值 f(x)是单个神经网络的输出函数 x是神经网络的输入向量 ps:这样的权值有很多方法可以获得，但较为理想的是利用pcr（principal component regression主元回归方法）,pcr,堆叠神经网络中的第i个网络的预测值为yi* 总体的预测矩阵 y=y1*,y2*.yn* 对上式主元解耦 y=t1p1t+t2p2t+.+tnpnt 其中t为贡献向量，p为负载向量 t1=yp1为第一个主元， t2=yp2为第二个主元.,t1,t2是正交的，并且通过类似这样的靠前的几个主元可以反应整个数据的特性。如此可以获得降阶的效果。 堆叠网络的预测输出为 ystack=yw=wiyi. tk=ypk为主元矩阵，通过lsm可得w的估计值。,不同的主元个数的选取会有不同的权值估计结果，这要通过对比来确定主元数目，确定的指标一般是针对测试数据的模型误差,堆叠网络的i/o确定,聚合反应器可以用非线性状态空间模型描述 dx/dt=f(x(t),u(t); y(t)=g(x(t) 当然，这里的u(t)是由处方决定的。也是整个系统中最大的主元！ 若用如上的模型，控制的实现是极端复杂不可想像的。而且有些快速状态是不能检测到。误差的不精确模型下积分一段时间就会很大，使控制失步。 因此，我们选取处方和聚合品质变量为网络 的io。通过神经网络找出其间的关系。 y=p(u). ps:y=p(x)这个函数就是网络要去预测的非线性函数。,针对反应杂质的问题,杂质类型：反应溶剂、未反应的分子、反应催化剂和氧气。 问题产生根源：过程不可避免的要把一些没有反应的物料重新送回反应器。 危害：反应杂质消耗自由基使聚合反应变慢甚至停止。严重影响生产效率。 杂质估计的必要性：精确的杂质估计建立在完备的杂质估计之上！,杂质估计,初始反应物静含量 ia=i0+i0（ia易知） ia初始反应物重;i0有效反应物重;i0杂质重量 zhang et al.提出如下网络模型 i0=f(t,x(t1),x(t2),x(t3),.,x(tn)（f(x)为待估计网络函数） t为反应器温度；x(ti)为间歇反应初始阶段单体转换轨迹上的离散点。给出多个离散点可以让神经网络估计出i0进而i0可以估计出。进而可以有一个很理想的聚合反应品质的估计，来指导生产。,甲基丙烯酸甲酯聚合反应器,控制系统是一个典型的串级闭环系统包含有1个主pid控制器，2个次级pid控制器。 可以通过改变冷热水的流量比来控制水温！当然系统也可以改进！,系统可以用s7-300的plc在执行器、控制阀和软件程序的协同作用下实现。 ps:控制温度的精度要求很高，又要保证控制成本的基础上。可以在cw hw的控 制阀前的位置分别加入流量控制和温度控制，保证系统温度调节更加稳定可靠。 但是这样也是有一定的局限性：各个主次pid控制器参数整定是有一定难度！ 展望：对于大型的工业控制领域为了节能减排还要适当的引用变频器来提升效率。,应用实例：批次聚合反应的预测,神经网络用于从初始的预测分子单体转换轨迹、平均分子质量和它的加权量。 一个批次的持续的时间大概是2，3小时。 利用这样的神经网络系统在反应的60，80，100，120，140，160和180分钟对反应的品质变量进行预测。 品质就是也就是分子单体转换轨迹、平均分子质量和它的加权量。,工程数据的生成,利用monte-carlo（蒙特卡罗 ）模型生成30组间歇批次的数据。 为了保证贴近实际，人为的加入一些噪声。 一部分用于训练，一部分用于神经网络的系统验证。 训练应用early stoppingrule 以保证系统的鲁棒性,应用实际情况,对聚合品质在100分钟内的预测,出现异常时的图形,聚合品质从160分钟开始的预测,可以明显看出：系统预测和置信区间选定是不合理的（偏差很大，失去了指导意义），可以直接说明当时的聚合反应系统。处于不正常状态，工程人员对这样的情况要加以留意。 对于故障的识别还可以借助pca的方法！ 即，依据贡献图轨迹的走向来确定异常的类型，进而指导系统去进行相应的调整。,基于pca的故障识别,可以看出对于列出的几种不同的故障类型可依据图示上走向，可以得到 很好的区分，实际应用的时候就可以这样 实现故障的识别和监视工作。,神经网络前景展望,神经网络可以用在很多领域 建模与识别、优化计算、故障诊断、预测控制等。 bp网络的不足 1.使用推广的bp学习算法时，网络的学习速度非常慢，无法满足实时性。 2.