（控制科学与工程专业论文）基于正交最小二乘的软测量建模方法研究.pdf

s o f ts e n s o rm o d e l i n gb a s e do no r t h o g o n a ll e a s t s q u a r e s at h e s i ss u b m i t t e df o rt h ed e g r e eo fm a s t e r c a n d i d a t e ：j uw e n s u p e r v i s o r ：p r o f t i a nx u e m i n c o l l e g eo fi n f o r m a t i o n & c o n t r o le n g i n e e r i n g c h i n au n i v e r s i t yo f p e t r o l e u m ( e a s tc h i n a ) 关于学位论文的独创性声明 本人郑重声明：所暑交的论文是本人在指导教师指导下独立进行研究工作所取得的 成果，论文中有关资料和数据是实事求是的。尽我所知，除文中已经加以标注和致谢外， 本论文不包含其他人已经发表或撰写的研究成果，也不包含本人或他人为获得中国石油 大学( 华东) 或其它教育机构的学位或学历证书而使用过的材料。与我一同工作的同志 对研究所做的任何贡献均已在论文中作出了明确的说明。 若有不实之处，本人愿意承担相关法律责任。 学位论文作者签名：巨煎：r 期： 州f 年6 月 i or 学位论文使用授权书 本人完全同意中国石油大学( 华东) 有权使用本学位论文( 包括但不限于其印 刷版和电子版) ，使川方式包括但不限于：保留学位论文，按规定向国家有关部门( 机 构) 送交学位论文，以学术交流为目的赠送和交换学位论文，允许学位论文被查阅、 借阅和复印，将学位论文的全部或部分内容编入有关数据库进行检索，采用影印、 缩印或其他复制手段保存学位论文。 保密学位论文在解密后的使用授权同上。 学位论文作者签名：垦煎 指导教师签名： f 1 期：7 , 0 1 1 年6 月口同 同期：如i j 年占月1 0 同 摘要 在石油化工生产过程中，存在很多无法在线测量的重要过程变量，如炼油企业精馏 产品的纯度与干点、精馏塔塔板效率以及聚丙烯熔融指数等。软测量技术为解决这类问 题提供了有效的途径。随着工业技术的快速发展，软测量技术有着广阔的应用前景，已 成为过程检测技术与仪表研究的主要方向之一。本文对正交最小二乘( o l s ) 方法进行 了分析和研究，并应用该方法建立聚丙烯熔融指数的软测量模型。主要内容包括： 对几种常规的软测量建模方法进行了详细的总结和分析，阐述了各自的优缺点。针 对o l s 软测量模型可能包含了与输出无关的噪声信息，给出了基于正交信号修正的o l s 软测量建模方法。采用正交信号修正( o s c ) 方法对o l s 模型进行预处理，消除建模 过程中与输出变量无关的正交信息，改进模型的解释能力，提高模型的泛化性能。实际 数据应用结果表明，基于正交信号修正的o l s 方法能够比p l s 、o l s 方法更准确的预 报聚丙烯熔融指数的变化。 针对核建模方法中单一核函数的局限性，给出一种基于混合核函数的o l s 算法并 将其用于工业过程软测量建模。采用混合核函数代替基本o l s 方法中的单一核函数， 利用混合核函数兼具局部和全局核函数的性能，可以提高模型的泛化能力和非线性处理 能力。核参数的选择对模型的影响较大，采用粒子群( p s o ) 优化算法对核参数进行寻 优。实际数据应用结果表明，基于混合核函数o l s 方法能够比p l s 、o l s 方法更准确 的预测熔融指数的变化情况。 关键词：软测量，正交最小二乘，正交信号修正，核函数，粒子群 s o f ts e n s o rm o d e l i n gb a s e do no r t h o g o n a ll e a s ts q u a r e s j uw e n ( c o n t r o ls c i e n c ea n de n g i n e e r i n g ) d i r e c t e db yp r o f t i a nx u e m i n a b s t r a c t i np e t r o c h e m i c a l 珊o c e s s ，t h e r ea r em a n yi m p o r t a n tp r o c e s sv a r i a b l e st h a tc a n n o tb e m e a s u r e do n - l i n e s u c ha sp u r i t y , d r yp o i n to fd i s t i l l a t i o np r o d u c t ，d i s t i l l a t i o nt r a ye f f i c i e n c y , a n dp o l y p r o p y l e n em e l ti n d e x ，e t c s o f ts e n s o rp r o v i d e s 趾e f f e c t i v ew a yt os o l v et h e s e p r o b l e m s w i t ht h er a p i dd e v e l o p m e n to fm o d e r ni n d u s t r y , t h es o f ts e n s o rt e c h n i q u eh a sa w i d e l ya p p l i c a b l ep r o s p e c ta n dh a sb e e no n eo ft h em o s tf o c i l s e si np r o c e s si n s t r u m e n ta n d m e a s u r e m e n tt e c h n i q u e t h i sp a p e rr e s e a r c h e so no r t h o g o n a ll e a s ts q u a r e s ( o l s ) a n d e s t a b l i s h e sas o f ts e n s i n gm o d e lo fp o l y p r o p y l e n em e l ti n d e xb yu s i n gt h i sm e t h o d t h em a i n w o r ki sd e s c r i b e d 勰f o l l o w s ： s o m ek i n d so ft r a d i t i o n a lm e t h o d so fs o f ts e n s o rm o d e l i n gm e t h o d sa l ed i s c u s s e da n d s u m m a r i z e di nd e t a i l si nt h i sp a p e r , w h i l et h ec h a r a c t e r i s t i co fe a c ha p p r o a c hi sd e s c r i b e d r e s p e c t i v e l y an e wo l s m e t h o db a s e do no r t h o g o n a ls i g n a lc o r r e c t i o n ( o s c ) i sp r o p o s e d t or e d u c et h en o i s ei n f o r m a t i o nw h i c hi su n c o r r e l a t e dw i t l lo u t p u tv a r i a b l e s ，a n di ti su s e df o r s o f ts e n s o rm o d e l i n gi ni n d u s t r i a lp r o c e s s i no r d e rt oi m p r o v em o d e le x p l a n a t o r ya b i l i t ya n d g e n e r a l i z a t i o n , o r t h o g o n a ls i g n a lc o r r e c t i o ni sa p p l i e dt op r e p r o c e s so l s m o d e lt or e d u c e t h en o i s ei n f o r m a t i o nw h i c hi su n e o r r e l a t e dw i t ho u t p u tv a r i a b l e s t h ea p p l i c a t i o nr e s u l t so f a c t u a ld a t as h o wt h a to l sb a s e do no r t h o g o n a ls i g n a lc o r r e c t i o nc a np r e d i c tt h e p o l y p r o p y l e n em e l ti n d e xm o r ea c c u r a t e l yt h a np l s a n do l s w i t hr e g a r dt ot h el i m i t a t i o n so fs i n g l ek e r n e li nk e r n e lm o d e l i n gm e t h o d s ，a na l g o r i t h m o fo r t h o g o n a ll e a s ts q u a r e s ( o l s ) b a s e dm i x t u r e so fk e r n e l si sp r o p o s e da n di ti su s e df o rs o f t s e n s o rm o d e l i n gi ni n d u s t r i a lp r o c e s s m i x t u r e so fk e r n e l sh a v ep m p e r t i e so fl o c a la n dg l o b a l k e r n e lo n e s t h e ya r eu s e di no l sm e t h o dt or e p l a c et h es i n g l ek e r n e lw h i c hc a ni m p r o v et h e g e n e r a l i z a t i o na b i l i t ya n dn o n l i n e a r i t yo fm o d e l t h es e l e c t i o no fk e r n e lp a r a m e t e rh a sg r e a t i n f l u e n c eo nm o d e l p a r t i c l es w a r mo p t i m i z a t i o n ( p s o ) a l g o r i t h mi su s e di no p t i m i z i n g k e r n e lp a r a m e t e r s t h ea p p l i c a t i o nr e s u l t so fa c t u a ld a t as h o wt h a tm i x t u r e so fk e r n e l so l s c a np r e d i c tt h ep o l y p r o p y l e n em e l ti n d e xm o r ea c c u r a t e l yt h a np l sa n do l s k e yw o r d s ：s o f ts e n s o r , o r t h o g o n a ll e a s ts q u a r e s ，o r t h o g o n a ls i g n a lc o r r e c t i o n , k e r n e l ，p a r t i c l es w a r mo p t i m i z a t i o n 目录 第1 章前言。1 1 1 课题研究的目的和意义1 1 2 软测量技术的研究现状。2 1 2 1 软测量技术的基本原理2 1 2 2 软测量建模方法3 1 3 软测量方法在工业过程中的实现。7 1 3 1 辅助变量的选择8 1 3 2 数据预处理9 1 3 3 软测量模型的建立9 1 3 4 模型的在线校正9 1 4 本文的研究内容与结构安排1 0 第2 章常规的软测量建模方法1 1 2 1 主元回归和部分最小二乘1 1 2 1 1 主元回归分析一1 1 2 1 2 偏最小二乘方法1 2 2 2 非线性偏最+ - - 乘法1 3 2 3 人工神经网络1 7 2 4 支持向量机1 8 2 4 1s v m 的理论基础1 8 2 4 2 基于支持向量机的线性回归2 0 2 4 3 基于支持向量机的非线性回归2 1 2 5 正交最小二乘法2 2 2 5 1o l s 方法的基本原理2 2 2 5 2o l s 模型参数的局部正则化2 3 2 5 3 基于留一法的训练误差计算2 4 2 5 40 1 5 软测量建模方法的迭代步骤2 4 2 6 本章小结。2 6 第3 章基于正交信号修正的o l $ 软测量建模方法。2 7 3 1 正交信号修正法2 7 3 2 改进的o s c 方法2 8 3 3 基于o s c 的o l s 方法2 9 3 4 仿真研究3 0 3 5 工业数据应用研究3 4 3 5 1 工业背景3 4 3 5 2 数据来源及预处理3 6 3 5 3 应用研究3 7 3 6 本章小结。4 4 第4 章基于混合核函数的o l s 软测量建模方法4 6 4 1 混合核函数o l s 建模方法4 6 4 2 粒子群优化算法4 7 4 3 基于p s o 的核参数优化4 8 4 4 仿真研究4 9 4 5 工业数据应用研究。5 3 4 6 本章小结5 7 总结与展望5 8 参考文献6 1 攻读硕士学位期间取得的学术成果。6 5 致谢。6 6 中国石油大学( 华东) 硕士学位论文 1 1 课题研究的目的和意义 第1 章前言 随着现代科学技术的飞速发展，生产工艺的复杂化对控制系统的要求不断提高，同 时对工艺过程中许多重要过程变量的测量要求也日益提高。为了保证产品的质量和生产 过程正常的运行，各种先进的控制理论都纷纷被应用于现代生产过程中以改进常规控制 系统的缺陷。在实际的工业过程中，由于高温、高压、非线性、滞后性等特点的存在， 往往导致许多重要的过程质量变量难以在线测量，并且很多与生产过程控制和产品质量 密切相关的过程参数如：反应器中催化剂活性、反应物浓度、杂质的含量和产品分布等 也都很难测得。目前，在实际的工业过程中，这类质量变量通常都是采用离线的实验室 分析得到，但是离线的实验室分析存在较大的时间延迟，无法应用于在线实时控制。 目前，要解决这类问题主要有两种方案：第一，根据传统检测技术的思想，研发新 型的过程测量仪表，采用在线的测量仪表直接实时测量过程变量，但是研发在线测量仪 表的费用较高，在线维护也存在一定的困难，而且硬件投资较大；第二，采用间接测量 的方式，利用容易测得的其他变量信息，通过计算机建立可测变量与被检测变量之间的 关系，从而实现对被检测变量的估计。目前，在工业过程控制领域研究中成为研究热点 的软测量技术正是在间接测量的基础上逐渐发展起来的。 软测量技术的理论根源是b r o s i l l o w 于2 0 世纪7 0 年代提出的推断控制理论n 1 。软测量 技术的基本思想是采用间接测量的思路，采集过程中易于测量的辅助变量信息，通过构 造某种数学关系，实现对工业过程中无法直接测量的主导变量的估计。对于目前由于技 术或经济的原因无法或难以用传感器直接检测的重要过程参数，软测量技术不但能够测 量而且能够根据多个可测的变量信息对被测对象做出状态估计、诊断和趋势分析，能够 提高测量精度和可靠性。因此，软测量技术的研究和应用对工业过程控制具有重要的意 义。近年来，软测量技术的研究已经取得了很大的进展，目前已经成为现代工业控制领 域非常关键和前沿的技术。 软测量建模是软测量技术的核心。近年来，软测量建模的方法已有很多，如机理建 模方法、p l s 方法、神经网络方法以及支持向量机方法等，随后针对这些方法的缺陷提 出的改进算法也相继增加，而且均取得了一定的成果。随着各种方法的改进，模型预测 精度得到了提高，但是同时也增加了模型的复杂度。而且通过仿真研究和实际应用可以 第1 章前言 发现，在提高模型的训练效果的同时，往往会导致模型的泛化效果降低。论文研究一种 以提高模型的泛化效果为目标的稀疏核建模方法一基于正交最d - - 乘的软测量建模 方法。 1 2 软测量技术的研究现状 软测量的基本思想最早可追溯到2 0 世纪7 0 年代b r o s i l o w 提出的推断控制的思想。 采集工业过程中容易测量的二次变量( s e c o n d a r yv a r i a b l e ) ，并用其构造推断估计器来 估计过程主导变量( p r i m a r yv a r i a b l e ) ，然后将主导变量的值作为反馈信息，设计能够 对主导变量进行实时控制的控制器。8 0 年代中后期提出的软测量技术就充分体现出了 推断控制的思想。19 9 2 年世界著名过程控制专家m a c a v o y 在a u t o m a t i o n 上发表i f a c 报告，明确指出了软测量技术是过程控制界的研究方向，具有广阔的应用前景h 1 。 早期的时候，为了实现对复杂工业过程的控制，软测量技术主要被用于控制难于测 量的变量和扰动不可测的场合，主要采用与控制系统相对应的线性软测量模型或者机理 软测量模型。但是传统的控制系统已经跟不上工业的发展速度，早期的线性模型已经不 能适应严重非线性的工业过程，预测的精度也不能到达预期的目标，为了能够很好的控 制产品的质量，对生产过程中一些重要的过程变量的在线检测提出了更高的要求。近年 来，为了满足工业过程的需要，国内外越来越多的学者对软测量技术进行了研究，软测 量技术也因此得到迅速的发展，用于建立软测量模型的方法也是层出不穷，已经在石油、 化工、食品、冶金、生物等h ”多种工业领域得到应用。 1 2 1 软测量技术的基本原理 对于工业过程中一些难于测量的主导变量，首先选择一组辅助变量，( 即与主导变 量密切相关且易于测量的变量) ，然后运用计算机软件构造主导变量与辅助变量之间的 某种数学关系，进而估计出主导变量。软测量技术的基本思想就是基于这样的原理来实 现对主导变量的估计。软测量模型的结构如图1 1 所示。 2 中国石油大学( 华东) 硕士学位论文 图1 - 1 软测量技术基本结构图 f i g l - 1t h es k e t c ho fs o f ts e l l s o rt e c h n i q u e 软测量技术的就是利用所有可测得的变量信息求取主导变量的最优估计值】，即可 构造函数f ( ) ： y = f ( d 2 ，“，x ) ( 1 - 1 ) 函数f ( ) 即为要构造的数学关系，也就是要构造的软测量模型。 1 2 2 软测量建模方法 软测量技术的核心是建立一个精度高且泛化能力强的软测量模型。目前建立软测量 模型的方法已有很多种，根据人们对过程的认识程度大致可以分为以下几类。 1 、基于传统方法的软测量建模 ( 1 ) 机理分析的软测量建模方法 机理建模要求比较高，不但需要掌握实际对象的机理结构，而且还要了解实际工业 过程中所涉及到的一些基本规律，如热力学方程、物料平衡、能量平衡以及高分子化学、 聚合反应工程等。通过分析实际对象的内在联系，建立不可测主导变量和辅助变量之间 的数学关系，进而建立基于机理的软测量模型。 机理模型的优点在于有明确的物理意义，外推性能较好。对于机理清楚的过程对象， 可以采用这种方法建立精确的数学模型。由于大多数工业生产过程都存在非线性、不确 定性和复杂性，想要建立精确的软测量模型是非常困难的。因此，机理建模不适用于机 理尚不完全清楚的工业过程。 ( 2 ) 基于状态估计的软测量模型 以状态空间模型为基础的，将过程对象的不可测主导变量作为状态变量，且对辅助 3 第1 章前言 变量是完全可观的，则软测量建模问题就可转化为典型的状态观测和状态估计问题，这 就是基于状态估计的软测量模型的基本思想。状态变量的估计值可以采用l u e n b e r g e r 观 测器$ 6 3 和k a l m a n 滤波器m 等方法得到。 由于能够反映不可测主导变量与辅助变量之间的动态关系，基于状态估计的软测量 建模方法有助于解决变量之间动态特性的差异性问题以及系统滞后问题等。但是这种基 于状态估计的软测量建模方法对k a l m a n 滤波器的要求比较高，在许多复杂的工业过程中 使用存在较多困难，因而难以在工业生产现场大力推广。 2 、基于统计回归分析的软测量建模 回归分析是一种经典的软测量建模方法。实际的工业过程数据中包含了大量的对象 信息，回归分析实质上就是运用统计分析方法对这些数据中包含的对象信息进行浓缩、 提取，从而获得所需的数学模型。在只有少量的辅助变量时，应用统计分析技术提取建 模所需的各参数的值，从而建立主导变量与辅助变量间的数学模型；在存在较多的辅助 变量时，则需对系统进行分析，得各参数间的大致关系，再利用统计分析确定模型的参 数，从而建立主导变量与辅助变量间的数学模型。回归分析方法不需要建立复杂的数学 模型，相对比较简单，是最常用的软测量建模方法。但是这种方法需要大量的样本数据， 而且对测量误差比较敏感。统计回归方法主要有以下几种： ( 1 ) 多元线性回归 在辅助变量变化范围较小而且非线性化不太严重的情况下，通常使用多元线性回归 建模方法，在保证主导变量的预测值与实际值的绝对误差和最小的前提下，对辅助变量 进行线性回归分析。多元线性回归方法不适用于辅助变量之间存在严重的相关性的情 况，以及非线性或者干扰严重的系统。因为变量间存在严重的相关性会影响建模的精度， 而且模型的计算太过复杂也会影响建模的速度。 ( 2 ) 主元回归 主元回归建模方法采用了主元分析的思想，提取能够最大限度涵盖辅助变量信息的 主元，构造其与主导变量之间的关系。通过提取相互正交的主元，来处理多元线性回归 中存在的多重共线性问题陋1 。传统的主元回归方法本质上仍是一种线性回归方法，不能 有效的处理工业过程中复杂的非线性问题。为了解决这类问题，多层感知器方法、核主 元分析法等多种方法，均在主元回归分析的基础上逐渐发展起来。近年来，应用较为广 泛的是核主元分析方法，通过非线性映射将辅助变量投影到高维数据空间，而且核主元 分析方法提取的辅助变量的第一个主元通常已经包含了辅助变量的绝大部分信息，从而 4 中国石油大学( 华东) 硕士学位论文 使得主元提取变得更加简单有效。 ( 3 ) 偏最d , - 乘回归 偏最d , - 乘法( p l s ) 是在上世纪六十年代由h e r m a nw o l d 最早提出的嘲。该方法 的基本原理同主元回归的方法类似，也是一种数据压缩和信息提取方法。其改进之处是 偏最d x - - 乘回归在提取主成分时，不但考虑了消除原有变量的共线性问题，而且还兼顾 了输入输出数据之间的相关性。因此采用偏最d x - - 乘回归建立的软测量模型可对因变量 做出更好的解释，并且具有良好的鲁棒性和预测精度等特点。但是，偏最小二乘回归本 质上是一种线性回归，不适用于具有严重非线性的工业过程，针对这种情况，w o l d 等 n 们提出t t l e 线性偏最小二乘算法。这种方法的基本思想是在计算p l s 的内部关系时， 采用多项式函数代替传统的线性回归进行非线性计算。这为非线性p l s 的研究提供了 新的思路，随后出现了很多基于偏最小二乘回归的改进算法。例如：1 ) 将原始变量的 非线性组合融入到辅助变量之中，然后再进行p l s 回归；2 ) 将人工神经网络用于构造 偏最$ - - 乘方法的外部和内部模型，从而实现非线性的p l s 方法；3 ) 采用神经网络或 者非线性项来构造p l s 方法的内部模型，而外部模型保持不变，从而实现非线性p l s 回归。 3 、人工智能建模方法 基于人工智能的软测量建模方法主要有基于模式识别的方法、人工神经网络的方法 以及基于模糊集合理论的方法等，其中基于人工神经网络的软测量建模方法应用最为广 泛。 在软测量技术应用的领域中，大多数的过程对象都存在非线性和复杂性等特性，要 建立预测精度高、泛化能力好的估计模型是非常困难的。针对这类问题，近年来将人工 神经网络( a r t i f i c i a ln e u r a ln e t w o r k ，触州) 方法用于软测量建模，已经成为目前研究 最多、应用最广泛的方法之一。 理论上来说，人工神经网络方法学习非线性特性的能力比较好，任何一个非线性连 续函数都可由一个三层前向网络来逼近。神经网络方法还具有自适应能力以及并行处理 的能力，而且不依据过程的先验知识，只依靠工业对象的输入输出数据进行建模，即分 别将辅助变量和主导变量作为a n n 的输入和输出，通过网络的学习来解决不可测变量 的软测量问题，因此能够很好地适用于高度非线性和严重不确定性的控制系统。常用于 软测量建模的神经网络结构有两种：b p ( b a c kp r o p a g a t i o n ) 神经网络和r b f ( r a d i a lb a s i s f u n c t i o n ) 神经网络。 5 第1 章前言 ( 1 ) 基于b p 神经网络软测量模型 b p 神经网络是一种包含了输入层、输出层以及隐含层的多层前向神经网络，其隐含 层可以是一至多层。b p 神经网络的核心是将一组样本的输入输出问题转化为非线性优化 问题，在优化过程中使用的是梯度下降法。c h e n 等n 订采用人工神经网络方法建立浇铸填 充过程中熔流长度的软测量模型，并取得了较好的预测效果。d e v o g e l a e r e 等n 羽采用前馈 神经网络建立软测量模型并将其用于制糖工业中。黄江平等n 3 1 将b p 网络用于聚乙烯醇生 产过程中醋酸乙烯聚合率难于在线检测的情况，并取得了较好的效果。 ( 2 ) 基于r b f 神经网络软测量模型 r b f 神经网络是一种由输入层、隐含层和输出层构成前向网络。构成r b f 神经网络 隐含层节点的是一种局部分布的、对中心点径向对称衰减的、非负非线性函数。这种函 数被称为径向基函数，最常用的为高斯函数，输出节点通常为简单的线性函数。r b f 网 络的学习算法，具有较好的全局逼近性质，并且训练学习速度较快，适合用于软测量建 模。s h i 等n 4 1 提出了一种新的软仪表结构，将r b f 神经网络与独立主元分析和多尺度分析 结合起来并将该软仪表用于聚丙烯中熔融指数的估计，取得了较好的效果。薄翠梅等n 印 提出了一种基于r a f t * 经网络的精馏塔优化控制。 用r b f 网络建立的软测量模型虽然具有一定优势，但也有一些不足的地方。呦i r b f 神经网络的隐节点的数目以及数据中心的选择对模型的性能具有重要的影响，而且到目 前为止都没有一种有效的方法来确定聚类的尺度。再如不同的r b f 基函数对不同的工业 对象具有不同的效果，该如何选择基函数也是一个有待解决的问题。 总上所述，神经网络建模方法建立软测量模型时具有一定的优势，但也常常会遇到 一些问题，比如如何有效的确定隐含层及节点的数目；所建模型存在过拟合现象以及易 陷入局部极点等问题。针对这些不足，目前已有大量文献提出了改进方法，如引入正规 化方法，来减小不必要的大权值；采用剪枝法进行训练，得到规模适中的神经网络；组 合多个神经网络，以提高网络的泛化能力等。 4 、支持向量机方法 支持向量机( s u p p o r tv e c t o rm a c h i n e ，简称s v m ) 是一种基于结构风险最小化 ( s t r u c t u r a lr i s km i n i m i z a t i o n ，s r m ) 原则的机器学习算法，最初是由v a p n i k 在统计学 习理论的基础上建立起来的n 明。与神经网络算法的启发式学习方法相比，s v m 的理论 和数学基础较为严格，不但具有良好的非线性处理能力，同时也克服了过学习和局部最 小点的问题。支持向量机方法同时也是一种小样本学习方法，根据有限的样本信息在模 6 中国石油大学( 华东) 硕士学位论文 型的复杂性( 即对特定训练样本的学习精度) 和学习能力( 即无错误地识别任意样本的能 力) 之间寻求最佳折衷。不过分依赖样本的数量和质量，具有很好的推广能力。支持向 量机的基本思想是 通过非线性变换，将数据从低维空间映射到高维特征空间中，然后通过解一个带线性约 束的二次规划问题得到全局最优解。并且通过引入了核函数的概念，把高维空间中复杂 的内积运算转化为原始空间的核函数计算，有效的避免了“维数灾难 问题。 支持向量机的优点在于：建模所需的样本数较少，克服了传统建模方法对样本数目 的要求；可以取得全局最优解，而不像神经网络那样容易陷入局部最优；可以有效的避 免“维数灾难 问题；可以根据结构风险最小化原则控制模型的复杂度，从而使模型具 有更好的泛化能力。 同时，支持向量机算法也存在了一些缺陷，比如对于大的数据集合，训练速度较慢； 参数的选择对模型的影响较大，并且没有合理的理论依据；此外如何集成先验知识也是 一个值得研究的问题。 近年来，国内外的研究者都相继提出了一些改进的支持向量机算法。如：m i n g - h s u a n y a n g 等n 7 3 提出了一种几何方法和“卫向量的概念来训练支持向量机；l i i l 等n 羽通过给 样本增加一个模糊成员关系，提出了一种模糊支持向量机( f s v m ) 方法，该方法能够 充分利用样本的信息；冯瑞等n 钔分析了神经网络算法的缺陷，并且介绍了支持向量机和 最小二乘支持向量机建模方法的原理，然后将最小二乘支持向量机与r b f 神经网络建 模方法分别应用于催化裂化装置中的汽油收率的估计并进行比较。文献 2 0 采用支持向 量机、核主元回归和核偏最d - 乘法进行软测量的建模，以及支持向量机与核主元回归、 支持向量机与核偏最小二乘法的混合软测量建模，并将其应用于工业萘初馏塔酚油含萘 量的软测量。 1 3 软测量方法在工业过程中的实现 将软测量方法用于实际的工业过程一般包括以下四个部分：辅助变量的选择、输入 输出数据的预处理、软测量模型的建立、模型的在线较正。软测量的工业实现流程图如 图1 2 所示。 7 第1 章前言 图1 - 2 软测量技术实现步骤 f i 9 1 - 1t h es t e p so fs o f t - s e n s i n g 1 3 1 辅助变量的选择 辅助变量的选择是软测量技术实现的第一步，通过选择辅助变量来确定软测量的输 入信息矩阵，对建立软测量模型非常重要。辅助变量的选择一般分为选择辅助变量的类 型、个数以及正确的检测点位置三个方面。 ( 1 ) 辅助变量类型的选择 针对实际的工业过程，通常是从工业对象的可测变量集中选择所需的辅助变量，即 在可测变量集中选择与主导变量的变化特性相似且密切相关的变量参数。辅助变量的选 择原则主要有乜：灵敏性( 能够对主导变量做出直接且迅速的反应) 、特异性( 对主导 变量或不可测扰动之外的扰动不敏感) 、工程适用性( 在工业过程中容易获得并能够达 到一定的测量精度) 、精确性( 能够保证软测量模型的精度) 、鲁棒性( 构成的软仪表对 模型误差不敏感) 。 ( 2 ) 变量数量的选择 由辅助变量类型的选择初步确定了辅助变量的个数，但是若选择的辅助变量个数太 多，则会增加模型的运算过程并且影响模型的预测精度，因此还需要对辅助变量的个数 进行精确的选择。确定辅助变量的最佳数目应先根据工艺机理的相关分析以及专家的经 验知识确定辅助变量的个数，然后通过主元回归等方法选择对主导变量影响较大的变 量，从而筛选出辅助变量的最佳数目。辅助变量的数目满足精简性原则，但是最小个数 不应少于输出变量的个数。 8 中国石油大学( 华东) 硕士学位论文 ( 3 ) 检测点位置的选择 在生产过程中，各个辅助变量都有一定的取值范围。因此，首先应该根据工艺机理 分析，确定各辅助变量的取值范围，然后在辅助变量的取值范围内选择检测点。检测点 位置的选择方法非常灵活，但目前并没有比较通用的方法和原则。有的选用奇异值分解 原则，不过选择辅助变量数目的原则也适用于检测点位置的选择。 1 3 2 数据预处理 测量数据的准确性对软测量模型的性能具有较大的影响，因此软测量技术在实际应 用中的一个重要环节就是对测量数据进行预处理。由于容易受到现场仪表精度以及生产 环境等条件的影响，从工业现场采集到是数据都会存在一定的误差。如果将从现场采集 到的数据直接用于软测量建模，将不能正确的预测主导变量的值，因此在建立软测量模 型之前，必须对测量数据进行预处理。 测量数据中包含的误差主要是随机误差和过失误差。随机误差主要是由于操作过程 中的微小波动、仪表噪声等随机因素造成的，是不可避免的。但是随机误差符合统计规 律，通常被假设为零均值正态分布的噪声，工程上通常使用数字滤波方法和数据协调技 术来消除随机误差。 过失误差是由过程中的非随机事件如工艺泄漏、测量仪表失灵、设备故障等造成的， 出现的概率虽然很小，但是一旦存在便会严重影响模型的精度和可靠性，因此及时检测 和剔除过失误差是数据预处理的首要任务。过失误差的处理方法主要有：技术辨别法、 人工剔除法以及统计检验法。考虑到实际工业过程的复杂性以及经济性等原因，将人工 剔除法与统计分析法相结合是处理过失误差最常用的方法。 1 3 - 3 软测量模型的建立 软测量技术的核心是软测量建模，因此建立一个精度高且泛化能力强的软测量模型 是软测量技术核心任务。软测量建模强调的是通过辅助变量来实现对主导变量的最佳估 计，它不同于一般意义下的数学模型。目前，软测量的建模方法有很多，主要有机理建 模、回归分析、人工神经网络、支持向量机等等。前面已经对各种软测量建模方法的优 缺点进行了总结和分析，本文采用一种新的软测量建模方法，即正交最小二乘法，其算 法原理在第2 章会详细介绍。 1 3 4 模型的在线校正 由于实际的工业对象通常存在工艺改造、原料变化以及操作条件的变化等因素，导 9 第1 章前言 致离线建立的软测量模型可能不能涵盖所有的操作条件，如果不进行模型的在线校正， 软测量模型的预测精度就会降低。因此对软测量模型进行在线校正是软测量技术的重要 部分。模型的在线校正包括两种，即对模型结构的校正以及对模型参数的校正。由于调 整模型的结构需要大量的生产数据和较长的训练时间，因此模型的在线校正通常是指对 模型参数的修正。 1 4 本文的研究内容与结构安排 软测量建模方法的研究是目前过程控制领域的研究热点之一，本课题以工业聚丙烯 生产过程为背景，针对聚丙烯熔融指数难以在线测量的这一难题，提出了基于o l s 的 软测量建模方法。研究内容主要分为以下几个部分： 第1 章前言。阐述了课题的研究目的及意义，对软测量技术的原理、发展现状以 及工业应用的实现作了详细的概述，最后说明论文的研究内容与结果安排。 第2 章常规的软测量建模方法。本章详细介绍了几种典型的软测量建模方法，主 要有p l s 方法、神经网络方法、支持向量机、正交最小二乘法等，并阐述了各种方法 的特点。 第3 章基于正交信号修正的o l s 软测量建模方法。本章详细介绍了正交信号修正 方法的基本原理，并给出了基于正交信号修正的o l s 软测量建模方法，采用正交信号 修正方法对o l s 模型进行预处理，以消除模型中与输出变量无关的噪声信息。最后通 过仿真实例以及实际的聚丙烯工业数据验证该方法的可行性和有效性。 第4 章基于混合核函数的o l s 软测量建模方法。o l s 是一种稀疏核建模方法，通 常只采用单一的高斯核函数来处理，不能准确描述数据的分布特性，具有一定的局限性。 本章针对这些问题，给出一种基于混合核函数的o l s 软测量建模方法，并采用粒子群 优化算法对核参数寻优。最后通过仿真实例以及实际的聚丙烯工业数据验证该方法的可 行性和有效性。 第5 章总结与展望对全文工作进行总结，并对今后的研究工作做了一定的展望。 l o 中国石油大学( 华东) 硕士学位论文 第2 章常规的软测量建模方法 软测量建模方法主要分为基于机理的方法、基于统计回归的方法以及智能方法 等，而基于统计回归的软测量建模方法是目前工业领域研究的热点。因为这类软测量 建模方法不需要对象的先验知识，不需要建立复杂的数学模型，而是根据对象的输入 输出数据直接建立软测量模型，相对比较简单，是最常用的软测量建模方法。 本章主要介绍几种最常用的统计回归方法，如线性p l s 方法、非线性p l s 方法、 神经网络方法、支持向量机方法以及正交最小二乘法等。 2 1 主元回归和部分最小二乘 2 1 1 主元回归分析 主元分析法( p c a ) 是进行数据压缩和有用信息提取的有力工具，其首要任务就 是降维，即在数据信息丢失最少的情况下，对高维变量空间进行降维处理。设原数据 集合中有m 个变量五，五，以，对这个数据集中的信息进行重新调整组合，从中提 取k 个综合变iz , ，z 2 ，乙( 七 l l t 2 1 1 慨l l ，则负荷向量p 1 ，p 2 ，p m 依次表 示数据矩阵x 从最大到最小变化方向。若数据矩阵x 中的变量间存在的相关性时， 则最前面的i i 个主元涵盖了矩阵石绝大部分的变化，即p 1 ，p 2 ，p k ( 尼 o ( 2 - 1 9 ) a t 一哦 0 由式( 2 1 8 ) 和( 2 1 9 ) 可以得到线性回归函数如下： 厂( x ) = w x + 6 = ( 茸一口f ) ( 而曲+ 6 ( 2 2 0 ) i = 1 2 4 3 基于支持向量机的非线性回归 对于非线性函数的回归问题，支持向量机方法利用核函数k ( t ，) 取代线性回归 问题中的薯点积运算，将非线性问题转化为高维空间中的线性回归问题。另外， 由于核函数的种类繁多，而且核函数的类型和核参数对模型的影响较大，因此在采用 s v m 的非线性回归建模之前，要选择好核函数及其参数。类似支持向量机的线性回 归问题，原问题可转化为如下二次规划问题： 2 1 占 占 一 + 、，、， t 薯 一 一 w w ，-一，、 一 一 咒乃 = = 6 6 ，j【 厂( x ) = w x + 6 = ( 西- a ，) k ( x i 石) + 6 ( 2 2 2 ) 核函数k ( 五，功的选择对系统预测效果及泛化能力有较大的影响，可根据不同的 需要选择不同的核函数，构造不同的支持向量机。常用的核函数主要有以下三种： ( 1 ) 多项式核函数：k ( t ，z ) =