（控制理论与控制工程专业论文）基于支持向量机的软测量技术研究.pdf

基于支持向量机的软测量技术研究 李哲( 控制理论与控制工程) 指导教师：田学民教授 摘要 实际生产过程中存在着大量与产品质量相关的重要变量难以在线测 量，软测量技术是解决这一问题的有效途径，是进一步实现质量控制和 过程优化的基础。支持向量机( s u p p o r t v e c t o r m a c h i n e ，s v m ) 是基于统 计学习理论的一种机器学习方法，能够较好的解决小样本、过学习、高 维数、局部最小等问题，为软测量建模提供了一种可行的有效途径。本 文主要研究了基于支持向量机的软测量建模技术，针对变量间非线性关 系复杂的实际生产过程提出了基于s v m 的软测量建模方法，并对两组典 型仿真数据和一组实际数据进行了软测量建模研究。本论文的主要工作 包括以下内容： 首先，介绍了p l s s v r 软测量建模方法的基本原理和实现步骤，该 方法通过p l s 提取过程的特征信息，用s v r 拟合p l s 内部关系，可以 有效地提高模型的非线性处理能力；针对多数软测量建模方法只利用辅 助变量二阶信息的问题，提出了基于k p c a - s v r 的软测量建模方法，该 方法通过对辅助变量核矩阵的特征分解和主元提取，隐含的利用了变量 间的高阶信息：针对实际数据软测量建模中的二个问题提出了用k n n 方法对变量进行近邻分析，k n n - k p c a s v r 建模方法是k p c a s v r 建 模方法的推广，该方法进一步考虑了变量在时间上的相互关系。 其次，仿真研究建立基于以上三种方法的回归模型，结果表明，对 于变量间相互独立的辅助变量集，三种模型的预测精度和推广能力优于 线性主元回归( p c r ) 、线性偏最小二乘回归( p l s ) 及线性核函数s v r i i 模型：对于变量间存在复杂非线性关系情况，k n n k p c a s v r 模型较 其它方法表现了更优秀的性能。 最后，针对催化裂化装置( f c c u ) 主分馏塔设计粗汽油干点软测量 估计器。在机理分析的基础上初选辅助变量，根据k n n 分析结果对辅助 变量分类及维数缩减，现场数据的采集与预处理，软测量模型建立。结 果表明，k n n k p c a s v r 模型的预测精度和泛化能力优于线性p c r 、 线性p l s 、线性s v m 、p l s s v r 模型及k p c a s v r 模型。 关键词：支持向量机，软测量建模，核主元分析，k 最近邻算法 i i i s t u d yo fs o f ts e n s o rt e c h n i q u e b a s e do ns u p p o r tv e c t o rm a c h i n e l iz h e ( c o n t r o lt h e o r ya n dc o n t r o l e n g i n e e r i n g ) d i r e c t e db yp r o f e s s o rt i a nx u e r a i n a b s t r a c t m a n yi m p o r t a n tv a r i a b l e s ，s u c ha sp r o d u c t sq u a l i t y , c a n tb em e 舢e d o n l i n ei ni n d u s t r i a lp r o c e s s s o f ts e n s o rt e c h n i q u e sc a np r o v i d ea ne f f e c t i v e s o l u t i o n ，w h i c hc a ns u p p l yaf o u n d a t i o nf o rf n r t h e rq u a l i t yc o n t r o la n d p r o c e s so p t i m i z a t i o n s u p p o r t v e c t o r m a c h i n e ( s v m ) i sa k i n d o f m a c h i n e l e a r n i n ga p p r o a c hb a s e do ns t a t i s t i c a ll e a r n i n gt h e o r y s v mc a r ls o l v e p r o b l e m ss u c ha ss m a l ls a m p l e s ，o v e ri e a r n i n g ，h i g hd i m e n s i o na n dl o c a l m i n i m u m ，a n dp r e v e n t sa ne f f e c t i v em o d e l i n ga p p r o a c h i nt h i sd i s s e r t a t i o n ， s o f ts e n s o rm o d e l i n gt e c h n i q u eb a s e do ns v mi ss t u d i e d ，f o rp r a c t i c a l i n d u s t r i a lp r o c e s sw i t hc o m p l e xn o n l i n e a rv a r i a b l e s ，s o f ts e n s o rm o d e l i n g a p p r o a c hb a s e do i ls v mi sp r e s e n t e d t h ep r o p o s e da p p r o a c hi sa p p l i e dt o t w os e t so fc l a s s i c a ls i m u l a t i o nd a t aa n das e to fp r a c t i c a ld a t a t h em a i n w o r ki sa sf o l l o w s ： f i r s t ，t h eb a s i cp r i n c i p l ea n da l g o r i t h mr e a l i z a t i o no fp l s s v rs o f t s e n s o r m o d e l i n ga p p r o a c h i si n t r o d u c e d i t c a p t u r e sp r o c e s s l a t e n t i n f o r m a t i o nb a s e do np l s ，a n df i t si n t e r n a lr e l a t i o n s h i pu s i n gs v r ，w h i c h c a ni m p r o v et h en o n l i n e a rp r o c e s sa b i l i t yo fm o d e le f f e c t i v e l y f o rm o s ts o f t s e n s o rm o d e l i n ga p p r o a c h ，o n l yt h es e c o n d - o r d e r e di n f o r m a t i o no fs e c o n d a r y v a r i a b l e si su s e d s o f ts e n s o rm o d e l i n ga p p r o a c hb a s e do nk p c a s v ri s p r o p o s e d i tm a k e su s eo fh i 曲一o r d e r e di n f o r m a t i o nv i as u c hp r o c e s so nt h e k e r n e lm a t r i xs e c o n d a r yv a r i a b l ea sl a t e n t d e c o m p o s i t i o na n dp r i n c i p a l c o m p o n e n tc a p t u r e f o rt h et w op r o b l e m si np r a c t i c a ls o f ts e n s o rm o d e l i n g ， k n n a p p r o a c hi su s e dt og a r r yo u tn e a r e s tn e i g h b o ra n a l y s i so i l v a r i a b l e s k n n k p c a s v r m o d e l i n ga p p r o a c h i sa ne x t e n s i o no fk p c a s v r m o d e l i n ga p p r o a c h ，w h i c hc a l lt a k et h ec o r r e l a t i o nb e t w e e nv a r i a b l e si n t o c o n s i d e r a t i o n s e c o n d ，s i m u l a t i o n sa r ec a r r i e do u tb a s e do nt h ea b o v et h r e ea p p r o a c h e s t h er e s u l t si n d i c a t e t h a t ，f o rv a r i a b l e s e t sw i t h i n d e p e n d e n ts e c o n d a r y v a r i a b l e s ，a l lt h r e ea p p r o a c h e so b t a i nb e r e te s t i m a t i o na c c u r a c ya n dm o r e e x t e n d i b i l i t yt h a np r i n c i p a lc o m p o n e n tr e g r e s s i o n ( p c r ) ，p a r t i a ll e a s t s q u a r er e g r e s s i o n ( p l s ) a n dl i n e a rk e r n e lf u n c t i o ns v rm o d e l i f t h e r ei s c o m p l e xn o n l i n e a rr e l a t i o n s h i pb e t w e e nv a r i a b l e s ，k n n k p c a s v rm o d e l s h o w se x c e l l e n tp e r f o r m a n c e a tl a s t ，s o f te s t i m a t o ri s d e s i g n e df o rc r u d eg a s o l i n ei nf l u i d i z e d c a t a l y t i cc r a c k i n gu n i t ( f c c u ) m a i nf r a c t i o n i n gt o w e r a f t e rd a t a c o l l e c t i o na n dp r e p r o c e s s ，s e c o n d a r yv a r i a b l e sa r es e l e c t e di n i t i a l l yo nt h e b a s i so fm e c h a n i c a la n a l y s i s ，c l a s s i f i e da n da b s t r a c t e db a s e d0 1 1k n n t h e n t h em o d e li s e s t a b l i s h e d c o m p a r e dw i t ht h em o d e l so fl i n e a rp c r ，l i n e a r p l s ，l i n e a rs v m ，p l s s v ra n dk p c a s v r ，t h er e s u l to b t a i n e db yt h e k n n k p c a - s v rm o d e ls h o w sb e t t e re s t i m a t i o na c c u r a c ya n di sm o r e e x t e n d a b l e k e yw o r d s ：s u p p o r tv e c t o rm a c h i n e ；s o f ts e n s o rm o d e l i n g ；k e r n e lp r i n c i p a l c o m p o n e n ta n a l y s i s ；k - n e a r e s tn e i g h b o r v 独创性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取 得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论 文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得中国 石油大学或其它教育机构的学位或证书而使用过的材料。与我一同工作 的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了 谢意。 签名：煎训矽占年f 月加日 关于论文使用授权的说明 本人完全了解中国石油大学有关保留、使用学位论文的规定，即： 学校有权保留送交论文的复印件及电子版，允许论文被查阅和借阅；学 校可以公布论文的全部或部分内容，可以采用影印、缩印或其他复制手 段保存沦文。 ( 保密论文在解密后应遵守此规定) 学生签名： 导师签名： 出够 加莎年f 月仂目 御莎年j 月仇) 日 中国石油大学( 华东) 硕士论文第1 章前言 第1 章前言 随着现代工业过程对控制、计量、节能增效和运行可靠性等要求的 不断提高，各种测量要求日益增多。现代过程检测与以往相比具有了更 深的内涵以及更广的扩展。一方面，企业要想在竞争激烈的市场经济中 求得生存和发展，就需要不断提高产品质量；而另一方面，对于许多工 业过程，一些与产品质量密切相关、需要加以严格控制的重要过程参数 由于技术或经济的原因还很难( 或根本无法) 通过传感器在线得到，如： 精馏塔的产品组份浓度、塔板效率、化学反应器的反应物浓度和产品分 布、生物发酵罐中的生物量参数等等。若采取定时离线分析的方法，需 要滞后较长时间才能得到一组数据，无法直接实现质量闭环控制。 通常的解决办法有：间接质量指标控制法和直接测量法。前者( 如 精馏塔灵敏板温度控制) 必须熟悉工业对象机理，精度不高，而且存在 较大的局限性；后者是指用在线分析仪表直接测量所需参数。但由于设 备投资大、维护困难以及分析周期长、测量滞后大、准确性不高等原因， 使用率低，也难以提供实时质量信息作为质量的反馈控制。 针对以上矛盾，软测量技术( s o f ts e n s i n gt e c h n o l o g y ) 应运而生。 软测量的基本思想是把自动控制理论与生产工艺过程知识有机结合起 来，并充分应用计算机技术，对于一些难于测量或暂时不能测量的重要 变量( 主导变量或一次变量，p r i m a r yv a r i a b l e ) ，避开直接测量的困难， 选择另外一些容易测量的变量( 辅助变量或二次变量，s e c o n d a r y v a r i a b l e ) ，通过构造主导变量与辅助变量之间的数学关系来推断和估计 主导变量，从而达到以软件代替硬件的目的。可靠的软测量技术不仅可 中国石油大学( 华东) 硕士论文 第1 章前言 以大大提高控制水平，使生产过程优化成为可能，同时还可以避免购买 昂贵的硬件设备，并节省大量的入力及维护费用。 近来年，软测量技术在理论研究和工业应用方面都取得了较大进展。 其核心问题是控制对象的模型建立。软测量建模经历了从线性到非线性 的一个过程，目前存在的方法主要有机理建模、多元统计方法、卡尔曼 滤波方法、神经网络、基于模型的回归方法、模糊逻辑方法等等。这些 方法在应用中都取得了一定的效果。然而这些方法依然在不同程度上存 在一些问题。 支持向量机( s u p p o r tv e c t o rm a c h i n e ，s v m ) 基于统计学习理论的机 器学习方法。支持向量机有许多突出的优势：利用核技术避免了解的局 部最小、具有解的稀疏性、通过界限的作用达到容量控制或支持向量数 目的控制等。基于支持向量机的软测量建模方法属于一种黑盒子一类的 数据拟合方法，即只需关心对象的输入与输出面不必关心对象的具体结 构，其输入与输出的映射关系由数学模型来完成。支持向量机中核技术 的应用允许对具有不同特性的工业过程选择不同的核函数以得到最佳的 估计结果，由于支持向量机不但较好地解决了以往困扰很多学习方法的 小样本、过学习、高维数局部最优等实际难题，而且具有很强的泛化能 力，因此。将支持向量机应用于工业过程软测量技术，对软测量技术的 发展乃至工业过程控制都具有非常重要的意义。 具体内容安排如下： 第l 章前言 介绍软测量技术的意义和应用背景以及本文的主要内容和安排。 第2 章软测量技术的进展 概括介绍软测量技术，包括软测量技术构成的各个方面：辅助变量 2 中国石油大学( 华东) 硕士论文第1 章前言 的选择、数据预处理、软测量建模方法和在线校正等，重点回顾了基于 统计回归的软测量建模方法的技术现状及各种建模方法的特点。 第3 章支持向量机概述 支持向量机理论是统计学习理论最核心的部分，本章结合数据分类 问题，阐述了支持向量机的基本理论和基本思想，简述支持向量机理论、 算法及应用的现状；介绍了核函数和惩罚函数的常用形式；介绍了支持 向量机用于回归估计的基本算法，说明支持向量机回归所具有的特点， 指出了支持向量机应用于软测量建模的优势，在此基础上对各种改进结 构的支持向量回归机进行了讨论和分析。最后，对超参数的选取方法进 行了概述。 第4 章基于s v r 的软测量建模方法研究 提出三种基于s v r 的软测量建模方法，即p l s s v r 、k p c a s v r 、 k n n k p c a s v r 建模方法，分别指出了模型提出的背景和意义，分析 了模型的结构和特点，指出了不同模型的适用场合。 第5 章仿真研究 针对两组特性仿真数据，用提出的三种方法建立回归估计模型，同 时建立线形p c r 、线形p l s 、线形核函数s v r 模型作为对比模型，重点 讨论了各种模型的参数选择方法，对建模结果的分析表明了方法的有效 性。 第6 章租汽油干点软测量建模研究 介绍了胜利油田石化总厂f c c u 主分馏塔粗汽油干点软测量估计器 的设计，根据对象建立基于k n n k p c a s v r 的软测量模型，结合工艺 机理分析了k n n 聚类结果，对比建模结果说明了方法的有效性。 第7 章结论 中国石油大学( 华东) 硕士论文第1 章前言 总结全文。 本文的创新点： 分析了基于p l s s v r 的软测量建模方法的特点； 提出了基于k p c a - s v r 的软测量建模方法； 结合具体对象提出了k n n 与s v r 相结合的软测量建模方法。 4 中国石油大学( 华东) 硕士论文第2 章软测量技术进展 第2 章软测量技术进展 为了提高产品质量和产量，获得更大的经济效益，必须将先进控制 和优化控制应用于生产过程中，实现过程控制由基础控制向计算机集成 管理综合自动化的转化【1 】。而在这一过程中首先遇到的一个难题就是某 些与产品质量密切相关的重要过程参数或产品质量、产量参数，由于经 济或技术上的原因很难通过传感器进行测量，这就给过程的监测和控制 带来困难。解决这一问题，通常有两种方法：一种方法是采用间接的质 量指标控制，如精馏塔灵敏板温度控制、温差控制等，但此法难以保证 最终质量指标的控制精度，为应付异常情况，在操作和控制时，往往留 有较大的余地，使生产装置运行于远离生产约束边界的、相对安全和平 稳的区域，致使装置无法运行于最优工况；另一种方法是采用在线分析 仪表，设备投资较大，维护成本高，并因较大的测量滞后而使得调节品 质下降，因此未被工业控制界广泛接受和采纳。 目前软测量技术被认为是解决这一问题的最具有吸引力的和卓有成 效的方法。软测量技术的理论基础是7 0 年代b r i s i l l o w 提出的推断控制 ( i n f e r e n t i a lc o n t r 0 1 ) 1 2 1 0 推断控制的基本思想是采集生产过程中比较容 易测量的辅助变量，通过构造推断估计器来估计并克服扰动和测量噪声 对过程主导变量的影响。推断控制策略包括估计器和控制器的设计，两 部分的设计可以独立进行。其中，控制器的设计可以采用传统或先进控 制方法；估计器的设计，即软测量方法，体现了推断控制的特点f 2 】。 除了对主导变量的估计，软测量还能够在线检测的重要过程变量， 采用软测量提供检测冗余，可以大幅度提高测量数据的精度和可靠性， 中国石油大学( 华东) 硕士论文第2 章软测量技术进展 减小了测量滞后对控制的负面影响；用软测量值来诊断仪表故障并在仪 表出现故障时自动取代仪表输出值作为反馈信号，可以大大提高控制系 统的可靠性：高精度的软测量可以节省昂贵的硬件设备费用。因此， m c a v o y ( 1 9 9 2 ) 将软测量技术看作化工过程控制的首要问题之一。目前 软测量技术已经是现代流程工业和过程控制领域非常关键和前沿的技术 成为控制领域的一个研究热点。 2 1 软测量技术基本原理及结构 软测量的基本思想是把自动控制理论与生产工艺过程知识有机结合 起来，应用计算机技术，对于一些难于测量或暂时不能测量的重要变量 ( 主导变量) ，选择另外一些容易测量的变量( 辅助变量或二次变量) ， 通过构成某种数学关系来推断和估计，以软件来代替硬件( 传感器) 功 能【3 】。一般软测量模型结构【4 j 可以用图2 - 1 来表示： 图2 - i 软测量模型结构图 图中：z 被估计变量集，d l 不可测扰动；正可测扰动； “对象的控制输入；y 对象可测输出变量；x 可能有的离 线分析计算值或大采样间隔的测量值( 如分析仪输出) 。软测量建模就 是由可测数据得到x 的最优估计： x = f ( d 2 ，h ，y ，x ，f ) ( 2 1 ) 6 中国石油大学( 华东) 硕士论文第2 章软测量技术进展 式( 2 1 ) 不仅反应了被估计量x ( 主导变量) 与输入“的关系，还包括 了x 与可测输出y ( 辅助变量) 之间的关系，而离线采样值x 常被用于 模型的自校正。软测量估计值j 可作为控制系统的被控变量或反映过程 特征的重要参数，为优化控制与决策提供依据。 2 2 软测量技术构成 软测量主要包括辅助变量选取、输入数据预处理、软测量模型建立 和在线校正等技术。其中软测量建模方法是软测量技术研究的核心。软 测量技术的研究经历了从线性到非线性，从静态到动态，从无校正功能 到有校正功能的发展过程( 5 1 。 2 2 1 辅助变量选择 辅助变量确定了软测量的输入信息阵，因而直接决定了软测量模型 的结构和输出，对于软测量的成功与否相当重要。辅助变量的选择包括 变量类型、变量数目和检测点位置的选择。 ( 1 ) 变量类型选择 变量类型的选择选择应根据以下原则：灵敏性、特异性、过程适用 性、精确性、鲁棒性等【3 】。 ( 2 ) 变量数目的选择 辅助变量可选数目的下限是被估计变量数，上限是可测变量集。辅 助变量的最佳数目与过程的自由度、测量噪声以及模型的不确定性有关。 辅助变量过多会增加估计器对模型误差的灵敏度，但如果模型结构合理， 辅助变量的增加有助于克服测量噪声的影响。 ( 3 ) 检测点位置的选择 对于工程技术人员来讲，检测点位置既是可变的又是不可变得。不 可变是指工业对象装置的检测点位置往往在设计的初期就已经确定，控 7 中国石油大学( 华东) 硕士论文第2 章软测量技术进展 制设计人员无法改变。可变是指利用工业设计的冗余硬件方针，选择最 适合的辅助变量检测点。例如：对于主分馏塔1 8 层塔板，工艺设计一般 会对气相温度和液相温度分别进行检测传送，而二者有高度的相关性， 我们可以根据需要选择不同位置的检测变量。 针对特定过程的辅助变量选择一般是从过程机理入手分析，从影响 主导变量的参数中去挑选主要因素。因为现代工业某些对象具有数百个 检测变量，面对如此庞大的可测变量集，若采用定性分析的方法对每个 变量逐- - n 断，工作量非常大，简直不可能实现。全部引入既不可能也 不必要。目前广泛采用的辅助变量选择方法主要有： 1 ) 根据对象机理、工艺流程及专家经验选择变量； 2 ) 知识发现技术( k n o w l e d g ed i s c o v e r yo nd a t a b a s e ) t 3 ) 数据融合技术( d a t af u s i o n ) ； 此外，辅助变量的选择还应考虑到不同装置的实际情况和现场测量 单元的具体工作情况。 2 2 2 输入数据预处理 软测量估计器需要对过程测量数据经过数值计算来预测主导变量， 其性能很大程度上依赖于所获过程测量数据的准确性和有效性，因此对 现场采集的数据的处理是软测量技术实际应用中一个重要方面。数据处 理包括数据校正、数据变换等方面 3 1 。 ( 1 ) 数据校正 测量数据通过安装在现场的传感器、变送器等仪表获得，受到仪表 精度、测量原理和测量方法、生产环境的影响，测量数据都不可避免的 含有误差。误差可分为随机误差和显著误差。 随机误差的处理 中国石油大学( 华东) 硕士论文 第2 章软测量技术进展 随机误差受随机因素的影响，如操作过程的微小波动或检测信号的 噪声等，通常假设为零均值正态分布的噪声，是测量仪表的不重复性造 成的。 常用数字滤波方法，即利用信号与噪声随自变量改变的频率不同将 真实信号与噪声分离。常用的滤波方法有高通滤波、低通滤波和数据平 滑等。随着系统精度的提高，近年来又提出了数据协调( d a t a r e c o n c i l i a t i o n ) 技术。数据协调实质上是一个在等式或者不等式约束下 的线性或非线性优化问题。数据协调和显著误差检测统一的称为数据校 正( d a t ar e c t i f i c a t i o n ) 。 显著误差的处理 显著误差存在的机率虽然较小，但是它的存在会严重恶化数据的品 质，从而影响软测量模型的可靠性和准确性。因此及时侦破、剔除和校 正这类数据是误差处理的首要任务。显著误差检测( g r o s se r r o r d e t e c t i o n ) 的主要方法有：技术判别法、统计判别法和硬件冗余法。 ( 2 ) 数据换算 数据换算包括标度、转换和权函数三个方面。实际过程所测量数据 可能有不同的工程单位，各变量的大小在数值上也可能相差，2 个数量级， 直接使用原始测量数据进行计算可能丢失信息和引起数值计算的不稳 定，因此需采用合适的因子对数据进行标度变换，以改善算法的精度和 计算稳定性。转换包含对数据的直接转换和寻找新的变量替换原变量两 个方面，通过对数据转换，可有效地降低非线性特性。而权函数则可实 现对变量动态特性的补偿。 ( 3 ) 其他数据问题 数据预处理阶段除了上述问题外还有以下几方面值得注意【6 】： 9 中国石油大学( 华东) 硕士论文第2 章软测量技术进展 1 ) 稳态数据判别 实际使用的软测量模型通常都是静态模型，即根据某一时刻的几个 可测变量计算同一时刻的主导变量，因此要求在采集历史数据时对装置 操作是否处于稳态进行判别，选取装置稳态运行时的数据构造的软测量 模型才能在装置正常生产时提供满足精度要求的估计值。 判别装置稳态的方法可以是统计主要过程交量在规定时段内的均值 的变化率：根据方差是否大于限定值来进行判别。 2 ) 数据选择范围 d c s 系统历史数据库可以为我们提供近几个月的数据。多达十几万 组的样本，通常认为数据的数量越多，回归的参数就越准确。其实关键 是历史数据的质量面不是数量，即数据应能覆盖较宽的操作区间，这样 得到的软测量模型才能在装置偏离目标操作区间时也能很好地工作。 3 ) 时序匹配 用于建立软测量模型的主导变量值，通常是在线分析仪表或实验室 分析化验值，都存在十几分钟到几小时的滞后，用于软测量建模的数据 属于离散数据，样本之间相互独立，因此只有将辅助变量与化验分析值 正确匹配才能得到准确的软测量模型。通常采用以下两种滞后时间计算 方法： 运用工艺参数和检测点位置进行机理分析估计； 用估计值和实际值的残差分布情况来估计滞后时间。 2 2 3 软测量模型的建立 软测量模型是软测量技术的核心。软测量建模就是建立工业过程控 制对象的数学模型。从所采用的数学模型来看，软测量建模主要有基于 工艺机理分析的方法( 即机理建模) ，基于状态估计的方法，基于统计 1 0 中国石油大学( 华东) 硕士论文 第2 章软测量技术进展 分析的方法和基于人工智能的方法等。 2 2 3 1 基于工艺机理分析的建模方法 基于对生产过程物理化学过程的深刻认识和过程工艺的充分了解的 基础直接找出主导变量与辅助变量之间的定量关系，建立以微分方程、 代数方程为主要代表式的过程动态数学模型。机理模型【7 1 2 1 理论上可以操 作在各种可能的装置状态下，并且如果有相应的模型，还可以将过程随 时间的变化( 如：催化剂失活、进料的改变等) 纳入考虑，能处理动态、 静态、非线性等各种对象，对噪声的敏感度也不高，但由于化工过程对 象的复杂性，机理模型往往涉及大量高阶方程组，建模代价高，难度大。 而且即使是同类装置也会存在差别， 对模型进行校正，其工作量相当大， 必须用不同操作状态下的历史数据 可能比从头开发一个回归模型还要 复杂。机理模型的另外一个缺点是由于复杂性的增加而更加难以实现和 维护，并对底层平台的计算效率提出了更高的要求，随着时问的推移， 用户的模型维护人员将更难以了解构造模型时的考虑和设计，只能修改 一些参数或向模型中添加修正项，使机理模型逐渐退化为一个黑箱 模型i “。 2 2 3 2 基于对象数学模型的建模方法 该方法将状态估计、参数估计和自适应控制原理用于获得软测量模 型。设计可分为基于状态空间模型和基于过程输入输出模型两种方法。 当采用的数学模型是状态空间模型【1 3 h 1 时，软测量问题就转化为典 型的状态观测和状态估计问题，估计值就可以表示成k a h n a r l 滤波的形 式。 当采用的数学模型是输入输出模型时，在对象模型结构已知的情况 下，可以采用参数辨识的方法，软测量问题转化为传统的辨识问题，最 中国石油大学( 华东) 硕士论文 第2 章软测量技术进展 常见的线性模型为自回归滑动平均模型( a r m x ) 。 若描述的对象为稳态模型，可以采用b r o s i l l o w 估计器来构造软测量 模型【”1 。若描述的对象为动态模型，则采用自适应估计的方法来建模【1 6 1 。 2 。2 3 3 基于统计回归的建摸方法 回归分析方法是一种经典的建模方法，不需要建立复杂的数学模型， 只要收集大量过程参数和质量分析数据，运用统计方法将这些数据中隐 含的对象信息进行浓缩和提取，从而建立主导变量和辅助变量之间的数 学模型。 回归分析中最经典的方法就是最小二乘法 1 7 1 ( l e a s ts q u a r e r e g r e s s i o n ，l s ) ，在其参数估计式6 ：( x 1 x 7 x 中，要求x 7 x 必须 是可逆矩阵。估计式才有意义。l s 方法的假设条件对于实际生产情况过 于严格，为了解决这一问题，一些基于l s 的改进方法相应出现。辅助变 量法( 1v 法i n s t r u m e n tv a r i a b l e ) 是在模型误差为相关噪声的情况 下，通过引进辅助变量矩阵，对线性最小二乘估计的一种改进。递推辅 助变量算法( r ) 计算量与r l s 法接近，在相关噪声情况下估计精度 优于r l s 法。广义最小二乘估计方法( g l s ) 在有色干扰下估计精度较 高，迭代收敛较快，但其收敛性未得到证明：它能同时得到过程参数和 噪声参数的估计，但计算量大，费机时。基于核的递推最小二乘( 也s ) 在r l s 的基础上采用了核函数的形式，并且为防止算法产生过拟合，将正 则化技术融入目标泛函中，从而提高了推广能力。基于l s 法的相关改进 都没有从根本上解决辅助变量的共线性问题。另外，l s 及其改进算法对 庞大的辅助变量集显得无能为力，因此在软测量技术中相对较少使用。 p c r 和p l s 是统计学中较成熟的数据分析方法【”】，进年来在软测量 方面得到了广泛的应用【1 9 - 2 1 。主元回归( p r i n c i p a lc o m p o n e n tr e g r e s s i o n ， 中国石油大学( 华东) 硕士论文 第2 章软测量技术进展 p c r ) 方法是一种数据压缩和信息提取方法，它通过对原始集合进行压 缩，找出变量的线性组合，以较少的变量和较少的因子来描述数据集的 主要趋势，从而将高维数据矩阵将维简化。对主元贡献的计算不仅可以 揭示输入矩阵的主要结构，同时提供了对信息的合理解释。改进的p c r 方法主要有：动态主元分析方法【2 2 1 ，该算法在p c a 建模中充分利用过程 历史数据中包含的动态信息；非线性因子p c a 2 3 1 ，将非线性引入传统的 p c a 方法以期解决过程的非线性建模问题；p r i n c i p a lc u r v e 算法1 2 4 】，解 决非线性p c a 建模的一种方法，但它最后给出的不是一个非线性模型的 表达形式，而是以列表的形式来描述建模结果；多路p e a t 2 s ( m p c a ) ， 此方法中的参考数据集含有内在的时变因素，它们被组织成一个包括过 程变量、时间项和批次( 间歇过程的间隔次数) 在内的三维数据阵列： 此外还有加权的p c r 方法、二次型的p c r 方法和基于神经网络的非线 性主元回归等【2 “。p c a ，动态p c a ，非线性p c a ，m p c a 等方法提供了 一系列适用于过程动态、静态、线性和非线性的建模方法，在体现p c a 类方法处理静态线性数据优势的基础上，其各种改进算法也同样可用于 动态的非线性过程。但p c r 是一种两步法，若在第一步中消去了有用的 主元，保留了噪声，在第二步所得的结果就会偏离真实的对象模型，此 外，p c r 只考虑了输入矩阵，没有充分利用所有信息。 偏最小二乘法( p a r t i a ll e a s ts q u a r e s ，p l s ) 2 7 - 2 9 与p c r 非常相似， 但它在p c r 的基础上同时考虑了输入输出数据集，通过将可测变量映射 到低位空间以避免多元共线性问题。p l s 最初由s w 0 1 d 和c a l b a n o 等 人于1 9 8 3 年首次提出。p l s 使一种单步分解和回归方法，能用于非常复 杂的混合情况，以及对含噪声的样本进行回归。p l s 算法大多数情况下 优于传统的线性回归方法( m l r ) 和主元回归( p c r ) 方法，具有更好 中国石油大学( 华东) 硕士论文 筇2 章软铡量技术进展 的鲁棒性。 近年来发展起来种类繁多的非线性p l s 算法( n o n l i n e a rp l s ， n l p l s ) 。其中的大部分可以主要分为两类。一类方法无需修改n i p a l s 算法，是将变量用非线性组合的形式( 诸如对数，平方积以及叉乘等) 扩展输入矩阵，然后对扩展后的输入输出矩阵实施线性p l s 回归【30 1 。这 种方法可以被归纳为对输入输出变量实施非线性变换口1 1 。在这种情况下， 过程知识将会有助于选择最佳的非线性变换。但这样预处理数据会导致 输入输出阵庞大，模型结果难以解释。此外，在对变量进行变换时要求 满足一定的条件，如观测样本数需远大于原变量的个数，以及变量之间 不得存在相关性等。这些条件限制了这种方法的应用。 另一类更加结构化的非线性p l s 方法是在p l s 算法外部关系的框架 内，用一个非线性函数代替输入输出评分向量之间的线性关系，输入输 出矩阵中的变量保留原来的形式。w o l d 等3 2 1 提出了一种多项式p l s 算 法1 3 ”( p o l y n o m i a lq u a d r a t i cp l s ，q p l s ) 由于q p l s 只能拟和一部分非 线性函数关系，为了扩大n l p l s 算法的通用性，一些其它n l p l s 算法 被陆续的提出，包括w o l d 等提出的样条函数p l s ( s p l i n ep l s ，s p l s ) 1 3 4 1 ，q i n 等提出的神经网络p l s ( n e u r a ln e t w o r kp l s ，n n p l s ) 3 5 1 ，w i l s o n 等提出的径向基函数网络p l s ( r a d i a lb a s i sf u n c t i o np l s ，r b f p l s ) 3 6 1 以及y o o n h o b a n g 等提出的模糊p l s ( f u z z yp l s ，f p l s ) 3 7 1 等。此外， 鲁棒p l s 算法( r o b u s tp l s ) 在加入较强干扰信号的情况下，其建模结 果比标准的p l s 算法具有更好的稳定性。k e r n e lp l s 算法提供了一种快 速的节约内存空间的p l s 递推算法，特别适用于处理采样数据量巨大的 问题。指数加权因子的递推p l s 算法在上述改进k e r n e l 算法的基础上又 结合了协方差阵的新型递推方法。多分块p l s 方法( m b p l s ) 主要用于 1 4 中国石油大学( 华东) 硕士论文第2 章软测量技术进展 处理复杂的化工过程建模中各组数据块之间互相联系的情况。多路p l s 方法( m p l s ) 也是为间歇过程建模提出的方法。 从上面的罗列可看出，对传统的p l s 算法有诸多改进，但每一种改 进都有其不同的适用条件，其建模效果在某一方面改进，有可能也同时 牺牲了另一项指标，因此在选用p l s 类算法时要结合实际情况，选择最 适宜的方法。 基于支持向量机( s v m ) 的软测量建模也属于回归建模的范畴，是 本文的研究重点。支持向量机是一种新的机器学习算法，是统计学习理论 最年轻、最实用的部分。它的基础是v a p n i k 创建的统计学习理论。与传 统学习方法相比，该理论采用了结构风险最小化准则，在最小化样本点误 差的同时缩小模型泛化误差的上界，提高了模型的泛化能力。同时该理论 把机器学习问题转化为一个二次规划问题，可以得到唯一的全局最优解。 基于s v m 的软回归分析已经得到了一定发展。本文将在第3 章介绍简要 介绍s v m 的发展现状。 2 2 3 4 基于人工智能的建模方法 基于人工智能的软测量方法有：基于人工神经网络( 心烈) 的方法； 基于模式识别的方法；基于模糊逻辑的方法：以及基于各种方法融合的 混合式方法等等。 基于模式识别的方法 3 8 - 4 0 】基本思想是在机理分析难以确定模型结构 的情况下，以系统输入输出数据为基础，通过对系统特征的提取构成以 模式识别分类方法为基础的模式描述类型，它不需要有关系统的先验知 识。这种方法对于系统的定性描述是比较有效的，而软仪表不仅要求给 出定性的分类结果，还要求结果的定量预报精度，所以此方法不太适合 于许多软测量问题。 中国石油大学( 华东) 硕士论文 第2 章软测量技术进展 基于a n n 的软测量建模方法【4 h 4 1 是解决非线性问题的有效途径，在 软测量中常用的a n n 结构有：反向传播网络( b a c k p r o p r a t i o nn e u r a l n e t w o r k s ，b p n ) 、径向基神经网络( r a d i a lb a s i sf u n c t i o nn e u r a l n e t w o r k s ，r b f n ) 、回流网络( r e c u r r e n t n e u r a l n e t w o r k s ，r n n ) 等。 目前，基于a n n 的建模研究倾向于与其他方法结合，以克服a n n 的不 足，主要的方法有：先验知识与a n n 相结合 4 5 - 4 9 1 ；利用系统机理方程与 a n n 相结合【4 9 】；采用多个子网络和进行局部训练的问题【5 0 】：基于模糊c 均值聚类的多模型软测量建模方法1 5 i 5 2 1 ：遗传算法与a n n 相结合【5 3 巧6 】； 小波分析与神经网络结合 5 7 - 5 8 等。 软测量建模是根据实际对象的具体情况选用不同的方法，由于各种 方法的局限性，因此目前人们将目光投向将多种方法融合起来，使其互 相取长补短，从而建立更加有效、精确的模型。软测量建模选择应从软 测量实施的目的，对主导变量估计值的精度要求，工业对象的实际状况， 可测变量的样本长度以及软测量实施的时间限制等方面综合考虑i s 9 】。 2 2 4 软测量的在线校正 建立好的软测量模型只是过程对象在某一段时间内的静态模型；由 于工艺改造、原料改变、操作条件变化；辅助变量是离散采样，对过程 对象的描述也是不完整的；而实际对象特征是时变得、非线性和连续的， 所以必须加入软测量模型的在线校正机制，才