CN114936528B 一种基于变量加权自适应局部构图的极限学习机半监督软测量建模方法 （中国石油大学(华东)）

A1,2022.01.06一种基于变量加权自适应局部构图的极限本发明涉及一种变量加权自适应局部构图合利用数据输入空间和预测输出空间的加权欧式距离信息自适应构建近邻图实现对数据潜在变量对主导变量的准确估计具有不同程度的贡并采用交替迭代优化求解获得建模学习的整体2(一)离线建模阶段：收集主导变量化验分析值yi及与其对应的辅助变量测量值x,eR",其中y和x分别是脱丁烷塔生产过程中难以直接测量的丁烷浓度值和容易测量的辅助变量测量值x,eR",j=n,+1,",+2,…,+n,,nu为所收集xj的数量，另外定义n＝nl+nu为所收集辅助变量值xi和xj的总数量；将所收集的n个辅助变量值按行排序得到训练数行排序得到主导变量数据行向量进一步地，定义nu行s,=[0,0,…,0I'eR",将yl和yu合并为行向量利用X0的均值mean(X0)和均方差std(X0)对X0进行标准化处理得xeR"id;利用y0的均值mean(y0)和均方差std(y0)对y0进行标准化处理得yeR",得到极限学习机离线训练数据X,y；(二)设置极限学习机隐层神经元数量nh、正则化参数β,λ,μ,θ和最大迭代次数max_iterate，初始化变量加权矩阵MeR",计算每个样本间的距离并选择出与第i个样本xi最近的k个样本构造初始拉普拉斯矩阵LeR"";(三)随机生成极限学习机输入层和隐层之间的权值矩阵和偏置项矩阵BneR"",然后计算隐层输出HeR,";(四)更新隐层和输出层之间的权重weR"",偏置b和模型预测标签值feR";训练数据X0的均值mean(X0)和均方差std(X0)对测试数据Xn后的测试数据xaeR"",并对预测结果进行反2.权利要求1所述的一种基于变量加权自适应局部构图的极限学习机半监督软测量建得到标准化后的训练数据x=[x,x,…x,I'eR".,x,eR";对yeR"采用公式(2)进行标33.权利要求2所述的一种基于变量加权自适应局部构图的极限学习机半监督软测量建间的距离并选择出与第i个样本xi最近的k个样本构造初始拉普拉斯矩阵的具体步公式(3)中M为对角线上的元素均为的对角矩阵，diag(·)为对角矩阵构造运算，m=[m,m……m,I'eR"是由加权系数初始值mi,i＝1,2,…d构成的列向量；然后，根据公公式(4)中sij为标准化后的训练数据X中第i个样本xi和第j个样本xj之间的相似度系数，是由X中第i个样本xi与X中其他样本之间的相似度系数构成的4公式(10)中η为与约束条件s"1ma=1对应的拉格朗日乘数，ζi为与约束对应的拉格朗日乘数，为ζi的转置；对公式(10)关于si求偏导并令其为0，可得到为得到只有k个非零元素组成的稀疏相似度列向量si，将公式(12)进一步化简为公式4.权利要求3所述的一种基于变量加权自适应局部构图的极限学习机半监督软测量建和偏置项矩阵BneR"",并且利用激活函数计算隐层输出的具5.权利要求4所述的一种基于变量加权自适应局部构图的极限学习机半监督软测量建5首先，将极限学习机、变量加权和自适应局部构图有机融合到然后，固定相似矩阵seR",变量加权矩阵得到关于w、b和f的优化问题描6.权利要求5所述的一种基于变量加权自适应局部构图的极限学习机半监督软测量建67.权利要求6所述的一种基于变量加权自适应局部构图的极限学习机半监督软测量建首先，固定输出feR",变量加权矩阵MeR",目标函数由公式(17)简化为公式8.权利要求7所述的一种基于变量加权自适应局部构图的极限学习机半监督软测量建的输出值JeR",公式(29)、公式(30)分别表示为:7H,eR"为隐层输出，将隐层输出Ht0和输入数8一种基于变量加权自适应局部构图的极限学习机半业过程中总存在一些与产品质量密切相关但又难以实现直接测量的重要参数，如产品浓立容易测量的过程变量(又称为辅助变量)与难以直接测量的质量相关变量(又称为主导变[0003]软测量技术的关键在于建立能够准确描述出辅助变量与主导变量之间潜在函数成为软测量建模领域的研究热点并取得了令人瞩目的一系[0004]基于数据驱动的软测量建模方法的性能在很大程度上取决于训练数据的数量和输出变量)的采样速率一般远低于辅助变量(对应着软测量模型的输入变量)的采样频率。9标签数据和无标签数据采用k近邻法构造图正则化约束项并将该约束项添加到极限学习机等(2016)和Zhao等(2020)分别将MR项引入到高斯过程回归模型和宽度学习神经网络模型标签数据所提供的监督/辨别信息和无标签数据所蕴含的结构信息来提升模型的泛化能力功应用。据原始高维输入空间内采用无监督学习方式离线构建近邻图。这可能造成下述两个问题：[0008]本发明针对现有基于流行正则化的半监督软测量建模技术存在着的构图和回归[0010](一)离线建模阶段：收集主导变量化验分析值yi及与其对应的辅助变量测量值个数；将所收集的辅助变量值按行排序得到辅助变量数据矩阵x,-[r,x,…x.I'eR",量x-[r,……Te".进一步地，定义nu行全0行向量将yl和yu合并为行向量利用X0的均值mean(X0)和均方差std(X0)对X0进行标准化处理得xeR":利用y0的均值mean(y0)和均方差std(y0)对y0进行标准化处理得yeR",得到极max_iterate，初始化变量加权矩阵MeR",计算每个样本间的距离并选择出与第i个样本xi最近的k个样本构造初始拉普拉斯矩阵LeR"";[0012](三)随机生成极限学习机输入层和隐层之间的权值矩阵和偏置项矩阵[0013](四)更新隐层和输出层之间的权重weR"",偏置b和模型预测标签值feR";std(X0)对测试数据Xnew进行标准化处理，得到标准化后的测试数据对ELM预测[0018]进一步的，所述步骤(一)中，首先利用训练差，得到标准化后的训练数据x-[xx…x,IeR",x,eR",对JeR"也需要类似标准的距离并选择出与第i个样本xi最近的k个样本构造初始拉普拉斯矩阵的具体步骤[0034]通过定义两个拉格朗日乘数将公式(9)写成拉格朗日公式(10)。对公式(10)关于和偏置项矩阵BneR"",利用公式(16)将数据X经sigmod函数映射形成极限学型预测标签值feR":[0053]然后，固定相似矩阵seR",变量加权矩阵MeR",得到关于w、b和f的优化问示单位矩阵，1表示所有元素都为1的列向量，将公式(19)带入公式(18)中的目标函数Hw+[0083]然后，根据标准化后的测试数据xaeR"",通过公式(29)以及公式(30)计算测[0087]最后对ELM预测结果ytest进行反标准化，得到Xnew对应的估计值如公式[0090]本发明提供的基于变量加权自适应局部构图的极限学习机半监督软测量建模方[0091]图1为本发明所述基于变量加权自适应局部构图的极限学习机半监督软测量建模[0093]图3为在半监督极限学习机模型下不同正则化参数对训练集和测试集决定系数的[0094]图4为在自适应局部构图的半监督极限学习机模型下不同正则化参数对训练集和[0095]图5为在变量加权自适应局部构图的半监督极限学习机模型下不同正则化参数对[0098]参见图1，本发明揭示了一种基于变量加权自适应局部构图的极限学习机半监督[0099](一)离线建模阶段：收集主导变量化验分析值yi及与其对应的辅助变量测量值个数；将所收集的辅助变量值按行排序得到辅助变量数据矩阵x,-[xx…x,I'eR",量进一步地，定义nu行全0行向量s,-[0,0…I'e",将yl和yu合并为行向量利用X0的均值mean(X0)和均方差std(X0)对X0进行标准化处理得xeR":利用y0的均值mean(y0)和均方差std(y0)对y0进行标准化处理得yeR",得到极[0100]利用训练数据x,eR"的均值mean(X0)和均方差std(X0)通过公式(1)差，得到标准化后的训练数据x=[xr,x,…x,I'eR".,x,eR"对y,eR"也需要类似标准化max_iterate，初始化变量加权矩阵MeR",计算每个样本间的距离并选择出与第i个样本xi最近的k个样本构造初始拉普拉斯矩阵LeR",其具体过程为：[0112]L=D-seR"⃞(7)[0116]通过定义两个拉格朗日乘数将公式(9)写成拉格朗日公式(10)。对公式(10)关于[0127](三)随机生成极限学习机输入层和隐层之间的权值矩阵和偏置项矩阵BneR"",并且利用激活函数计算隐层输出的具体步骤为：[0129]然后，利用sigmoid函数以及数据X计算极限学习机隐层输出矩阵[0132](四)更新隐层和输出层之间的权重weR"",偏置b和模型预测标签值feR",其[0149](五)利用相似矩阵seR"更新变量加权矩阵MeR",其具体过程为：[0156]首先，固定输出feR",变量加权矩阵MeR",目标函数由公式(17)简化为公式[0165](八)在线测试阶段：对于采集到的nt个测试数据利用训练数据X,eR"的均值mean(X0)和均方差std(X0)通过公式(28)对测试数据Xnew进行标准化处理，公式(28)表示为：[0167]得到标准化后的测试数据xme",利用给出的模型得到预测结果saeR"的[0171]最后对ELM预测结果ytest进行反标准化，得到Xnew对应的估计值如公式合利用数据输入空间和预测输出空间的加权欧式距离信息自适应构建近邻图实现对数据[0174]为了说明本发明上述基于变量加权自适应局部构图的极限学习机软测量建模方烷塔底中的C4含量也无法在塔底直接检测得到，而是通过在塔顶安装气相色谱仪进行检得到质量变量数据行向量进一步地，定义1440行全0行向量将yl和yu合并为行向量利用y0的均值mean(y0)和均方差std(y0)对y0进行标准化处理得得到极限学习最大迭代次数15，初始化变量加权矩阵计算每个样本间的距离并选择出与第i[0192]表1给出了最优参数下传统半监督极限学习机模型，自适应局部构图的极限学习机模型和本发明变量加权自适应局部构图的极限学习机模