建模与优化中的特征变量降维与元模型技术研究

1、建模与优化中的特征变量降维与元模型技术研究工程中的建模问题 , 例如大尺寸 U 型折弯件的弯曲回弹模型 , 齿轮坯预锻件模型 , 氧化石墨烯复合有机涂层厚度模型的构建及优化是一些非常复杂的问题。这些模型都呈现出一些共性问题 , 即特征变量较多且模型具有高度复杂的非线性特性 , 其无法通过简单的函数模型来描述。实际工程中往往应用反复试错的经验法或有限元 (FEM)法来模拟计算这些工程模型 , 尽管计算机性能日新月异 , 但是复杂模型的FEM计算仿真分析仍然非常耗时。因此 , 在实际工程中 , 如何采用一种通用的解决办法 , 即用近似 ( 压缩 ) 模型来替代这种耗时昂贵的仿真模拟就显得非常必要。

2、 元模型方法通过构造近似简化模型以代替复杂昂贵的仿真目标模型 , 在工业界得到了普遍应用。 但是 , 传统的元模型构建方法大多是基于梯度的数学解析方法 , 其时间成本仍然较高。元模型技术的最新发展主要体现在与机器学习方法的融合上 , 而到目前为止, 鲜有将特征变量降维和元模型技术进行有效结合的研究。因此 , 本研究主要通过特征变量降维技术来构建并优化极限学习机 (ELM)、BP神经元网络 (BPNN)和支持向量机 (SVM)/ 支持向量回归回归 (SVR)等机器学习元模型 , 在尽可能保证目标模型精度的情况下, 使计算迭代时间得到了大大减少。高斯过程隐变量模型(GPLVM)是一种非常有潜力的特

3、征变量降维技术, 但是由于该模型只考虑到观察样本本身而没有考虑到样本的回归约束条件, 其泛化能力在实际应用中显得不足。鉴于此 , 我们提出了一种改进的回归约束- 高斯过程隐变量模型(R-GPLVM),该模型以观测空间的相关回归信息为约束拓扑, 克服了原GPLVM模型预测和泛化性能不足的缺点, 且非常适合高维数据的小样本。回归分析实验表明R-GPLVM在多种维度空间的表现均优于原GPLVM模型。另外 , 由于机器学习元模型的精度主要依赖模型训练数据的精度 , 而生成精确的训练数据集的代价是高昂的。 因此 , 本研究首次将 R-GPLVM降维方法应用到各种机器学习元模型的构建中 , 并从以下两个方

4、面改进了原机器学习元模型 , 第一 , 有效降低了生成精确的训练数据集所需的样本维度和时间维度 , 大大降低时间成本 ; 第二 , 建立了有效的 ELM,SVM/SVR,BPNN等机器学习元模型 , 并获得高保真的输入变量和高泛化、高预测性能的元模型。本文第 1 章, 介绍了课题的目的和意义、特征变量筛选和提取的降维方法 , 并介绍了变量保真元模型和多目标优化技术 ; 第 2 章, 详细介绍了 R-GPLVM目标泛函的构建过程 , 使用转换共轭梯度 (SCG)法推导了最大化观测数据的后验概率 , 以输出最优的隐变量与超参数。 另外 , 文中利用平均影响值 (MIV) 改进的 SVR,减少了原分

5、支界限 (BB) 筛选算法的搜索时间 , 并且 , 基于二次 -SVR,提出了改进的递归核矩阵 SVR方法 , 并部署到 BB枚举算法中 , 以筛选出最优的特征子集 , 该方法大大节省了迭代收敛计算量 , 并且仍能保证模型的精度 ; 第 3 章, 介绍了变量保真元模型的基本概念, 并基于 SVM的推导方法 , 推导出了最小二乘支持向量机 (LSSVM), 且在单目标 LSSVM的基础上对多目标 LSSVM进行了推导。最后利用多输出 LSSVM构建了高保真变量 (HF) 和低保真变量 (LF) 之间的转换函数 , 并创建了变量保真 (VF)-LSSVM元模型 ; 第 4 章, 针对原预锻件极限学

6、习机 (ELM)回归分析模型的泛化性能表现不佳、可靠性和稳定性不足的问题 , 提出了利用遗传算法 (GA)来调整适应度函数的策略 , 并优化了各层 ELM网络的连接参数。 优化结果表明 ,GA-ELM方法比 BP、差分进化 (DE)-ELM和 ELM模型有更高的稳定性和更精确的预测结果 , 本章节最后采用多目标优化方法来获取最优的预锻件 ; 第 5 章, 利用提出的 R-GPLVM模型对弯曲回弹LSSVM元模型进行了变量筛选和降维,确保了回弹过程的变量保真(VF), 本章节最后提出一种按需分割最少层的策略以避免生成不必要的非支配前端, 并采用近邻比较策略 , 从而高效识别非支配单体, 并采用差分进化 (DE)算子改进非支配排序算法(NSGS)算法的性能 , 快速获得最优的折弯工艺参数解集, 给弯曲模具回弹补偿机构提供有效的弯曲回弹补偿量设计依据; 第6 章,针对氧化石墨烯(GO)电层积有机涂层厚度参数控制问题, 利用提出的R-GPLVM-ELM元模型 , 筛选出了沉积时间和沉积电压这两个重要的变量 , 并利用第 2 章提出的 MIV改进的