非线性主轴降维映射法

1、非线性主轴降维映射法                          2非线性主轴降维映射法由上述设计优化降维映射理论可知,高维设计优化问题的降维过程(包括线性、非线性降维)可以分解为既相互独立又相互关联的3个阶段:1)获得设计样本集;2)设计样本集的结构描述;3)基于结构的降维准则.与之相对应,设计优化降维方法的提出和形成主要包含3方面工作:1)高维设计

2、空间采样并通过仿真分析获得目标函数和约束函数值;2)根据设计优化数学模型提出设计样本集结构模型;3)建立基于设计样本集结构的降维准则或损失规则.设计优化降维方法可以看作是保持设计方案样本集某种特性的数学变换,包括线性变换和非线性变换.首先探求设计方案样本集某种感兴趣特征,然后寻求具有此种特征的低维数据表示方式.设计优化降维方法在一定程度上抓住了设计方案样本集的数学特征,降维结果在一定程度上反映了设计方案样本集的产生机制.在设计优化降维映射理论框架下,进一步完善非线性主轴降维映射法5,研究该方法的模型假设、降维本质和有效性,并将其与主成分回归方法和响应面法进行比较.2.1数学模型非线性主轴降维映

3、射法认为优化模型中目标函数和约束是高维设计空间中具有较低本征维数的光滑数据流形,能够在2个或3个特征主轴上反映优化模型的主要信息,在一定先验信息基础上,通过主轴的各种非线性函数描述和逼近目标函数和约束,从而将高维优化模型映射到二维或三维空间进行可视化显示和分析.非线性主轴降维映射法以如下假设为前提:1)高维设计方案样本集源于光滑数据流形,即认为目标函数和约束位于各种光滑数据流形之上;2)优化模型中目标函数和约束具有低于原设计空间维数的本征维数,对设计空间可视化应用二维或三维可视展示;3)设计优化具有较强的先验信息,以确定非线性映射函数.非线性主轴降维映射法通过非线性函数描述优化模型中的非线性特

4、征,将高维优化模型(通过设计方案样本集描述)降低到适当维数,并在保证一定精度前提下尽可能保留原模型信息(或称之为特征),达到识别目标函数和设计空间几何形态之目的.通过采样获得设计样本集.非线性主轴降维映射模型的精度在很大程度上依赖于设计空间中设计点分布情况,因而不能随意选择设计点,而应该依据某种策略进行采样.对设计优化而言,通常应用试验设计理论采样,如拉丁超立方抽样和正交设计等.通过试验设计得到D维设计空间采样容量为N的采样点矩阵X,利用系统分析模型计算每个采样点处的目标函数值及各约束值,得到L×N(L为目标函数和约束个数)的输出矩阵Y.非线性主轴降维映射法降维映射概念模型如图1所示

5、.在图1中,主轴Z为设计变量的线性组合,P为主轴Z的非线性函数.为简洁起见,在描述非线性主轴降维映射法时,假设数据流形的本征维数为2,对主轴数目大于2的数据流形降维映射,依此类推.数据流形本征维数为2,则主轴数目为2.首先将主轴z1和z2表示为X的线性组合:z1z2=w1X+b1w2X+b2.式中:w1和w2为权值向量,代表设计变量向主轴平面映射的投影方向;b1和b2为阈值.X=x11x12x1Nx21x22x2N xD1xD2xDN,wj= wj1,wj2,wjD;j=1,2.从映射平面z1z2到输出响应的映射为Y=vP,P= f1z1,z2,f2z1,z2,fpz1,z2.式中:fk(&#

6、183;,·),k=1,2,p可为任意非线性基函数,由设计人员根据先验信息指定;v为非线性映射权值矩阵.Y=y11y12y1Ny21y22y2N yL1yL2yLN,v=v11v12v1pv21v22v2p vL1vL2vLp.选取输出误差作为结构度量准则:=pk=1Ni=1yki-yki.式中:yki为通过系统分析模型计算所得采样点计算值,yki为非线性主轴降维映射估计值.*|X,Y=min=(w1,w2,v)|X,Y.式中:*= w*1,w*2,v*为高维设计方案样本集到低维空间的最优结构描述,显然这是第I类结构映射.*的确定可以转化为求解一个无约束非凸非线性优化问题,也可以通过

7、建立二层神经网络,采用BP算法获得.2.2预估精度检验在获得非线性主轴降维映射模型后,还需要通过验证数据集检验模型预估精度.若使用z1和z2两个主轴拟合目标函数和约束能够获得足够的预估精度,则认为优化模型本征维数为2,z1和z2为设计空间数据流形的本征变量;若预估精度不满足要求,需要加入新的主轴方向z3重新拟合,直到满足所要求的预估精度.非线性主轴降维映射法具有发现数据流形数学特征的能力.2.3可视化在降维映射模型中,Z为X的线性组合,Z通过P和v的作用,与Y建立起非线性映射关系.由此可以在低维主轴空间以Z为坐标轴描绘Y的分布规律,从而可视化目标函数和约束在设计空间中的整体拓扑形态和几何形态.

8、2.4与其他数据处理方法的比较非线性主轴降维映射法是基于可视化目的,将高维设计空间降到二维或三维空间显示的数据处理方法,也可以将其看作可视化流程中的数据预处理.将非线性主轴降维映射法与主成分回归方法和响应面法比较,加深对非线性主轴降维映射法数学本质的认识.2.4·1与主成分回归方法比较主成分分析4是一种线性降维方法,主成分回归是在主成分分析基础上对主成分进行的线性回归.主成分分析,又称主轴分析,是将多指标转化为少数几个综合指标的统计分析方法.主成分分析方法由于概念简单,计算方便,便于最优线性重构,成为数据处理中应用最为广泛的降维方法之一.类似地,假设高维数据集本征维数为2,数据集结构

9、模型为z1z2=w1Xw2X,即主轴Z为X的线性变换.降维准则为=2,*|X=max=(w1,w2)|X.式中:2表示zi的方差,2越大表示zi包含的信息越多.一般地,求X的第i主成分可以通过求X的协方差矩阵的第i大特征值所对应的单位特征向量得到.主成分回归是在主成分分析基础上,首先由X计算Z的得分值,将其作为主成分的观测值,然后建立Y与Z的线性回归模型即得主成分回归方程.主成分回归的数据处理过程如图2所示.与主成分回归不同,非线性主轴降维映射法的数据处理过程如图3所示.可以看出,主成分回归是针对X的降维,即采用较少的综合变量Z代替原来较多的原始变量X,而Z能够尽可能多地反映X的信息,且彼此互

10、不相关.非线性主轴降维映射法是针对Y的降维,其前提是ynNn=1来自或近似来自维数为L的某一数据流形,其目的是探求高维数据流形合适的低维坐标描述.主成分回归和非线性主轴降维映射中的主轴都是X的线性组合,但含义有所不同.主成分回归中的主轴是使X变差最大的方向,而非线性主轴降维映射中的主轴是表征Y的重要方向.因此,虽然2个映射模型看起来类似,降维本质却有所不同.从代数观点看,非线性主轴降维映射是基于主轴Z的非线性函数拟合,而Z是X的一种特殊线性变换;从几何上看,经X线性变换产生的主轴Z代表数据流形Y的重要方向,使得Y在由主轴Z张成的坐标系中的投影保留了Y的大部分信息和数学特征.2.4·2与响应面法比较    响应面法是以试验设计为基础的用于试验模型建立和模型分析的统计方法,在多学科设计优化中得到广泛应用.响应面法往往将输出变量y表示为X的非线性函数形式,二次多项式响应面模型为y = v0+Di=1vixi+Di=1viix2i+D-1i=1Dj=i+1vijxixj+.函数拟合准则为=pk=1Ni=1yki-yki,*|X,Y=min=(v)|X,Y.响应面法的数据处理过程如图4所示.非线性主轴降维映射法与响应面法都是通过假定非线性函数