树优公司isight培训资料-近似模型

Isight培训教程（8）近似模型Isight培训教程（8）近似模型 北京树优信息技术有限公司 2012/5/231 概述概述 近似模型概述 响应面模型 Response Surface Models (RSM) 径向基神经网络 R di l Bi Fi(RBF)径向基神经网络 Radial Basis Functions (RBF) 正交多项式 克里格差纸模型克里格差纸模型 Workshop 北京树优信息技术有限公司 2012/5/234 近似模型原理Approximationpp 提高优化效率 算法清单应用场合 提高优化效率： 减少计算机高强度仿真计算的次数 提高优化算法性能： ?1到4阶的响应面模型 ?RBF径向基神经网络 ?Kriging 模型提高优化算法性能： 用更多的近似方法来扩展数值优化算法已 有的近似方法 通过平滑响应函数为“噪声”计算工具 ?Kriging 模型 ?正交多项式 通过平滑响应函数，为“噪声”计算工具 改善收敛状况 减少困在局部解的机会，使数值优化算法 也有可能找到全局解 XY 也有可能找到全局解 敏度分析： 更好的理解X 和 Y的关系更好的理解和的关系 北京树优信息技术有限公司 2012/5/235 构造近似模型构造近似模型 北京树优信息技术有限公司 2012/5/236 用近似模型替代高强度仿真用近似模型替代高强度仿真 ?减少计算机高强度仿真计算的次数减少计算机高强度仿真计算的次数 ?平滑噪音，使数值优化算法能够快速找到全局解平滑噪音，使数值优化算法能够快速找到全局解 优化方法优化方法 CAECAE 优化方法优化方法 CAECAE CAECAE 优化方法优化方法近似模型近似模型CAECAE优化方法优化方法近似模型近似模型 近似逼近近似逼近 样本 样本 样本 样本 北京树优信息技术有限公司 2012/5/237 近似模型的使用近似模型的使用 类型:类型: 响应面模型Response Surface Model (RSM) 径向基神经网络 Radial Basis Function Approximation (RBF) 特点:特点: 在工作流中拖拉使用 导向式 All features are accessible via the 能进行 Error Analysis 可视化 Visualization 对一个组件可以建立多层近似 All features are accessible via the Approximations submenu in the component title bar 对一个组件可以建立多层近似 北京树优信息技术有限公司 2012/5/239 响应面模型响应面模型 通常用DOE采集数据 通常是一次或高阶多项式 响应面模型响应面模型 数据采集 通常是次或高阶多项式 一阶: = += k i iix y 1 0 二阶: += jiij k iii k ii xxxxy 2 0 选择模型 类型 34阶 （iSIGHT 7+) ： 2阶RSM在近似非线性、任意设计空间时能力 =ji jj ii11 拟合 模型 RSM 更有效 用最小二乘法拟合数据 (计算系数) 模型更新过程 先阶过渡到高阶(可设置) 验证 模型 模型更新过程: 先一阶，过渡到高阶(可设置) 模型可以使用该模型 模型 YN XY 北京树优信息技术有限公司 2012/5/2310 模型可以 接受? 使用该模型 代替仿真程序 XY 2到到4阶阶响应面比较响应面比较到到 阶阶响应面比较响应面比较 2阶 RSM3阶RSM2阶 RSM 3阶RSM 4阶RSMKriging 模型 北京树优信息技术有限公司 2012/5/2311 4阶RSM Kriging 模型 响应面模型 Response Surface Model响应面模型p 使用简单的代数函数，经常是低阶多项式来近似组件中的输入输出关系使用简单的代数函数，经常是低阶多项式来近似组件中的输入输出关系 北京树优信息技术有限公司 2012/5/2312 响应面模型 Response Surface Model响应面模型p 初始化模型Initialize model 使用随机采样点 使用DOE采样点 使用以前的点 (例如DOE采样点，实验数据等) 北京树优信息技术有限公司 2012/5/2313 RSM中的项(terms)选择中的项()选择 使用项选择来 去掉较低重要性的项 提高模型的预测可靠度 提高模型的预测可靠度 减少初始化模型需要的点 使用有限的设计点构造最好 的近似模型 北京树优信息技术有限公司 2012/5/2314 RSM中的项选择中的项选择 方法计算成本质量 SequentialLowLow StepwiseHighAverage Two-at-a-timeHighVery Good ExhaustiveVery highBest 北京树优信息技术有限公司 2012/5/2315 神经网络神经网络 1943年，McCulloch和Pitts建立了第一个人工神经 网络模型，后被扩展为“认知（Perception）”模型。网络模型，后被扩展为 认知（Perception） 模型。 20世纪80年代，Hopfield将神经网络成功地应用在 组合优化问题如今神经元网络已经被广泛的应组合优化问题。如今神经元网络已经被广泛的应 用到函数逼近、模式识别、图像处理与计算机视 觉、信号处理、时间序列、医药控制、专家系统、 动力系统军事系统金融系统人工智能以及动力系统、军事系统、金融系统、人工智能以及 优化等方面。 北京树优信息技术有限公司 2012/5/2316 神经网络神经网络 在Isight中，用神经网络模型的的优点包括： 很强的逼近复杂非线性函数的能力。很强的逼近复杂非线性函数的能力。 无须数学假设，具有黑箱特点。 学习速度快，具有极好的泛化能力。学习速度快，具有极好的泛化能力。 较强的容错功能，即使样本中含有“噪声”输入，也不影 响网络的整体性能响网络的整体性能。 北京树优信息技术有限公司 2012/5/2317 径向基径向基RBF神经网络模型神经网络模型径向基径向基神经网络模型神经网络模型 In iSIGHT we follow the Hardy (1972) method as described by Kansa (1999): 北京树优信息技术有限公司 2012/5/2318 径向基神经网络 Radial Basis Functions (RBF） 三层前向网络，接收输入信号的单元层称为输入层，输出信号的单元层称为输出层，不层，输层为输层，输层为输层，不 直接与输入输出发生联系的单元层称为中间层或隐层。从输入层到隐含层的是一种固定 不变的非线性变换，将输入矢量直接映射到一个新的空间。隐层空间到输出层空间的映 射是线性的输出层在新的线性空间中实现线性加权组合此处的权即为网络可调参数射是线性的，输出层在新的线性空间中实现线性加权组合，此处的权即为网络可调参数。 RBF uses a variable power spline: | x xj | cj where | x xj | is the Euclidean distance cj is a shape function, 0.2 c 3.0cj is a shape function, 0.2 c 3.0 Optimize the value of c to minimize sum of the errors 北京树优信息技术有限公司 2012/5/2319 径向基神经网络 Radial Basis Functions (RBF) 需要2n+1 数据点进行初始化 初始化模型 使用随机设计样本点 运行DOE 使以前收集到的点 使用以前收集到的点 (e.g., a DOE data set, lab data, etc.) 北京树优信息技术有限公司 2012/5/2320 Chebyshev/正交多项式模型y正交多项式模型 当试验因素较多时，采用最小二乘法求响应面模型参数的计算过程相 当复杂，而且得到的系数有可能出现统计相关，倘若经过显著性检验， 表明某系数与零无显著差异此时也不能简单地从拟合模型中删去表明某一系数与零无显著差异，此时也不能简单地从拟合模型中删去 响应的项，否则将使响应面模型失去意义。 采用正交多项式拟合响应面模型则不仅可简化计算过程（已规范采用正交多项式拟合响应面模型，则不仅可简化计算过程（已规范 化），而且可以克服用最小二乘法求系数过程中产生的弊病。 初始化正交多项式模型需要2d+1个样本点（ d是多项式自由度） 。（） 北京树优信息技术有限公司 2012/5/2321 克里格(Kriging)模型克里格(gg)模型 克里格方法（Kriging）又称空间局部插值法，是 以变异函数理论和结构分析为基础，在有限区域以变异函数理论和结构分析为基础，在有限区域 内对区域化变量进行无偏最优估计的一种方法， 是地统计学的主要内容之其实质是利用区域是地统计学的主要内容之一。其实质是利用区域 化变量的原始数据和变异函数的结构特点，对未 知样点进行线性无偏、最优估计。无偏是指偏差 的数学期望为0最优是指估计值与实际值之差的的数学期望为0，最优是指估计值与实际值之差的 平方和最小。 北京树优信息技术有限公司 2012/5/2322 Kriging模型模型 来源于地质和采矿学中的统计技术 gg模型模型 来源于地质和采矿学中的统计技术 包括时间和空间相关的数据 将全局模型和局部偏差(departures)组合起来构造将全局模型和局部偏差(departures)组合起来构造 模型 Y(X) = f(X) + Z(X)Y(X) f(X) + Z(X) f(X) “全局”估计设计空间的常数项 Z(X) 随机过程的结果 确定“局部” 偏差，这样模 型就修改了 个采样数据点型就修改了n个采样数据点 局部偏差是通过相关矩阵 Gaussian 相关函数计算出 来的来的 Y 通过每个抽样点 北京树优信息技术有限公司 2012/5/2323 Kriging vs RSM (2nd) 36 个点个点gg()个点个点 Kriging 模型2阶响应面模型 ecta = 116 136 hdia=130 ecta = 116 136 elength = 300 - 500 elength23=200 icta=239 ilength=250 北京树优信息技术有限公司 2012/5/2324 timing=-12 克里格插值克里格插值 导入数据 进行预测 数据分析 计算克里格系数 是否服从正 态分布 是 否 是 数据变换 拟合理论半变异 函数图 是否存 在趋势 否 是 泛克里格方法 根据数据选择合 绘制经验半变异 函数图 根据数据选择合 适的方法 计算样点间的距 按组统计平均距离及 绘制方差变 异云图 计算样点间的距 离矩阵 计算样点间的属 性方差 按距离分组 按组统计平均距离及 对应的平均方差 北京树优信息技术有限公司 2012/5/2325 性方差 构造模型的过程构造模型的过程构造模型的过程构造模型的过程 构造Kriging模型的流程： 北京树优信息技术有限公司 2012/5/2326 估计近似值的过程估计近似值的过程估计近似值的过程估计近似值的过程 Y(x)估计值的表达式： 估计Y近似值的流程： 北京树优信息技术有限公司 2012/5/2327 2到到4阶响应面拟阶响应面拟和和Kriging效果效果的比较的比较到到 阶响应面拟阶响应面拟和和gg效果效果的比较的比较 2阶 RSM3阶RSM2阶 RSM 3阶RSM 4阶RSMKriging 模型 北京树优信息技术有限公司 2012/5/2328 4阶RSM Kriging 模型 Isight中近似模型Approximations的使用gpp 可以使用近似模型替代任何组件(过程或工作节点组件)可以使用近似模型替代任何组件(过程或工作节点组件) 北京树优信息技术有限公司 2012/5/2329 在Workflow中使用近似模型在中使用近似模型 近似模型可以用于子流 程 只需要将其丢放到相程，只需要将其丢放到相 应过程组件上即可 北京树优信息技术有限公司 2012/5/2330 在Workflow中使用近似模型在中使用近似模型 一个近似模型可以加到一个仿个近似模型可以加到个仿 真组件上，只要把近似模型丢 放到相应行为组件上即可 北京树优信息技术有限公司 2012/5/2331 在Workflow中使用近似模型在中使用近似模型 可以在 orkflo 中直接使用近似模型(如果数据已可以在workflow中直接使用近似模型(如果数据已 经存在)，数据可以是样本点，或者代表近似模型 的系数 北京树优信息技术有限公司 2012/5/2332 向导可以使得建立近似模型非常容易向导可以使得建立近似模型非常容易 方法选择方法选择 选择选择Inputs/Outputs选择选择Inputs/Outputs 通过通过DOE矩阵采样矩阵采样或者数据文或者数据文 北京树优信息技术有限公司 2012/5/2333 通过通过DOE矩阵采样矩阵采样，或者数据文或者数据文 件，或者随机采样件，或者随机采样 误差分析误差分析 附加采样点用于误差分析 (error analysis)附加采样点用于误差分析 (error analysis) 4种误差测量方法： Average: differences between actual (workflow execution) and predicted (approx. model execution) are averaged and then normalized by the range of allowed values Maximum: normalized maximum difference between actual and predicted values Root mean square: squared differences qq between actual and predicted values normalized as above R-squared: Coefficient of determinationR-squared: Coefficient of determination, between 0 and 1 where 1 means no error 北京树优信息技术有限公司 2012/5/2334 R2分析: 响应面模型分析 响应面模型 R2 分析是判断近似模型和实际函数之间误差的一 个有用度量个有用度量 R2 = 1 ?近似模型的值和实际函数的值完全相同 (在所有设计点)(在所有设计点) 只有在采样设计点的个数比多项式的项数(最好是 2-3倍)多的情况下才用 北京树优信息技术有限公司 2012/5/2335 模型验证模型验证 对i和对Average, Maximum 和 Root Mean Square 误差类型的可接 受水平受水