优化原理与方法6.ppt_第1页
优化原理与方法6.ppt_第2页
优化原理与方法6.ppt_第3页
优化原理与方法6.ppt_第4页
优化原理与方法6.ppt_第5页
已阅读5页，还剩9页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

优化原理与方法 第6讲 5 3 4无约束问题优化算法 一 最速下降法搜索方向 迭代式 迭代步骤 给定 0 k 选取搜索方向 作一维搜索 判别是否满足终止条件 若是 则算法终止 否则k 1 k 回到 5 3 4无约束问题优化算法 最速下降法算法特点 前后两个搜索方向彼此正交 搜索路径呈锯齿形前进 线性收敛速度 但头几步迭代的效率尚好 算法稳定性相对较好 一般具全局收敛性质 目标函数等值面越扁平 搜索效率越低 调匀各变量的尺度差异可以改善 该性质对各种算法具有一定普遍性 是非线性规划的基本算法 常作为其他算法的起始迭代步 不具二次截止性 5 3 4无约束问题优化算法 x 2 x 1 最速下降法的锯齿现象 x 0 x 1 x 5 3 4无约束问题优化算法 二 牛顿法搜索方向 迭代式 迭代步骤 给定 0 k 选取搜索方向 作一维搜索 判别是否满足终止条件 若是 则算法终止 否则k 1 k 回到 由来 牛顿迭代式的由来 对在点上作二次展开 令二次展开式的梯度为零 即则有 故有 步长t可直接取1 若t通过一维搜索获得 则称为阻尼牛顿法 5 3 4无约束问题优化算法 牛顿法算法特点 对二次目标函数仅需一次一维搜索即可得到最优点 对非二次目标函数具有二阶收敛速度 当不作一维搜索时 算法稳定性较差 且不具全局收敛性质 通常Hesse矩阵获取困难 或用差分计算的计算量大 精度也常常没有保证 因而牛顿法通常并不实用 但具有很高的理论价值 是构造一些高效率算法的标杆 5 3 4无约束问题优化算法 三 共轭方向法搜索方向 一组Q共轭方向 k 1 m迭代式 迭代步骤 给定 0 k 生成共轭方向 作一维搜索 判别是否满足终止条件 若是 则算法终止 否则k 1 k 回到 几何解释 5 3 4无约束问题优化算法 x 2 x 1 共轭方向的几何解释 x 0 d 0 x d 1 d 0 O 2 O 1 5 3 4无约束问题优化算法 Q共轭方向对于二次目标函数 依次沿n个共轭方向作一维搜索 至多经n次搜索即可获得最优点共轭方向法具有二次截止性 5 3 4无约束问题优化算法 共轭梯度法基于二次目标函数进行推导 以当前迭代点上的负梯度方向与前一搜索方向的线性组合来构造共轭方向 根据共轭条件推求组合系数Fletcher和Reeves经推导 消除了上式中的Q 得到著名的FR共轭梯度法公式 5 3 4无约束问题优化算法 变尺度法也就是说 新变量下的负梯度方向就相当于原变量下的牛顿方向 将Hesse阵视为尺度矩阵 经尺度变换后的负梯度方向就相当于原尺度下的牛顿方向 变尺度法利用迭代过程中积累的信息 逐步校正并最终构造出 对二次函数而言 Hesse阵的逆 5 3 4无约束问题优化算法 变尺度法搜索方向 校正式 DFP校正式BFGS校正式共轭方向法一般采用n次重开始策略 起始搜索方向为负梯度方向 5 3 4无约束问题优化算法 共轭方向法算法特点 对二次目标函数至多需n次一维搜索即可
人人文库> 全部分类> 应用文书 > 技术指导

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论