10 拟牛顿法.ppt_第1页
10 拟牛顿法.ppt_第2页
10 拟牛顿法.ppt_第3页
10 拟牛顿法.ppt_第4页
10 拟牛顿法.ppt_第5页
已阅读5页，还剩39页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

1、4.6 拟牛顿法,牛顿法收敛很快，但需要计算Hesse矩阵，而此矩阵可能非正定，可能导致搜索方向不是下降方向。,基本思想： 用不包含二阶导数的矩阵近似Hesse矩阵的逆。,拟牛顿条件,秩1校正 DFP(Davidon-Fletcher-Powell)算法： 秩2校正 BFGS(Broyden-Fletcher-Goldfarb-Shanno)公式及Broyden族,秩1校正,秩为1,注释,在一定条件下，收敛且具有二次终止性。 无法保证Hk的正定性；即使能，也有可能导致Hk无界。,DFP算法,秩为2,计算步骤：,重置,DFP法具有二次终止性！,搜索方向为下降方向,共轭,DFP法具有二次终止性！,

2、BFGS公式,BFGS修正公式,DFP公式,Sherman-Morrison公式,经验表明，比DFP公式好。,Broyden族,Broyden族的所有成员均满足拟牛顿条件。,特 点,不必计算Hesse矩阵。 当Hk0时，算法产生的方向均为下降方向，具有二次终止性。 存储量较大。,拟牛顿法是无约束最优化方法中最有效的一类算法。,作 业P218,26,5 约束优化,数学模型,一阶最优性条件(必要; 充分) 不等式约束问题 一般约束问题 二阶最优性条件(必要; 充分),起作用约束,下降方向:,局部概念,定理,可行方向:,局部概念,定理,可行下降方向,反证法,不等式约束问题的一阶最优性条件,对于凸规划，有下面的一阶充分条件：,一般约束问题的一阶最优性条件,互补松弛条件,对于凸规划，有下面的一阶充分条件：,凹函数,线性函数,凸函数,图解：,几点说明,(1)、对于凸规划，KT条件是充分必要条件。 (2)、关于“起作用约束在x*点梯度线性无关”说明,x2,minf(x)= -x1 g1(x)=(1-x1)3-x20 g2(x)= x1 0 g3(x)= x2 0,分别考虑： w1 0 , w2 0：无解 w1 0 , w2=0：x*=0 , w1=-6，不是KT点 w1=0 , w2 0：x*=5 , w2=-4，不是KT点 w1=0 , w2=0：x*=

人人文库> 全部分类> 应用文书 > 技术指导

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论