无约束最优化_第1页
无约束最优化_第2页
无约束最优化_第3页
无约束最优化_第4页
无约束最优化_第5页
已阅读5页,还剩13页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

无约束最优化第1页,课件共18页,创作于2023年2月二、

局部解的最优性条件定理4-1(一阶必要条件)设具有连续的一阶偏导数,若是无约束问题的局部解,则定理4-2(二阶必要条件)设具有连续的二阶偏导数,若是无约束问题的局部解,则半正定。第2页,课件共18页,创作于2023年2月定理4-3(二阶充分条件)设具有连续的二阶偏导数,若在处满足:

正定,则是无约束问题的严格局部解。定义2设G是阶正定对称矩阵,称函数

为正定二次函数。

第3页,课件共18页,创作于2023年2月例1证明:若目标函数为正定二次函数,则相应的无约束问题有严格局部解,且此局部解也是全局解。定理4-4设是连续可微的凸函数,则是无约束问题的全局解的充要条件是第4页,课件共18页,创作于2023年2月三、

最速下降法思路:从某一点出发,以最快的速度到达最小点,什么方向是函数下降最快的方向呢?---负梯度方向。步长:沿负梯度方向走多远?当前点,计算负梯度,最优步长第5页,课件共18页,创作于2023年2月算法4.1最速下降法(1)取初始点,令(2)若,停止,否则(3)一维搜索,求解问题得令(4)令转(2).第6页,课件共18页,创作于2023年2月例2用最速下降法求解无约束问题:取初始点数值实验(1)a=b=1;(2)a=99,b=1.第7页,课件共18页,创作于2023年2月最速下降算法分析定理4-5若一维搜索是精确的,则最速下降法产生的相邻两次搜索方向是相互正交的,即结论:锯齿形,收敛慢。停机条件:不合理。合理停机条件:第8页,课件共18页,创作于2023年2月解:第9页,课件共18页,创作于2023年2月第10页,课件共18页,创作于2023年2月四、算法的收敛性算法强收敛:迭代点列或子列满足

弱收敛:的任一个聚点是稳定点,或者局部收敛,全局收敛第11页,课件共18页,创作于2023年2月收敛速度迭代点列满足若则(1)则称线性收敛;(2)则称次线性收敛;(3)则称超线性收敛。若则称为阶收敛。第12页,课件共18页,创作于2023年2月算法的二次终止性定义3若某个算法对于任意的正定二次函数,从任意的初始点出发,都能经有限步迭代达到其极小点,则称该算法具有二次终止性。第13页,课件共18页,创作于2023年2月

算法及相关概念1.一般迭代算法集合S上的迭代算法A:(1)初始点;(2)按照某种规则A产生下一个迭代点。(i)如果点列收敛于最优解,则称算法A收敛。(ii)如果,则称算法A为下降迭代算法。...第14页,课件共18页,创作于2023年2月

极小点的判定条件(1)必要条件:(2)充分条件:第15页,课件共18页,创作于2023年2月2.下降迭代算法步骤(1)给出初始点,令;(2)按照某种规则确定下降搜索方向;(3)按照某种规则确定搜索步长,使得;(4)令,;(5)判断是否满足停止条件。是则停止,否则转第2步。搜索步长确定方法:称。为最优步长,且有第16页,课件共18页,创作于2023年2月

终止条件2.4.1.3.5.最可靠

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论