非线性优化问题的过滤线搜索方法

1、非线性优化问题的过滤线搜索方法    线搜索方法是保证最优化方法总体收敛的基本策略之一,具有简单、可靠等优点。求解搜索方向和步长是线搜索方法的关键组成部分,搜索方向的设计影响方法的收敛速度而搜索步长可确保下降方向方法的收敛性。本文主要以Armijo准则为基础确定搜索步长,关于线搜索方法的扩展都是建立在扩展Armijo准则的基础上。过滤算法一般用来解约束优化问题,其主要思想在于试验步在减少了目标函数或约束违反度情况下被接受成为新迭代。过滤技术很好地平衡了目标函数和约束条件,代替传统的罚函数方法保证了优化算法的总体收敛性。过滤方法不仅可以用于信赖域序列二次规

2、划(SQP)框架,也可用于线搜索框架。Wa¨chter和Biegler给出了过滤算法基础上线搜索方法的总体收敛性。本文引入Fletcher和Leyffer提出的过滤技术,结合过滤方法和非单调方法、投影既约Hessian方法、完全投影正割方法、仿射内点方法、内点障碍法等,建立过滤线搜索算法框架,并将其应用于几类典型的优化问题,从理论上研究算法总体收敛性与局部收敛速率,用数值实验检验算法的效果。过滤方法是典型的解约束优化问题的方法,而Gould、Toint和Sainvitu提出了用多维过滤思想结合信赖域方法求解无约束优化问题。本文利用无约束优化问题的有关特征,将其转化为有特殊结构的等式约

3、束优化问题,结合过滤线搜索方法和牛顿法、非单调方法、MBFGS方法(即修正的BFGS方法),借助Wa¨chter和Biegler解非线性等式约束优化问题的方法求解无约束优化问题。在一定条件下证明了提供的算法具有总体收敛性和局部收敛速率,数值实验结果表明新算法要优于经典的线搜索方法。Fontecilla提出的正割方法是很成功的解非线性等式约束优化问题的方法。通过DFP或BFGS正割校正近似Lagrange函数的Hessian阵,大大降低了存贮空间和运算量。本文将正割方法与过滤线搜索方法相结合求解非线性等式约束优化问题,其特点是修正正割方法产生搜索方向,过滤线搜索程序确定步长,二阶校正技

4、术克服Maratos效应。在保持总体收敛性的情况下,算法具有2-步超线性收敛速率,数值结果表明算法是有效的。既约Hessian二次规划算法被证实是求解较大规模约束优化问题的有效方法之一,它只利用了Lagrange函数Hessian阵的部分信息,每次迭代的计算量小且算法所需内存也小。本文构造了既约Hessian过滤线搜索方法求解非线性等式约束优化问题,在合理的假设下,证明了算法具有总体收敛性和超线性收敛速率,数值实验结果证明该算法是可行的。基于过滤线搜索有利于不等式约束的可行性,本文依据有界约束和线性不等式约束的特定条件结合内点投影和仿射投影技术,研究了过滤线搜索方法分别在有界约束优化问题和线性

5、不等式约束优化问题中的应用。在合理的假设下,该方法具有总体收敛性和局部超线性收敛速率。数值结果说明了算法具有一定的实际价值。很多文献提出了用内点法求解不等式约束优化问题,但如何有效地大规模求解非线性等式和线性不等式混合约束优化问题,基于内点法的研究尚少见。本文将牛顿法、正割方法的思想与技术分别用于等式约束,结合过滤线搜索方法、内点投影和仿射投影技术适于不等式的特点综合地解决这类问题。同时用光滑Fletcher罚函数中关于等式约束的Lagrange函数和约束违反度作为过滤对的组成部分,避免了遭遇Maratos效应。我们证明了提供的算法具有总体收敛性和快速的局部收敛速率,给出了数值结果以说明算法的

6、有效可行。最后对本文的研究工作进行总结,提出了今后的研究设想。同主题文章1.    李霞,桂胜华. 改进的不带线搜索的两参数簇共轭梯度方法' J. 上海第二工业大学学报. 2004.(02)    2.    杜学武,徐成贤. 一族新共轭梯度法的全局收敛性' J. 数学研究. 1999.(03)    3.    肖明华. WAP营销新模式' J. 大众科技. 2004.(

7、08)    4.    王艳,田志远,陈元媛,郑希锋. 一种线搜索下三项共轭梯度法的全局收敛性' J. 青岛大学学报(自然科学版). 2006.(02)    5.    顾益明,朱德通. 有界变量约束优化的仿射尺度不精确牛顿法(英文)' J. 上海师范大学学报(自然科学版). 2007.(05)    6.    周厚春,席敏. 复合非光

8、滑最优化线搜索方法的全局收敛性(英文)' J. 南京师大学报(自然科学版). 2003.(03)    7.    濮定国,田蔚文. 带调整线搜索方向的变尺度算法' J. 运筹学杂志. 1995.(01)    8.    杜学武,张文艳,原三领. 共轭下降法全局收敛的一个充分必要条件' J. 焦作工学院学报. 1998.(02)    9.    简金宝,罗雁,徐庆娟. Hooke-Jeeves方法在简单约束优化中的推广' J. 广西科学. 2005.(02)    10.    柳娟,谢铁军,孙玉华. 一类共轭梯度法的全局收敛性' J. 运筹与管理. 2006.(03)    【关键词相关文档搜索】： 计算数学; 优化问题; 过