使用非精最速下降法确线搜索Armijo算法确定步长的

1、理工数学与计算科学学院实验报告实验项目名称使用非精确线搜索Armijo算法确定步长最速下降法所属课程名称最优化方法实验类型算法编程实验日期20班级信学号姓名成绩 步1给定初始点xeRn,精度s0.令k=0;0步2若IIVf(x)118，则得解x,算法终止.否则kk计算d=-Vf(x)，然后转步3；kk步3由线性搜索计算步长a;k步4令x=x+ad,k:=k+1,转步2.k+1kkk优点：对于简单的二元二次函数极小化问题，最速下降法在有限次迭代并没有求出其精确最优解，但能以较慢的速度无限接近最优解.最速下降法的收敛性：全局收敛性：由于最速下降法的搜索方向与负梯度方向一致，即0二0,且kIIVf(

2、x)II二IIdIIkk所以，我们很容易得到最速下降算法的全局收敛性采用精确搜索，或Armijo搜索或Wolfe-Powel1搜索的最速下降法产生的迭代序列x满足klimIIVf(x)II=0ksk由例子看到，最速下降法的收敛速度至多是线性的，收敛速度估计：设矩阵Q对称正定,qeRn.记九和九分别是Qmaxmin2的最大和最小特征值,K=严.考察如下二次函数极小化入min问题：minf(x)=xtQx+qTx则由采用精确搜索的最速下降法产生的点列x满足k-1K+1丿IIx-x*IIk+1QIIx-x*IIkQ其中x*是问题的惟一解,IIxII=Cqx(3.2)对于二次函数，由于Yf(x)=Qx

3、+q且在x*处Vf(x*)=Qx*+q=011则f(x)-f(x*)=2(x-x*)TQ(x-x*)=2“x-x*l|2所以(3.2)可以改写成f(x)-f(x*)0&rho0&sigma0.5);mk=0;max_mk=100;whilemk=max_mkx=xk-rhoAmk*gk;iffeval(fun,x)=feval(fun,xk)-sigma*rhoAmk*norm(gk)人2break;endmk=mk+1;endreturn;最速下降法实现：plainviewplaincopyfunctionopt_x,opt_f,k=grad_descent(fun_obj,fun_grad

4、,x0)max_iter=5000;%maxnumberofiterationsEPS=1e-5;%thresholdofgradientnorm%Armijoparametersrho=0.5;sigma=0.2;%initializationk=0;xk=x0;whilekmax_iterk=k+1;gk=feval(fun_grad,xk);%gradientvectordk=-1*gk;%searchdirectionifnorm(dk)EPSbreak;endyk=feval(fun_obj,xk);fprintf(#iter=%5d,xk=%.5f,F=%.5fn,k,xk,yk)

5、;mk=armijo(fun_obj,xk,rho,sigma,gk);xk=xk+rhoAmk*dk;endfprintf(n);讦k=max_iterfprintf(ProblemNotsolved!n);elsefprintf(Problemsolved!n);end%recordresultsopt_x=xk;opt_f=feval(fun_obj,xk);return;附录2：实验报告填写说明1实验项目名称：要求与实验教学大纲一致。2实验目的：目的要明确，要抓住重点，符合实验教学大纲要求。3实验原理：简要说明本实验项目所涉及的理论知识。4实验环境：实验用的软、硬件环境。5实验方案（思路、步骤和方法等）：这是实验报告极其重要的内容。概括整个实验过程对于验证性实验，要写明依据何种原理、操作方法进行实验，要写明需要经过哪几个步骤来实现其操作。对于设计性和综合性实验，在上述内容基础上还应该画出流程图、设计思路和设计方法，再配以相应的文字说明。对于创新性实验，还应注明其创新点、特色。6实验过程（实验中涉及的记录、数据、分析）：写明具体实验方案的具体实施步骤，包括实验过程中的记录、数据和相应的分析