最优化——阻尼牛顿法
使用阻尼牛顿法求解:
利用Amijio非精确线搜索
初始点x0=[0,0]',经条件1e-6或n=2000
代码:
%建立NTtest.m文件 clear all clc x0=[0,0]'; fun=@(x)100*(x(1)^2-x(2))^2+(x(1)-1)^2; gfun=@(x)[400*x(1)*(x(1)^2-x(2))+2*(x(1)-1), -200*(x(1)^2-x(2))]'; Hesse=@(x)[1200*x(1)^2-400*x(2)+2,-400*x(1);-400*x(1),200]'; [x,val,k]=minNT(fun,gfun,Hesse,x0) %建立minNT.m文件 function [x,val,k]=minNT(fun,gfun,Hesse,x0) %注意传过来的是变量,而不是函数 %功能:用阻尼牛顿法求解无约束问题:min f(x) %输入:x0是初始点,梯度函数,Hesse阵的函数 %输出:x,val是近似最优点和最优值,k是迭代次数 maxk=2000;%给出最大迭代次数 rho=0.5;sigma=0.4;gama=0.5; epsilon=1e-6; k=0; while (k<maxk) gk=feval(gfun,x0);%计算梯度 Gk=feval(Hesse,x0);%计算Hesse阵 dk=-Gk\gk;%计算搜索方向 if(norm(gk)<epsilon) break; end %Armijio线搜索寻找最佳步长alpha mk=0; while(mk<20) if(feval(fun,x0+rho*gama^mk*dk)<=feval(fun,x0)+sigma*rho*gama^mk*gk'*dk) alpha=rho*gama^mk;break; end mk=mk+1; end x0=x0+alpha*dk; k=k+1; end x=x0; val=feval(fun,x); format short end
结果:
x =
1.0000
1.0000
val =
2.1283e-15
k =
36
每天进步一点点