最优化——阻尼牛顿法

使用阻尼牛顿法求解：

 

利用Amijio非精确线搜索

初始点x0=[0,0]'，经条件1e-6或n=2000

 

代码：

%建立NTtest.m文件

clear all

clc

x0=[0,0]';

fun=@(x)100*(x(1)^2-x(2))^2+(x(1)-1)^2;

gfun=@(x)[400*x(1)*(x(1)^2-x(2))+2*(x(1)-1), -200*(x(1)^2-x(2))]';

Hesse=@(x)[1200*x(1)^2-400*x(2)+2,-400*x(1);-400*x(1),200]';

[x,val,k]=minNT(fun,gfun,Hesse,x0)

 

%建立minNT.m文件

function [x,val,k]=minNT(fun,gfun,Hesse,x0)

%注意传过来的是变量，而不是函数

%功能：用阻尼牛顿法求解无约束问题：min f(x)

%输入：x0是初始点，梯度函数，Hesse阵的函数

%输出：x，val是近似最优点和最优值,k是迭代次数

maxk=2000;%给出最大迭代次数

rho=0.5;sigma=0.4;gama=0.5;

epsilon=1e-6;

k=0;

while (k<maxk)

    gk=feval(gfun,x0);%计算梯度

    Gk=feval(Hesse,x0);%计算Hesse阵

    dk=-Gk\gk;%计算搜索方向

    if(norm(gk)<epsilon)

        break;

    end

   

   %Armijio线搜索寻找最佳步长alpha

   mk=0;

    while(mk<20)

        if(feval(fun,x0+rho*gama^mk*dk)<=feval(fun,x0)+sigma*rho*gama^mk*gk'*dk)

            alpha=rho*gama^mk;break;

        end

        mk=mk+1;    

    end

    x0=x0+alpha*dk;

    k=k+1;

end

   

x=x0;

val=feval(fun,x);

format short

end

　　

结果：

 

x =

1.0000
1.0000

val =

2.1283e-15

k =

36

每天进步一点点