摘要: 精确线搜索花费的计算量一般较大。一般问题中,特别是初始迭代点具体目标点较远时,不精确线搜索的效率往往要高于精确线搜索。并且牛顿法和拟牛顿法的收敛速度不依赖于步长的搜索,因此可以对α进行不精确线搜索。 不精确线搜索包括Goldstein准则、Wofle准则和Armijo准则。 1. GoldStein 阅读全文
posted @ 2018-06-08 10:19 "kisetsu 阅读(2602) 评论(0) 推荐(0) 编辑
摘要: 优化算法经常要用到导数、梯度、Hesse矩阵等,因此编写了一个类用于实现这些功能 建立一个Function类,构造函数的参数是一个函数 其中part的功能是求偏导,var_index表示是第几个变量,val表示这些变量的值 diff的功能是方便一元函数求导 私有函数__diff_是为了hesse编写 阅读全文
posted @ 2018-06-08 08:54 "kisetsu 阅读(9785) 评论(0) 推荐(0) 编辑