一维搜索
1 引入
之前我们求梯度与Hession阵来确定极值点,但是当维度非常大的时候,往往求解不出来。所以另辟蹊径,从一元开始:
2 二分法
3 等区间搜索
注:对于三点等分区间搜索来说,第一轮计算三个点的值,以后每轮只计算两个新点的值。
4 斐波那契搜索
4.1 引入
4.2 斐波那契数列
4.3 斐波那契搜索的步骤
举个例子:
4.4 斐波那契搜索的优缺点
5 黄金分割搜索
举个例子:
以上算法都是试探法,下边介绍函数逼近法,先来个过渡的说明:
6 二次差值
举个例子:
7 牛顿法
举个例子: