2020 年 8月随笔档案 - ldfm

swarm robotics 2020/8/24

摘要：swarm robotics, every robot mast can feel the environment,and do some optimize it; 阅读全文

posted @ 2020-08-24 15:37 ldfm 阅读(146) 评论(0) 推荐(0) 编辑

摘要：思路：线搜索最优化算法，一般是先确定迭代方向（下降方向），然后确定迭代步长；信赖域方法直接求得迭代位移；算法分析第

k

$k$ 次迭代，确定迭代位移的问题为(信赖域子问题)：

m i n q_{k} (d) = g_{k}^{T} d + \frac{1}{2} d^{T} B_{k} d_{k}

$min q_k(d)=g_k^Td+\frac{1}{2}d^TB_kd_k$ \(s.t.\quad ||d||\le 阅读全文

posted @ 2020-08-22 14:36 ldfm 阅读(1485) 评论(0) 推荐(0) 编辑

最优化算法3.2【拟牛顿法-BFGS算法】

摘要：特点相较于：最优化算法3【拟牛顿法1】 BFGS算法使用秩二矩阵校正hesse矩阵的近似矩阵

B

$B$ ,即：

B_{k + 1} = B_{k} + α μ_{k} μ_{k}^{T} + β ν_{k} ν_{k}^{T}

$B_{k+1}=B_k+\alpha\mu_k\mu_k^T+\beta\nu_k\nu_k^T$ 算法分析将函数在

x_{k + 1}

$x_{k+1}$ 处二阶展开： \(f(x)=f(x_{k+1}) 阅读全文

posted @ 2020-08-21 10:03 ldfm 阅读(1232) 评论(0) 推荐(0) 编辑

最优化算法3【拟牛顿法1】

摘要：牛顿法存在的问题计算量大，每次都需要计算HESSE矩阵，对于自变量维数较高的优化函数，计算量是相当大的； HESSE矩阵可能存在不正定的问题，此时求得的迭代方向可能不是下降方向；为了解决上述问题，需要求HESSE矩阵近似矩阵

B

$B$ 算法分析将函数在

x_{k + 1}

$x_{k+1}$ 处二阶展开： \(f(x)= 阅读全文

posted @ 2020-08-20 18:57 ldfm 阅读(288) 评论(0) 推荐(0) 编辑

最优化算法【共轭梯度法】

摘要：特点：具有超线性收敛速度，只需要计算梯度，避免计算二阶导数算法步骤

s t e p 0 :

$step0:$ 给定初始值

x_{0}

$x_0$ ,容许误差

ϵ

$\epsilon$

s t e p 1 :

$step1:$ 计算梯度

g_{k} = \nabla f (x_{k})

$g_k=\nabla f(x_k)$ ,if

n o r m (g_{k}) <= ϵ

$norm(g_k)<=\epsilon$ ，

b r e a k;

$break;$ 输出当前阅读全文

posted @ 2020-08-09 18:56 ldfm 阅读(1543) 评论(0) 推荐(0) 编辑

牛顿算法及其改进【阻尼牛顿法、修正牛顿法】

摘要：牛顿算法对于优化函数

f (x)

$f(x)$ ,

x = (x_{1}; x_{2}; . . .; x_{n})

$x=(x_1;x_2;...;x_n)$ ,二阶连续可导在

x_{k}

$x_k$ 处泰勒展开，取前三项，即对于优化函数二阶拟合

f (x) = f (x_{k}) + g_{k} (x - x_{k}) + \frac{1}{2} (x - x_{k}) G_{k} (x - x_{k})

$f(x)=f(x_k)+g_k(x-x_k)+\frac{1}{2}(x-x_k)G_k(x-x_k)$ 其中$g_k=\nabla f( 阅读全文

posted @ 2020-08-08 22:50 ldfm 阅读(3921) 评论(0) 推荐(0) 编辑

矩阵正定、负定、半正定、半负定

摘要：矩阵正定对于实对称矩阵

M_{n \times n}

$M_{n\times n}$ 正定<=>非任意零实系数向量z，

z^{T} M z

$z^TMz$ >0 对于埃尔米特矩阵（复数共轭对称矩阵）

M_{n \times n}

$M_{n\times n}$ 正定<=>对于任意非零复数向量z，

z^{*} M z > 0

$z^*Mz>0$ 等价条件矩阵

M

$M$ 的所有特征值都是正的；顺序主子式大于零矩阵阅读全文

posted @ 2020-08-07 21:37 ldfm 阅读(6375) 评论(0) 推荐(0) 编辑

变步长梯度下降法

摘要：关于最优化算法的框架见最优化算法确定迭代步长【线搜索技术】迭代公式

x_{k + 1} = x_{k} + α_{k} d_{k}

$x_{k+1}=x_k+\alpha_kd_k$ 其中

α_{k}

$\alpha_k$ 为第k次迭代步长，

d_{k}

$d_k$ 为第k次迭代方向；变步长梯度下降法就是每次迭代，步长都需要计算定步长梯度下降发每次步长都为定值；算法见最优化算法【最小二阅读全文

posted @ 2020-08-05 22:48 ldfm 阅读(1361) 评论(0) 推荐(0) 编辑

最优化算法确定迭代步长【线搜索技术】

摘要：无约束问题最优化算法框架

s t e p 0 :

$step0:$ 输入优化函数，确定迭代起始点x0,容许误差 epsilon；

s t e p 1 :

$step1:$ if 容许误差条件满足，终止迭代；输出当前x值； else 计算迭代方向dk；迭代步长 alpha_k; // dk必须满足收敛条件；关于迭代步长的计算，就是线搜索技术阅读全文

posted @ 2020-08-05 17:14 ldfm 阅读(1342) 评论(0) 推荐(0) 编辑

最优化算法【线搜索-黄金分割（0.618）算法】

摘要：使用条件优化函数在搜索区间内为单峰函数算法算法类似于二分查找算法，能够求单峰函数在搜索区间的极值算法如下：

s t e p 0 :

$step0:$

$\qquad$ 确定单峰函数

f (x) \(的 搜 索 区 间 \) [a_{0}, b_{0}] \(； 容 错 误 差 \) δ = a - b

$f(x)$的搜索区间$[a_0,b_0]$；容错误差$\delta=a-b$ ,

ϵ = f (b) - f (a)

$\epsilon=f(b)-f(a)$ 阅读全文

posted @ 2020-08-04 15:45 ldfm 阅读(1612) 评论(0) 推荐(0) 编辑

常用数学矩阵【Jacobi矩阵，Hessan 矩阵】

摘要：一、雅可比（Jacobi）矩阵对于函数

y = f (x)

$y=f(x)$ 其中，

x = (x_{1}; x_{2}, . . .; x_{n})

$x=(x_1;x_2,...;x_n)$ ,

y = (y_{1}; y_{2}; . . .; y_{m})

$y=(y_1;y_2;...;y_m)$ 则Jacobi矩阵为： \[ J= \begin{pmatrix} \frac{\partial y_1}{\partial x_1} 阅读全文

posted @ 2020-08-01 14:10 ldfm 阅读(903) 评论(0) 推荐(0) 编辑

有点锋芒

08 2020 档案

公告

常用链接

我的标签

积分与排名

随笔分类 (56)

随笔档案 (68)

阅读排行榜

评论排行榜

推荐排行榜

最新评论