会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
筷点雪糕侠
博客园
首页
新随笔
联系
订阅
管理
随笔 - 126
文章 - 0
评论 - 2
阅读 -
34319
随笔分类 -
凸优化-基本概念
凸集,凸函数,仿射,锥
不动点法,收敛速度,二次终止性
摘要:方程求根方法 0.不动点迭代法
一
般
我
们
求
解
的
方
程
是
一
般
我
们
求
解
的
方
程
是
f
(
x
)
=
0
f
(
x
)
=
0
可
以
等
价
的
改
写
为
可
以
等
价
的
改
写
为
x
=
ϕ
(
x
)
x
=
ϕ
(
x
)
若
x
∗
满
足
f
(
x
∗
)
=
0
,
则
亦
满
足
x
∗
=
ϕ
(
x
∗
)
,
则
称
x
∗
是
函
数
ϕ
(
x
)
的
一
个
不
动
点
若
x
∗
满
足
f
(
x
∗
)
=
0
,
则
亦
满
足
x
∗
=
ϕ
(
x
∗
)
,
则
称
x
∗
是
函
数
ϕ
(
x
)
的
一
个
不
动
点
\(求f(x)的零点等价于求\phi(x)的
阅读全文
posted @
2022-05-02 21:47
筷点雪糕侠
阅读(1571)
评论(0)
推荐(0)
编辑
凸集,凸函数,无约束优化问题
摘要:Hesse矩阵和Jacobi矩阵 注意Hesse矩阵计算过程中目标变量是一元实值,自变量是向量,经过一阶导后变成目标变量为函数矩阵,自变量为向量函数,然后函数矩阵对向量求导,见书上定义 1.3.2 $$\nabla2f(x)=\begin{pmatrix} \frac{\partial2f(x)}{
阅读全文
posted @
2022-05-02 14:07
筷点雪糕侠
阅读(145)
评论(0)
推荐(0)
编辑
拟牛顿法,DFP,BFGS,SR-1
摘要:1.拟牛顿法思想 考虑
f
(
x
)
f
(
x
)
在当前是
x
k
x
k
处的二次函数
m
k
(
x
)
:
=
f
(
x
k
)
+
∇
f
(
x
k
)
T
(
x
−
x
k
)
+
1
2
(
x
−
x
k
)
T
B
k
(
x
−
x
k
)
m
k
(
x
)
:=
f
(
x
k
)
+
∇
f
(
x
k
)
T
(
x
−
x
k
)
+
1
2
(
x
−
x
k
)
T
B
k
(
x
−
x
k
)
其中
B
k
≻
0
B
k
≻
0
利用min
m
k
(
x
)
m
k
(
x
)
得方向,\(d^k=-B_k^
阅读全文
posted @
2022-03-26 17:25
筷点雪糕侠
阅读(371)
评论(0)
推荐(0)
编辑
Newton法
摘要:崔雪婷 最优化基础理论与方法 3.2章节 1.目标 无约束优化问题
m
i
n
f
(
x
)
,
x
∈
R
n
m
i
n
f
(
x
)
,
x
∈
R
n
其中
f
(
x
)
f
(
x
)
是二阶可微的 2.牛顿法的思想 设
x^
x^
是局部解,则
x^
x^
满足
∇
f
(
x
)
=
0
∇
f
(
x
)
=
0
选取初始点
x
1
x
1
,在
x
1
x
1
出按照泰勒展开,取二次近似多项式 \
阅读全文
posted @
2022-03-26 10:36
筷点雪糕侠
阅读(162)
评论(0)
推荐(0)
编辑
KKT条件
摘要:约束问题形式
P
问
题
P
问
题
{
m
i
n
f
(
x
)
g
i
(
x
)
≤
0
,
i
=
1
,
.
.
.
,
m
h
i
(
x
)
=
0
,
i
=
1
,
.
.
.
,
l
,
x
∈
R
n
{
m
i
n
f
(
x
)
g
i
(
x
)
≤
0
,
i
=
1
,
.
.
.
,
m
h
i
(
x
)
=
0
,
i
=
1
,
.
.
.
,
l
,
x
∈
R
n
约束问题局部解的一阶必要条件-KKT条件
若
约
束
问
题
满
足
如
下
条
件
若
约
束
问
题
满
足
如
下
条
件
\(1.f(x)
阅读全文
posted @
2021-12-13 16:40
筷点雪糕侠
阅读(471)
评论(0)
推荐(0)
编辑
公告
昵称:
筷点雪糕侠
园龄:
3年2个月
粉丝:
8
关注:
0
+加关注
<
2025年2月
>
日
一
二
三
四
五
六
26
27
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
1
2
3
4
5
6
7
8
搜索
常用链接
我的随笔
我的评论
我的参与
最新评论
我的标签
随笔分类
(133)
PRML(39)
pytorch(1)
多元统计分析(1)
概率论(12)
概率图模型(19)
高等数学(3)
机器学习(17)
集成学习(2)
矩阵论(6)
卡尔曼滤波(4)
密码学(2)
深度学习(1)
神经网络(8)
凸优化-对偶理论(1)
凸优化-基本概念(5)
凸优化-统计估计(2)
图像处理&CNN(7)
异常监测(1)
自编码器,AE,VAE(1)
自然语言处理-NLP(1)
随笔档案
(126)
2022年9月(1)
2022年8月(1)
2022年5月(13)
2022年4月(7)
2022年3月(31)
2022年2月(39)
2022年1月(27)
2021年12月(7)
阅读排行榜
1. 不动点法,收敛速度,二次终止性(1571)
2. 通用近似定理(1362)
3. 若尔当标准型和𝜆矩阵(1158)
4. 贝叶斯估计-共轭先验分布(1036)
5. 矩阵相关总结(920)
评论排行榜
1. 图像识别-OSTU阈值分割(1)
2. 贝叶斯估计-共轭先验分布(1)
推荐排行榜
1. PRML-5.3.1 误差函数的反向传播,导数的计算(1)
最新评论
1. Re:图像识别-OSTU阈值分割
感觉OSTU大津算法 还是挺优秀的
--Yangliuly1
2. Re:贝叶斯估计-共轭先验分布
写的不错啊 兄弟 收藏了哈
TIM
--jianzizai
点击右上角即可分享