随笔分类 -  optimization

recording the optimization knowledge in ML and DL
摘要:Statement 1 假设 $\phi(x,z)$ 为含有两个变量的连续函数: $\phi : \mathbb{R}^n \times Z \rightarrow \mathbb{R}$,其中 $Z \subset \mathbb{R}^m$ 为紧集。 进一步假设,对于任意 $z\in Z$,$\ 阅读全文
posted @ 2022-06-30 08:28 李斯赛特 阅读(2582) 评论(0) 推荐(1)
摘要:1 多面体 Polyhedra 定义:多面体为一系列的(有限个)线性等式和不等式的解集: \(\mathcal{P}=\{x|a_j^T x \leq b_j, j=1,...,m, c_j^Tx = d_j, j = 1,...,p \}\) 根据上式可看出,多面体是$m$个半空间和$p$个超平面 阅读全文
posted @ 2022-06-05 09:20 李斯赛特 阅读(2689) 评论(0) 推荐(0)
摘要:1 超平面 Hyperplanes 定义:超平面是一个形式为${x|a^Tx=b}$的集合,其中$a\in \mathbb{R}^n, a \neq 0, b\in \mathbb{R}$。 分析上讲,超平面是线性方程的非零解集;几何上讲,超平面是与向量$a$具有恒定内积的点集,或具有法向量$a$的 阅读全文
posted @ 2022-06-03 11:29 李斯赛特 阅读(3497) 评论(0) 推荐(0)
摘要:##1. 仿射集 Affine Sets 1)定义 定义1:$x_1, x_2$为集合$C\subseteq \mathbb{R}^n$中的任意两点,如果穿过$x_1,x_2$的直线仍在$C$内,那么$C$为仿射集。 定义2:对于任意$x_1,x_2\in C$,\(\theta\in \mathb 阅读全文
posted @ 2022-05-31 12:38 李斯赛特 阅读(1492) 评论(0) 推荐(0)