凸优化学习笔记(1)-基础概念
基础定义
Affine & Convex
下面给出 Affine(仿射) 和 Convex(凸) 的定义(简单的记忆是将Affine类比成一条直线，而Convex则是一条线段):
令\(S\subseteq{R^n}\)是一个集合，那么：
- 如果对任意\(x,y\in S\)且\(a\in R\),有\(ax+(1-a)y\in S\),则\(S\)为Affine。
- 如果对任意\(x,y\in S\)且\(a\in[0,1]\),有\(ax+(1-a)y\in S\),则\(S\)为Affine。
其他基本定义
- Hyperplane(超平面)
\[H(s, c)=\left\{x \in \mathbb{R}^{n} : s^{T} x=c\right\}
\]
- Halfspaces(半空间)
\[H^{-}(s, c)=\left\{x \in \mathbb{R}^{n} : s^{T} x \leq c\right\}, H^{+}(s, c)=\left\{x \in \mathbb{R}^{n} : s^{T} x \geq c\right\}
\]
由上面的公式可以看到，半空间有两个方向。
- Euclidean Ball(球)
\[B(\overline{x}, r)=\left\{x \in \mathbb{R}^{n} :\|x-\overline{x}\|_{2} \leq r\right\}
\]
- Ellipsoid(椭球)
\[\begin{array}{l}{ E(\overline{x}, Q)=\left\{x \in \mathbb{R}^{n} :(x-\overline{x})^{T} Q(x-\overline{x}) \leq 1\right\}}\end{array}
\]
其中\(Q\)是一个\(n\times n\)的对称,正定矩阵，用\(Q \in \mathcal{S}_{++}^{n}\)表示，它能使得对于任意的\(x\in \mathbb{R}^{n} \backslash\{\mathbf{0}\}\)满足\(x^TQx>0\)。
- Simplex(单纯形)
\[\begin{array}{l}{ \Delta=\left\{\sum_{i=0}^{n} \alpha_{i} x_{i} : \sum_{i=0}^{n} \alpha_{i}=1, \alpha_{i} \geq 0 \text { for } i=0,1, \ldots, n\right\}}\end{array}
\]
其中\(x_{0}, x_{1}, \ldots, x_{n}\)是\(R^n\)里的向量，且满足\(x_{1}-x_{0}, x_{2}-x_{0}, \ldots, x_{n}-x_{0}\)线性独立，也就是说\(x_0,x_1,...,x_n\)affinely independent。
- Convex Cone(凸锥)
注意凸和锥是两个不同的概念：
如果对于一个集合\(K\)，若\(\forall{x\in K}, {ax:a>0}\subseteq K\),则\(K\)是Cone(锥)。如果一个锥还是凸的，那么就称之为凸锥。
- Positive Semidefinite Cone(正半定锥)
\[\mathcal{S}_{+}^{n}=\left\{Q \in \mathcal{S}^{n} : x^{T} Q x \geq 0 \text { for all } x \in \mathbb{R}^{n}\right\}
\]
