【课程笔记】中科大凸优化（一）

相关定义

• 优化：从一个可行解的集合中，寻找出最优的元素

• 形式：

  $$\min f_0(x)\\ s.t. ~ f_i(x)\le b_i, i = 1,2,\cdots,m$$

• 分类：

  • 线性规划：所有函数都是线性函数

    $$f_i(\alpha x +\beta y) = \alpha f_i(x) + \beta f_i(y), \forall i = 0,1,,\cdots, m$$

  • 凸规划：所有函数都是凸函数

    $$f_i(\alpha x +\beta y) \le \alpha f_i(x) + \beta f_i(y), \forall i = 0,1,,\cdots, m$$

  • 多目标优化：Pareto front/转化为单目标优化

  • 连续/离散优化：一般离散优化是非凸问题

规律

• 带选择的问题通常是很难的问题

• 线性函数构成的可行解集，最优解一定在顶点或边上

  可以用单纯形法，但大规模线性规划的最优解法是内点法，可以改进到多项式时间内求解

  目前（2010）的研究热点之一是内点法到非线性规划的扩展

• 一个优化问题如果构造成了凸优化问题，就解决了90%了

  凸规划问题一定能在多项式时间内求解

• Lagrange的重要贡献是将约束变成目标，找到约束与目标之间的关系