凸函数与凸集杂记
摘要:
1.凸集
1.1 凸集的定义
1.2 仿射集的定义
1.3 凸集的例子
1.4 凸集的保凸运算
2.凸函数
2.1 凸函数的定义
2.2 凸函数的性质
2.3 凸函数的例子
2.4 凸函数的保凸运算
3.凸集和凸函数的等价条件
4.Jensen不等式
内容:
1.凸集
1.1 凸集的定义
集合C中任意两点间的线段均在集合C中,则称集合C为凸集
向量的表达形式:
这里简单备注下因为向量的加法满足三角形法则,所以得到的向量X是一条线段
1.2 仿射集的定义
集合C中任意两点间的直线均在集合C中,则称集合C为仿射(affine)集
向量的表达形式:
注意这里theta的变化
1.3 凸集的例子
仿射集必然是凸集;常见的凸集有直线,平面,超平面(高维),多面体
1.4 凸集的保凸运算
集合的交,集合的仿射变换,透射和透视变换;
2.凸函数
2.1 凸函数的定义
若函数f的定义域domf为凸集,且满足:
,则f(x)是凸函数
几何意义:若一个函数的任两点的连线都位于函数的上方,则函数为凸函数
2.2 凸函数的性质
2.3 凸函数的例子
指数函数
负对数函数
负熵函数 f(x) = xlnx
范数函数 f(x) = ||x||
最大值函数max 和 指数线性函数
2.4 凸函数的保凸运算
非负加权和
凸函数与仿射函数的复合函数 g(x) = f(AX+b)
凸函数的逐点求最大以及逐点上确界(y为连续变量)
3.凸集和凸函数的等价条件
一个函数图像的上方区域为凸集,则该函数为凸函数
4.Jensen不等式