优化问题
下确界:最大下界
凸优化:目标函数和可行集、约束条件都是凸的
只含等式约束问题
等价的凸问题
1)消除等式约束
利用广义逆总是能写出Ax=b的解
2)引入等式约束
3)引入松弛变量
将不等式约束转化为等式约束
常见的优化问题
1)线性规划:目标函数和约束函数都是仿射
可行集是多面体(超平面切掉一部分)
2)二次优化
目标函数是凸的二次型
投资组合 100万股票 每个股票分配多少钱的比例
SOCP
处理不确定性
1)确定性方法
2)随机性方法(带概率的约束)
对偶
lagrange对偶
函数关于x无下界,对偶函数值为-无穷
确界函数是凸/凹函数
lagrange函数是凹函数
可以通过共轭求lagrange对偶
KKT条件
https://zhuanlan.zhihu.com/p/26514613
最优性条件
fi(x*)<0 hi(x*)=0