摘要:
我们将$l_1$范数替换$l_0$范数以后,稀疏表征模型可以表示为:
$$\min \|\alpha\|_1 \quad \mathrm{s.t.} \; \Phi\alpha = s$$
这是一个二次规划问题,如何将$l_1$范数优化问题转为线性规划问题呢?
参考[Atomic Decomposition by Basis Pursuit](http://epubs.siam.org/doi/pdf/10.1137/S003614450037906X)中的方法,可以将$l_1$范数优化问题转化为一个常见的线性规划问题,然后我们可以用单纯形法或者内点法来求解. 阅读全文
摘要:
内点法属于约束优化算法。约束优化算法的基本思想是:通过引入效用函数的方法将约束优化问题转换成无约束问题,再利用优化迭代过程不断地更新效用函数,以使得算法收敛。
内点法(罚函数法的一种)的主要思想是:在可行域的边界筑起一道很高的“围墙”,当迭代点靠近边界时,目标函数徒然增大,以示惩罚,阻止迭代点穿越边界,这样就可以将最优解“档”在可行域之内了。 阅读全文