次梯度方法(Subgradient method)

次梯度法是求解凸函数最优化(凸优化)问题的一种迭代法。次梯度法能够用于不可微的目标函数。当目标函数可微时,对于无约束问题次梯度法与梯度下降法具有同样的搜索方向。
虽然在实际的应用中,次梯度法比内点法和牛顿法慢得多,但是次梯度法可以直接应用于更广泛的问题,次梯度法只需要很少的存储需求。然而,通过将次梯度法与分解技术结合,有时能够开发出问题的简单分配算法。

https://zhuanlan.zhihu.com/p/103359560
http://www.seas.ucla.edu/~vandenbe/236C/lectures/subgradients.pdf

posted @ 2021-10-18 15:28  哈哈哈喽喽喽  阅读(169)  评论(0编辑  收藏  举报