2015年4月6日

Shooting Algorithm

摘要： Shooting算法是Wenjiang提出的一种优化Lasso(L1 Regularization)和Bridge Regression的算法, 本文以Lasso为例.对于线性回归问题$\mathbb{y}=X\mathbb{\beta}+\epsilon$, 普通最小二乘法(OLS, ordina... 阅读全文

posted @ 2015-04-06 14:54 潘的博客 阅读(3140) 评论(1) 推荐(1) 编辑

Subgradient Algorithm

摘要： Subgradient是一种可以优化不可微的凸函数的方法.首先回顾凸函数的定义:$f(y) \geq f(x) + \nabla f(x)^T(y-x), all \hspace{2 pt} x, y$凸函数的subgradient的定义为满足以下条件的$g\in \mathcal{R}^n$$f(... 阅读全文

posted @ 2015-04-06 13:43 潘的博客 阅读(1686) 评论(0) 推荐(1) 编辑

导航