跑得飞快的凤凰花

摘要： Using subgradient method to solve lasso problem The problem is to solve: $$\underset{\beta}{\operatorname{minimize}}\left\{\frac{1}{2 N} \sum_{i=1}^{N 阅读全文

摘要： Why Adaboost is equivalent to forward stagewise additive modeling using the loss function $L(y,f(x))=exp( yf(x))$? First we consider forward stagewise 阅读全文

摘要： Equivalence of constrained and unconstrained form for lasso Problem 1 The unconstrained form of lasso $$\operatorname{min}_{\beta}\|y X \beta\|_{2}^{2 阅读全文

摘要： 在第一章的1.2.6节，有公式（1.68） $$p(t | x, \mathbf{x}, \mathbf{t})=\int p(t | x, \boldsymbol{w}) p(\boldsymbol{w} | \mathbf{x}, \mathbf{t}) \mathrm{d} \boldsymb 阅读全文

摘要： 相信了解可视化的同学们都听说过plotly，笔者也是第一次了解这个网站，然后兴冲冲地设置，但是没想到第一次进行在线账号初始化就出现了问题！ python3报错为module 'plotly.tools' has no attribute 'set_credentials_file' 笔者查询了一下p 阅读全文

摘要： Regression Shrinkage and Selection via the lasso 众所周知，Robert Tibshirani是统计领域的大佬，这篇文章在1996年提出了LASSO，之后风靡整个高维领域，并延伸出许多种模型。这篇文章截止2019.5.16已经获得了27991的引用量（ 阅读全文

摘要： 坐标下降法（coordinate descent method）求解LASSO推导 LASSO在尖点是singular的，因此传统的梯度下降法、牛顿法等无法使用。常用的求解算法有最小角回归法、coordinate descent method等。 由于coordinate descent metho 阅读全文