2018年3月11日
RF, GBDT, XGB区别
摘要： GBDT与XGB区别1. 传统GBDT以CART作为基分类器，xgboost还支持线性分类器(gblinear)，这个时候xgboost相当于带L1和L2正则化项的逻辑斯蒂回归（分类问题）或者线性回归（回归问题）2. 传统GBDT在优化时只用到一阶导数信息，xgboost则对代价函数进行了二阶泰勒展开，同时用到了一阶和二阶导数。顺便提一下，xgboost工具支持自定义代价函数，只要函数可一阶和二阶... 阅读全文
posted @ 2018-03-11 22:01 notwice 阅读(10892) 评论(0) 推荐(0) 编辑