07 2019 档案
摘要：xgboost有一篇博客写的很清楚，但是现在网址已经失效了，之前转载过，可以搜索XGBoost 与 Boosted Tree。 现在参照这篇，自己对它进行一个总结。 xgboost是GBDT的后继算法，也是采用boost算法的cart 树集合。 一、基学习器：分类和回归树（CART） cart树既可
阅读全文
摘要：GBDT(Gradient Boosting Decision Tree，Friedman，1999)算法自提出以来，在各个领域广泛使用。从名字里可以看到，该算法主要涉及了三类知识，Gradient梯度、Boosting集成算法和 Decision Tree决策树。 该算法是GREEDY FUNCT
阅读全文
摘要：在有监督学习里面有几个逻辑上的重要组成部件[3]，初略地分可以分为：模型，参数 和 目标函数。（此部分转自 XGBoost 与 Boosted Tree） 一、模型和参数 模型指给定输入xi如何去预测 输出 yi。我们比较常见的模型如线性模型（包括线性回归和logistic regression）采
阅读全文
摘要：https://cloud.tencent.com/developer/news/58202 简介 今天为大家介绍的是scikit-learn。sklearn是一个Python第三方提供的非常强力的机器学习库，它包含了从数据预处理到训练模型的各个方面。在实战使用scikit-learn中可以极大的节
阅读全文
摘要：https://www.cnblogs.com/lliuye/p/9451903.html 梯度下降法作为机器学习中较常使用的优化算法，其有着三种不同的形式：批量梯度下降（Batch Gradient Descent）、随机梯度下降（Stochastic Gradient Descent）以及小批量
阅读全文
