摘要：
今天学习了梯度提升决策树（Gradient Boosting Decision Tree, GBDT），准备写点东西作为记录。后续，我会用python 实现GBDT， 发布到我的Github上，敬请Star。 梯度提升算法是一种通用的学习算法，除了决策树，还可以使用其它模型作为基学习器。梯度提升算法 阅读全文
摘要：
第一次参加数据应用比赛，比赛过程中付出了很多精力， 经常写代码，检查代码带凌晨一两点。前期查阅了许多资料， 试了四五个模型。单模型最好的结果是0.28左右。离进入复赛只有一步之遥。初赛结束前两天，刚好赶上了期末考试，没有时间进行stacking。我觉得做一下模型集成，进入复赛还是由希望的。 这篇博客 阅读全文
摘要：
LSTM vanishing gradient problems 阅读全文
摘要：
Recurrent Neural Network: Vanishing Gradient Problems 阅读全文
摘要：
Neural Network Refresher 阅读全文
摘要：
Makefile Makefile是linux中特有的一种文件， 方便自动化编译。 GloVe的源码是用C语言编写的， 在linux的环境当中需要编写一个Makefile文件来编译。关于Makefile文件的介绍可移步Linux Makefile与make命令详细介绍。下面只解读程序当中用到的知识点 阅读全文
摘要：
word2vec模型 word2vec 模型有两种： Continuous Skip-gram Model 和 Continuous Bag of Words Model (CBOW）。关于这两个模型的描述可以参考大神Mikolov的论文Efficient Estimation of Word Re 阅读全文