特征分箱实例之决策树分箱

 

1. 简介

分箱是一种数据处理技术，通过将数据划分为不同的区间或“箱子”，以实现数据的离散化。分箱在数据预处理和特征工程中扮演着至关重要的角色，它不仅能够增强模型的稳定性和解释性，降低过拟合风险，还能够提高特征的鲁棒性和表达能力。在构建机器学习模型时，合理地运用分箱技术对于提升模型性能至关重要。同时，分箱也是一种艺术性，是开发者把自己的想法注入模型的重要途径。但有时候，因为恰恰因为过多的人为干涉，分箱质量很不可控。

决策树，借鉴了人类的决策过程，根据所选的决策树算法（如ID3、C4.5或CART），计算每个特征的信息增益或基尼系数，并选择最优特征作为当前节点的分叉依据。通过逐步拆分数据集，从而实现对数据的分类和预测。

决策过程跟分箱有很大的相似性，都是在对样本做最优分类。使用决策树来做分箱，不仅能够大大简化分箱工作量，还能显著减少人为不确定因素造成的影响。分箱作为一项工程，通过决策树来进行分箱到底是好是坏，还要通过具体工程项目的结果来看。

2. 应用举例

有一批贷后数据，优质客户标记为1，次级客户标记为0，数据量在百万级。放款时间是时间戳类型，业务方推断2017/02/01和2019/01/01是业务分界点。

把2017/02/01以前的数据标记为0，2017/02/01到2019/01/01之间的标记为1，2019/01/01的数据标记为2，计算其IV情况，结果如2.1图。

2.1. 业务推断IV情况

通过决策树对客户的放款时间进行分类，具体决策树如2.2图，在分析之前可以将时间戳转化为常用日期格式。为了对放款时间分成3类，对相邻的决策结果进行简单合并，具体情况如图2.2描红部分。从图2.2可以对客户进行分类，时间小于1486204480标记为0，时间在1486204480和1553515328之间的标记为1，时间大于1553515328标记为2。其中1486204480和1553515328分别对应2017/02/04、2019/03/25。我只想说，这两个时间跟业务时间真的太接*了。

图2.2. 放款时间的决策树

通过对决策树时间进行求IV值，可以得到图2.3。

图2.3. 决策树推断IV情况

3. 结果分析

从以上结果中，我们可以看出，不管是业务决策分箱还是决策树分箱这两种分析方式所得到的信息价值（IV）均呈现出很强的区分度。具体而言，无论是业务决策分箱分析得出的IV值，还是决策树分析所产生的IV值，都能够清晰且有效地对不同类别或情况进行区分，展现出了较高的判别能力。

更为值得注意的是，在对时间维度进行考察时，两种分析方法所确定的具有显著区分特征的日期节点极为靠*。这一现象表明，尽管两种分析方法在原理和操作上存在差异，但在反映数据特征与时间节点的关联性方面，却表现出了高度的一致性，为进一步深入理解业务数据背后的规律以及做出精准的业务决策提供了有力的依据。

尤其是在我们对相关数据缺乏足够了解的情况下，若采用决策分箱，往往能够取得*似于专家水准的效果。决策分箱具有独特的优势，它能够在我们对数据的熟悉程度尚浅时，通过相关决策算法机制，挖掘出数据中蕴含的关键信息，梳理出清晰的逻辑脉络，进而为我们提供具有高度参考价值的分析结果，使其在准确性、全面性以及深度等方面都能达到与专家分析相*的水*，有力地辅助我们做出更为合理、精准的决策。

于是，我的建议是，不要怀疑决策树分箱结果，可以在*时的工作中大胆使用。