数据预处理时为什么要使用OneHot编码？

什么是LabelEncoder（整数编码）#

整数编码 将一列文本数据转化成数值，即列中的每一个特征都通过一个整数来表示。例如，[red, blue, red, yellow] = [0,2,0,1]。

什么是OneHotEncoder（独热编码）#

独热编码 将一列文本数据转化成一列或多列只有0和1的数据，即列中的每一个特征都通过一个向量来表示。例如，[red, blue, red, yellow] = [1,2,1,3] 会被转化成3列用0和1表示的数据列。

独热编码好在哪里？#

将离散型特征使用one-hot编码，会让特征之间的距离计算更加合理。

比如，对于红、蓝、黄三个颜色，不使用one-hot编码，其表示分别是x_1 = (1), x_2 = (2), x_3 = (3)。两个颜色之间的距离是，d(x_1, x_2) = 1, d(x_2, x_3) = 1, d(x_1, x_3) = 2。那么红色和黄色之间就越不相似吗？显然这样的表示，计算出来的特征的距离是不合理。

但如果使用one-hot编码，则得到x_1 = (1, 0, 0), x_2 = (0, 1, 0), x_3 = (0, 0, 1)，那么两个颜色之间的距离就都是sqrt(2).即每两个颜色之间的距离是一样的，这样显得更合理。

对于特征数大于2的要使用独热编码，小于等于2时不会出现上述距离错误问题。

独热编码对决策树模型的影响#

独热编码会使数据的列增多，将这样的数据输入到决策树模型后，因为决策树模型的特性，树的深度增加，最终导致执行效率降低。

在处理此类任务时要注意这个问题。

参考资料#

为什么要用one-hot编码