数据预处理之独热编码(One-Hot)
One-Hot编码,又称为一位有效编码,主要是采用N位状态寄存器来对N个状态进行编码,每个状态都由他独立的寄存器位,并且在任意时候只有一位有效。
One-Hot编码是分类变量作为二进制向量的表示。这首先要求将分类值映射到整数值。然后,每个整数值被表示为二进制向量,除了整数的索引之外,它都是零值,它被标记为1
那什么是特征数字化呢?例子如下:
-
性别特征:["男","女"]
-
祖国特征:["中国","美国,"法国"]
-
运动特征:["足球","篮球","羽毛球","乒乓球"]
One-Hot实际案例
男 == 10
中国 ==100
篮球 ==0100
------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
为什么使用one-hot编码来处理离散型特征?
在回归,分类,聚类等机器学习算法中,特征之间距离的计算或相似度的计算是非常重要的,而我们常用的距离或相似度的计算都是在欧式空间的相似度计算,计算余弦相似性,基于的就是欧式空间。
而我们使用one-hot编码,将离散特征的取值扩展到了欧式空间,离散特征的某个取值就对应欧式空间的某个点。
将离散型特征使用one-hot编码,确实会让特征之间的距离计算更加合理
作者:NateHuang
链接:https://www.imooc.com/article/35900
来源:慕课网