特征工程梗概
作为机器学习重要的一环,特征工程也遵循二八法则。即80%的时间用来处理数据和特征,20%用来进行模型训练和优化(可能nlp和cv领域除外)。特征工程主要包括以下几个方面:
-
特征清洗:处理数据中的对齐、异常值和缺失值,提升数据质量。
-
特征处理:将特征变换成适当的形式,方便机器处理和理解。
-
特征抽取:从现有特征中派生出有价值的额外特征(跟特征处理不同,特征抽取一般要保留原始特征,而特征处理一般不会保留原有特征,这两者界限比较模糊)。
-
特征选择:从大量特征中选取价值最高的特征组,减少模型计算量,一定程度上减少过拟合。
-
特征压缩(降维):将大量稀疏的特征映射到少量稠密的特征空间(实际业务中应用较少,另外经过映射后,特征的解释性变弱,不利于debug)。因此后面的介绍中该节略去。
![](https://pic1.zhimg.com/80/v2-dd22dae75ba2a118ae456bf0e30ba43e_1440w.jpeg)
![](https://pic3.zhimg.com/80/v2-97387ed636546053823dce1f22aaf2e6_1440w.jpeg)
![](https://pica.zhimg.com/80/v2-0c63c6d89ad0c8786758e74c368d9cde_1440w.jpeg)
![](https://pic3.zhimg.com/80/v2-824c9fd9fb532dc253d5f3986543767b_1440w.jpeg)
![](https://pic1.zhimg.com/80/v2-df884e0afb6e66709bf6313887e92c3e_1440w.jpeg)
![](https://pic2.zhimg.com/80/v2-bdc699464ea558f293f85f3be73763f2_1440w.jpeg)
![](https://pic1.zhimg.com/80/v2-f0d00d96a0b74fe34b3248d3de5da603_1440w.jpeg)
![](https://pic3.zhimg.com/80/v2-63209840f0364e62289bd931753e53d5_1440w.jpeg)
![](https://pica.zhimg.com/80/v2-1c67462731fa7c8c88337125ab169ccc_1440w.jpeg)
![](https://pic1.zhimg.com/80/v2-5fac4799653adf9e1690d77ef200749d_1440w.jpeg)
![](https://pic1.zhimg.com/80/v2-477fcf394ff836ab85f612ec81aa8e7f_1440w.jpeg)
![](https://pica.zhimg.com/80/v2-1447451e896517decf82f0d740459eac_1440w.jpeg)
![](https://pic1.zhimg.com/80/v2-5cc77c93f67cd266ee044a3aac24fc65_1440w.jpeg)
![](https://pic1.zhimg.com/80/v2-51544940001bbeb558c5e2f0a1b1621e_1440w.jpeg)
参考资料:
-
https://segmentfault.com/a/1190000024522693