Google机器学习教程心得(三) 好的feature

什么造就好的Feature

Google Machine Learning Recipes 3

官方中文博客 http://chinagdg.org/2016/03/machine-learning-recipes-for-new-developers/

视频地址 http://v.youku.com/v_show/id_XMTU1MDU5OTY2OA==.html?f=26979872&from=y1.2-3.4.4

Github工程地址 https://github.com/ahangchen/GoogleML

欢迎Star,也欢迎到Issue区讨论

Feature越好,分类器也就越好

这里举了一个对两种狗狗做分类的问题介绍好的Feature应有的特性

简化问题

  • 好的feature能有力地说明两个类别的不同

  • 单个feature往往不完美,所以需要多个feature

  • 假如由人来做分类器,会需要什么信息?(找好的feature)

  • 对于一个feature,如果不同的label中,这个feature的值分布越均匀,则这个feature的分类作用越弱

在同一种眼睛颜色中,不同狗的数量差不多,说明眼的颜色的分类作用弱,这样的feature会降低分类器的准确性

  • 好的feature应该是相互独立的,能够提供更多有效信息,
  • 每个feature在分类器中都占一定的重要性,而如果feature间不独立,重要性的比重也会与原本的计划有偏差
  • feature应当预处理地尽可能与结果直接相关
  • 有好的feature还不够,还要有好的feature之间的好的组合

总结

好的feature应该是这样的:

  • Informative
  • Independent
  • Simple

代码

Good-Feature:构造数据集与绘制柱状图

如果觉得我的文章对您有帮助,请随意打赏~

图片名称
posted @ 2016-05-03 20:50  梦里风林  阅读(494)  评论(0编辑  收藏  举报