机器学习之TF-IDF

TF-IDF是一种统计方法,用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加,但同时会随着它在语料库中出现的频率成反比下降。

TF指的是:term frequency :词的频率  IDF指的是:inverse document frequency:逆文档频率

TF其实就是某个词在文章中出现的次数。IDF的计算公式为:log(总文章数量/该词出现的文章数)

因此,某个词的TF-IDF值的计算公式为:TF*IDF(这个值反映这个词的重要性)

API:sklearn.feature_extraction.text.TfidfVectorizer

 

posted @ 2019-11-15 15:49  牛公的跑奔  阅读(281)  评论(0编辑  收藏  举报
总访问量:AmazingCounters.com