中文词频统计

import jieba

f=open('novel.txt','r',encoding='utf-8')
content=f.read()
f.close()

symbol='''。,“”!?\n();'''
for i in symbol:
    content=content.replace(i,' ')

# 使用jieba进行中文分词
contentList=list(jieba.cut(content))

# 生成词频统计
contentDict={}
for i in contentList:
    contentDict[i]=contentList.count(i)

# 排除语法型词汇,代词、冠词、连词
exclude={' ','','','','','','','','','','','','','',
         '','','',''}
for i in exclude:
    del contentDict[i]

# 排序
contentDict=sorted(contentDict.items(),key=lambda e:e[1],reverse=True)

# 输出词频最大TOP20
for i in range(20):
    print(contentDict[i])

运行结果:

 

posted @ 2018-03-28 21:53  191钟菲菲  阅读(152)  评论(0编辑  收藏  举报