Python 中文词频统计,热词统计,简要分析(含上手源码)
jieba库有三种模式
精确模式、全模式、搜索引擎模式
- 精确模式:把文本精确的切分开,不存在冗余单词
- 全模式:把文本中所有可能的词语都扫描出来,有冗余
- 搜索引擎模式:在精确模式基础上,对长词再次切分
应用实例:
代码:
1 import jieba 2 3 file = open('E:/578095023/FileRecv/寒假作业/test.txt', encoding="utf-8") 4 txt = file.read() 5 #words = jieba.lcut(txt) #无空格 6 #words = jieba.lcut(txt,cut_all=True) #有空格 7 words = jieba.lcut_for_search(txt) 8 counts = {} 9 for word in words: 10 if len(word) == 1: 11 continue 12 else: 13 counts[word] = counts.get(word, 0) + 1 14 15 items = list(counts.items()) 16 17 items.sort(key=lambda x: x[1], reverse=True) 18 # items.sort(reverse = True) 19 for i in range(20): 20 word, count = items[i] 21 print(word, count) 22 # print('{0:<10}{1:>5}'.format(word,count))
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· C#/.NET/.NET Core技术前沿周刊 | 第 29 期(2025年3.1-3.9)
· 从HTTP原因短语缺失研究HTTP/2和HTTP/3的设计差异