jieba分词库的使用
1. 作用:中文文本通过分词获得单个词语,属于第三方库,需要提前cmd+r 打开命令行安装, <pip install jieba>
2. 模式:共3种;no.1: 精确模式 : 把文本精确地分开,不存在冗余
no.2: 全模式 : 把文本中所有可能存在的词语都扫描出来,存在冗余
no.3: 搜索引擎模式 : 在精确模式的基础上,对长词再次切分,有冗余
3. 常用函数
函数 | 描述 |
jieba.lcut() | 返回一个列表类型的分词结果,没有冗余 |
jieba.lcut(s,cut_all=True) | 返回一个列表类型的分词结果,有冗余 |
jieba.lcut_for_seach(s) | 返回一个列表类型的分词结果,有冗余 |
jieba.add_word(w) | 向分词词典增加新词w |
4. 案例:
import jieba #导入jieba库 txt = "我看见他戴着黑布小帽,穿着黑布大马褂,深青布棉袍,蹒跚地走到铁道边,慢慢探身下去,尚不大难。可是他穿过铁道,要爬上那边月台,就不容易了。"
res = jieba.lcut(txt) #精确分词模式,没有冗余
print(res)
res1 = jieba.lcut(txt,cut_all=True) #全分词模式,有冗余
print(res1)
res2 = jieba.lcut_for_search(txt) #搜素引擎分词模式,有冗余
print(res2)
run res , res1, res2 结果:
如果您觉得阅读本文对您有帮助,请点一下“推荐”按钮,您的“推荐”将是我最大的写作动力!欢迎各位转载,但是未经作者本人同意,转载文章之后必须在文章页面明显位置给出作者和原文连接,否则保留追究法律责任的权利。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 地球OL攻略 —— 某应届生求职总结
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 提示词工程——AI应用必不可少的技术