jieba

(1)、jieba分词的三种模式

     精确模式、全模式、搜索引擎模式

     - 精确模式:把文本精确的切分开,不存在冗余单词
     - 全模式:把文本中所有可能的词语都扫描出来,有冗余

     - 搜索引擎模式:在精确模式基础上,对长词再次切分

(2)、jieba库常用函数

(3)、实例

import  jieba

txt = open("D:\\三国演义.txt", "r", encoding='utf-8').read()
words = jieba.lcut(txt)     # 使用精确模式对文本进行分词
counts = {}     # 通过键值对的形式存储词语及其出现的次数

for word in words:
    if  len(word) == 1:    # 单个词语不计算在内
        continue
    else:
        counts[word] = counts.get(word, 0) + 1    # 遍历所有词语,每出现一次其对应的值加 1
        
items = list(counts.items())#将键值对转换成列表
items.sort(key=lambda x: x[1], reverse=True)    # 根据词语出现的次数进行从大到小排序

for i in range(15):
    word, count = items[i]
    print("{0:<5}{1:>5}".format(word, count))
posted @ 2021-01-08 16:38  年少无为腿毛怪  阅读(322)  评论(0编辑  收藏  举报