摘要: 一、词频统计 A. 分步骤实现 1、准备文件 下载小说或长篇新闻稿 上传到hdfs上 读文件创建RDD 分词 排除大小写lower(),map() .标点符号re.split(pattern,str),flatMap(), 先导入re然后用re.split分词(\W+会匹配所有非单词字符,(\W+) 阅读全文
posted @ 2022-03-30 12:54 伽森 阅读(41) 评论(0) 推荐(0) 编辑