2021年4月18日
RDD编程
摘要： 一、词频统计： 1.读文本文件生成RDD lines；将一行一行的文本分割成单词 words flatmap()；全部转换为小写 lower()；去掉长度小于3的单词 filter()；去掉停用词；转换成键值对 map()；统计词频 reduceByKey() 2.按字母顺序排序 sortByKey 阅读全文
posted @ 2021-04-18 20:02 亮皓的小老舔狗 阅读(65) 评论(0) 推荐(0) 编辑