04 2021 档案
摘要:1.读文本文件生成RDD lines lines=sc.textFile('file:///home/hadoop/word.txt') 2.将一行一行的文本分割成单词 words words=lines.flatMap(lambda line:line.split()) 3.全部转换为小写 wor
阅读全文
摘要:一、词频统计: 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 lower() 4.去掉长度小于3的单词 filter() 5.去掉停用词 6.转换成键值对 map() 7.统计词频 reduceByKey() 二、学生课程分
阅读全文