04 2022 档案

6. RDD综合练习：更丰富的操作
摘要：三、学生课程分数 网盘下载sc.txt文件，通过RDD操作实现以下数据分析: 持久化 scm.cache() 总共有多少学生？map(), distinct(), count() 开设了多少门课程？ 生成（姓名，课程分数）键值对RDD，观察keys(),values() 每个学生选修了多少门课？ma 阅读全文
posted @ 2022-04-15 20:46 潮汕美男 阅读(33) 评论(0) 推荐(0) 编辑
5.RDD操作综合实例
摘要：一、词频统计 A. 分步骤实现 准备文件 下载小说或长篇新闻稿 上传到hdfs上 读文件创建RDD 分词 排除大小写lower()，map()标点符号re.split(pattern,str)，flatMap(), 停用词,可网盘下载stopwords.txt,filter()， 长度小于2的词fi 阅读全文
posted @ 2022-04-06 15:33 潮汕美男 阅读(6) 评论(0) 推荐(0) 编辑