摘要: 一、准备文件 1.下载小说或长篇新闻稿 2.上传到hdfs上 二、读文件创建RDD 输入pyspark 三、分词 四、排除大小写lower(),map(),标点符号re.split(pattern,str),flatMap(),,停用词,可网盘下载stopwords.txt,filter(),,长度 阅读全文
posted @ 2022-04-12 10:35 azell 阅读(7) 评论(0) 推荐(0) 编辑