map+case结构使用技巧
people.txt文本如下
lyzx1,19
lyzx2,20
lyzx3,21
lyzx4,22
lyzx5,23
lyzx6,24
lyzx7,25
lyzx7,25,哈哈
托塔天王
def main(args: Array[String]): Unit = { // val conf = new SparkConf().setAppName("ProductSalesStat").setMaster("local[*]") // val sc = new SparkContext(conf) // val words = Array("one", "two", "two", "three", "three", "three") // val wordPairsRDD: RDD[(String, Int)] = sc.parallelize(words).map(word => (word, 1)) // val wordCountsWithReduce = wordPairsRDD // .reduceByKey(_ + _) // .collect() // wordCountsWithReduce.foreach(println) // sc.stop() // } val conf = new SparkConf().setAppName("ProductSalesStat").setMaster("local[*]") val sparkContext = new SparkContext(conf) val rdd = sparkContext.textFile("E:\\Data\\LIVE-DATA-SPARK\\src\\main\\resources\\people.txt") rdd.map(line => line.split(",")) .map( rt => if (rt.length == 1) rt(0) else if (rt.length == 2) (rt(0), rt(1)) else (rt(0), rt(1), rt(2)) ) .map { case (one: String) => "one:" + one case (name: String, age: String) => ("name:" + name, "age:" + age) case _ => ("_name", "_age", "_") } .foreach(println) } }
故乡明
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· ollama系列01:轻松3步本地部署deepseek,普通电脑可用
· 按钮权限的设计及实现
· 25岁的心里话