第五章_Spark核心编程_什么是Rdd
1. Rdd 是什么?
1. RDD(Resilient Distributed DataSet) 弹性分布式数据集, 是Spark中最基本的数据处理模型 它代表一个弹性的、不可变、可分区、里面的元素可并行计算 的集合 2. 代码中Rdd是 抽象类 abstract class RDD[T: ClassTag] note : 1. 怎样理解弹性? 存储的弹性:内存与磁盘的自动切换 容错的弹性:数据丢失可以自动恢复 计算的弹性:计算出错重试机制 分片的弹性:可根据需要重新分片 2. 怎样理解分布式? 数据存储在大数据集群不同节点上 3. 怎样理解数据集? RDD封装了计算逻辑,并不保存数据 4. 怎样理解数据抽象? RDD是一个抽象类,需要子类具体实现 5. 怎样理解不可变? RDD封装了计算逻辑 , 是不可以改变的 ,想要改变 ,只能产生新的RDD在新的 RDD 里面封装计算逻辑 6. 怎样理解可分区、并行计算? Rdd可以分区,分区会分发到不同的节点上执行
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?