通过toDS()方法创建Dataset

object CreateDatasetByToDs {
def main(args: Array[String]): Unit = {
val conf = new SparkConf().setAppName("demo01").setMaster("local[*]")
val session = SparkSession.builder().config(conf).getOrCreate()
// 通过集合的toDS()创建Dataset
import session.implicits._
val seq: Seq[Teacher] = Array(Teacher("zs", 20), Teacher("ls", 30))
val dataset: Dataset[Teacher] = seq.toDS()
dataset.show()
// 通过rdd的toDS()创建Dataset
import session.implicits._
val rdd: RDD[Teacher] = session.sparkContext.makeRDD(seq)
val dataset1 = rdd.toDS()
dataset1.show()
}
}
case class Teacher(@BeanProperty var name: String, @BeanProperty age: Int)
posted @   jsqup  阅读(40)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· 三行代码完成国际化适配,妙~啊~
· .NET Core 中如何实现缓存的预热?
点击右上角即可分享
微信分享提示