摘要: 首先我们我们对case class 和case object类型对象进行反编译 首先来编译 case class,有如下编译内容: case class Person(age:Int,name:String) 它会产生两个文件如下: Person.class的编译内容如下: import scala 阅读全文
posted @ 2020-04-21 19:22 大葱拌豆腐 阅读(1806) 评论(0) 推荐(0) 编辑
摘要: /** class、object、case class、case object区别 * * class 类似Java中的class; * object Scala不能定义静态成员,用定义单例对象代之; * case class被称为样例类,是一种特殊的类,常被用于模式匹配。 * * 一、class 阅读全文
posted @ 2020-04-21 19:09 大葱拌豆腐 阅读(1884) 评论(0) 推荐(0) 编辑
摘要: 通常我们将spark任务编写后打包成jar包,使用spark-submit进行提交,因为spark是分布式任务,如果运行机器上没有对应的依赖jar文件就会报ClassNotFound的错误。 下面有二个解决方法: 方法一:spark-submit –jars 根据spark官网,在提交任务的时候指定 阅读全文
posted @ 2020-04-21 15:19 大葱拌豆腐 阅读(2030) 评论(0) 推荐(0) 编辑
摘要: Delta Lake 特性 支持ACID事务 可扩展的元数据处理 统一的流、批处理API接口 更新、删除数据,实时读写(读是读当前的最新快照) 数据版本控制,根据需要查看历史数据快照,可回滚数据 自动处理schema变化,可修改表结构 maven依赖 <dependency> <groupId>io 阅读全文
posted @ 2020-04-21 10:13 大葱拌豆腐 阅读(3687) 评论(0) 推荐(0) 编辑