上一页 1 2 3 4 5 6 7 8 9 ··· 48 下一页
摘要: 密封类: 1,使用 sealed 修饰的类或者特质,不能在类定义文件之外定义它的子类 2,可以避免滥用继承 3,用在模式匹配之中,可以让编译器在编译阶段进行检查,确保当前匹配的完整性 package day01 sealed abstract class Furniture //定义两个样例类 case class Couch() extends Furniture case class ... 阅读全文
posted @ 2019-06-25 23:14 十七楼的羊 阅读(670) 评论(0) 推荐(0) 编辑
摘要: spark cache: 1,cache 方法不是被调用时立即缓存,而是触发后面的action时,该RDD将会被缓存在计算节点的内存中,并供后面重用 2, cache 是调用的 persist() 默认情况下 persist() 会把数据以序列化的形式缓存在 JVM 的堆空间中 3,cache 默认的存储级别都是仅在内存存储一份,Spark的存储级别还有好多种,存储级别在obje... 阅读全文
posted @ 2019-06-23 19:27 十七楼的羊 阅读(3113) 评论(0) 推荐(0) 编辑
摘要: Actor 通信架构: 1,Spark2.x 版本使用 Netty通讯框架作为内部通讯组件。spark 基于netty新的rpc框架借鉴了 Akka 的中的设计, 它是基于 Actor 模型 2,Endpoint( Client/Master/Worker)有 1 个 InBox 和 N 个 OutBox( N>=1,N 取决于当前 Endpoint 与多少其他的 Endpoint 进... 阅读全文
posted @ 2019-06-16 21:34 十七楼的羊 阅读(366) 评论(0) 推荐(0) 编辑
摘要: #三个线程使用别名 agent3.sources = r1 agent3.channels = c1 agent3.sinks = s1 agent3.sources = r1 # 数据是使用的命令行 agent3.sources.r1.type = exec # 数据来自于此命令行获取数据 age 阅读全文
posted @ 2019-05-28 23:50 十七楼的羊 阅读(157) 评论(0) 推荐(0) 编辑
摘要: <configuration> <!--指向namenode(指定包含namenode的主机文件夹) --> <property> <name>hbase.rootdir</name> <value>hdfs://sr128:8020/hbase</value> </property> <!--设置 阅读全文
posted @ 2019-05-19 12:41 十七楼的羊 阅读(521) 评论(0) 推荐(0) 编辑
上一页 1 2 3 4 5 6 7 8 9 ··· 48 下一页