摘要: Spark框架学习 一:Spark概述 官网:http://spark.apache.org/ Apache Spark™是用于大规模数据处理的统一分析引擎。 为大数据处理而设计的快速通用的计算引擎。 Spark加州大学伯克利分校AMP实验室。不同于mapreduce的是一个Spark任务的中间 结 阅读全文
posted @ 2019-06-19 17:24 大魔王阿黎 阅读(237) 评论(0) 推荐(0) 编辑
摘要: Spark使用底层通信框架AKKA 分布式 master Worker hadoop使用的是rpc 1)akka简介 写并发程序很难,AKKA解决spark这个问题。 akka构建在JVM平台上,是一种高并发、分布式、并且容错的应用工具包 akka用scala语言编写同时提供了scala和java的 阅读全文
posted @ 2019-06-19 15:07 大魔王阿黎 阅读(348) 评论(0) 推荐(0) 编辑
摘要: 1、什么是泛型类 和Java或者C++一样,类和特质可以带类型参数。在Scala中,使用方括号来定义类型参数 测试程序: 2、什么是泛型函数 函数和方法也可以带类型参数。和泛型类一样,我们需要把类型参数放在方法名之后。 注意:这里的ClassTag是必须的,表示运行时的一些信息,比如类型。 3、Up 阅读全文
posted @ 2019-06-19 14:41 大魔王阿黎 阅读(143) 评论(0) 推荐(0) 编辑