摘要：1.构建使用idea 构建maven 项目 选择org.scala tools.archetypes:scala archetype simple，然后一直点next,maven最好选中本地配置国内源的而不适用idea自生的。 工程创建好后，点击Event Log 修改pox.xml文件(设置sca 阅读全文

摘要：1.Spark SQL，DataFrame,DataSet的错误类型检测时机 spark SQL：其类型检测与语法检测是在运行时检测的 DataFrame:在spark2.0以前的版本中，DataFrame是类型不安全的，其类型检查是在运行时才检查的，语法检查倒是在编译时检查的 DataSet:类型 阅读全文

摘要：1.要想明白spark application调度机制，需要回答一下几个问题： 1.谁来调度？ 2.为谁调度？ 3.调度什么？ 3.何时调度？ 4.调度算法 前四个问题可以用如下一句话里来回答:每当集群资源发生变化时（包含master主备切换），active master 进程为所有已注册的并且没有 阅读全文

摘要：1. Spark 2.0 ! 还记得我们的第七篇 Spark 博文里吗？里面我用三点来总结 spark dataframe 的好处： 当时是主要介绍 spark 里的 dataframe，今天是想总结一下 spark 2.0 的一些重大更新，准备过段时间［等到 2.0.1 或者 2.1 出来了就］切 阅读全文

摘要：随着新版本的Spark已经逐渐稳定，最近拟将原有框架升级到spark 2.0。还是比较兴奋的，特别是SQL的速度真的快了许多。。 然而，在其中一个操作时却卡住了。主要是dataframe.map操作，这个之前在spark 1.X是可以运行的，然而在spark 2.0上却无法通过。。 看了提醒的问题， 阅读全文

摘要：引言 Spark 现在无疑是大数据领域最热门的技术之一，读者很容易搜索到介绍如何应用 Spark 技术的文章，但是作为开发人员，在了解了应用的概念之后，更习惯的是打开开发环境，开发一些应用来更深入的学习 spark 知识，在遇到问题的时候，也希望能够深入调试 Spark 源代码来解决问题。但是由于 阅读全文

摘要：Spark 作为一个基于内存的分布式计算引擎，其内存管理模块在整个系统中扮演着非常重要的角色。理解 Spark 内存管理的基本原理，有助于更好地开发 Spark 应用程序和进行性能调优。本文旨在梳理出 Spark 内存管理的脉络，抛砖引玉，引出读者对这个话题的深入探讨。本文中阐述的原理基于 Spar 阅读全文