【Todo】Spark运行架构

接上一篇:http://www.cnblogs.com/charlesblc/p/6108105.html

上一篇文章中主要参考的是 Link 这个系列下一篇讲的是Idea,没有细看,又看了再下一篇:

http://www.cnblogs.com/shishanyuan/p/4721326.html 也就是这篇文章的主要参考文章。

 

关于RDD和Stage的区别,可以参考这张图

其中A, B, C这样的字母代表的就是RDD,虚线框就是Stage。之前提到,Stage划分,是看有没有shuffle这样操作的RDD而决定的。

 

常见的函数式编程语言有: Scala, Erlang, Haskell, Lisp, Golang(就是Go language), 哈哈哈。还有一个Clojure,是运行在JVM上面的Lisp方言。还有F#.

 

可以再接着看:http://www.cnblogs.com/shishanyuan/p/4721326.html 

以及《Spark on Yarn》 http://www.cnblogs.com/shishanyuan/p/4721326.html

 

posted @   blcblc  阅读(208)  评论(0编辑  收藏  举报
编辑推荐:
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
阅读排行:
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· Docker 太简单,K8s 太复杂?w7panel 让容器管理更轻松!
点击右上角即可分享
微信分享提示