01 2016 档案

摘要:spark streaming如何保证数据不丢失,并且保证exactly-once。 阅读全文
posted @ 2016-01-16 17:21 TheBug 阅读(4301) 评论(0) 推荐(1) 编辑
摘要:正如你所知,spark实现了多种shuffle方法,通过 spark.shuffle.manager来确定。暂时总共有三种:hash shuffle、sort shuffle和tungsten-sort shuffle,从1.2.0开始默认为sort shuffle。本节主要介绍sort shuffle。 阅读全文
posted @ 2016-01-12 07:57 TheBug 阅读(3229) 评论(0) 推荐(1) 编辑
摘要:正如你所知,spark实现了多种shuffle方法,通过 spark.shuffle.manager来确定。暂时总共有三种:hash shuffle、sort shuffle和tungsten-sort shuffle,从1.2.0开始默认为sort shuffle。本节主要介绍hash shuffle。 阅读全文
posted @ 2016-01-10 18:45 TheBug 阅读(1066) 评论(0) 推荐(1) 编辑

点击右上角即可分享
微信分享提示