duan2

导航

 

2017年9月10日

摘要: mapreduce的shuffle机制 概述: mapreduce中,map阶段处理的数据如何传递给reduce阶段,是mapreduce框架中最关键的一个流程,这个流程就叫shuffle; shuffle: 洗牌、发牌——(核心机制:数据分区,排序,缓存); 具体来说:就是将maptask输出的处 阅读全文
posted @ 2017-09-10 23:27 duan2 阅读(200) 评论(0) 推荐(0) 编辑
 
摘要: RPC调用需要服务端和客户端使用相同的协议: 协议: 这里协议就是接口 服务端的实现类: 发布服务: 客户端调用RPC服务: 使用的hadoop的hadoop-common-2.6.4.jar这个j包,在其他工程也可以使用 阅读全文
posted @ 2017-09-10 10:44 duan2 阅读(276) 评论(0) 推荐(0) 编辑