摘要:
mapreduce的shuffle机制 概述: mapreduce中,map阶段处理的数据如何传递给reduce阶段,是mapreduce框架中最关键的一个流程,这个流程就叫shuffle; shuffle: 洗牌、发牌——(核心机制:数据分区,排序,缓存); 具体来说:就是将maptask输出的处 阅读全文
摘要:
RPC调用需要服务端和客户端使用相同的协议: 协议: 这里协议就是接口 服务端的实现类: 发布服务: 客户端调用RPC服务: 使用的hadoop的hadoop-common-2.6.4.jar这个j包,在其他工程也可以使用 阅读全文