MapReduce计算原理及步骤

 

 步骤：input从HDFS读取内容，

split（）切割分片内容，key/value，

map（）方法对输入的key/value进行计算处理，先写到内存，在内存中进行分区、排序，之后将Key/value写入磁盘对应分区

combiner方法（本地计算，不是所有都适用，目的是减少网络传输）

shuffiling

从执行map task之后 到执行 redurce task 之前的过程 总称为 shuffiling

reduce

会从经过map程序计算后落在各个分区里取数据去merge进行计算

 

 

 

posted @   一只竹节虫  阅读(989)  评论(0)  编辑  收藏  举报
编辑推荐：
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识（上）
· 浏览器原生「磁吸」效果！Anchor Positioning 锚点定位神器解析
· 没有源码，如何修改代码逻辑？
阅读排行：
· 全程不用写代码，我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· MongoDB 8.0这个新功能碉堡了，比商业数据库还牛
· 记一次.NET内存居高不下排查解决与启示
· 白话解读 Dapr 1.15：你的「微服务管家」又秀新绝活了
点击右上角即可分享
微信分享提示