每日日报2021 9/27

今天学习MapReduce 框架原理

nputFormat 数据输入

3.1.1 切片与 MapTask 并行度决定机制

1）问题引出

MapTask 的并行度决定 Map 阶段的任务处理并发度，进而影响到整个 Job 的处理速度。

思考：1G 的数据，启动 8 个 MapTask，可以提高集群的并发处理能力。那么 1K 的数

据，也启动 8 个 MapTask，会提高集群性能吗？MapTask 并行任务是否越多越好呢？哪些因

素影响了 MapTask 并行度？

2）MapTask 并行度决定机制

数据块：Block 是 HDFS 物理上把数据分成一块一块。数据块是 HDFS 存储数据单位。

数据切片：数据切片只是在逻辑上对输入进行分片，并不会在磁盘上将其切分成片进行

存储。数据切片是 MapReduce 程序计算输入数据的单位，一个切片会对应启动一个 MapTask。 尚硅谷大数据技术之 Hadoop（MapReduce）

 

3.1.2 Job 提交流程源码和切片源码详解