1.6MapReduce 实例：行统计（Hadoop3.0）
1.6MapReduce 实例：行统计（Hadoop3.0）
【实验目的】
1.准确理解Mapreduce的设计原理
2.熟练掌握mapreduce行统计程序代码编写
【实验原理】
MapReduce采用的是“分而治之”的思想，把对大规模数据集的操作，分发给一个主节点管理下的各个从节点共同完成，然后通过整合各个节点的中间结果，得到最终结果。简单来说，MapReduce就是”任务的分解与结果的汇总“。
1.MapReduce的工作原理
在分布式计算中，MapReduce框架负责处理了并行编程里分布式存储、工作调度，负载均衡、容错处理以及网络通信等复杂问题，现在我们把处理过程高度抽象为Map与Reduce两个部分来进行阐述，其中Map部分负责把任务分解成多个子任务，Reduce部分负责把分解后多个子任务的处理结果汇总起来，具体设计思路如下。
（1）Map过程需要继承org.apache.hadoop.mapreduce包中Mapper类，并重写其map方法。通过在map方法中添加两句把key值和value值输出到控制台的代码，可以发现map方法中输入的value值存储的是文本文件中的一行（以回车符为行结束标记），而输入的key值存储的是该行的首字母相对于文本文件的首地址的偏移量。然后用StringTokenizer类将每一行拆分成为一个个的字段，把截取出需要的字段（本实验为买家id字段）设置为key，并将其作为map方法的结果输出。
（2）Reduce过程需要继承org.apache.hadoop.mapreduce包中Reducer类，并重写其reduce方法。Map过程输出的<key,value>键值对先经过shuffle过程把key值相同的所有value值聚集起来形成values，此时values是对应key字段的计数值所组成的列表，然后将<key,values>输入到reduce方法中，reduce方法只要遍历values并求和，即可得到某个单词的总次数。
在main()主函数中新建一个Job对象，由Job对象负责管理和运行MapReduce的一个计算任务，并通过Job的一些方法对任务的参数进行相关的设置。本实验是设置使用将继承Mapper的doMapper类完成Map过程中的处理和使用doReducer类完成Reduce过程中的处理。还设置了Map过程和Reduce过程的输出类型：key的类型为Text，value的类型为IntWritable。任务的输出和输入路径则由字符串指定，并由FileInputFormat和FileOutputFormat分别设定。完成相应任务的参数设定后，即可调用job.waitForCompletion()方法执行任务，其余的工作都交由MapReduce框架处理。
2.MapReduce框架的作业运行流程
（1）ResourceManager：是YARN资源控制框架的中心模块，负责集群中所有资源的统一管理和分配。它接收来自NM(NodeManager)的汇报，建立AM，并将资源派送给AM(ApplicationMaster)。
（2）NodeManager：简称NM，NodeManager是ResourceManager在每台机器上的代理，负责容器管理，并监控他们的资源使用情况（cpu、内存、磁盘及网络等），以及向ResourceManager提供这些资源使用报告。
（3）ApplicationMaster：以下简称AM。YARN中每个应用都会启动一个AM，负责向RM申请资源，请求NM启动Container，并告诉Container做什么事情。
（4）Container：资源容器。YARN中所有的应用都是在Container之上运行的。AM也是在Container上运行的，不过AM的Container是RM申请的。
Container是YARN中资源的抽象，它封装了某个节点上一定量的资源（CPU和内存两类资源）。Container由ApplicationMaster向ResourceManager申请的，由ResouceManager中的资源调度器异步分配给ApplicationMaster。Container的运行是由ApplicationMaster向资源所在的NodeManager发起的，Container运行时需提供内部执行的任务命令（可以是任何命令，比如java、Python、C++进程启动命令均可）以及该命令执行所需的环境变量和外部资源（比如词典文件、可执行文件、jar包等）。
另外，一个应用程序所需的Container分为两大类，如下：
①运行ApplicationMaster的Container：这是由ResourceManager（向内部的资源调度器）申请和启动的，用户提交应用程序时，可指定唯一的ApplicationMaster所需的资源。
②运行各类任务的Container：这是由ApplicationMaster向ResourceManager申请的，并为了ApplicationMaster与NodeManager通信以启动的。
以上两类Container可能在任意节点上，它们的位置通常而言是随机的，即ApplicationMaster可能与它管理的任务运行在一个节点上。
【实验环境】
Anolis8.8
Java 1.8.0
Hadoop-3.0.0
Eclipse-JEE 2022.03
【实验内容】
某电商网站用户对商品的收藏数据，记录了用户收藏的商品id以及收藏日期，名为buyer_favorite1。
buyer_favorite1包含：买家id，商品id，收藏日期这三个字段，数据以“\t”分割，样本数据及格式如下：
|
买家id 商品id 收藏日期 10181 1000481 2010-04-04 16:54:31 20001 1001597 2010-04-07 15:07:52 20001 1001560 2010-04-07 15:08:27 20042 1001368 2010-04-08 08:20:30 20067 1002061 2010-04-08 16:45:33 20056 1003289 2010-04-12 10:50:55 20056 1003290 2010-04-12 11:57:35 20056 1003292 2010-04-12 12:05:29 20054 1002420 2010-04-14 15:24:12 20055 1001679 2010-04-14 19:46:04 20054 1010675 2010-04-14 15:23:53 20054 1002429 2010-04-14 17:52:45 20076 1002427 2010-04-14 19:35:39 20054 1003326 2010-04-20 12:54:44 20056 1002420 2010-04-15 11:24:49 20064 1002422 2010-04-15 11:35:54 20056 1003066 2010-04-15 11:43:01 20056 1003055 2010-04-15 11:43:06 20056 1010183 2010-04-15 11:45:24 20056 1002422 2010-04-15 11:45:49 20056 1003100 2010-04-15 11:45:54 20056 1003094 2010-04-15 11:45:57 20056 1003064 2010-04-15 11:46:04 20056 1010178 2010-04-15 16:15:20 20076 1003101 2010-04-15 16:37:27 20076 1003103 2010-04-15 16:37:05 20076 1003100 2010-04-15 16:37:18 20076 1003066 2010-04-15 16:37:31 20054 1003103 2010-04-15 16:40:14 20054 1003100 2010-04-15 16:40:16 |
实验要求编写MapReduce程序，统计该收藏数据的行数。
统计结果数据如下：
Total num:30
【实验步骤】
打开终端模拟器，切换到vmuser用户（密码：vm123456）
1.切换目录到/apps/hadoop/sbin下，启动Hadoop相关进程。
cd /apps/hadoop/sbin
./start-all.sh
使用jps查看启动的节点
2.在Linux上，创建一个目录名称为/data/mapreduce14。
mkdir -p /data/mapreduce14
3.切换到/data/mapreduce14目录下，使用wget命令下载文本文件buyer_favorite14。
cd /data/mapreduce14
wget http://buyer_favorite1
sudo chown -R vmuser:vmuser /data/mapreduce14/buyer_favorite1
依然在/data/mapreduce14目录下，使用wget命令下载项目用到的依赖包。
将hadoop2lib.tar.gz解压到当前目录下。
tar -xzvf hadoop2lib.tar.gz
4.创建HDFS目录，将Linux本地文件/data/mapreduce14/buyer_favorite1上传到HDFS上的/mymapreduce14/in目录下。
hadoop fs -mkdir -p /mymapreduce14/in
hadoop fs -put /data/mapreduce14/buyer_favorite1 /mymapreduce14/in
5.双击Eclipse，默认/data2 路径，点击【Launch】，点击【File】---->【New】---->【Project】
选择【Java Project】，点击【Next】
并将项目名设置为mapreduce14，JRE选择【JavaSE-1.8】，点击【Finish】
6.在项目名mapreduce14下新建package包。点击【File】---->【New】---->【Package】
并将包命名为mapreduce 。
7.新建类Class，点击【mapreduce】右击，【New】---->【Class】
并将新建的类命名为LineCount。
8.添加项目所需依赖的jar包，右键项目，新建一个文件夹，点击项目名mapreduce14，右击，点击【New】--->【Folder】
命名为hadoop2lib，用于存放项目所需的jar包。
将Linux系统/data/mapreduce14/hadoop2lib目录中的jar包，全部拷贝到Eclipse中mapreduce14项目的hadoop2lib目录下。
选中hadoop2lib目录下所有的jar包，单击右键，选择 Build Path => Add to Build Path
9.编写Java代码，并描述其设计思路。
大致思路是将hdfs上的文本作为输入，MapReduce通过InputFormat会将文本进行切片处理，并将每行的首字母相对于文本文件的首地址的偏移量作为输入键值对的key，文本内容作为输入键值对的value，经过在map函数处理，然后进行输出，整个程序代码只包含了Mapper部分。
Mapper代码
|
public static class doMapper extends Mapper<LongWritable, Text, LongWritable, IntWritable>{ @Override protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { if(value.toString()!=null){ context.getCounter(FileRecorder.TotalRecorder).increment(1); } } } |
在map函数里定义一个枚举类型，每次调用map函数时，对值进行判断，把判断的结果不为空的结果分别写入不同的Counter，最后输出Counter的值。
完整代码
|
package mapreduce; import java.io.IOException; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.IntWritable; import org.apache.hadoop.io.LongWritable; import org.apache.hadoop.io.Text; import org.apache.hadoop.mapreduce.Job; import org.apache.hadoop.mapreduce.Mapper; import org.apache.hadoop.mapreduce.lib.input.FileInputFormat; import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat; public class LineCount { public static enum FileRecorder{ TotalRecorder; } public static class doMapper extends Mapper<LongWritable, Text, LongWritable, IntWritable>{ @Override protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { if(value.toString()!=null){ context.getCounter(FileRecorder.TotalRecorder).increment(1); } } } public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException { Job job = Job.getInstance(); job.setJobName("LineCount"); job.setJarByClass(LineCount.class); job.setMapperClass(doMapper.class); job.setMapOutputKeyClass(LongWritable.class); job.setMapOutputValueClass(IntWritable.class); Path in = new Path("hdfs://localhost:9000/mymapreduce14/in/buyer_favorite1"); Path out = new Path("hdfs://localhost:9000/mymapreduce14/out"); FileInputFormat.addInputPath(job, in); FileOutputFormat.setOutputPath(job, out); if(job.waitForCompletion(true) ? true : false){ System.out.println("Total num:" + job.getCounters().findCounter(FileRecorder.TotalRecorder).getValue()); } } } |
10.在LineCount类文件中，单击右键=>Run As=>Run on Hadoop选项，将MapReduce任务提交到Hadoop中。
11.待执行完毕后，在eclipse的Console框中可以看到文件行统计输出结果。
至此，本实验结束！
