Java 开发 2.0: 用 Hadoop MapReduce 进行大数据分析
成堆的数据如何变成信息金矿
平均分 (34个评分)Google 在 2001 年发布图像搜索功能时，只有 2.5 亿索引图像，不到 10 年，这个巨大的搜索功能已经可以检索超过 100 亿个图像了，每分钟有 35 小时的内容上传到 YouTube。据称，Twitter 每天平均处理 5500 万 tweet。今年早些时候，搜索功能每天记录 6 亿条查询记录。这 就是我们讨论大数据的意义所在。
如此大规模的数据一度仅限于大企业、学校和政府机构 — 这些机构有能力购买昂贵的超级计算机、能够雇用员 工保障其运行。今天，由于存储成本的降低和处理能力的商品化，一些小公司，甚至个人都可以存储和挖掘同样的数据，推动新一轮的应用程序创新。
大数据革命技术之一是 MapReduce，一个编程模式，是 Google 针对大规模、分布式数据而开发的。在本文中，我将介绍 Apache 的开源 MapReduce 实现，Hadoop，也有人将其称之为云计算的杀手应用程序。
Apache 的 Hadoop 框架本质上是一个用于分析大数据集的机制，不一定位于数据存储中。Hadoop 提取出了 MapReduce 的大规模数据分析引擎，更易于开发人员理解。Hadoop 可以扩展到无数个节点，可以处理所有活动和相关数据存储的协调。
Hadoop 的众多特性和配置使其成为一个十分有用且功能强大的框架，其用途和功能令人惊讶。Yahoo! 以及其他许多组织已经找到了一个高效机制来分析成堆的字节数。在单个节点上运行 Hadoop 也很容易；您所需要的只是一些需要分析的数据，以及熟悉一般的 Java 代码。Hadoop 也可和 Ruby、Python 以及 C++ 一起使用。
作为处理大数据集的概念框架，MapReduce 对于使用许多计算机来解决分布式问题而言是高度优化的。顾名思义，这个框架由两个函数构成。map 函数专用于获取大数据输入，并将其分成小片段，然后交由其他进程进行操作。reduce 函数整理 map 收集的各个回应，然后显示最后的输出。
在 Hadoop 中，您可以通过扩展 Hadoop 自身的基类来定义 map 和reduce 实现。实现和输入输出格式被一个指定它们的配置联系在一起。Hadoop 非常适合处理包含结构数据的大型文件。Hadoop 可以对输入文件进行原始解析，这一点特别有用，这样您就可以每次处理一行。定义一个 map 函数实际上只是一个关于确定您从即将输入的文本行中捕获什么内容的问题。
美国政府产生大量数据，只有一部分是普通民众所感兴趣的。各种政府机构免费发布关于 US 经济健康状况和更改社会人口统计资料的数据。U.S. Geological Survey (USGS) 发布国内外地震数据。
世界各地每天都有很多个小型地震发生。其中大多数发生在地壳深处，没有人能感觉到，尽管如此，但是监听站仍然会进行记录。USGS 以 CSV（或逗号分隔值）文件的格式发布每周地震数据。
每周文件平均不是很大 — 只有大约 100 KB 左右。但是，它可以作为学习 Hadoop 的基础。记住，Hadoop 有能力处理更 大的数据集。
我近期从 USGS 网站下载的 CSV 文件有大约 920 多行。如 清单 1 所示：
清单 1. 清单 1. 一个 USGS 地震数据文件的行数统计
$> wc -l eqs7day-M1.txt 920 eqs7day-M1.txt |
CVS 文件内容如 清单 2 所示（这是前两行）：
清单 2. 清单 2. CVS 文件的前两行
$> head -n 2 eqs7day-M1.txt Src,Eqid,Version,Datetime,Lat,Lon,Magnitude,Depth,NST,Region ci,14896484,2,"Sunday, December 12, 2010 23:23:20 UTC",33.3040,-116.4130,1.0,11.70,22, "Southern California" |
这就是我称之为信息丰富 的文件，尤其是当您想到它总共有 920 行记录时。然而我只想知道在该文件报告的这一周内每一天有多少次地震发生。我想知道在这 7 天内哪个区域是地震频发区。
我第一个想到的就是使用简单的 grep 命令来搜索每天的地震数。 看看这个文件，我发现数据记录是从 12 月 12 开始的。因此我对该字符串执行了一次 grep -c，其结果如清单 3 所示：
清单 3. 清单 3. 12 月 12 有多少次地震发生？
$> grep -c 'December 12' eqs7day-M1.txt 98 |
现在，我知道在 12 月 12 日有 98 条记录，也就是说有 98 次地震。我只能沿着这条记录向下，对 12 月 10 日的记录执行一次 grep，接着是 11 号，等等。这听起来有点乏味。更糟糕的是，我还需要知道在该文件中的是哪几天。我确实不关心这些，甚至有时候我可能无法获取该信息。事实上，我只想知道在七天这样一个时间段内任何一天的地震次数，使用 Hadoop 我就可以很容易的获取这一信息。
Hadoop 只需要几条信息就可以回答我的第一个和第二个问题：即，要处理哪条输入以及如何处理 map 和 reduce。我也必须提供了一个可以将每件事都联系起来的作业。在我开始处理这些代码之前，我需要花点时间确定我的 CSV 数据整齐有序。
除了地震 CSV 文件的第一行之外，第一行是文件头，每一行都是一系列逗号分隔数据值。我只对数据的 3 个部分感兴趣：日期、地点和震级。为了获取这些资料，我将使用一个很棒的开源库 opencsv，它将会帮助我分析 CSV 文件。
作为一个测试优先的工具，我首先编写一个快捷 JUnit 测试，确认我可以从 CSV 文件的一个样例行获取的我所需要的信息，如清单 4 所示：
清单 4. 清单 4. 解析一个 CSV 行
public class CSVProcessingTest {
private final String LINE = "ci,14897012,2,\"Monday, December 13, 2010 " +
"14:10:32 UTC\",33.0290,-115." +
"5388,1.9,15.70,41,\"Southern California\"";
@Test
public void testReadingOneLine() throws Exception {
String[] lines = new CSVParser().parseLine(LINE);
assertEquals("should be Monday, December 13, 2010 14:10:32 UTC",
"Monday, December 13, 2010 14:10:32 UTC", lines[3]);
assertEquals("should be Southern California",
"Southern California", lines[9]);
assertEquals("should be 1.9", "1.9", lines[6]);
}
}
|
正如您在 清单 4 中所看到的，opencsv 处理逗号分隔值非常容易。该解析器仅返回一组 String，所以有可能获取位置信息（别忘了，在
Java 语言中数组和集合的访问是从零开始的）。
当使用 MapReduce 进行处理时，map 函数的任务是选择一些要处理的值，以及一些键。这就是说，map 主要处理和返回两个元素：一个键和一个值。回到我之前的需求，我首先想知道每天会发生多少次地震。因此，当我在分析地震文件时，我将发布两个值：键是日期，值是一个计数器。reduce 函数将对计数器（只是一些值为
1 的整数）进行总计。因此，提供给我的是在目标地震文件中某一个日期出现的次数。
由于我只对 24 小时时段内的信息感兴趣，我得剔除每个文件中的日期的时间部分。在 清单 5 中，我编写了一个快速测试，验证如何将一个传入文件中的特定日期信息转换成一个更一般的 24 小时日期：
清单 5. 清单 5. 日期格式转换
@Test
public void testParsingDate() throws Exception {
String datest = "Monday, December 13, 2010 14:10:32 UTC";
SimpleDateFormat formatter = new SimpleDateFormat("EEEEE, MMMMM dd, yyyy HH:mm:ss Z");
Date dt = formatter.parse(datest);
formatter.applyPattern("dd-MM-yyyy");
String dtstr = formatter.format(dt);
assertEquals("should be 13-12-2010", "13-12-2010", dtstr);
}
|
在 清单 5 中，我使用了 SimpleDateFormat Java 对象，将 CSV 文件中格式为 Monday, December 13, 2010 14:10:32 UTC 的日期String 转换成了更一般的
13-12-2010。
现在我已经找到了处理 CSV 文件以及其日期格式的解决方法。我要开始在 Hadoop 中实施我的 map 和 reduce 函数了。这个过程需要理解 Java 泛型，因为 Hadoop 选择使用显式类型，为了安全起见。
当我使用 Hadoop 定义一个映射实现时，我只扩展 Hadoop 的 Mapper 类。然后我可以使用泛型来为传出键和值指定显式类。类型子句也指定了传入键和值，这对于读取文件分别是字节数和文本行数。
EarthQuakesPerDateMapper 类扩展了 Hadoop 的 Mapper 对象。它显式地将其输出键指定为一个 Text 对象，将其值指定为一个IntWritable，这是一个
Hadoop 特定类，实质上是一个整数。还要注意，class 子句的前两个类型是 LongWritable 和 Text，分别是字节数和文本行数。
由于类定义中的类型子句，我将传入 map 方法的参数类型设置为在 context.write 子句内带有该方法的输出。如果我想指定其他内容，将会出现一个编译器问题，或 Hadoop 将输出一个错误消息，描述类型不匹配的消息。
清单 6. 清单 6. 一个映射实现
public class EarthQuakesPerDateMapper extends Mapper<LongWritable,
Text, Text, IntWritable> {
@Override
protected void map(LongWritable key, Text value, Context context) throws IOException,
InterruptedException {
if (key.get() > 0) {
try {
CSVParser parser = new CSVParser();
String[] lines = parser.parseLine(value.toString());
SimpleDateFormat formatter =
new SimpleDateFormat("EEEEE, MMMMM dd, yyyy HH:mm:ss Z");
Date dt = formatter.parse(lines[3]);
formatter.applyPattern("dd-MM-yyyy");
String dtstr = formatter.format(dt);
context.write(new Text(dtstr), new IntWritable(1));
} catch (ParseException e) {}
}
}
}
|
清单 6 中的 map 实现比较简单：本质上是，Hadoop 为在输入文件中找到的每一行文本调用这个类。为了避免除了 CSV 头部，首先检查是否字节数（key 对象）为零。然后执行清单
4 和 5 中的步骤：捕获传入日期，进行转换，然后设置为传出键。我也提供了一个数：1。就是说，我为每个日期编写一个计数器，当 reduce 实现被调用时，获取一个键和一系列值。在本例中，键是日期及其值，如 清单 7 所示：
清单 7. 清单 7. 一个 map 输出和 reduce 输入的逻辑视图
"13-12-2010":[1,1,1,1,1,1,1,1] "14-12-2010":[1,1,1,1,1,1] "15-12-2010":[1,1,1,1,1,1,1,1,1] |
注意，context.write(new Text(dtstr), new IntWritable(1))（在 清单 6 中）构建了如 清单
7 所示的逻辑集合。正如您所了解的，context 是一个保存各种信息的 Hadoop 数据结构。context 被传递到 reduce 实现，reduce 获取这些值为
1 的值然后总和起来。因此，一个 reduce 实现逻辑上创建如 清单 8 所示的数据结构：
清单 8. 清单 8. 一个 reduce 输出视图
"13-12-2010":8 "14-12-2010":6 "15-12-2010":9 |
我的 reduce 实现如 清单 9 所示。与 Hadoop 的 Mapper 一样，Reducer 被参数化了：前两个参数是传入的键类型（Text）和值类型（IntWritable），后两个参数是输出类型：键和值，这在本例中是相同的。
清单 9. 清单 9. reduce 实现
public class EarthQuakesPerDateReducer extends Reducer<Text, IntWritable, Text,
IntWritable> {
@Override
protected void reduce(Text key, Iterable<IntWritable> values, Context context)
throws IOException, InterruptedException {
int count = 0;
for (IntWritable value : values) {
count++;
}
context.write(key, new IntWritable(count));
}
}
|
我的 reduce 实现非常简单。正如我在 清单 7 中所指出的，传入的是实际上是一个值的集合，在本例中是 1 的集合，我所做的就是将它们加起来，然后写出一个新键值对表示日期和次数。我的 reduce 代码可以挑出您在 清单
8 中所见到的这几行。逻辑流程看起来像这样：
"13-12-2010":[1,1,1,1,1,1,1,1] -> "13-12-2010":8 |
当然，这个清单的抽象形式是 map -> reduce。
现在我已经对我的 map 和 reduce 实现进行了编码，接下来所要做的是将所有这一切链接到一个 Hadoop Job。定义一个 Job 比较简单：您需要提供输入和输出、map 和 reduce 实现（如 清单
6 和 清单 9 所示）以及输出类型。在本例中我的输出类型和 reduce 实现所用的是同一个类型。
清单 10. 清单 10. 一个将 map 和 redece 绑在一起的 Job
public class EarthQuakesPerDayJob {
public static void main(String[] args) throws Throwable {
Job job = new Job();
job.setJarByClass(EarthQuakesPerDayJob.class);
FileInputFormat.addInputPath(job, new Path(args[0]));
FileOutputFormat.setOutputPath(job, new Path(args[1]));
job.setMapperClass(EarthQuakesPerDateMapper.class);
job.setReducerClass(EarthQuakesPerDateReducer.class);
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(IntWritable.class);
System.exit(job.waitForCompletion(true) ? 0 : 1);
}
}
|
在 清单 10 中，我使用一个 main 方法将所有这一切绑在一起，该方法有两个参数：地震 CSV 文件的目录，以及生成报告的输出目录（Hadoop 更喜欢创建该目录）。
为了执行这个小框架，我需要将这些类打包。我还需要告知 Hadoop 在哪里可以找到 opencsv 二进制文件。然后可以通过命令行执行 Hadoop ，如 清单 11 所示：
清单 11. 清单 11. 执行 Hadoop
$> export HADOOP_CLASSPATH=lib/opencsv-2.2.jar $> hadoop jar target/quake.jar com.b50.hadoop.quake.EarthQuakesPerDayJob ~/temp/mreduce/in/ ~/temp/mreduce/out |
运行这些代码，Hadoop 开始运行时您将可以看到一堆文本在屏幕上一闪而过。我所用的 CSV 文件相比专门用于处理这种情况的 Hadoop，那真是小巫见大巫 ！hadoop 应该可以在几秒钟内完成，具体取决于您的处理功能。
完成这些后，您可以使用任何编辑器查看输出文件内容。还可以选择直接使用 hadoop 命令。正如 清单 12 所示：
清单 12. 清单 12. 读取 Hadoop 输出
$> hadoop dfs -cat part-r-00000 05-12-2010 43 06-12-2010 143 07-12-2010 112 08-12-2010 136 09-12-2010 178 10-12-2010 114 11-12-2010 114 12-12-2010 79 |
如果您像我一样，在 清单 12 中首先会注意到的就是每天地震数 — 12 月 9 日就有 178 次地震。希望您也会注意到 Hadoop 实现了我所想要的：整齐地列出我的研究范围内每天的地震次数。
接下来，我想找到地震发生在哪里，以及如何快速计算出在我的研究范围内记录地震次数最多的是哪个区域。当然，您已经猜到了，Hadoop 可以轻松地做到。在这个案例中，键不再是日期而是区域。因此，我编写了一个新的 Mapper 类。
清单 13. 清单 13. 一个新的 map 实现
public class EarthQuakeLocationMapper extends Mapper<LongWritable, Text, Text,
IntWritable> {
@Override
protected void map(LongWritable key, Text value, Context context) throws IOException,
InterruptedException {
if (key.get() > 0) {
String[] lines = new CSVParser().parseLine(value.toString());
context.write(new Text(lines[9]), new IntWritable(1));
}
}
}
|
和之前获取日期然后进行转换相比，在 清单 13 中我所作的是获取位置，这是 CSV 阵列中的最后一个条目。
相比一个庞大的位置和数字列表，我将结果限制在那些 7 天内出现 10 次的区域。
清单 14. 清单 14. 哪里的地震较多？
public class EarthQuakeLocationReducer extends
Reducer<Text, IntWritable, Text, IntWritable> { @Override protected void
reduce(Text key, Iterable<IntWritable> values, Context context) throws
IOException, InterruptedException { int count = 0; for (IntWritable value :
values) { count++; } if (count >= 10) { context.write(key, new
IntWritable(count)); } } }
|
清单 14 中的代码和 清单 9 中的代码非常类似；然而，在本例中，我限制了输出大于或等于
10。接下来，我将 map 和 reduce，以及其他 Job 实现绑在一起，进行打包，然后和平常一样执行 Hadoop 获取我的新答案。
使用 hadoop dfs 目录显示我所请求的新值：
清单 15. 清单 15. 地震区域分布
$> hadoop dfs -cat part-r-00000 Andreanof Islands, Aleutian Islands, Alaska 24 Arkansas 40 Baja California, Mexico 101 Central Alaska 74 Central California 68 Greater Los Angeles area, California 16 Island of Hawaii, Hawaii 16 Kenai Peninsula, Alaska 11 Nevada 15 Northern California 114 San Francisco Bay area, California 21 Southern Alaska 97 Southern California 115 Utah 19 western Montana 11 |
从 清单 15 还可以得到什么？首先，北美洲西海岸，从墨西哥到阿拉斯加是地震高发区。其次，阿肯色州明显位于断带层上，这是我没有意识到的。最后，如果您居住在北部或者是南加州（很多软件开发人员都居住于此），您周围的地方每隔 13 分钟会震动一次。
使用 Hadoop 分析数据轻松且高效，对于它对数据分析所提供的支持，我只是了解皮毛而已。Hadoop 的设计旨在以一种分布式方式运行，处理运行 map 和 reduce 的各个节点之间的协调性。作为示例，本文中我只在一个 JVM 上运行 Hadoop，该 JVM 仅有一个无足轻重的文件。
Hadoop 本身是一个功能强大的工具，围绕它还有一个完整的、不断扩展的生态系统，可以提供子项目至基于云计算的 Hadoop 服务。Hadoop 生态系统演示了项目背后丰富的社区活动。来自社区的许多工具证实了大数据分析作为一个全球业务活动的可行性。有了 Hadoop，分布式数据挖掘和分析对所有软件创新者和企业家都是可用的，包括但不限于 Google 和 Yahoo! 这类大企业。
学习
-
Java 开发 2.0：这个 dW 系列讨论重定义 Java 开发格局的技术；近期话题包括 MongoDB（
2010 年 9 月）；CouchDB（2009 年 11 月）和 Objectify
AppEngine（2010 年 11 月）。
-
“用 Hadoop 进行分布式数据处理，第 1 部分：入门”（M. Tim Jones，developerWorks，2010 年 5 月）：这篇文章 — 系列的第一篇 — 介绍了 Hadoop 框架，包括 Hadoop 文件系统（HDFS）和常用的节点类型。介绍了如何按装和配置一个单节点 Hadoop 集群并深入研究了
MapReduce 应用程序。最后，发现了使用其核心 Web 接口监控和管理 Hadoop 的方法。 另外请参阅 第 2 部分和 第
3 部分。
-
“在云中使用 MapReduce 和负载平衡”（Kirpal A. Venkatesh，et. al.，developerWorks，2010 年 7 月）：了解 Hadoop MapReduce 和虚拟化如何改进节点性能。
-
“A profile of Apache Hadoop MapReduce computing efficiency, Part 1”（Paul Burkhardt，Cloudera Development
Center，2010 年 12 月）：一个关于 MapReduce 应用程序如何高效地使用计算资源的两部分系列文章，第一部分是对计算效率的一个概述，因为这涉及到评估 Hadoop MapReduce 应用程序。
-
“Hadoop companies everywhere”（Alex Handy，SD Times，2009 年 7 月）：公司每天都产生很多数据，但是很多都不能从其中获取业务智能。这创造了机会。
-
浏览 Java 技术书店 阅读关于这些和其他技术主题的图书。
-
developerWorks Java 技术专区：这里有数百篇关于 Java 编程各个方面的文章。
获得产品和技术
-
下载 Hadoop MapReduce：一个 Apache Software Foundation 项目。
-
Get opencsv：从 SourceForge 下载它。
讨论
- 加入 developerWorks 中文社区。查看开发人员推动的博客、论坛、组和维基，并与其他 developerWorks 用户交流。
如果你喜欢本文, 请长按二维码，关注公众号 分布式编程.
作者：分布式编程
出处：https://zthinker.com/
本文版权归作者和博客园共有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出原文连接，否则保留追究法律责任的权利。
