摘要:
hadoop作业执行的概念介绍 hadoop框架将作业分成若干小任务(task),包括map任务和reduce任务,其中reduce任务由作业提交者明确指定,框架默认为只有一个reduce任务 hadoop框架通过两类节点控制作业的执行过程,这两类节点是jobtracker和tasktracke... 阅读全文
摘要:
学东西都是从例子开始是最好的,从hadoop的一个简单的mapreduce作业开始 import java.io.IOException;import java.util.StringTokenizer;import org.apache.hadoop.conf.Configuratio... 阅读全文
摘要:
要想真正发挥hadoop的威力,必须将hadoop在集群上部署,下面介绍hadoop集群的部署。hadoop的集群部署是建立在伪集群安装的基础上,现假设有三台机器,一台master,两台slave,分别为slave1和slave2(其实两台机器也可以实现集群,其中一台机器同时扮演master和s... 阅读全文
摘要:
想要学习hadoop,首先要将把“刀”磨好,安装好hadoop,hadoop集群有三种模式:本地模式,伪集群模式和集群模式,其中本地模式和伪集群模式主要用于在本地测试程序,集群模式用于实际运行中。本地模式和伪集群模式非常类似,只是在hadoop的配置上有一点差别,这里先介绍hadoop的伪集群模式的 阅读全文