Linux下安装Hadoop完全分布式（Ubuntu12.10）

Hadoop的安装非常简单，可以在官网上下载到最近的几个版本，最好使用稳定版。本例在3台机器集群安装。hadoop版本如下：

工具/原料

hadoop-0.20.2.tar.gz
Ubuntu12.10

安装步骤：

1

安装ubuntu

Ubuntu12.10交换空间4G（内存2G）。具体安装过程不赘述。

用户名统一为：hadoop；

组群:hadoop；

机器名：namenode（主节点）,datanode1（从节点1）,datanode2（从节点2）。
2

在Ubuntu下创建hadoop用户组和用户（也可在安装系统时通过界面配置）

1. 创建hadoop用户组;

$ sudo addgroup hadoop

     记下这里为 hadoop 用户设置的密码，后面使用 hadoop 用户登录时需要用到。

2. 创建hadoop用户;

$ sudo adduser -ingroup hadoop hadoop

3. 给hadoop用户添加权限，打开/etc/sudoers文件;

$ sudo gedit /etc/sudoers

4. 给hadoop用户赋予root用户同样的权限。

在root  ALL=(ALL:ALL)   ALL下添加如下内容：

hadoop ALL=(ALL:ALL) ALL
3

在Ubuntu下安装JDK

配置环境变量：

$ sudo gedit /etc/profile

在文件的末尾加上如下内容，保存并关闭文件

# for java

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0

export JRE_HOME=${JAVA_HOME}/jre

export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib

export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH

使设置生效：到此部JDK的配置就都完成了

$ source /etc/profile

为保证正确性，进行简单的测试

$ java -version

输出：

java version "1.8.0"

Java(TM) SE Runtime Environment (build 1.8.0)

Java HotSpot(TM) Server VM

修改默认JDK：

    sudo update-alternatives --install /usr/bin/java java /usr/lib/jvm/jdk1.8.0/bin/java 300

    sudo update-alternatives --install /usr/bin/javac javac /usr/lib/jvm/jdk1.8.0/bin/javac 300

    sudo update-alternatives --install /usr/bin/jar jar /usr/lib/jvm/jdk1.8.0/bin/jar 300

以下两句可选（最好执行）：

sudo update-alternatives --config java

sudo update-alternatives --config javac
4

修改机器名（这步骤可以省略）

每当ubuntu安装成功时机器名都默认为：ubuntu ，但为了以后集群中能够容易分辨各台服务器，需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。

1. 打开/etc/hostname文件;

$ sudo gedit /etc/hostname

2. 将/etc/hostname文件中的ubuntu改为对应机器，如主节点中，修改为"namenode"。 重启生效。

3.修改/etc/hosts文件

$ sudo gedit /etc/hosts

改为如下所示，并且将每台机器的IP设置为固定IP：
5

安装ssh服务

这里的ssh不是指三大框架:spring,struts,hibernate，而是一种远程登录协议。

ubuntu一般只是默认安装了 ssh-agent, 可以用如下命令查看：

$ sudo ps -ef | grep ssh

如果只有 ssh-agent 就需要安装openssh-server了。

$ sudo apt-get install ssh openssh-server
6

建立ssh无密码登录本机

首先要转换成hadoop用户，执行以下命令：

    $ sudo su - hadoop

ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。

1. 创建ssh-key，，这里我们采用rsa方式;

$ ssh-keygen -t rsa -P ""

请注意， ssh-kengen 是用连字符连着的，千万不要分开。问题如下：

按照您的步驟執行的過程中我在ssh -keygen -t rsa -P ""這邊發生的點小狀況輸入之後終端機顯示Bad escape character "ygen"（红字部分就是问题所在，他将 ssh-keygen 分开了。）

（注：回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的）

2.  创建授权文件authorized_keys

     进入~/.ssh/目录下，发现开始是没有authorized_keys文件的，可以使用以下两种方法：

(1) 将id_rsa.pub追加到authorized_keys授权文件中;

$ cd ~/.ssh

$ cat id_rsa.pub >> authorized_keys

(2) 复制 id_rsa.pub 为 authorized_keys

$ cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

3. 登录localhost;

$ ssh localhost

4. 执行退出命令(exit或CTRL+D);
7

安装hadoop

1. 假设hadoop-0.20.2.tar.gz在桌面，将它复制到安装目录/usr/local/下；

    $ sudo cp hadoop-0.20.2.tar.gz /usr/local/

2. 解压hadoop-0.20.2.tar.gz；

$ cd /usr/local

$ sudo tar -zxvf hadoop-0.20.2.tar.gz

3. 将解压出的文件夹改名为hadoop;

$ sudo mv hadoop-0.20.2 hadoop

4. 将该hadoop文件夹的属主用户设为hadoop，

   $ sudo chown -R hadoop:hadoop hadoop

5. 打开hadoop/conf/hadoop-env.sh文件;

$ sudo gedit hadoop/conf/hadoop-env.sh

6. 配置conf/hadoop-env.sh（找到#exportJAVA_HOME=...,去掉#，然后加上本机jdk的路径）;

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0

7. 打开conf/core-site.xml文件;

   $ sudo gedit hadoop/conf/core-site.xml

<configuration>

     <property>

        <name>fs.default.name</name>

        <value>hdfs://namenode:9000</value>

     </property>

</configuration>

8. 打开conf/mapred-site.xml文件;

$ sudo gedit hadoop/conf/mapred-site.xml

<configuration>

     <property>

         <name>mapred.job.tracker</name>

        <value>namenode:9001</value>

     </property>

</configuration>

9. 打开conf/hdfs-site.xml文件;

$ sudo gedit hadoop/conf/hdfs-site.xml

<configuration>

     <property>

         <name>dfs.name.dir</name>

         <value>/usr/local/hadoop/datalog1,/usr/local/hadoop/datalog2</value>

     </property>

   <property>

         <name>dfs.data.dir</name>

         <value>/usr/local/hadoop/data1,/usr/local/hadoop/data2</value>

     </property>

   <property>

         <name>dfs.replication</name>

         <value>3</value>

     </property>

</configuration>

注意：datalog1，datalog2，data1，data2文件夹最好事先建好。

10. 打开conf/masters文件，添加作为secondarynamenode的主机名.

11. 打开conf/slaves文件，添加作为slave的主机名，一行一个。

作者设置如下：
8

运行hadoop

1. 进入hadoop目录下，格式化hdfs文件系统，初次运行hadoop时一定要有该操作，

$ cd /usr/local/hadoop/

$ bin/hadoop namenode -format

2. 启动bin/start-all.sh

进入bin目录下， $ ./start-all.sh 关闭：同目录下./stop-all.sh

3. 检测hadoop是否启动成功

$ jps

4. Web查看

http://localhost:50030/ - 一个jobtracker的web访问接口，为的是方便用户查看相关信息。

类似的还有：

http://localhost:50070/ – web UI of theNameNode daemon

http://localhost:50030/ – web UI of theJobTracker daemon

http://localhost:50060/ – web UI of theTaskTracker daemon

END