Hadoop2.7.2源码编译过程

目录

准备工作

jar包安装

源码编译

---

准备工作

• CentOS可以联网，验证：ping www.baidu.com 是畅通的
• jar 包准备(hadoop 源码、JDK8、maven、ant 、protobuf)
  （1）hadoop-2.7.2-src.tar.gz
  （2）jdk-8u144-linux-x64.tar.gz
  （3）apache-ant-1.9.9-bin.tar.gz（build 工具，打包用的）
  （4）apache-maven-3.0.5-bin.tar.gz
  （5）protobuf-2.5.0.tar.gz（序列化的框架）

注意：采用root 角色编译，减少文件夹权限出现问题，最好准备一台干净的机器

jar包安装

• JDK解压，配置环境变量JAVA_HOME和PATH

tar -zxf jdk-8u144-linux-x64.tar.gz -C /opt/module/
 
vi /etc/profile
 
#JAVA_HOME：
export JAVA_HOME=/opt/module/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH
 
source /etc/profile
 
验证：java -version

• Maven 解压、配置MAVEN_HOME 和PATH

tar -zxvf apache-maven-3.0.5-bin.tar.gz -C /opt/module/
 
vi conf/settings.xml
在<mirrors></mirrors>添加镜像
 
<mirror>
<id>nexus-aliyun</id>
<mirrorOf>central</mirrorOf>
<name>Nexus aliyun</name>
<url>http://maven.aliyun.com/nexus/content/groups/public</url>
</mirror>
 
vi /etc/profile
 
# MAVEN_HOME
export MAVEN_HOME=/opt/module/apache-maven-3.0.5
export PATH=$MAVEN_HOME/bin:$PATH
 
source /etc/profile
 
验证：mvn -version

• ant 解压、配置ANT _HOME 和PATH

tar -zxvf apache-ant-1.9.9-bin.tar.gz -C /opt/module/
 
vi /etc/profile
 
# ANT_HOME
export ANT_HOME=/opt/module/apache-ant-1.9.9
export PATH=$PATH:$ANT_HOME/bin
 
source /etc/profile
 
验证：ant -version

• 安装glibc-headers 和g++ 命令如下

yum install glibc-headers
yum install gcc-c++

• 安装make 和cmake

yum install make
yum install cmake

• 解压protobuf ，进入到解压后protobuf 主目录，/opt/module/protobuf-2.5.0，然后相继执行命令

tar -zxvf protobuf-2.5.0.tar.gz -C /opt/module/
 
cd /opt/module/protobuf-2.5.0/
 
./configure
make
make check
make install
ldconfig
 
vi /etc/profile
 
# LD_LIBRARY_PATH
export LD_LIBRARY_PATH=/opt/module/protobuf-2.5.0
export PATH=$PATH:$LD_LIBRARY_PATH
 
source /etc/profile
 
验证：protoc --version

• 安装openssl ，ncurses-devel 库

yum install openssl-devel
yum install ncurses-devel

到此编译工具安装基本完成

源码编译

• 解压源码到/opt/目录

tar -zxvf hadoop-2.7.2-src.tar.gz -C /opt/

• 进入到hadoop 源码主目录

cd /opt/hadoop-2.7.2-src

• 通过maven 执行编译命令

mvn package -Pdist,native -DskipTests -Dtar

• 编译成功的64 位hadoop 包在/opt/hadoop-2.7.2-src/hadoop-dist/target 下

 

197706290