Linux安装Hadoop3.3.1
1.下载安装包
wget https://mirrors.bfsu.edu.cn/apache/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
2 解压,配置环境变量
tar -zxvf hadoop-3.3.1.tar.gz
vim /etc/profile
HADOOP_HOME=/APP/hadoop-3.3.1
PATH=$PATH:$JAVA_HOME/bin:$SPARK_HOME/bin:$HADOOP_HOME/bin
source /etc/profile
3 修改 hadoop-env.sh配置文件
vi /hadoop-3.3.1/etc/hadoop/hadoop-env.sh
export JAVA_HOME=/APP/jdk1.8.0_141
4 修改 hdfs-site.xml 配置文件
vi /hadoop-3.3.1/etc/hadoop/hdfs-site.xml
加入如下内容,在标签内
<configuration>
<!-- 集群的namenode的位置 datanode能通过这个地址注册-->
<property>
<name>dfs.namenode.rpc-address</name>
<value>localhost:9000</value>
</property>
<!-- namenode存储元数据的位置 -->
<property>
<name>dfs.namenode.name.dir</name>
<value>/APP/hdpdata/name/</value>
</property>
<!-- datanode存储数据的位置 -->
<property>
<name>dfs.datanode.data.dir</name>
<value>/APP/hdpdata/data/</value>
</property>
<!-- WEB UI -->
<property>
<name>dfs.namenode.http-address</name>
<value>localhost:6002</value>
</property>
</configuration>
5 初始化namedata
进入安装目录
cd /hadoop-3.3.1/bin
./hadoop namenode -format
查看有以下目录则初始化成功 “namenode存储元数据的位置”—> hdfs-site.xml 配置文件的位置
6 启动namenode和datanode
进入如下目录
cd /hadoop-3.3.1/sbin
启动
./hadoop-daemon.sh start namenode
./hadoop-daemon.sh start datanode
配置 core-site.xml
vi /hadoop-3.3.1/etc/hadoop/core-site.xml
加入如下内容,在标签内
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000/</value>
<description>The name of the default file system. A URI whose scheme and authority determine the FileSystem implementation. The uri's scheme determines the config property (fs.SCHEME.impl) naming the FileSystem implementation class. The uri's authority is used to determine the host, port, etc. for a filesystem.</description>
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义