Linux安装Hadoop3.3.1

1.下载安装包
  wget https://mirrors.bfsu.edu.cn/apache/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
2 解压,配置环境变量
  tar -zxvf hadoop-3.3.1.tar.gz

  vim /etc/profile

  HADOOP_HOME=/APP/hadoop-3.3.1
  PATH=$PATH:$JAVA_HOME/bin:$SPARK_HOME/bin:$HADOOP_HOME/bin

  source /etc/profile
3 修改 hadoop-env.sh配置文件

  vi /hadoop-3.3.1/etc/hadoop/hadoop-env.sh

  export JAVA_HOME=/APP/jdk1.8.0_141
4 修改 hdfs-site.xml 配置文件

  vi /hadoop-3.3.1/etc/hadoop/hdfs-site.xml
  加入如下内容,在标签内

  <configuration>

    <!-- 集群的namenode的位置 datanode能通过这个地址注册-->

    <property>

      <name>dfs.namenode.rpc-address</name>
      <value>localhost:9000</value>
      </property>

    <!-- namenode存储元数据的位置 -->
    <property>
      <name>dfs.namenode.name.dir</name>
      <value>/APP/hdpdata/name/</value>
    </property>

    <!-- datanode存储数据的位置 -->
    <property>
      <name>dfs.datanode.data.dir</name>
      <value>/APP/hdpdata/data/</value>
    </property>

    <!-- WEB UI -->
    <property>
      <name>dfs.namenode.http-address</name>
      <value>localhost:6002</value>
      </property>

  </configuration>

5 初始化namedata

  进入安装目录

  cd /hadoop-3.3.1/bin

  ./hadoop namenode -format
  查看有以下目录则初始化成功 “namenode存储元数据的位置”—> hdfs-site.xml 配置文件的位置

6 启动namenode和datanode
  进入如下目录

  cd /hadoop-3.3.1/sbin
  启动

  ./hadoop-daemon.sh start namenode

  ./hadoop-daemon.sh start datanode
  配置 core-site.xml

  vi /hadoop-3.3.1/etc/hadoop/core-site.xml
  加入如下内容,在标签内

  <name>fs.defaultFS</name>
  <value>hdfs://localhost:9000/</value>
  <description>The name of the default file system. A URI whose scheme and authority determine the FileSystem implementation. The uri's scheme determines the config property (fs.SCHEME.impl) naming the FileSystem implementation class. The uri's authority is used to determine the host, port, etc. for a filesystem.</description>

 

posted on   码渊  阅读(159)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示