利用最新的CentOS7.5,hadoop3.1,spark2.3.2搭建spark集群

1. 桥接模式,静态ip上外网:
vi /etc/sysconfig/network-scripts/ifcfg-ens33

TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO=static
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33
UUID=292b882b-ebd2-4d03-9ce5-402da7858f6d
DEVICE=ens33
ONBOOT=yes
IPADDR=192.168.2.124
NETMASK=255.255.255.0
GATEWAY=192.168.2.1
DNS1=127.207.160.106
DNS2=219.239.26.42

或者用下面的DNS也是可以的:
DNS1=8.8.8.8
DNS2=8.8.4.4

systemctl restart network

cat /etc/resolv.conf
看一下
nameserver 8.8.8.8
nameserver 8.8.4.4
2. 关闭防火墙
systemctl stop firewalld.service #停止firewall

systemctl disable firewalld.service #禁止firewall开机启动

3. 禁止:
vi /etc/sysconfig/selinux
改成disabled
SELINUX=enforcing
改成:
SELINUX=disabled
4. 配置yum源
网络yum源
yum install wget
cd /etc/yum.repos.d/
wget http://mirrors.aliyun.com/repo/Centos-7.repo
mv CentOS-Base.repo CentOS-Base.repo.bak
mv Centos-7.repo CentOs-Base.repo
yum clean all
yum makecache
yum update

5. 免密码登陆:
永久修改主机名:
在三台机器上分别执行下列语句:注意三台机器的用户名不同
hostnamectl --static set-hostname spark1
ssh-keygen -t rsa
cd /root/.ssh
cp id_rsa.pub authorized_keys
然后从spakr1主机免密码登陆spark2,spark3
ssh-copy-id -i spark2
ssh-copy-id -i spark3
同理在spark2执行下列语句:
ssh-copy-id -i spark1
ssh-copy-id -i spark3
同理在spark3执行下列语句:
ssh-copy-id -i spark1
ssh-copy-id -i spark2

6. hadoop集群搭建:

未完待续。

posted on 2018-10-28 10:02  丰泽园的天空  阅读(494)  评论(0编辑  收藏  举报

导航