Zookeeper完全分布式集群的搭建
一、集群模式
1、单机模式
在zoo.cfg中只配置一个server.id就是单机模式了。
这种模式下，如果当前主机宕机，那么所有依赖于当前zookeeper服务工作的其他服务器都不能在进行正常工作，这种事件称为单节点故障。所以这种模式一般用在测试环境。
2、伪分布式
在zoo.cfg中配置多个server.id，其中ip都是当前机器，而端口各不相同，启动时就是伪集群模式了。
这种模式和单机模式产生的问题是一样的。这种模式也是用在测试环境中。
3、完全分布式
多台机器各自配置zoo.cfg文件，将各自互相加入服务器列表，上面搭建的集群就是这种完全分布式。
这种模式是真实生产环境中使用的zookeeper集群模式。
二、zookeeper完全分布式集群的搭建
搭建zookeeper集群需要最少三台机器，需要安装jdk作为基础支持。此次使用的Zookeeper3.4.7版本。
1、准备虚拟机
准备三台虚拟机，将ip和端口规划好。这里最好将主机名，以及主机名和ip的映射关系配置到/etc/hosts内
vim /etc/hosts # 填入以下内容，如果之前已经添加过，则忽略此操作 127.0.0.1 localhost ::1 localhost 192.168.234.21 spark01 192.168.234.22 spark02 192.168.234.23 spark03
2、安装jdk
如果已经安装，则忽略
1、将jdk安装包上传、解压安装包，并更名，命令如下：
tar -zxvf jdk1.8.0_131.tar.gz -C /data/aicu-tob/software/
2、修改/etc/profile， 在文件行尾加入以下内容后保存退出。
export JAVA_HOME=/data/aicu-tob/software/jdk1.8.0_131
export PATH=$PATH:$JAVA_HOME/bin
3、搭建集群
3.1．下载安装包
下载zookeeper的安装包，下载地址：http://zookeeper.apache.org/ 上传到linux集群环境下，规划自己的管理目录，解压安装包。
mkdir -p /data/aicu-tob/software tar -zxvf zookeeper-3.4.10.tar.gz -C /data/aicu-tob/software
3.2．集群配置
3.2.1 修改配置文件zoo.cfg
# 进入conf目录，复制zoo-sample.cfg重命名为zoo.cfg，通过修改zoo.cfg来对zookeeper进行配置。这个名字固定写死，因为zookeeper启动会检查这个文件，根据这个配置文件里的信息来启动服务。 cd /data/aicu-tob/software/zookeeper-3.4.10/conf cp zoo-sample.cfg zoo.cfg # vim zoo.cfg,此文件中需要修改以下两处： 1、dataDir：指定zookeeper将数据保存在哪个目录下，如果不修改，默认在/tmp下，这个目录下的数据有可能会在磁盘空间不足或服务器重启时自动被linux清理，所以一定要修改这个地址。按个人习惯将其修改为自己的管理目录。 dataDir=/data/aicu-tob/software/zookeeper-3.4.10/data dataLogDir=/data/aicu-tob/software/zookeeper-3.4.10/logs 2、完全分布式：多台机器各自配置，zookeeper有几个节点，就配置几个server。例如本文宗总共三台主机，于是在配置文件末尾加上下面三行，可以填写ip也可以是/etc/hosts的主机名，建议后者，可以充分解耦 server.1=spart01:2888:3888 server.2=spart02:2888:3888 server.3=spart03:2888:3888 # 注意:一定要跟自己的myid配置对应上，否则集群一直处于非正常状态 myid文件中就是N，则对应zoo.cfg 中server.{N} ，关于myid配置，见下一小节 zookeeper服务默认的端口号为2888和3888，2888原子广播端口，3888选举端口，
3.2.2 myid
到dataDir指定目录下生成一个文件叫myid（必须叫这个名字），其中写上一个数字表明当前机器是哪一个编号的机器，注意：本机的myid内容一定要与server.{N}保持一致
# 在spart01主机 vim myid 1
3.2.3.拷贝
#将以上Zookeeper文件夹远程拷贝到另外两台服务器中： scp -r /data/aicu-tob/software/zookeeper-3.4.10 root@spart02 scp -r /data/aicu-tob/software/zookeeper-3.4.10 root@spart03 #然后修改另外两台服务器中的myid文件中的id即可。 #spart02 vim myid 2 #spart03 vim myid 3
4、启动zookeeper
启动zookeeper的各种命令操作如下，可以使用绝对路径操作这些命令，也可使用相对路径操作这些命令，相对路径需要进到zookeeper服务的bin目录进行操作
#启动ZK服务，Zookeeper集群需要每台挨个启动。 bin/zkServer.sh start #停止ZK服务: bin/zkServer.sh stop #重启ZK服务: bin/zkServer.sh restart #查看ZK服务状态: bin/zkServer.sh status # 依次查看三台主机，会发现某一台被选举为leader，其余两台为follower 也可以是用jps命令查看线程
启动集群的时候，集群数量启动没有超过一半，状态会有错误提示，当集群启动数量超过一半就会自动转为正常状态，并且此台使集群进入正常工作状态的服务器会成为leader角色，集群中其他服务器的角色为fllower。 Zookeeper集群模式搭建到此完成。
5、测试zookeeper
5.1 在Zookeeper上测试数据同步
在spart01上操作：
# 1、切换目录 cd /data/aicu-tob/software/zookeeper-3.4.10 # 2、客户登陆， ./bin/zkCli.sh 注意zoo.cfg如果修改了clientPort,例如clientPort=8131，那么此处需要指定参数 ./bin/zkCli.sh -server localhost:8131 # 本实验是登陆本机操作，当然localhost也可以是其他zk主机 WatchedEvent state:SyncConnected type:None path:null [zk: localhost:2181(CONNECTED) 0] ls / [zookeeper] [zk: localhost:2181(CONNECTED) 1] get /zookeeper cZxid = 0x0 ctime = Thu Jan 01 08:00:00 CST 1970 mZxid = 0x0 mtime = Thu Jan 01 08:00:00 CST 1970 pZxid = 0x0 cversion = -1 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 0 numChildren = 1 [zk: localhost:2181(CONNECTED) 3] create /hadoop123 123 //创建一个hadoop123文件并且值为：123 Created /hadoop123 [zk: localhost:2181(CONNECTED) 4] ls / #查看是否创建好了 [hadoop123, zookeeper] [zk: localhost:2181(CONNECTED) 5] get /hadoop123 #获取文件的值 123 cZxid = 0x200000002 ctime = Fri Mar 25 09:54:20 CST 2016 mZxid = 0x200000002 mtime = Fri Mar 25 09:54:20 CST 2016 pZxid = 0x200000002 cversion = 0 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 3 numChildren = 0 [zk: localhost:2181(CONNECTED) 6]
在spart02和spart03上查看在sparrk01上创建文件是否同步过来：
./bin/zkCli.sh -server localhost:8131 [zk: localhost:2181(CONNECTED) 0] ls / #显示hadoop123同步过来了 [hadoop123, zookeeper] [zk: localhost:2181(CONNECTED) 1] get /hadoop123 #获取hadoop123文件内容 123 cZxid = 0x200000002 ctime = Fri Mar 25 09:54:20 CST 2016 mZxid = 0x200000002 mtime = Fri Mar 25 09:54:20 CST 2016 pZxid = 0x200000002 cversion = 0 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 3 numChildren = 0 [zk: localhost:2181(CONNECTED) 2]
5.2 测试Zookeeper故障角色转移
所先查看spark01、spark02、spark03上角色状态
然后把leader干掉，然后会发现选举出一个新的leader，如果重启挂掉的zk，它会变成follower
