【博学谷学习记录】超强总结,用心分享|狂野架构师zookeeper常用知识点

Zookeeper概念

Zookeeper 是 Apache Hadoop 项目下的一个子项目,是一个树形目录服务。

Zookeeper 是一个分布式的、开源的分布式应用程序的协调服务。

主要功能: 配置管理 、分布式锁 、集群管理

ZooKeeper命令操作

•ZooKeeper 是一个树形目录服务,其数据模型和Unix的文件系统目录树很类似,拥有一个层次化结构。

•这里面的每一个节点都被称为: ZNode,每个节点上都会保存自己的数据和节点信息。

• 节点可以拥有子节点,同时也允许少量(1MB)数据存储在该节点之

节点四大类

PERSISTENT 持久化节点

EPHEMERAL 临时节点 :-e

PERSISTENT_SEQUENTIAL 持久化顺序节点 :-s

EPHEMERAL_SEQUENTIAL 临时顺序节点 :-es

操作服务端命令

#启动 ZooKeeper 服务: 
./zkServer.sh start 
#查看 ZooKeeper 服务状态: 
./zkServer.sh status 
#停止 ZooKeeper 服务: 
./zkServer.sh stop 
#重启 ZooKeeper 服务:
./zkServer.sh restart

客户端常用命令

#连接ZooKeeper服务端
./zkCli.sh –server ip:port
#断开连接
quit
#查看命令帮助
help
#显示指定目录下节点
ls 目录
#创建节点
create /节点path value
#获取节点值
get /节点path
#设置节点值
set /节点path value
#删除单个节点
delete /节点path
#删除带有子节点的节点
deleteall /节点path

客户端创建临时有序节点命令

#创建临时节点
create -e /节点path value
#创建顺序节点
create -s /节点path value
#查询节点详细信息
ls –s /节点path

•czxid:节点被创建的事务ID

•ctime: 创建时间

•mzxid: 最后一次被更新的事务ID

•mtime: 修改时间

•pzxid:子节点列表最后一次被更新的事务ID

•cversion:子节点的版本号

•dataversion:数据版本号

•aclversion:权限版本号

•ephemeralOwner:用于临时节点,代表临时节点的事务ID,如果为持久节点则为0

•dataLength:节点存储的数据的长度

•numChildren:当前节点的子节点个数

JavaAPI 操作

urator介绍

Curator 是 Apache ZooKeeper 的Java客户端库。

常见的原生的ZooKeeper Java API

ZkClient

Curator

Curator 项目的目标是简化 ZooKeeper 客户端的使用。

Curator 最初是 Netfix 研发的,后来捐献了 Apache 基金会,目前是 Apache 的顶级项目。

官网:http://curator.apache.org/

建立连接

创建项目curator-zk

引入pom和日志文件(pom.xml和log4j.properties)

创建测试类,使用curator连接zookeeper

@Before 
public void testConnect() { 
    //重试策略
    RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10); 
    //2.第二种方式 
    //CuratorFrameworkFactory.builder(); 
    client = CuratorFrameworkFactory.builder() 
        .connectString("192.168.200.130:2181") 
        .sessionTimeoutMs(60 * 1000) 
        .connectionTimeoutMs(15 * 1000) 
        .retryPolicy(retryPolicy) 
        .namespace("itheima") 
        .build(); 
    //开启连接 
    client.start();
}

创建节点

/** 
* 创建节点:create 持久 临时 顺序 数据 
* 1. 基本创建 :create().forPath("") 
* 2. 创建节点 带有数据:create().forPath("",data) 
* 3. 设置节点的类型:create().withMode().forPath("",data) 
* 4. 创建多级节点 /app1/p1 :create().creatingParentsIfNeeded().forPath("",data) 
*/
@Test 
public void testCreate() throws Exception { 
    //2. 创建节点 带有数据 
    //如果创建节点,没有指定数据,则默认将当前客户端的ip作为数据存储 
    String path = client.create().forPath("/app2", "hehe".getBytes()); 
    System.out.println(path); 
}
@Test 
public void testCreate2() throws Exception { 
    //1. 基本创建 
    //如果创建节点,没有指定数据,则默认将当前客户端的ip作为数据存储 
    String path = client.create().forPath("/app1"); System.out.println(path); 
}
    
@Test
public void testCreate3() throws Exception { 
    //3. 设置节点的类型 
    //默认类型:持久化 
    String path = client.create().withMode(CreateMode.EPHEMERAL).forPath("/app3"); 
    System.out.println(path); 
}
@Test 
public void testCreate4() throws Exception {
    //4. 创建多级节点 /app1/p1 
    //creatingParentsIfNeeded():如果父节点不存在,则创建父节点 
    String path = client.create().creatingParentsIfNeeded().forPath("/app4/p1");
    System.out.println(path); 
}

查询节点

/** 
* 查询节点: 
* 1. 查询数据:get: getData().forPath() 
* 2. 查询子节点: ls: getChildren().forPath() 
* 3. 查询节点状态信息:ls -s:getData().storingStatIn(状态对象).forPath() 
*/
@Test 
public void testGet1() throws Exception { 
    //1. 查询数据:get 
    byte[] data = client.getData().forPath("/app1"); 
    System.out.println(new String(data)); 
}
@Test 
public void testGet2() throws Exception { 
    // 2. 查询子节点: ls 
    List<String> path = client.getChildren().forPath("/"); 
    System.out.println(path); 
}
@Test 
public void testGet3() throws Exception { 
    Stat status = new Stat(); 
    System.out.println(status); 
    //3. 查询节点状态信息:ls -s 
    client.getData().storingStatIn(status).forPath("/app1"); 
    System.out.println(status); 
}

修改节点

/** 
* 修改数据 
* 1. 基本修改数据:setData().forPath() 
* 2. 根据版本修改: setData().withVersion().forPath() * 
* version 是通过查询出来的。目的就是为了让其他客户端或者线程不干扰我。 *
* @throws Exception 
*/
@Test 
public void testSet() throws Exception { 
    client.setData().forPath("/app1", "itcast".getBytes()); 
}
@Test 
public void testSetForVersion() throws Exception { 
    Stat status = new Stat(); 
    //3. 查询节点状态信息:ls -s 
    client.getData().storingStatIn(status).forPath("/app1"); 
    int version = status.getVersion();
    //查询出来的 3 
    System.out.println(version); 
    client.setData().withVersion(version).forPath("/app1", "hehe".getBytes()); 
}

删除节点

/** 
* 删除节点: delete deleteall 
* 1. 删除单个节点:delete().forPath("/app1"); 
* 2. 删除带有子节点的节点:delete().deletingChildrenIfNeeded().forPath("/app1"); 
* 3. 必须成功的删除:为了防止网络抖动。本质就是重试。
client.delete().guaranteed().forPath("/app2"); 
* 4. 回调:inBackground 
* @throws Exception 
*/
@Test 
public void testDelete() throws Exception { 
    // 1. 删除单个节点 
    client.delete().forPath("/app1"); 
}
@Test 
public void testDelete2() throws Exception { 
    //2. 删除带有子节点的节点 
    client.delete().deletingChildrenIfNeeded().forPath("/app4"); 
}
@Test 
public void testDelete3() throws Exception { 
    //3. 必须成功的删除 
    client.delete().guaranteed().forPath("/app2"); 
}
@Test 
public void testDelete4() throws Exception { 
    //4. 回调 
    client.delete().guaranteed().inBackground(new BackgroundCallback(){ 
        @Override 
        public void processResult(CuratorFramework client, CuratorEvent event) 
            throws Exception { 
            System.out.println("我被删除了~"); 
            System.out.println(event); 
        } 
    }).forPath("/app1"); 
}

Watch监听概述

•ZooKeeper 允许用户在指定节点上注册一些Watcher,并且在一些特定事件触发的时候,ZooKeeper 服务端会将事件通知到感兴趣的客户端上去,该机制是 ZooKeeper 实现分布式协调服务的重要特性。

ZooKeeper 中引入了Watcher机制来实现了发布/订阅功能,能够让多个订阅者同时监听某一个对象,当一个对象自身状态变化时,会通知所有订阅者。

•ZooKeeper 原生支持通过注册Watcher来进行事件监听,但是其使用并不是特别方便 需要开发人员自己反复注册Watcher,比较繁琐。

•Curator引入了Cache实现对 ZooKeeper 服务端事件的监听

•ZooKeeper提供了三种Watcher:

•NodeCache : 只是监听某一个特定的节点

•PathChildrenCache : 监控一个ZNode的子节点.

•TreeCache : 可以监控整个树上的所有节点,类似于PathChildrenCache和NodeCache的组合

Watch监听-NodeCache

/** 
* 演示 NodeCache:给指定一个节点注册监听器 
*/
@Test 
public void testNodeCache() throws Exception { 
    //1. 创建NodeCache对象 
    final NodeCache nodeCache = new NodeCache(client,"/app1"); 
    //2. 注册监听 
    nodeCache.getListenable().addListener(new NodeCacheListener() { 
        @Override 
        public void nodeChanged() throws Exception { 
            System.out.println("节点变化了~"); 
            //获取修改节点后的数据 
            byte[] data = nodeCache.getCurrentData().getData(); 
            System.out.println(new String(data)); 
        } 
    }); 
    //3. 开启监听.如果设置为true,则开启监听是,加载缓冲数据 
    nodeCache.start(true); 
    while (true){ 
    } 
}

Watch监听-PathChildrenCache

@Test 
public void testPathChildrenCache() throws Exception { 
    //1.创建监听对象 
    PathChildrenCache pathChildrenCache = new PathChildrenCache(client,"/app2",true);
    //2. 绑定监听器 
    pathChildrenCache.getListenable().addListener(new PathChildrenCacheListener() {
        @Override 
        public void childEvent(CuratorFramework client, PathChildrenCacheEvent event)
            throws Exception { 
            System.out.println("子节点变化了~");
            System.out.println(event); 
            //监听子节点的数据变更,并且拿到变更后的数据 
            //1.获取类型 PathChildrenCacheEvent.Type type = event.getType(); 
            //2.判断类型是否是update 
            if(type.equals(PathChildrenCacheEvent.Type.CHILD_UPDATED)){
                System.out.println("数据变了!!!"); 
                byte[] data = event.getData().getData(); 
                System.out.println(new String(data)); 
            } 
        } 
    }); 
    //3. 开启 
    pathChildrenCache.start(); 
    while (true){ 
    } 
}

Watch监听-TreeCache

/** 
* 演示 TreeCache:监听某个节点自己和所有子节点们 
*/
@Test 
public void testTreeCache() throws Exception { 
    //1. 创建监听器 
    TreeCache treeCache = new TreeCache(client,"/app2"); 
    //2. 注册监听 
    treeCache.getListenable().addListener(new TreeCacheListener() { 
        @Override 
        public void childEvent(CuratorFramework client, TreeCacheEvent event) 
            throws Exception { 
            System.out.println("节点变化了"); 
            System.out.println(event); 
        } 
    }); 
    //3. 开启 
    treeCache.start(); 
    while (true){ } 
}

Zookeeper分布式锁

概念

分布式集群工作的情况下,属于多JVM下的工作环境,跨JVM之间已经无法通过多线程的锁(synchronized或者Lock)解决同步问题。处理跨机器的进程之间的数据同步问题——这就是分布式锁。

Zookeeper 分布式锁-zookeeper分布式锁原理

核心思想:

当客户端要获取锁,则创建节点,使用完锁,则删除该节点。

1.客户端获取锁时,在lock节点下创建临时顺序节点。

2.然后获取lock下面的所有子节点,客户端获取到所有的子节点之后,如果发现自己创建的子节点序号 最小,那么就认为该客户端获取到了锁。使用完锁后,将该节点删除。

3.如果发现自己创建的节点并非lock所有子节点中最小的,说明自己还没有获取到锁,此时客户端需要 找到比自己小的那个节点,同时对其注册事件监听器,监听删除事件。

4.如果发现比自己小的那个节点被删除,则客户端的 Watcher会收到相应通知,此时再次判断自己创建的节点 是否是lock子节点中序号最小的,如果是则获取到了锁, 如果不是则重复以上步骤继续获取到比自己小的一个节点 并注册监听。

集群搭建-Leader选举

Serverid

服务器ID 比如有三台服务器,编号分别是1,2,3。 编号越大在选择算法中的权重越大。

Zxid

数据ID服务器中存放的最大数据ID值越大说明数据越新,在选举算法中数据越新权重越大。

在Leader选举的过程中,如果某台ZooKeeper 获得了超过半数的选票, 则此ZooKeeper就可以成为Leader了。

集群搭建-模拟集群异常==》结论

3个节点的集群,2个从服务器都挂掉,主服务器也无法运行。因为可运行的机器没有超 过集群总数量的半数。

当集群中的主服务器挂了,集群中的其他服务器会自动进行选举状态,然后产生新 得leader

当领导者产生后,再次有新服务器加入集群,不会影响到现任领导者。

集群角色

Leader 领导者

1.处理事务请求

2.集群内部各服务器的调度者

Follower 跟随者

1.处理客户端非事务请求,转发事务请求给Leader服务器

2.参与Leader选举投票

Observer 观察者

1.处理客户端非事务请求,转发事务请求给Leader服务器

posted @ 2022-07-10 16:50  谢十二♡Lgy  阅读(58)  评论(0编辑  收藏  举报