Zookeeper使用介绍与集群搭建实战

转x33g5p2x  于2022-08-17 转载在 Zookeeper  
字(6.5k)|赞(0)|评价(0)|浏览(720)

1 介绍

1.1 什么Zookeeper

Zookeeper是一种分布式协调服务，用于管理大型主机。在分布式环境中协调和管理服务式环境中协调和管理服务是一个复杂的过程。Zookeeper通过简单的架构和API解决了这个问题。Zookeeper允许开发人员专注于核心应用程序逻辑，而不必担心应用程序的分布式特性。

1.2 Zookeeper的应用场景

  1. 分布式协调组件

在分布式系统中，需要有zookeeper作为分布式协调组件，协调分布式系统中的状态。

  1. 分布式锁

zk在实现分布式锁上，可以做到强一致性（顺序一致性）。

  1. 无状态化实现

2 搭建Zookeeper服务器

下载地址：https://zookeeper.apache.org/releases.html

2.1 zoo.fg 配置文件说明

  1. tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz
  1. # zookeeper时间配置的基本单位
  2. tickTime=2000
  4. # 允许follower初始化连接到leader最大时长，它表示tickTime时间倍数 即：initLimit*tickTime
  5. initLimit=10
  7. # 允许follower与leader数据同步最大时长，它表示tickTime时间倍数
  8. syncLimit=5
  10. # zookeeper数据存储目录及日志保存（如果没有知名dataLogDir, 则日志也保存在这个文件中）
  11. dataDir=/usr/local/zookeeper/zkdata
  12. #dataLogDir=/usr/local/zookeeper/zkdata
  13. # 对客户端提供的端口号
  14. clientPort=2181
  16. # 单位客户端与zookeeper最大并发连接数(处理更多客户端)
  17. maxClientCnxns=60
  19. # 保存的数据快照数量，之外的将会被清除
  20. autopurge.snapRetainCount=3
  22. # 自动触发清除任务时间间隔，小时为单位。默认为0，表示不自动清除
  23. autopurge.purgeInterval=1

2.2 zookeeper服务器的操作命令

  1. 重命名conf中zoo_sample.cfg 为 zoo.cfg
  1. cp zoo_sample.cfg zoo.cfg
  1. 启动zk服务器
  1. cd /usr/local/zookeeper/apache-zookeeper-3.7.1-bin
  2. bin/zkServer.sh start conf/zoo.cfg
  1. 查看zk服务器状态
  1. bin/zkServer.sh status
  1. 停止服务器
  1. bin/zkServer.sh stop conf/zoo.cfg

Cli连接本地服务器

  1. bin/zkCli.sh

Cli连接指定服务器

  1. bin/zkCli.sh -server 192.168.56.21:2181

3 Zookeeper内部的数据模型

3.1 zk是如何保存数据的

zk中数据是保存在节点上的，节点就是znode，多个znode支架构成一棵树的目录结构。

创建节点

  1. create /test1
  2. create /test1/sub1
  3. ls /
  4. ls /test1

创建节点test2，并放入数据abc

  1. create /test2 abc

获取数据

  1. get /test2

3.2 zk中znode结构

  • data：保存数据

  • acl：权限(定义什么用户能操作此节点，并且进行怎样的操作)

  • c：create创建权限，允许该节点下创建子节点

  • w：write更新权限，允许更新该节点的数据

  • r：read读取权限，允许读取该节点的内容以及子节点的列表信息

  • d：delete删除权限，允许删除该及诶单的子节点

  • a：admin管理者权限，允许对该节点进行alc权限设置

  • stat：描述当前znode的元数据

  • child：当前节点的子节点

3.3 zk中节点znode的类型

  • 持久节点：创建出的节点，在会话结束后依然存在。
  1. create /test5
  • 持久序号节点:创建出的节点，根据先后顺序，会在节点之后带上一个数值，越后执行数值越大，适用于分布式锁的应用场景-单调递增
  1. create -s /test5
  • 临时节点：临时节点是在会话结束后，自动被删除的，通过这个特性，zk可以实现服务注册与发现的效果。
  1. create -e /test5

临时节点维持心跳：

3.4 zk数据的持久化

zk的数据是运行在内存中，zk提供了2中持久化机制：

  • 事务日志：zk把执行的命令以日志形式保存在dataLogDir指定的路径中的文件中（如果没有指定dataLogDir，则按dataDir指定的路径）、
  • 数据快照：zk会在一定的时间间隔内做一次内存数据的快照，把该时刻的内存数据保存在快照文件中。

zk通过两种的时间间隔内做一次内存数据的快照，把该时刻的内存数据保存在快照文件中。

4 Zookeeper客户端（zkCli）的使用

4.1 多节点类型创建

1、创建持久节点

  1. create /test5

2、创建持久序号节点（并发很严重时）

  1. create -s /test5

3、创建临时节点

  • 临时节点是在会话结束后，自动被删除的，
  1. create -e /test5
  • 实现了服务注册与发现

4、创建临时序号节点

  • 跟序号节点相同，适用于临时的分布式锁。
  1. create -e -s /test6

5、Container节点（3.5.3版本新增）

  • Container容器节点中没有任何子节点，该容器节点会被zk定期删除（60s）。
  1. # 创建容器节点
  2. create -c /mycontainer
  4. # 创建子节点
  5. create /mycontainer/sub1
  6. create /mycontainer/sub2
  8. # 删除子节点
  9. delete /mycontainer/sub1
  10. delete /mycontainer/sub2

6、TTL节点

  • 可以指定节点的到期时间，到期后被zk定时删除。只能通过系统配置 zookeeper.extendTypesEnabled=true

4.2 查询节点

  1. get -s /test2
  • cZxid：创建节点事务ID
  • mZxid：修改节点的事务ID
  • pZxid：添加和删除子节点的事务ID
  • ctime：节点创建的时间
  • mtime：节点最近修改的时间
  • dataVersion：节点内存数据版本，每更新一次数据，版本会+1
  • aclVersion：此节点权限版本
  • ephemeralOwner：如果当前节点是临时节点，该值是当前节点所有者的的session id。如果及诶单不是临时节点，则该值为0
  • dataLength：节点内数据的长度
  • numChildren：该节点的子节点个数

4.3 删除

  1. delete /test1
  2. deleteall /test1

按照数据版本号删除(乐观锁删除)
delete -v 版本 /节点

  1. delete -v 1 /test2

4.4 权限

  • 注册当前会话的账号和密码
  1. addauth digest charles:123456
  • 创建节点并设置权限
  1. create /test-node abc auth:charles:123456:cdwra
  • 在另一个会话中必须使用账号密码，才能拥有该节点的权限

其他会话读取，权限不足提醒

5 Curator 客户端的使用

官网：https://curator.apache.org/

Curator是Netflix公司开源的一套zookeeper客户端框架，Curator是对Zookeeper支持最好的客户端框架。Curator封装了大部分Zookeeper的功能，比如Leader选举、分布式锁等，减少了技术人员在使用Zookeeper时的底层细节开发的工作。

5.1 引入Curator

引入依赖

https://www.bilibili.com/video/BV1Ph411n7Ep?p=14

  1. <!-- https://mvnrepository.com/artifact/org.apache.curator/curator-framework -->
  2. <dependency>
  3.     <groupId>org.apache.curator</groupId>
  4.     <artifactId>curator-framework</artifactId>
  5.     <version>5.2.0</version>
  6. </dependency>
  7. <!-- https://mvnrepository.com/artifact/org.apache.curator/curator-recipes -->
  8. <dependency>
  9.     <groupId>org.apache.curator</groupId>
  10.     <artifactId>curator-recipes</artifactId>
  11.     <version>5.2.0</version>
  12. </dependency>
  13. <!-- https://mvnrepository.com/artifact/org.apache.zookeeper/zookeeper -->
  14. <dependency>
  15.     <groupId>org.apache.zookeeper</groupId>
  16.     <artifactId>zookeeper</artifactId>
  17.     <version>3.7.1</version>
  18. </dependency>

8 集群搭建

8.1 伪分布式

1、在/usr/local/zookeeper中创建zk1~zk4，然后 新建 myid 文件

  1. echo 1 > ./zk1/myid
  2. echo 2 > ./zk2/myid
  3. echo 3 > ./zk3/myid
  4. echo 4 > ./zk4/myid

2、编写zoo.cfg文件
伪分布式（4个）

  1. # The number of milliseconds of each tick（zookeeper时间配置的基本单位）
  2. tickTime=2000
  3. # The number of ticks that the initial 
  4. # 允许follower初始化连接到leader最大时长，它表示tickTime时间倍数 即：initLimit*tickTime
  5. initLimit=10
  6. # 允许follower与leader数据同步最大时长，它表示tickTime时间倍数
  7. syncLimit=5
  8. # 修改为对应的zk1、zk2、zk3、zk4
  9. dataDir=/usr/local/zookeeper/zkdata/zk1
  10. # 对客户端提供的端口号
  11. clientPort=2181
  13. # 2001为集群通信端口，3001为集群选举端口，observer表示不参数集群选举
  14. server.1=192.168.56.20:2001:3001
  15. server.2=192.168.56.20:2002:3002
  16. server.3=192.168.56.20:2003:2003
  17. # server.4=192.168.56.23=2004:2004:observer

3、启动3台Zookeeper

  1. ./bin/zkServer.sh start ./conf/zoo1.cfg
  2. ./bin/zkServer.sh start ./conf/zoo2.cfg
  3. ./bin/zkServer.sh start ./conf/zoo3.cfg

8.2 分布式

1、创建数据存放目录

  1. mkdir -p /usr/local/zookeeper/zkdata

2、修改 zoo.cfg

  1. cp zoo_sample.cfg zoo.cfg
  1. # The number of milliseconds of each tick
  2. tickTime=10000
  4. # The number of ticks that the initial 
  5. initLimit=10
  7. # 允许follower与leader数据同步最大时长，它表示tickTime时间倍数
  8. syncLimit=5
  10. # zookeeper数据存储目录及日志保存（如果没有知名dataLogDir, 则日志也保存在这个文件中）
  11. dataDir=/usr/local/zookeeper/zkdata
  12. #dataLogDir=/usr/local/zookeeper/zkdata
  14. # 客户端默认端口 2181
  15. clientPort=2181
  17. # 单位客户端与zookeeper最大并发连接数(处理更多客户端)
  18. maxClientCnxns=60
  20. # 自动触发清除任务时间间隔，小时为单位。默认为0，表示不自动清除
  21. autopurge.purgeInterval=1
  23. # 保存的数据快照数量，之外的将会被清除
  24. autopurge.snapRetainCount=3
  26. server.1=192.168.56.20:2888:3888
  27. server.2=192.168.56.21:2888:3888
  28. server.3=192.168.56.22:2888:3888
  29. # server.4=192.168.56.23=:2888:3888:observer

3、将zookeeper目录发送到其他节点

  1. scp -r /usr/local/zookeeper/ 192.168.56.21:/usr/local
  2. scp -r /usr/local/zookeeper/ 192.168.56.22:/usr/local

4、分别修改三台机器 myid

  1. echo 1 > /usr/local/zookeeper/zkdata/myid
  1. echo 2 > /usr/local/zookeeper/zkdata/myid
  1. echo 3 > /usr/local/zookeeper/zkdata/myid

5、编写操作 zookeeper 集群的脚本

  1. cd /usr/local/zookeeper/bin
  2. vim zk.sh
  1. # 添加如下内容
  2. #!/bin/bash
  3. case $1 in
  4. "start"){
  5. 	for i in master slave1 slave2
  6. 	do 
  7. 		 echo ---------- $i zookeeper 启动 ----------
  8. 		ssh $i "/usr/local/zookeeper/apache-zookeeper-3.7.1-bin/bin/zkServer.sh start"
  9. 	done
  10. }
  11. ;;
  12. "stop"){
  13. 	for i in master slave1 slave2
  14. 	do
  15. 		echo ---------- $i zookeeper 停止 ----------
  16. 		ssh $i "/usr/local/zookeeper/apache-zookeeper-3.7.1-bin/bin/zkServer.sh stop"
  17. 	done
  18. }
  19. ;;
  20. "status"){
  21. 	for i in master slave1 slave2
  22. 	do
  23. 		echo ---------- $i zookeeper 状态 ----------
  24. 		ssh $i "/usr/local/zookeeper/apache-zookeeper-3.7.1-bin/bin/zkServer.sh status"
  25. 	done
  26. }
  27. ;;
  28. esac
  1. # 保存退出后，修改zk.sh脚本执行权限
  2. chmod +x ./zk.sh

脚本说明：

  1. # 启动集群命令
  2. ./zk.sh start
  3. # 停止集群命令
  4. ./zk.sh stop
  5. # 查看集群状态命令
  6. ./zk.sh status

6、启动集群

  1. /usr/local/zookeeper/bin/zk.sh start

或

  1. cd /usr/local/zookeeper/apache-zookeeper-3.7.1-bin
  2. ./bin/zkServer.sh start ./conf/zoo.cfg

工具连接

  1. bin/zkCli.sh

参考地址：
https://www.bilibili.com/video/BV1Ph411n7Ep
https://blog.csdn.net/u011109589/article/details/124907414

版权说明 : 本文为转载文章, 版权归原作者所有 版权申明

原文链接 : https://blog.csdn.net/zx77588023/article/details/126202996

内容来源于网络，如有侵权，请联系作者删除！

zookeeperapache云计算大数据虚拟化

相关文章

    查看更多

    热门标签

    更多
    JavaquerypythonNode开发语言requestUtil数据库Table后端算法LoggerMessageElementParser

    最新文章

    更多
    • 蜀ICP备13028337号-1 大数据知识库 https://www.saoniuhuo.com © All rights reserved
    • 本站内容来源互联网,如果侵犯您的权益请联系我们删除, 联系方式：448109455@qq.com