Zookeeper随笔-202003

2021-04-09 11:34:11 浏览数 (1)

Zookeeper

⚡️1、​ 应用场景

?应用场景

代码语言:javascript复制
提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

⚡️2、配置参数解读

?Zookeeper中的配置文件zoo.cfg中参数含义解读

代码语言:javascript复制
## 1、tickTime =2000:
   通信心跳数,Zookeeper服务器与客户端心跳时间,单位毫秒
   Zookeeper使用的基本时间,服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个tickTime时间就会发送一个心跳,时间单位为毫秒。
   它用于心跳机制,并且设置最小的session超时时间为两倍心跳时间。(session的最小超时时间是2*tickTime)

## 2、initLimit =10:
   LF初始通信时限,集群中的Follower跟随者服务器与Leader领导者服务器之间初始连接时能容忍的最多心跳数(tickTime的数量),用它来限定集群中的Zookeeper服务器连接到Leader的时限。

## 3、syncLimit =5:
   LF同步通信时限,集群中Leader与Follower之间的最大响应时间单位,响应超过syncLimit * tickTime,Leader认为Follwer死掉,从服务器列表中删除Follwer。

## 4、dataDir:
   主要用于保存Zookeeper中的数据。

## 5、clientPort =2181:客户端连接端口
   监听客户端连接的端口。

⚡️3、Zookeeper内部原理

1、选举机制

代码语言:javascript复制
1、半数机制:集群中半数以上机器存活,集群可用。所以Zookeeper适合安装奇数台服务器。
2、Zookeeper虽然在配置文件中并没有指定Master和Slave。但是,Zookeeper工作时,是有一个节点为Leader,其他则为Follower,Leader是通过内部的选举机制临时产生的。

?举例

代码语言:javascript复制
## 假设有五台服务器组成的Zookeeper集群,它们的id从1-5,它们都是最新启动的,没有历史数据,在存放数据量这一点上,都是一样的且这些服务器依序启动
1、服务器1启动,此时只有它一台服务器启动了,它发出去的报文没有任何响应,所以它的选举状态一直是LOOKING状态。
2、服务器2启动,它与最开始启动的服务器1进行通信,互相交换自己的选举结果,由于两者都没有历史数据,所以id值较大的服务器2胜出,但是由于没有达到超过半数以上的服务器都同意选举它(这个例子中的半数以上是3),所以服务器1、2还是继续保持LOOKING状态。
3、服务器3启动,根据前面的理论分析,服务器3成为服务器1、2、3中的老大,而与上面不同的是,此时有三台服务器选举了它,所以它成为了这次选举的Leader。
4、服务器4启动,根据前面的分析,理论上服务器4应该是服务器1、2、3、4中最大的,但是由于前面已经有半数以上的服务器选举了服务器3,所以它只能接收当小弟的命了。
5、服务器5启动,同4一样当小弟。

2、节点类型

? 节点类型:持久型、短暂型

代码语言:javascript复制
## 持久化目录节点
客户端与Zookeeper断开连接后,该节点依旧存在
## 持久化顺序编号目录节点
客户端与Zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号

## 临时目录节点
客户端与Zookeeper断开连接后,该节点被删除
## 临时顺序编号目录节点
客户端与Zookeeper断开连接后,该节点被删除,只是Zookeeper给该节点名称进行顺序编号。

?说明:

代码语言:javascript复制
创建znode时设置顺序标识,znode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护。
在分布式系统中,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序。

3、Stat结构体

代码语言:javascript复制
1、czxid-创建节点的事务zxid
每次修改ZooKeeper状态都会收到一个zxid形式的时间戳,也就是ZooKeeper事务ID。
事务ID是ZooKeeper中所有修改总的次序。每个修改都有唯一的zxid,如果zxid1小于zxid2,那么zxid1在zxid2之前发生。
2、ctime - znode被创建的毫秒数(从1970年开始)
3、mzxid - znode最后更新的事务zxid
4、mtime - znode最后修改的毫秒数(从1970年开始)
5、pZxid-znode最后更新的子节点zxid
6、cversion - znode子节点变化号,znode子节点修改次数
7、dataversion - znode数据变化号
8、aclVersion - znode访问控制列表的变化号
9、ephemeralOwner- 如果是临时节点,这个是znode拥有者的session id。如果不是临时节点则是0。
10、dataLength- znode的数据长度
11、numChildren - znode子节点数量

4、监听原理

?监听原理详解

代码语言:javascript复制
1、首先要有一个main()线程
2、在main线程中创建Zookeeper客户端,这时就会创建两个线程,一个负责网络连接通信(connet),一个负责监听(listener)。
3、通过connect线程将注册的监听事件发送给Zookeeper。
4、在Zookeeper的注册监听器列表中将注册的监听事件添加到列表中。
5、Zookeeper监听到有数据或路径变化,就会将这个消息发送给listener线程。
6、listener线程内部调用了process()方法。

?常见的监听

代码语言:javascript复制
## 监听节点数据的变化
get path [watch]

## 监听子节点增减的变化
ls path [watch]

5、写数据流程

?写数据流程

代码语言:javascript复制
1、Client 向 ZooKeeper 的 Server1 上写数据,发送一个写请求。
2、如果Server1不是Leader,那么Server1 会把接受到的请求进一步转发给Leader,因为每个ZooKeeper的Server里面有一个是Leader。这个Leader 会将写请求广播给各个Server,比如Server1和Server2,各个Server写成功后就会通知Leader。
3、当Leader收到大多数 Server 数据写成功了,那么就说明数据写成功了。如果这里三个节点的话,只要有两个节点数据写成功了,那么就认为数据写成功了。写成功之后,Leader会告诉Server1数据写成功了。
4、Server1会进一步通知 Client 数据写成功了,这时就认为整个写操作成功。

⚡️ 4、分布式部署

1、安装步骤

代码语言:javascript复制
## 在master、slave1、slave2上安装ZooKeeper
## 解压安装包、配置环境变量
## 在/usr/zookeeper目录下创建zkData文件夹
mkdir /usr/zookeeper/zkData
## 在/usr/zookeeper/zkData目录下创建myid文件
touch /usr/zookeeper/zkData/myid
## 在myid中添加server序号,序号随意起,但是每台节点的序号不能相同
echo "1" >> /usr/zookeeper/zkData/myid
## 文件分发
xsync myid
## 去另外两台节点上修改myid
echo "2" >> /usr/zookeeper/zkData/myid
echo "3" >> /usr/zookeeper/zkData/myid

?配置zoo.cfg文件

代码语言:javascript复制
## 重命名/usr/zookeeper/conf这个目录下的zoo_sample.cfg为zoo.cfg
mv zoo_sample.cfg zoo.cfg

## 修改数据存储路径配置
dataDir=/usr/zookeeper/zkData

## 增加配置
#######################cluster##########################
server.1=master:2888:3888
server.2=slave1:2888:3888
server.3=slave2:2888:3888

## 同步分发zoo.cfg配置文件
xsync zoo.cfg

## 去每台节点上分别启动zookeeper
zkServer.sh start

?zoo.cfg配置文件中参数解读​

代码语言:javascript复制
server.A=B:C:D
A是一个数字,表示这个是第几号服务器;
集群模式下配置一个文件myid,这个文件在dataDir目录下,这个文件里面有一个数据就是A的值,Zookeeper启动时读取此文件,拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server
B是这个服务器的ip地址
C是这个服务器与集群中的Leader服务器交换信息的端口
D是选举Leader时各服务器间的通信端口

0 人点赞