彻底搞懂etcd raft选举、数据同步

 

etcd raft选举机制

etcd 是一个分布式的k/V存储系统。核心使用了RAFT分布式一致性协议。一致性这个概念，它是指多个服务器在状态达成一致，但是在一个分布式系统中，因为各种意外可能，有的服务器可能会崩溃或变得不可靠，它就不能和其他服务器达成一致状态。这样就需要一种Consensus协议，一致性协议是为了确保容错性，也就是即使系统中有一两个服务器当机，也不会影响其处理过程。

为了以容错方式达成一致，我们不可能要求所有服务器100%都达成一致状态，只要超过半数的大多数服务器达成一致就可以了，假设有N台服务器，N/2 +1 就超过半数，代表大多数了。

raft协议核心要点：

• Leader选举（Leader Election）

• 日志同步 （Log Replication）

  • leader收到client的更新请求后，会讲更新的内容同步给所有follower。

• 集群状态的正确性 （Safety）

  • 保证日志的一致性
  • 保证选举的正确性

服务器状态：

• leader
  处理所有客户端交互，日志复制等，一个任期只有一个。

• follower
  完全被动的选民，是只读的。

• candidate
  候选人，可以被选举为新领导。

状态之间的转换：

 

 

任期（terms）

 

如上图，蓝色代表 Election 模式，绿色代表 Operation 模式

• 在每个任期内最多一个leader
• 有些可能没有leader
• 每一个服务会维护当前的任期值
  • 每一个rpc请求中都会携带term值
  • 如果一个peer实例拥有老的term值，则更新为最新的term值并状态变为follower
• 一旦一个服务选举为leader，就会进入 operation 模式

Leader选举

etcd服务启动后，会进入 follower 状态，leader 心跳超时后会进入选举状态。
选举总体流程图如下：

 

 

选举流程分解

• 初始状态都是Follower

  
  
   

  

• S1 超时, 变为Candidate，开始选举, 发起投票请求

  
  
   

  

• S1 变为Leader

  • S2 和 S3 同意投票给S1

    
    
     

    

• Leader S1开始接受客户端写请求

  • Leader接受到客户端写请求后，会将数据更新写入到log中
  • 如果S2和S3收到客户端写请求，会将请求转发到Leader S1
  • Leader会异步的将更新的log同步到Follower S2和S3

  • 超过多数的Follower将数据成功同步到log后，Leader会将该条数据更新为Committed状态，Committed index会随着增长。

    
    
     

    
    
    
     

    

---

选举的正确性

1. 在每一任期内，最多允许一个服务被选举为leader
   • 在一个任期内，一个服务只能投一票
   • 只有获得大多数投票才能作为leader
2. 如果有多个candidate，最终一定会有一个被选举为leader
   • 如果多个candidate同时发起了选举，导致都没有获得大多数选票时，每一个candidate会随机等待一段时间后重新发起新一轮投票（一般是随机等待150-300ms）

日志的一致性

1. 客户端写入数据到 leader：
   • leader 将数据写入到 log
   • leader将更新的数据广播到所有的followers
   • 多数follower成功写入log后，leader会将该数据提交到状态机
     • leader 把数据提交后，返回给client结果
     • 在下一个心跳中，leader 通知follower更新已经提交的数据
2. Crashed/slow followers ？
   • leader会一直重试同步数据到follower，直到成功