1
0
mirror of https://github.com/Snailclimb/JavaGuide synced 2025-06-16 18:10:13 +08:00

[docs]:add raft

This commit is contained in:
谢其骏 2022-01-27 12:01:40 +08:00
parent c25ab9c804
commit 39fd96fe36
3 changed files with 156 additions and 4 deletions

View File

@ -1,4 +0,0 @@
# Paxos 算法和 Raft 算法
Paxos 算法诞生于 1990 年,这是一种解决分布式系统一致性的经典算法 。但是,由于 Paxos 算法非常难以理解和实现不断有人尝试简化这一算法。到了2013 年才诞生了一个比 Paxos 算法更易理解和实现的分布式一致性算法—Raft 算法。

View File

@ -0,0 +1,3 @@
# Paxos 算法
Paxos 算法诞生于 1990 年,这是一种解决分布式系统一致性的经典算法 。但是,由于 Paxos 算法在国际上被公认的非常难以理解和实现因此不断有人尝试简化这一算法。到了2013 年才诞生了一个比 Paxos 算法更易理解和实现的分布式一致性算法—[Raft 算法](https://javaguide.cn/distributed-system/%E7%90%86%E8%AE%BA&%E7%AE%97%E6%B3%95/raft%E7%AE%97%E6%B3%95/)。

View File

@ -0,0 +1,153 @@
[TOC]
# Raft 算法
## 1 背景
当今的数据中心和应用程序在高度动态的环境中运行,为了应对高度动态的环境,它们通过额外的服务器进行横向扩展,并且根据需求进行扩展和收缩。同时,服务器和网络故障也很常见。
因此,系统必须在正常操作期间处理服务器的上下线。它们必须对变故做出反应并在几秒钟内自动适应;对客户来说的话,明显的中断通常是不可接受的。
幸运的是,分布式共识可以帮助应对这些挑战。
### 1.1 拜占庭将军
在介绍共识算法之前,先介绍一个简化版拜占庭将军的例子来帮助理解共识算法。
> 假设多位拜占庭将军中没有叛军,信使的信息可靠但有可能被暗杀的情况下,将军们如何达成是否要进攻的一致性决定?
解决方案大致可以理解成:先在所有的将军中选出一个大将军,用来做出所有的决定。
举例如下假如现在一共有3个将军AB和C每个讲解都有一个随机时间的倒计时器倒计时一结束这个将军就把自己当成大将军候选人然后派信使传递选举投票的信息给将军B和C如果将军B和C还没有把自己当作候选人自己的倒计时还没有结束并且没有把选举票投给其他人它们就会把票投给将军A信使回到将军A时将军A知道自己收到了足够的票数成为大将军。在有了大将军之后是否需要进攻就由大将军A决定然后再去派信使通知另外两个将军自己已经成为了大将军。如果一段时间还没收到将军B和C的回复信使可能会被暗示那就再重派一个信使直到收到回复。
### 1.2 共识算法
共识是可容错系统中的一个基本问题:即使面对故障,服务器也可以在共享状态上达成一致。
共识算法允许一组节点像一个整体一样一起工作,即使其中的一些节点出现故障也能够继续工作下去,其正确性主要是源于复制状态机的性质:一组`Server`的状态机计算相同状态的副本,即使有一部分的`Server`宕机了它们仍然能够继续运行。
`图-1复制状态机架构 一致性算法管理来自客户端的状态机命令的复制日志。状态机处理日志中相同顺序的命令序列,因此会输出相同的结果。`
一般通过使用复制日志来实现复制状态机。每个`Server`存储着一份包括命令序列的日志文件,状态机会按顺序执行这些命令。因为每个日志包含相同的命令,并且顺序也相同,所以每个状态机处理相同的命令序列。由于状态机是确定性的,所以处理相同的状态,得到相同的输出。
因此共识算法的工作就是保持复制日志的一致性。服务器上的共识模块从客户端接收命令并将它们添加到日志中。它与其他服务器上的共识模块通信,以确保即使某些服务器发生故障。每个日志最终包含相同顺序的请求。一旦命令被正确地复制,它们就被称为已提交。每个服务器的状态机按照日志顺序处理已提交的命令,并将输出返回给客户端,因此,这些服务器形成了一个单一的、高度可靠的状态机。
适用于实际系统的共识算法通常具有以下特性:
- 安全。确保在非拜占庭条件(也就是上文中提到的简易版拜占庭)下的安全性,包括网络延迟、分区、包丢失、复制和重新排序。
- 高可用。只要大多数服务器都是可操作的,并且可以相互通信,也可以与客户端进行通信,那么这些服务器就可以看作完全功能可用的。因此,一个典型的由五台服务器组成的集群可以容忍任何两台服务器端故障。假设服务器因停止而发生故障;它们稍后可能会从稳定存储上的状态中恢复并重新加入集群。
- 一致性不依赖时序。错误的时钟和极端的消息延迟,在最坏的情况下也只会造成可用性问题,而不会产生一致性问题。
- 在集群中大多数服务器响应,命令就可以完成,不会被少数运行缓慢的服务器来影响整体系统性能。
## 2 基础
### 2.1 节点类型
一个Raft集群包括若干服务器以典型的5服务器集群举例。在任意的时间每个服务器一定会处于以下三个状态中的一个
- `Leader`:负责发起心跳,响应客户端,创建日志,同步日志。
- `Candidate`Leader选举过程中的临时角色由Follower转化而来发起投票参与竞选。
- `Follower`接受Leader的心跳和日志同步数据投票给Candidate。
在正常的情况下只有一个服务器是Leader剩下的服务器是Follower。Follower是被动的它们不会发送任何请求只是响应来自Leader和Candidate的请求。
`图-2服务器的状态`
### 2.2 任期
`图-3任期`
如图3所示raft算法将时间划分为任意长度的任期term任期用连续的数字表示看作当前term号。每一个任期的开始都是一次选举在选举开始时一个或多个Candidate会尝试成为Leader。如果一个Candidate赢得了选举它就会在该任期内担任Leader。如果没有选出Leader将会开启另一个任期并立刻开始下一次选举。raft算法保证在给定的一个任期最少要有一个Leader。
每个节点都会存储当前的term号当服务器之间进行通信时会交换当前的term号如果有服务器发现自己的term号比其他人小那么他会更新到较大的term值。如果一】个Candidate或者Leader发现自己的term过期了他会立即退回成Follower。如果一台服务器收到的请求的term号是过期的那么它会拒绝此次请求。
### 2.3 日志
- `entry`每一个事件成为entry只有Leader可以创建entry。entry的内容为`<term,index,cmd>`其中cmd是可以应用到状态机的操作。
- `log`由entry构成的数组每一个entry都有一个表明自己在log中的index。只有Leader才可以改变其他节点的log。entry总是先被Leader添加到自己的log数组中然后再发起共识请求获得同意后才会被Leader提交给状态机。Follower只能从Leader获取新日志和当前的commitIndex然后把对应的entry应用到自己的状态机中。
## 3 领导人选举
raft使用心跳机制来触发Leader的选举。
如果一台服务器能够收到来自Leader或者Candidate的有效信息那么它会一直保持为Follower状态并且刷新自己的electionElapsed重新计时。
Leader会向所有的Follower周期性发送心跳来保证自己的Leader地位。如果一个Follower在一个周期内没有收到心跳信息就叫做选举超时然后它就会认为此时没有可用的Leader并且开始进行一次选举以选出一个新的Leader。
为了开始新的选举Follower会自增自己的term号并且转换状态为Candidate。然后他会向所有节点发起RequestVoteRPC请求 Candidate的状态会持续到以下情况发生
- 赢得选举
- 其他节点赢得选举
- 一轮选举结束,无人胜出
赢得选举的条件是一个Candidate在一个任期内收到了来自集群内的多数选票`N/2+1`就可以成为Leader。
在Candidate等待选票的时候它可能收到其他节点声明自己是Leader的心跳此时有两种情况
- 该Leader的term号大于等于自己的term号说明对方已经成为Leader则自己回退为Follower。
- 该Leader的term号小于自己的term号那么会拒绝该请求并让该节点更新term。
由于可能同一时刻出现多个Candidate导致没有Candidate获得大多数选票如果没有其他手段来重新分配选票的话那么可能会无限重复下去。
raft使用了随机的选举超时时间来避免上述情况。每一个Candidate在发起选举后都会随机化一个新的枚举超时时间这种机制使得各个服务器能够分散开来在大多数情况下只有一个服务器会率先超市它会在其他服务器超时之前赢得选举。
## 4 日志复制
一旦选出了Leader它就开始接受客户端的请求。每一个客户端的请求都包含一条需要被复制状态机`Replicated State Mechine`)执行的命令。
Leader收到客户端请求后会生成一个entry包含`<index,term,cmd>`再将这个entry添加到自己的日志末尾后向所有的节点广播该entry要求其他服务器复制这条entry。
如果Follower接受该entry则会将entry添加到自己的日志后面同时返回给Leader同意。
如果Leader收到了多数的成功响应Leader会将这个entry应用到自己的状态机中之后可以成为这个entry是committed的并且向客户端返回执行结果。
raft保证以下两个性质
- 在两个日志里有两个entry拥有相同的index和term那么它们一定有相同的cmd
- 在两个日志里有两个entry拥有相同的index和term那么它们前面的entry也一定相同
通过“仅有Leader可以生存entry”来保证第一个性质第二个性质需要一致性检查来进行保证。
一般情况下Leader和Follower的日志保持一致然后Leader的崩溃会导致日志不一样这样一致性检查会产生失败。Leader通过强制Follower复制自己的日志来处理日志的不一致。这就意味着在Follower上的冲突日志会被领导者的日志覆盖。
为了使得Follower的日志和自己的日志一致Leader需要找到Follower与它日志一致的地方然后删除Follower在该位置之后的日志接着把这之后的日志发送给Follower。
`Leader` 给每一个`Follower` 维护了一个 `nextIndex`,它表示 `Leader` 将要发送给该追随者的下一条日志条目的索引。当一个 `Leader` 开始掌权时,它会将 `nextIndex` 初始化为它的最新的日志条目索引数+1。如果一个 `Follower` 的日志和 `Leader` 的不一致,`AppendEntries` 一致性检查会在下一次 `AppendEntries RPC` 时返回失败。在失败之后,`Leader` 会将 `nextIndex` 递减然后重试 `AppendEntries RPC`。最终 `nextIndex` 会达到一个 `Leader``Follower` 日志一致的地方。这时,`AppendEntries` 会返回成功,`Follower` 中冲突的日志条目都被移除了,并且添加所缺少的上了 `Leader` 的日志条目。一旦 `AppendEntries` 返回成功,`Follower``Leader` 的日志就一致了,这样的状态会保持到该任期结束。
## 5 安全性
### 5.1 选举限制
Leader需要保证自己存储全部已经提交的日志条目。这样才可以使日志条目只有一个流向从Leader流向FollowerLeader永远不会覆盖已经存在的日志条目。
每个Candidate发送RequestVoteRPC时都会带上最后一个entry的信息。所有节点收到投票信息时会对该entry进行比较如果发现自己的更新则拒绝投票给该Candidate。
判断日志新旧的方式如果两个日志的term不同term大的更新如果term相同更长的index更新。
### 5.2 节点崩溃
如果Leader崩溃集群中的节点在electionTimeout时间内没有收到Leader的心跳信息就会触发新一轮的选主在选主期间整个集群对外是不可用的。
如果Follower和Candidate崩溃处理方式会简单很多。之后发送给它的RequestVoteRPC和AppendEntriesRPC会失败。由于raft的所有请求都是幂等的所以失败的话会无限的重试。如果崩溃恢复后就可以收到新的请求然后选择追加或者拒绝entry。
### 5.3 时间与可用性
raft的要求之一就是安全性不依赖于时间系统不能仅仅因为一些事件发生的比预想的快一些或者慢一些就产生错误。为了保证上述要求最好能满足以下的时间条件
`broadcastTime << electionTimeout << MTBF`
- `broadcastTime`:向其他节点并发发送消息的平均响应时间;
- `electionTimeout`:选举超时时间;
- `MTBF(mean time between failures)`:单台机器的平均健康时间;
`broadcastTime`应该比`electionTimeout`小一个数量级,为的是使`Leader`能够持续发送心跳信息heartbeat来阻止`Follower`开始选举;
`electionTimeout`也要比`MTBF`小几个数量级,为的是使得系统稳定运行。当`Leader`崩溃时,大约会在整个`electionTimeout`的时间内不可用;我们希望这种情况仅占全部时间的很小一部分。
由于`broadcastTime``MTBF`是由系统决定的属性,因此需要决定`electionTimeout`的时间。
一般来说broadcastTime 一般为 `0.520ms`electionTimeout 可以设置为 `10500ms`MTBF 一般为一两个月。