请选择 进入手机版 | 继续访问电脑版

[分布式系统] paxos made simple 翻译 中文版

计算机科学 计算机科学 4024 人阅读 | 0 人回复

https://www.microsoft.com/en-us/research/publication/paxos-made-simple/?from=https://research.microsoft.com/en-us/um/people/lamport/pubs/paxos-simple.pdf&type=exact

使Paxos变简单

摘要 Paxos算法,用英语说明时,变得非常简单。

1 介绍

人们一直认为,用于实现容错分布式系统的Paxos算法难以理解,可能是因为最初的演示文稿对许多读者来说是希腊文.事实上,它是分布式算法中最简单,最有效的方法之一。

它的核心是共识算法。

下一节将说明这种共识算法几乎不可避免地遵循了我们希望它满足的特性。

最后一部分介绍了完整的Paxos算法,该算法是通过将共识直接应用于构建分布式系统的状态机方法而获得的,这种方法应该是众所周知的,因为它是有关分布式系统理论的最常被引用的文章的主题。

2 共识算法

2.1 问题

假设有一个可以提出值的进程的集合。

共识算法确保只有一个提出的值被选中。如果没有值被提出,则没有值应该被选中。如果一个值被选中,那么所有过程应该能够 learn被选中的值。共识需要满足以下要求:

  • 只有被提出的值才可以被选中
  • 被选中的只有一个值
  • 除非一个值真正地被选中,否则某个进程不会去 learn这个值。

我们不会尝试指定精确的活动要求,然而,目标是确保最终存在一个值被选定。并且当一个值被选定时,进程最终会 learn到这个值。我们在共识算法中定义了三种角色:

  • proposers
  • acceptors
  • learners

在算法的实现中,某个进程可能同时担任多个角色,但是在这里不讨论角色到进程的映射关系

假设角色之间通过发送消息进行通信。我们使用异步,非拜占庭模型:

  • 角色以任意的速度执行,可能由于停止而宕掉,可能会重启。所有的角色可能在一个值被选中之后宕掉重启。除非宕掉再重启的角色可以记住某些信息,否则等重启后无法确定被选定的值。
  • 消息可能要花很长时间才能被交付,可能会复制可能会丢失,但是都没有关系。

2.2 选择一个值

最简单的方式是存在单个的 acceptor角色然后选择一个值。

一个 proposer发送一个 proposalacceptoracceptor选择它接收到的第一个 proposal的值。尽管简单,但是这种解决方案不能满足要求,因为如果 acceptor宕掉将会使未来的步骤无法继续(单点故障)。

所以,让我们尝试另外一种方式选择一个值。使用多个 acceptor角色代替单个 acceptor

一个 proposer发送一个 proposal值到 acceptor角色的集合。acceptor可能会接受 proposal的值。 当足够多的 acceptor接受了该值,则说明这个值被选择了。

足够多是多少呢?

为了确保只有一个值被选择。我们可以让足够多数量的一组包含任何大多数角色。

因为任何两个足够多数量的组都至少有一个共同的接受者,所以如果一个接受者最多可以接受一个值,则此方法有效。

在没有失败或消息丢失的情况下,如果只有一个值由单个的 proposer提出,我们想要这个值被选择,需要满足以下要求:

P1 :任何 acceptor必须接受它收到的第一个 proposal

只有一个单个的proposer,如果你不接受它,肯定是无法达成目标的,没人提议如何达成?所以需要满足P1

但是这个要求会出现一个问题。 如果在同一时间有多个不同的 proposer提出多个值,将会导致这种状态:

每一个 acceptor将会接受到一个值,但是不存在一个被大多数成员接受的值。即使只提出了两个值。如果每一个都由一半的 acceptor接受,当一个 acceptor宕掉后,将无法确定哪一个值被选择。

P1被大多数的 acceptor接受的值才能被选择 ,这两个要求隐性说明了每一个 acceptor都必须可以接受多个值。

我们通过为每个 proposal分配一个(自然)编号来跟踪接受者可以接受的不同提案,那么每一个 proposal将由一个 proposal序号和一个值组成。为了避免冲突,我们要求不同的 proposal所含有的 proposal序号都是不同的。

如何做到这一点取决于实现方法。现在我们只是假设。

当一个 proposal的值被大多数 acceptor接受,那么该值说明被选择。这种情况下,我们说该 proposal被选择。 我们允许多个 proposal被选择。但是需要保证所有被选择的 proposal具有相同的值。通过对 proposal编号的归纳,足以保证:

P2如果一个值为vproposal被选择,那么被选择的比该 proposal编号大的 proposal具有相同的值v

由于数字是完全有序的,因此条件P2保证了仅选择一个值的关键安全性。 一个 proposal要被选择,建议必须至少由一个 acceptor接受。 因此,我们可以通过满足以下条件来满足P2:

P2a如果一个值为vproposal被选择。那么由任意的 acceptor接受的被选择的比该 proposal编号大的 proposal具有相同的值v

我们始终保证P1 来确保一些 proposal被选择。因为通信是异步的。一个 proposal可以被一些从没有接受到任何 proposalacceptorc 选择。假设一个新的 proposer刚刚启动就接受到一个高编号的且值不同的 proposalP1 则要求c 接受该 proposal,因此不满足要求P2a .维持P1P2a需要加强P2a 为:

P2b :如果一个值为vproposal被选择,那么每一个由任意的 proposer提出的编号高的 proposal都具有相同的v

由于一个 proposal都需要在被任意 acceptor接受之前都由 proposer提出,因此满足了要求P2b ,就满足了要求P2a ,所以也就满足了P2 。 为了发现如何满足要求P2b ,让我们考虑一下如何证明它成立。我们假设被选择的 proposal具有编号m 与值v 并且表明证明任何发布的编号为n >mproposal也具有值v 。我们可以通过对n 进行归纳来简化证明,因此可以证明 proposal编号n 在值v 的附加假设下每个提案编号都在m ..(n −1)区间内并且值为v ,其中i..j 表示从ij 的一组数字。为了选择编号为mproposal,必须有一些由大多数 acceptor组成的集合C ,以便C 中的每个 acceptor都接受它。将其与归纳假设相结合,选择m 的假设就意味着: C 中的每个 acceptor都接受了一个编号为m ..(n-1 )的 proposal,并且任何 acceptor接受的每个编号为m ..(n-1 )的 proposal都具有值v 。 由大多数成员组成的集合s ,至少包括一个C 中的成员。我们可以通过确保以下不变式得出结论:编号为nproposal具有值v .

P2c :对于任何值vn ,如果一个 proposal具有编号n 和值v ,那么由主要 acceptor组成的集合满足以下其中一个条件:

  • **S 中的 acceptor不会接受任何编号小于 nproposal
  • **S 中的 acceptor接受的最大编号的 proposal的值为 v

因此满足了P2c 的不变式即满足了P2b . 为了维持P2c 的不变式,proposer想要提出一个编号为nproposal必须 learn(如果有的话)已被或将要被大多数 acceptor中的每个 acceptor接受的编号小于n 的最高编号的 proposal。了解已经接受的 proposal很容易;预测未来是否会被接受很难。proposer没有试图预测未来,而是通过提取不会有任何此类接受的承诺来控制未来。换句话说,proposer要求 acceptor不接受任何其他编号小于nproposal。 推导出以下用于发布提案的算法:

  • 一个 proposal选择编号为nproposal并发送请求到包括半数以上个 acceptor的集合,并要求得到以下其中一个回应:

    1. 一个不会接受编号值小于nproposal的承诺。
    2. 如果 acceptor已经接受过 proposal,则响应已接受的小于编号n 的最大编号的 proposal 将该请求称为编号为nprepare请求。
  • 如果 proposer接受到大部分 acceptor的请求响应,那么可以提出一个编号为n 且值为vproposal。这里的v 是请求响应中编号最高的 proposal中的值。或者如果响应中没有任何 proposal,那么该值将由 proposer自由选择。 proposer通过发送 proposal到包括半数以上个 acceptor集合(需要与起初的请求集合不是同一个),并期望接受该请求。将该请求称为 accept请求。

    这里描述的是关于 proposer的算法。关于 acceptor呢?acceptor可以从 proposer接收两种类型的请求:prepareaccept请求。acceptor可以忽略任何请求而不会影响安全性。 因此,我们仅需说何时才允许响应请求。它总是可以响应 prepare请求。 如果它没有答应不接受,它可以响应 accept请求,接受 proposal。 换一种说法:

    P1a :如果 acceptor没有响应编号大于nprepare请求那么可以接收一个编号为nproposal 观察到P1a 包含P1 。 我们现在拥有了一个完整的算法选择一个满足安全性要求的值-通过假设一个唯一的 proposal编号。最终算法通过一个小的优化获得。 假设 acceptor收到编号为nprepare请求.但是已经响应过一个编号值大于nprepare请求。因此承诺不会接受任何编号为n 的新的 proposal请求。这样,acceptor就没有理由响应新的 prepare请求,因为它不会接受 proposer想要发出的编号为nproposal。 因此,我们让 acceptor忽略这样的 prepare请求。 我们也可以忽略它已经接受的 proposalprepare请求。 通过这种优化,接受者只需要记住它曾经接受的编号最高的 proposal以及它已响应的编号最高的 prepare请求的数量。无论如何失败,P2c 也必须保持不变,所以即使失败,接受者也必须记住该信息,然后重新启动。 请注意,只要 proposer从不尝试发布具有相同编号的另一个 proposal,它总是可以放弃该 proposal并将其遗忘。 将 proposeracceptor的动作放在一起,我们看到该算法在以下两个阶段中运行:

阶段一

  1. proposer选择一个编号为nproposal并发送编号为nprepare请求到大多数的 acceptor
  2. 如果 acceptor接受了编号为nprepare请求,并且编号n 比接受到的任何 prepare请求的编号都要大,那么将会响应它接受到的编号最大的 proposal(如果有的话)到 proposer并且承诺不再接受任何编号小于nproposal

阶段二

  1. 如果 proposer从大多数的 acceptor接受到编号为n 的请求响应。那么将会发送编号为n 且值为vaccept请求到接受 prepare请求的每一个 acceptor。这里的v 是所有 prepare响应中编号最大的响应中的值。或者当 prepare响应中没有 proposal时,该值由自己选择。

  2. 如果 acceptor接收到编号为naccept请求,除非它已经响应了一个编号大于nprepare请求,否则它将接受该 proposal

    一个 proposer可以提出多个 proposal,只要它遵循每个 proposal的算法即可。 它可以随时在协议中间放弃 proposal。(即使 proposal的请求和/或响应可能在 proposal被放弃很长时间后到达目的地,也可以保持正确性。)如果某个 proposer已经开始尝试发布编号更大的 proposal,那么放弃 proposal可能是一个好主意。因此,如果某个 acceptor忽略了 prepare或者是 accept请求,那是因为已经接受了一个编号更大的 prepare请求。所以 acceptor应该通知 proposer放弃它的 proposal。这是对性能的优化并且不会影响正确性。

2.3 learn一个被选择的值

learner必须发现一个被大多数 acceptor接受的 proposal,才能 learn被选择的值。最明显的算法是让每个 acceptor在接受 proposal时对所有 learner做出回应,向他们发送 proposal。这使 learner能够尽快发现所选的值,但是它要求每个 acceptor对每个 learner做出回应-回应的数量等于 acceptor数量与 learner数量的乘积。 非拜占庭式失败的假设使一个 learner很容易从另一个 learner那里发现一个值已经被接受。我们可以让 acceptor以他们的接受来回应一个特别的 learner,当选择了一个值时,后者又会通知其他 learner。这种方法需要所有 learner进行额外的一轮努力才能发现所选的值。它也不太可靠,因为特别的 learner可能会失败。但是,它需要的响应数量仅等于 acceptor数量和 learner数量之和。

更一般而言,acceptor可以用他们对某些特别的 learner的接受做出响应,然后当选择了某个值时,每个 learner都可以通知所有 learner。使用更多的特别的 learner以更高的通信复杂性为代价提供更高的可靠性。 由于消息丢失,一个值的被选择可能会没有 learner会发现。learner可以向 acceptor询问他们接受了哪些 proposal,但是 acceptor的失败可能使得无法知道大多数人是否接受了特定 proposal。在这种情况下,learner只有在选择新 proposal时才能发现什么值被选择。 如果 learner需要知道是否一个值被选择,则可以使用上述算法让 proposer发布 proposal

2.4 流程

很容易构造这样一个场景,在该场景中,两个 proposer各自不断发布数量越来越多的 proposal序列,而从未选择过一个。

proposerp 完成阶段1的编号为n1proposal。 然后,另一个 proposerq 完成阶段1的编号n2>n1proposalproposerp 的第2阶段编号为n1proposal请求被忽略,因为 acceptor都承诺不接受任何编号少于n2 的新 proposal。 因此,proposerp 又开始以编号为n3>n2proposal进行阶段1,导致阶段2 proposerq 的请求被忽略,并一直持续下去。 为了保证进度,必须选择特别的 proposer作为尝试发布 proposal的唯一 proposer。 如果特别的 proposer可以与大多数 acceptor成功通信,并且使用的 proposal编号大于已使用的 proposal的编号,那么它将成功发布被接受的 proposal。 并在得知某个 proposal具有更高 proposal编号的请求后通过放弃 proposal再试一次,特别的 proposer最终将选择足够高的 proposal编号。 如果系统(proposeracceptor和通信网络)能够正常工作,那么可以通过选举一个特别的 proposer来实现活跃性。 Fischer,Lynch和Pattererson的著名成果表明,一种可靠的选择 proposer的算法必须使用随机性或实时性,例如使用超时。但是,无论选举成功与否,都会确保安全。

2.5 实现

Paxos算法假设网络的进程。在其共识算法中,每个进程都扮演着 proposeracceptorlearner的角色。

该算法选择一个 leader,该 leader同时扮演特别的 proposer与特别的 learner。Paxos共识算法正是上述算法,其中请求和响应作为普通消息发送。(响应消息带有相应的 proposal编号,以防止混淆。)在故障期间保留的稳定存储用于维护 acceptor必须记住的信息。

acceptor在实际发送响应之前将其预期的响应记录在稳定的存储中。 剩下的就是描述如何保证没有两个 proposal编号相同的机制。 不同的 proposer从不相交的数字集中选择他们的数字,因此两个不同的 proposer从不发布具有相同编号的 proposal。 每个 proposer(在稳定的存储中)都会记住尝试发布的编号最高的 proposal,并从第1阶段开始使用比其已经使用过的 proposer编号更高的 proposer编号。

3 状态机的实现

实现分布式系统的一种简单方法是作为向中央服务器发出命令的客户端的集合。 服务器可以描述为以某种顺序执行客户端命令的确定性状态机。状态机具有当前状态。它通过将命令作为输入并产生输出和新状态来执行步骤。 例如 分布式银行系统的客户可能是柜员,并且状态机状态可能由所有用户的帐户余额组成。 提现将通过执行状态机命令来执行,该命令会在且仅当余额大于提款金额时才减少帐户的余额,并产生旧余额和新余额作为输出。

如果单个中央服务器发生故障,则该服务器的实施将失败。因此,我们改为使用服务器的集合,每个服务器独立实现状态机。 因为状态机是确定性的,所以如果所有服务器都执行相同的命令序列,则所有服务器将产生相同的状态序列和输出。然后,发出命令的客户端可以使用任何服务器为其生成的输出。

为了确保所有服务器执行相同的状态机命令序列,我们实现了Paxos共识算法的不同实例序列,第i个实例选择的值是序列中的第i个状态机命令。每个服务器在算法的每个实例中扮演所有角色(proposeracceptorlearner)。现在,假设服务器组是固定的,因此共识算法的所有实例使用相同的角色。

在正常操作中,将选择一台服务器作为 leader,在共识算法的所有实例中均充当特别的 proposer(尝试发布 proposal的唯一的 proposer)。 客户将命令发送给 leaderleader决定每个命令应出现的顺序。如果 leader确定某个客户命令应为第135个命令,则它将尝试选择该命令作为共识算法的第135个实例的值。通常会成功。 它也可能由于故障而失败,或者因为另一台服务器也认为自己是 leader并且认为另一条客户端命令应该为第135条命令。但是共识算法确保最多可以选择一个命令作为第135个命令。

这种方法的效率的关键在于,在Paxos共识算法中,直到第2阶段才选择要提出的值。回想一下,在完成 proposer算法的第1阶段之后,要么确定了要提出的值,要么提议者可以自由提出任何价值。

现在,将描述Paxos状态机实现在正常操作期间如何工作。稍后,将讨论可能出问题的地方。 考虑当前任 leader刚刚失败并选择了新 leader时会发生什么。(系统启动是一种特殊情况,其中尚未提出任何命令。)

新的 leader,在共识算法的所有情况下都是 learner,应该知道已经选择的大多数命令。 假设它知道命令1–134、138和139,即共识算法实例1–134、138和139中选择的值。(将在后面看到如何在命令序列中出现这样的间隙.)然后,它执行实例135-137和大于139的所有实例的阶段1。(在下面描述如何做到这一点.)假设这些执行确定了在实例135和140中要提出的值,但在所有其他情况下都不受约束。领导者然后对实例135和140执行阶段2,从而选择命令135和140。

leader以及 learn``leader知道的所有命令的任何其他服务器现在可以执行命令1–135。但是,它无法执行它也知道的命令138-140,因为尚未选择命令136和137。leader可以将客户请求的下两个命令作为命令136和137。相反,我们通过建议一个特殊的 no-op命令作为命令136和137,使状态保持不变,从而立即填补了空白。(这是通过执行共识算法实例136和137的阶段2来完成的。)一旦选择了这些 no-op命令,就可以执行命令138-140。

现在已选择命令1–140。leader还已经为大于共识算法140的所有实例完成了阶段1,并且可以自由地在那些实例的阶段2中提出任何值。它将命令号141分配给客户端请求的下一个命令,并建议将其作为共识算法实例141的阶段2中的值。 它提出了接收到的下一个客户端命令作为命令142,依此类推。

leader可以在获悉已选择其提出的命令141之前提出命令142。 它在提议命令141中发送的所有消息都可能丢失,并且有可能在任何其他服务器了解 leader作为命令141提出的建议之前选择命令142。当 leader未能收到在实例141中的消息对其阶段2的预期响应时,它将重传那些消息。如果一切顺利,将选择其建议的命令。但是,它可能失败,从而在选择的命令序列中留下空白。通常,假设 leader可以提前获得α命令-也就是说,在选择命令 1i之后,它可以提出命令 i+1i+α。最多可能会出现 α-1命令的间隔。

对于实例135-137和大于139的所有实例,新选择的 leader在上面的方案中使用共识算法执行第1阶段的次数不限。它对所有实例使用相同的编号,可以通过向其他服务器发送一条合理的短消息来实现此目的。在阶段1中,只有在 acceptor已经从某个 proposer那里收到阶段2消息的情况下,接受者才用简单的OK做出响应.(仅对于实例135和140是这种情况.)因此,服务器(充当 acceptor)可以使用单个合理的短消息对所有实例进行响应。 因此,执行这些无限多个阶段1实例不会带来任何问题。

由于 leader失败选举新 leader的情况很少见,因此执行状态机命令的有效成本(即,对命令/值达成共识)是仅执行共识算法第二阶段的成本。可以证明,存在故障时达成共识的任何算法的最小可能成本在Paxos共识算法的第2阶段。 因此,Paxos算法本质上是最佳的。

对系统正常运行的讨论假定只有一个 leader,除了在当前 leader失败和选举新 leader之间的短暂时间之外。 在异常情况下,leader选举可能会失败。如果没有服务器充当 leader,则不会提出新命令。如果多个服务器认为自己是 leader,则它们都可以在同一共识算法实例中提出值,这可能会阻止选择任何值。但是,安全性得以保留-两个不同的服务器将永远不会在选择作为第i个状态机命令的值上发生分歧。仅选举一位 leader才能确保取得进展。

如果服务器组可以更改,则必须采用某种方法确定哪些服务器实现共识算法的哪些实例。最简单的方法是通过状态机本身。 当前服务器集可以成为状态的一部分,并且可以通过普通的状态机命令进行更改。我们可以允许 leader提前获得 α命令,通过让执行第 i个状态机命令后的状态指定执行共识算法的实例 i+α的服务器集。这允许任意复杂的重新配置算法的简单实现。

关注下面的标签,发现更多相似文章

文章被以下专栏收录:

    黄小斜学Java

    疯狂的字节X

  • 目前专注于分享Java领域干货,公众号同步更新。原创以及收集整理,把最好的留下。
    包括但不限于JVM、计算机科学、算法、数据库、分布式、Spring全家桶、微服务、高并发、Docker容器、ELK、大数据等相关知识,一起进步,一起成长。
热门推荐
海康摄像头接入 wvp-GB28181-pro平台测试验
[md]### 简介 开箱即用的28181协议视频平台 `https://github.c
[若依]微服务springcloud版新建增添加一个
[md]若依框架是一个比较出名的后台管理系统,有多个不同版本。
[CXX1300] CMake '3.18.1' was not
[md][CXX1300] CMake '3.18.1' was not found in SDK, PATH, or