理解Zab协议

背景

Zab的论文难读的一批,写篇blog帮助自己理解。ZooKeeper是一个云计算协调服务,并为其他的应用提供基本的同步和集群服务。ZooKeeper的核心是一个原子广播协议,为节点提供选举,同步和leader广播功能。

Zab 实现条件

  1. 属性确保
  • Reliable delivery

    If a message, m, is delivered by one server, it will be eventually delivered by all servers.

  • Total order

    If a message is delivered before message b by one server, a will be delivered before b by all servers. If a and b are delivered messages, either a will be delivered before b or b will be delivered before a.

  • Causal order

    If a message b is sent after a message a has been delivered by the sender of b, a must be ordered before b. If a sender sends c after sending b, c must be ordered after b.

  1. 一个集群的大部分节点都应该在正常运行状态
  2. 假如一个节点出现了崩溃情况,那么应该立刻重启

实现

  • 为了保证高性能,ZooKeeper需要能处理多个未完成的状态变化的client请求。同时提交的操作根据FIFO顺序进行处理。相比之下,不能同时处理多个transaction。

  • 附加的ZooKeeper性能需求:(a)低延时 (b)突发条件下的高可用性(c)平滑的错误处理

  • client可以从Zab的任意一个节点读取和写入数据

  • zixd 是实现 Total order 的关键,一个transation 的 zxid z = <e, c>

    e 是 epoch ,e.epoch = e, z.counter = c\langle e, c\rangle \prec_{z}\left\langle e^{\prime}, c^{\prime}\right\rangle 表明, e<e^{\prime} or if e=e^{\prime} and c<c^{\prime} .

  • − history: a log of transaction proposals accepted;

    − acceptedEpoch: the epoch number of the last NEWEPOCH message accepted;

    − currentEpoch: the epoch number of the last NEWLEADER message accepted;

    − lastZxid: zxid of the last proposal in the history;

  • Zab使用的是一种类似二阶段提交协议的算法。Phase 0,每个节点都处于 state election,每个节点检查自身的票并决定是否转变为一个follower或leader。leader负载在Phase3协调其他节点并广播消息。而Phase 1和Phase 2对于状态一致和奔溃恢复非常重要。Phase的任何阶段出现超时和失败,都可以重新进行leader election。

  • 协议的四个阶段:

    • Phase 0: Leader election
    • Phase 1: Discovery
    • Phase 2: Synchronizaion
    • Phase 3: Broadcast
zab_summary.png
  • Phase 0: Leader election: 节点初始阶段,即 state election。无需使用特定的选举算法,选举出leader后,将投票存储在本地的内存中。称之为 prospective leader,只有在Phase 3开始时,prospective leader才会有用。

  • Phase 1: Discovery: followerprospective leader 通讯,leader 收集到最近follower接受到的transaction,以便建立新的 epoch

phase_discovery.png
  • Phase 2: Synchronization: 该阶段决定了一部分的恢复协议,leader将上一epoch的最新history复制给其他follower。当回复的follower到了一个法定投票数Q后,leader发送commit给follower。这时,leader可以称为established
phase_synchronization.png
  • Phase 3: Broadcast:如果没有崩溃发生,节点无限期处于这个阶段。一旦ZooKeeper发出写请求,立刻执行事务广播。开始时,Q应该是一致的,且不会有多个leader,同时也允许新的follower假如
phase_broadcast.png
  • 处于 Phase 1-3的leader,需要不断接收来着follower的心跳,一旦一段时间内没有收到Q数量的心跳,则重新进入Phase 1阶段。

  • Fast Leader Election (FLE)是默认实现,它的实现和raft类似。是在Q数量的follower找到一个有最新history的进程。这样Phase 1时,可以直接跳过。

implemented_protocal.png
  • 恢复协议更像是Phase 2而不是Phase 1,Follower连接上leader发生最新的zxid给leader,然后leader决定如何同步该follower的 history。但是不同点在于,follower可以中止某些transaction在接收到TRUNC消息时,或者接收到DIFF消息后,接收来着leader的新提案。这个实现包含了一些之前没有的变量。
recovery_phase.png
  • Fast Leader Election:
    • DeduceLeader(id): 推断并设置对方是FOLLOWING还是LEADING状态
    • Put(Table(id), vote, round): Table的映射值为 key: id -> (vote, round, version), version 是一个正整数 i 表明当前是第几轮投票。 设 (v, r, i) 是上一轮的version值(初始化 (v, r, i)=(\perp, \perp, \perp) ), version : =1 假如 r \neq round,则version : =i+1.
    • Notifications Receiver, 与协议并行的线程,主要接收其他节点Q的通知,并通过队列转发到FLE上,并将协议的有关投票情况转发到其他的Q节点上去。
notif_recv_thread.png
fast_leader_election.png

Reference

ZooKeeper’s Atomic Broadcast Protocol: Theory and practice
Zab: High-performance broadcast for primary-backup systems

Architecture of ZAB – ZooKeeper Atomic Broadcast protocol

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,454评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,553评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,921评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,648评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,770评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,950评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,090评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,817评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,275评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,592评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,724评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,409评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,052评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,815评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,043评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,503评论 2 361
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,627评论 2 350

推荐阅读更多精彩内容