chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

關(guān)于ZooKeeper知識你知道多少

FPGA之家 ? 來源:FPGA之家 ? 作者:FPGA之家 ? 2022-06-02 09:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

1 ZooKeeper簡介

ZooKeeper 是一個開源的分布式協(xié)調(diào)框架,它的定位是為分布式應(yīng)用提供一致性服務(wù),是整個大數(shù)據(jù)體系的管理員。ZooKeeper 會封裝好復(fù)雜易出錯的關(guān)鍵服務(wù),將高效、穩(wěn)定、易用的服務(wù)提供給用戶使用。

如果上面的官方言語你不太理解,你可以認(rèn)為 ZooKeeper = 文件系統(tǒng) + 監(jiān)聽通知機(jī)制。

1.1 文件系統(tǒng)

bf732914-e20a-11ec-ba43-dac502259ad0.png

Zookeeper維護(hù)一個類似文件系統(tǒng)的樹狀數(shù)據(jù)結(jié)構(gòu),這種特性使得 Zookeeper 不能用于存放大量的數(shù)據(jù),每個節(jié)點(diǎn)的存放數(shù)據(jù)上限為1M。每個子目錄項(xiàng)如 NameService 都被稱作為 znode(目錄節(jié)點(diǎn))。和文件系統(tǒng)一樣,我們能夠自由的增加、刪除znode,在一個znode下增加、刪除子znode,唯一的不同在于znode是可以存儲數(shù)據(jù)的。默認(rèn)有四種類型的znode

  1. 持久化目錄節(jié)點(diǎn) PERSISTENT:客戶端與zookeeper斷開連接后,該節(jié)點(diǎn)依舊存在。
  2. 持久化順序編號目錄節(jié)點(diǎn) PERSISTENT_SEQUENTIAL:客戶端與zookeeper斷開連接后,該節(jié)點(diǎn)依舊存在,只是Zookeeper給該節(jié)點(diǎn)名稱進(jìn)行順序編號。
  3. 臨時目錄節(jié)點(diǎn) EPHEMERAL:客戶端與zookeeper斷開連接后,該節(jié)點(diǎn)被刪除。
  4. 臨時順序編號目錄節(jié)點(diǎn) EPHEMERAL_SEQUENTIAL:客戶端與zookeeper斷開連接后,該節(jié)點(diǎn)被刪除,只是Zookeeper給該節(jié)點(diǎn)名稱進(jìn)行順序編號。

1.2 監(jiān)聽通知機(jī)制

Watcher 監(jiān)聽機(jī)制是 Zookeeper 中非常重要的特性,我們基于 Zookeeper 上創(chuàng)建的節(jié)點(diǎn),可以對這些節(jié)點(diǎn)綁定監(jiān)聽事件,比如可以監(jiān)聽節(jié)點(diǎn)數(shù)據(jù)變更、節(jié)點(diǎn)刪除、子節(jié)點(diǎn)狀態(tài)變更等事件,通過這個事件機(jī)制,可以基于 Zookeeper 實(shí)現(xiàn)分布式鎖、集群管理等功能。

Watcher 特性:

當(dāng)數(shù)據(jù)發(fā)生變化的時候, Zookeeper 會產(chǎn)生一個 Watcher 事件,并且會發(fā)送到客戶端。但是客戶端只會收到一次通知。如果后續(xù)這個節(jié)點(diǎn)再次發(fā)生變化,那么之前設(shè)置 Watcher 的客戶端不會再次收到消息。(Watcher 是一次性的操作)??梢酝ㄟ^循環(huán)監(jiān)聽去達(dá)到永久監(jiān)聽效果。

ZooKeeper 的 Watcher 機(jī)制,總的來說可以分為三個過程:

  1. 客戶端注冊 Watcher,注冊 watcher 有 3 種方式,getData、exists、getChildren。
  2. 服務(wù)器處理 Watcher 。
  3. 客戶端回調(diào) Watcher 客戶端。

bf97b6a8-e20a-11ec-ba43-dac502259ad0.png

監(jiān)聽流程

  1. 首先要有一個main()線程
  2. 在main線程中創(chuàng)建Zookeeper客戶端,這時就會創(chuàng)建兩個線程,一個負(fù)責(zé)網(wǎng)絡(luò)連接通信(connet),一個負(fù)責(zé)監(jiān)聽(listener)。
  3. 通過connect線程將注冊的監(jiān)聽事件發(fā)送給Zookeeper。
  4. 在Zookeeper的注冊監(jiān)聽器列表中將注冊的監(jiān)聽事件添加到列表中。
  5. Zookeeper監(jiān)聽到有數(shù)據(jù)或路徑變化,就會將這個消息發(fā)送給listener線程。
  6. listener線程內(nèi)部調(diào)用了process()方法。

1.3 Zookeeper 特點(diǎn)

bfe4256a-e20a-11ec-ba43-dac502259ad0.png

  1. 集群:Zookeeper是一個領(lǐng)導(dǎo)者(Leader),多個跟隨者(Follower)組成的集群。
  2. 高可用性:集群中只要有半數(shù)以上節(jié)點(diǎn)存活,Zookeeper集群就能正常服務(wù)。
  3. 全局?jǐn)?shù)據(jù)一致:每個Server保存一份相同的數(shù)據(jù)副本,Client無論連接到哪個Server,數(shù)據(jù)都是一致的。
  4. 更新請求順序進(jìn)行:來自同一個Client的更新請求按其發(fā)送順序依次執(zhí)行。
  5. 數(shù)據(jù)更新原子性:一次數(shù)據(jù)更新要么成功,要么失敗。
  6. 實(shí)時性:在一定時間范圍內(nèi),Client能讀到最新數(shù)據(jù)。
  7. 設(shè)計(jì)模式角度來看,zk是一個基于觀察者設(shè)計(jì)模式的框架,它負(fù)責(zé)管理跟存儲大家都關(guān)心的數(shù)據(jù),然后接受觀察者的注冊,數(shù)據(jù)反生變化zk會通知在zk上注冊的觀察者做出反應(yīng)。
  8. Zookeeper是一個分布式協(xié)調(diào)系統(tǒng),滿足CP性,跟SpringCloud中的Eureka滿足AP不一樣。
  1. 分布式協(xié)調(diào)系統(tǒng):Leader會同步數(shù)據(jù)到follower,用戶請求可通過follower得到數(shù)據(jù),這樣不會出現(xiàn)單點(diǎn)故障,并且只要同步時間無限短,那這就是個好的 分布式協(xié)調(diào)系統(tǒng)。
  2. CAP原則又稱CAP定理,指的是在一個分布式系統(tǒng)中,一致性(Consistency)、可用性(Availability)、分區(qū)容錯性(Partition tolerance)。CAP 原則指的是,這三個要素最多只能同時實(shí)現(xiàn)兩點(diǎn),不可能三者兼顧。

2 Zookeeper 提供的功能

通過對 Zookeeper 中豐富的數(shù)據(jù)節(jié)點(diǎn)進(jìn)行交叉使用,配合 Watcher 事件通知機(jī)制,可以非常方便的構(gòu)建一系列分布式應(yīng)用中涉及的核心功能,比如 數(shù)據(jù)發(fā)布/訂閱、負(fù)載均衡、命名服務(wù)、分布式協(xié)調(diào)/通知、集群管理、Master 選舉、分布式鎖和分布式隊(duì)列 等功能。

1. 數(shù)據(jù)發(fā)布/訂閱

當(dāng)某些數(shù)據(jù)由幾個機(jī)器共享,且這些信息經(jīng)常變化數(shù)據(jù)量還小的時候,這些數(shù)據(jù)就適合存儲到ZK中。

  • 數(shù)據(jù)存儲:將數(shù)據(jù)存儲到 Zookeeper 上的一個數(shù)據(jù)節(jié)點(diǎn)。
  • 數(shù)據(jù)獲取:應(yīng)用在啟動初始化節(jié)點(diǎn)從 Zookeeper 數(shù)據(jù)節(jié)點(diǎn)讀取數(shù)據(jù),并在該節(jié)點(diǎn)上注冊一個數(shù)據(jù)變更 Watcher
  • 數(shù)據(jù)變更:當(dāng)變更數(shù)據(jù)時會更新 Zookeeper 對應(yīng)節(jié)點(diǎn)數(shù)據(jù),Zookeeper會將數(shù)據(jù)變更通知發(fā)到各客戶端,客戶端接到通知后重新讀取變更后的數(shù)據(jù)即可。

2. 分布式鎖

關(guān)于分布式鎖其實(shí)在 Redis 中已經(jīng)講過了,并且Redis提供的分布式鎖是比ZK性能強(qiáng)的?;赯ooKeeper的分布式鎖一般有如下兩種。

  1. 保持獨(dú)占

核心思想:在zk中有一個唯一的臨時節(jié)點(diǎn),只有拿到節(jié)點(diǎn)的才可以操作數(shù)據(jù),沒拿到的線程就需要等待。缺點(diǎn):可能引發(fā)羊群效應(yīng),第一個用完后瞬間有999個同時并發(fā)的線程向zk請求獲得鎖。

  1. 控制時序

主要是避免了羊群效應(yīng),臨時節(jié)點(diǎn)已經(jīng)預(yù)先存在,所有想要獲得鎖的線程在它下面創(chuàng)建臨時順序編號目錄節(jié)點(diǎn),編號最小的獲得鎖,用完刪除,后面的依次排隊(duì)獲取。

c00af820-e20a-11ec-ba43-dac502259ad0.png


3. 負(fù)載均衡

c059301c-e20a-11ec-ba43-dac502259ad0.png

多個相同的jar包在不同的服務(wù)器上開啟相同的服務(wù),可以通過nginx在服務(wù)端進(jìn)行負(fù)載均衡的配置。也可以通過ZooKeeper在客戶端進(jìn)行負(fù)載均衡配置。

  1. 多個服務(wù)注冊
  2. 客戶端獲取中間件地址集合
  3. 從集合中隨機(jī)選一個服務(wù)執(zhí)行任務(wù)

ZooKeeper負(fù)載均衡和Nginx負(fù)載均衡區(qū)別

  1. ZooKeeper不存在單點(diǎn)問題,zab機(jī)制保證單點(diǎn)故障可重新選舉一個leader只負(fù)責(zé)服務(wù)的注冊與發(fā)現(xiàn),不負(fù)責(zé)轉(zhuǎn)發(fā),減少一次數(shù)據(jù)交換(消費(fèi)方與服務(wù)方直接通信),需要自己實(shí)現(xiàn)相應(yīng)的負(fù)載均衡算法。
  2. Nginx存在單點(diǎn)問題,單點(diǎn)負(fù)載高數(shù)據(jù)量大,需要通過 KeepAlived + LVS 備機(jī)實(shí)現(xiàn)高可用。每次負(fù)載,都充當(dāng)一次中間人轉(zhuǎn)發(fā)角色,增加網(wǎng)絡(luò)負(fù)載量(消費(fèi)方與服務(wù)方間接通信),自帶負(fù)載均衡算法。

4. 命名服務(wù)

c08c0dca-e20a-11ec-ba43-dac502259ad0.png


命名服務(wù)是指通過指定的名字來獲取資源或者服務(wù)的地址,利用 zk 創(chuàng)建一個全局唯一的路徑,這個路徑就可以作為一個名字,指向集群中的集群,提供的服務(wù)的地址,或者一個遠(yuǎn)程的對象等等。

5. 分布式協(xié)調(diào)/通知

  1. 對于系統(tǒng)調(diào)度來說,用戶更改zk某個節(jié)點(diǎn)的value, ZooKeeper會將這些變化發(fā)送給注冊了這個節(jié)點(diǎn)的 watcher 的所有客戶端,進(jìn)行通知。
  2. 對于執(zhí)行情況匯報來說,每個工作進(jìn)程都在目錄下創(chuàng)建一個攜帶工作進(jìn)度的臨時節(jié)點(diǎn),那么匯總的進(jìn)程可以監(jiān)控目錄子節(jié)點(diǎn)的變化獲得工作進(jìn)度的實(shí)時的全局情況。

6. 集群管理

c0ffa212-e20a-11ec-ba43-dac502259ad0.png

大數(shù)據(jù)體系下的大部分集群服務(wù)好像都通過ZooKeeper管理的,其實(shí)管理的時候主要關(guān)注的就是機(jī)器的動態(tài)上下線跟Leader選舉。

  1. 動態(tài)上下線:

比如在zookeeper服務(wù)器端有一個znode/Configuration,那么集群中每一個機(jī)器啟動的時候都去這個節(jié)點(diǎn)下創(chuàng)建一個EPHEMERAL類型的節(jié)點(diǎn),比如server1 創(chuàng)建 /Configuration/Server1server2創(chuàng)建**/Configuration /Server1**,然后Server1Server2watch /Configuration 這個父節(jié)點(diǎn),那么也就是這個父節(jié)點(diǎn)下數(shù)據(jù)或者子節(jié)點(diǎn)變化都會通知到該節(jié)點(diǎn)進(jìn)行watch的客戶端。

  1. Leader選舉:
  1. 利用ZooKeeper的強(qiáng)一致性,能夠保證在分布式高并發(fā)情況下節(jié)點(diǎn)創(chuàng)建的全局唯一性,即:同時有多個客戶端請求創(chuàng)建 /Master 節(jié)點(diǎn),最終一定只有一個客戶端請求能夠創(chuàng)建成功。利用這個特性,就能很輕易的在分布式環(huán)境中進(jìn)行集群選舉了。
  2. 就是動態(tài)Master選舉。這就要用到 EPHEMERAL_SEQUENTIAL類型節(jié)點(diǎn)的特性了,這樣每個節(jié)點(diǎn)會自動被編號。允許所有請求都能夠創(chuàng)建成功,但是得有個創(chuàng)建順序,每次選取序列號最小的那個機(jī)器作為Master

3 Leader選舉

ZooKeeper集群節(jié)點(diǎn)個數(shù)一定是奇數(shù)個,一般3個或者5個就OK。為避免集群群龍無首,一定要選個大哥出來當(dāng)Leader。這是個高頻考點(diǎn)。

3.1 預(yù)備知識

3.1.1. 節(jié)點(diǎn)四種狀態(tài)。
  1. LOOKING:尋 找 Leader 狀態(tài)。當(dāng)服務(wù)器處于該狀態(tài)時會認(rèn)為當(dāng)前集群中沒有 Leader,因此需要進(jìn)入 Leader 選舉狀態(tài)。
  2. FOLLOWING:跟隨者狀態(tài)。處理客戶端的非事務(wù)請求,轉(zhuǎn)發(fā)事務(wù)請求給 Leader 服務(wù)器,參與事務(wù)請求 Proposal(提議) 的投票,參與 Leader 選舉投票。
  3. LEADING:領(lǐng)導(dǎo)者狀態(tài)。事務(wù)請求的唯一調(diào)度和處理者,保證集群事務(wù)處理的順序性,集群內(nèi)部個服務(wù)器的調(diào)度者(管理follower,數(shù)據(jù)同步)。
  4. OBSERVING:觀察者狀態(tài)。3.0 版本以后引入的一個服務(wù)器角色,在不影響集群事務(wù)處理能力的基礎(chǔ)上提升集群的非事務(wù)處理能力,處理客戶端的非事務(wù)請求,轉(zhuǎn)發(fā)事務(wù)請求給 Leader 服務(wù)器,不參與任何形式的投票。
3.1.2 服務(wù)器ID

Server id,一般在搭建ZK集群時會在myid文件中給每個節(jié)點(diǎn)搞個唯一編號,編號越大在Leader選擇算法中的權(quán)重越大,比如初始化啟動時就是根據(jù)服務(wù)器ID進(jìn)行比較。

3.1.3 ZXID

c1b024c0-e20a-11ec-ba43-dac502259ad0.png

ZooKeeper 采用全局遞增的事務(wù) Id 來標(biāo)識,所有 proposal(提議)在被提出的時候加上了ZooKeeper Transaction Id ,zxid是64位的Long類型,這是保證事務(wù)的順序一致性的關(guān)鍵。zxid中高32位表示紀(jì)元epoch,低32位表示事務(wù)標(biāo)識xid。你可以認(rèn)為zxid越大說明存儲數(shù)據(jù)越新。

  1. 每個leader都會具有不同的epoch值,表示一個紀(jì)元/朝代,用來標(biāo)識 leader 周期。每個新的選舉開啟時都會生成一個新的epoch,新的leader產(chǎn)生的話epoch會自增,會將該值更新到所有的zkServer的zxidepoch,
  2. xid是一個依次遞增的事務(wù)編號。數(shù)值越大說明數(shù)據(jù)越新,所有 proposal(提議)在被提出的時候加上了zxid,然后會依據(jù)數(shù)據(jù)庫的兩階段過程,首先會向其他的 server 發(fā)出事務(wù)執(zhí)行請求,如果超過半數(shù)的機(jī)器都能執(zhí)行并且能夠成功,那么就會開始執(zhí)行。

3.2 Leader選舉

Leader的選舉一般分為啟動時選舉跟Leader掛掉后的運(yùn)行時選舉。

3.2.1 啟動時Leader選舉

bfe4256a-e20a-11ec-ba43-dac502259ad0.png

我們以上面的5臺機(jī)器為例,只有超過半數(shù)以上,即最少啟動3臺服務(wù)器,集群才能正常工作。

  1. 服務(wù)器1啟動,發(fā)起一次選舉。

服務(wù)器1投自己一票。此時服務(wù)器1票數(shù)一票,不夠半數(shù)以上(3票),選舉無法完成,服務(wù)器1狀態(tài)保持為LOOKING。

  1. 服務(wù)器2啟動,再發(fā)起一次選舉。

服務(wù)器1和2分別投自己一票,此時服務(wù)器1發(fā)現(xiàn)服務(wù)器2的id比自己大,更改選票投給服務(wù)器2。此時服務(wù)器1票數(shù)0票,服務(wù)器2票數(shù)2票,不夠半數(shù)以上(3票),選舉無法完成。服務(wù)器1,2狀態(tài)保持LOOKING。

  1. 服務(wù)器3啟動,發(fā)起一次選舉。

與上面過程一樣,服務(wù)器1和2先投自己一票,然后因?yàn)榉?wù)器3id最大,兩者更改選票投給為服務(wù)器3。此次投票結(jié)果:服務(wù)器1為0票,服務(wù)器2為0票,服務(wù)器3為3票。此時服務(wù)器3的票數(shù)已經(jīng)超過半數(shù)(3票),服務(wù)器3當(dāng)選Leader。服務(wù)器1,2更改狀態(tài)為FOLLOWING,服務(wù)器3更改狀態(tài)為LEADING;

  1. 服務(wù)器4啟動,發(fā)起一次選舉。

此時服務(wù)器1、2、3已經(jīng)不是LOOKING狀態(tài),不會更改選票信息,交換選票信息結(jié)果。服務(wù)器3為3票,服務(wù)器4為1票。此時服務(wù)器4服從多數(shù),更改選票信息為服務(wù)器3,服務(wù)器4并更改狀態(tài)為FOLLOWING。

  1. 服務(wù)器5啟動,發(fā)起一次選舉

同4一樣投票給3,此時服務(wù)器3一共5票,服務(wù)器5為0票。服務(wù)器5并更改狀態(tài)為FOLLOWING;

  1. 最終

Leader是服務(wù)器3,狀態(tài)為LEADING。其余服務(wù)器是Follower,狀態(tài)為FOLLOWING。

3.2.2 運(yùn)行時Leader選舉

運(yùn)行時候如果Master節(jié)點(diǎn)崩潰了會走恢復(fù)模式,新Leader選出前會暫停對外服務(wù),大致可以分為四個階段 選舉、發(fā)現(xiàn)、同步、廣播。

c2032fbc-e20a-11ec-ba43-dac502259ad0.png

  1. 每個Server會發(fā)出一個投票,第一次都是投自己,其中投票信息 = (myid,ZXID)
  2. 收集來自各個服務(wù)器的投票
  3. 處理投票并重新投票,處理邏輯:優(yōu)先比較ZXID,然后比較myid
  4. 統(tǒng)計(jì)投票,只要超過半數(shù)的機(jī)器接收到同樣的投票信息,就可以確定leader,注意epoch的增加跟同步。
  5. 改變服務(wù)器狀態(tài)Looking變?yōu)镕ollowing或Leading。
  6. 當(dāng) Follower 鏈接上 Leader 之后,Leader 服務(wù)器會根據(jù)自己服務(wù)器上最后被提交的 ZXID 和 Follower 上的 ZXID 進(jìn)行比對,比對結(jié)果要么回滾,要么和 Leader 同步,保證集群中各個節(jié)點(diǎn)的事務(wù)一致。
  7. 集群恢復(fù)到廣播模式,開始接受客戶端的寫請求。

3.3 腦裂

腦裂問題是集群部署必須考慮的一點(diǎn),比如在Hadoop跟Spark集群中。而ZAB為解決腦裂問題,要求集群內(nèi)的節(jié)點(diǎn)數(shù)量為2N+1。當(dāng)網(wǎng)絡(luò)分裂后,始終有一個集群的節(jié)點(diǎn)數(shù)量過半數(shù),而另一個節(jié)點(diǎn)數(shù)量小于N+1, 因?yàn)檫x舉Leader需要過半數(shù)的節(jié)點(diǎn)同意,所以我們可以得出如下結(jié)論:

有了過半機(jī)制,對于一個Zookeeper集群,要么沒有Leader,要沒只有1個Leader,這樣就避免了腦裂問題

4 一致性協(xié)議之 ZAB

建議先看下 淺談大數(shù)據(jù)中的2PC、3PC、Paxos、Raft、ZAB ,不然可能看的吃力。

4.1 ZAB 協(xié)議介紹

ZAB (Zookeeper Atomic Broadcast 原子廣播協(xié)議) 協(xié)議是為分布式協(xié)調(diào)服務(wù)ZooKeeper專門設(shè)計(jì)的一種支持崩潰恢復(fù)的一致性協(xié)議?;谠搮f(xié)議,ZooKeeper 實(shí)現(xiàn)了一種主從模式的系統(tǒng)架構(gòu)來保持集群中各個副本之間的數(shù)據(jù)一致性。

分布式系統(tǒng)中l(wèi)eader負(fù)責(zé)外部客戶端的請求。follower服務(wù)器負(fù)責(zé)讀跟同步。這時需要解決倆問題。

  1. Leader 服務(wù)器是如何把數(shù)據(jù)更新到所有的Follower的。
  2. Leader 服務(wù)器突然間失效了,集群咋辦?

因此ZAB協(xié)議為了解決上面兩個問題而設(shè)計(jì)了兩種工作模式,整個 Zookeeper 就是在這兩個模式之間切換:

  1. 原子廣播模式:把數(shù)據(jù)更新到所有的follower。
  2. 崩潰恢復(fù)模式:Leader發(fā)生崩潰時,如何恢復(fù)。

4.2 原子廣播模式

你可以認(rèn)為消息廣播機(jī)制是簡化版的 2PC協(xié)議,就是通過如下的機(jī)制保證事務(wù)的順序一致性的。

c222c91c-e20a-11ec-ba43-dac502259ad0.png

  1. leader從客戶端收到一個寫請求后生成一個新的事務(wù)并為這個事務(wù)生成一個唯一的ZXID,
  2. leader將將帶有 zxid 的消息作為一個提案(proposal)分發(fā)給所有 FIFO隊(duì)列。
  3. FIFO隊(duì)列取出隊(duì)頭proposalfollower節(jié)點(diǎn)。
  4. 當(dāng) follower 接收到 proposal,先將 proposal 寫到硬盤,寫硬盤成功后再向 leader 回一個 ACK。
  5. FIFO隊(duì)列把ACK返回給Leader。
  6. 當(dāng)leader收到超過一半以上的followerack消息,leader會進(jìn)行commit請求,然后再給FIFO發(fā)送commit請求。
  7. 當(dāng)follower收到commit請求時,會判斷該事務(wù)的ZXID是不是比歷史隊(duì)列中的任何事務(wù)的ZXID都小,如果是則提交,如果不是則等待比它更小的事務(wù)的commit(保證順序性)

4.3 崩潰恢復(fù)

消息廣播過程中,Leader 崩潰了還能保證數(shù)據(jù)一致嗎?當(dāng) Leader 崩潰會進(jìn)入崩潰恢復(fù)模式。其實(shí)主要是對如下兩種情況的處理。

  1. Leader 在復(fù)制數(shù)據(jù)給所有 Follwer 之后崩潰,咋搞?
  2. Leader 在收到 Ack 并提交了自己,同時發(fā)送了部分 commit 出去之后崩潰咋辦?

針對此問題,ZAB 定義了 2 個原則:

  1. ZAB 協(xié)議確保執(zhí)行那些已經(jīng)在 Leader 提交的事務(wù)最終會被所有服務(wù)器提交。
  2. ZAB 協(xié)議確保丟棄那些只在 Leader 提出/復(fù)制,但沒有提交的事務(wù)。

至于如何實(shí)現(xiàn)確保提交已經(jīng)被 Leader 提交的事務(wù),同時丟棄已經(jīng)被跳過的事務(wù)呢?關(guān)鍵點(diǎn)就是依賴上面說到過的 ZXID了。

4.4 ZAB 特性

  1. 一致性保證

可靠提交(Reliable delivery) :如果一個事務(wù) A 被一個server提交(committed)了,那么它最終一定會被所有的server提交

  1. 全局有序(Total order)

假設(shè)有A、B兩個事務(wù),有一臺server先執(zhí)行A再執(zhí)行B,那么可以保證所有server上A始終都被在B之前執(zhí)行

  1. 因果有序(Causal order)

如果發(fā)送者在事務(wù)A提交之后再發(fā)送B,那么B必將在A之后執(zhí)行

  1. 高可用性

只要大多數(shù)(法定數(shù)量)節(jié)點(diǎn)啟動,系統(tǒng)就行正常運(yùn)行

  1. 可恢復(fù)性

當(dāng)節(jié)點(diǎn)下線后重啟,它必須保證能恢復(fù)到當(dāng)前正在執(zhí)行的事務(wù)

4.5 ZAB 和 Paxos 對比

相同點(diǎn):

  1. 兩者都存在一個類似于 Leader 進(jìn)程的角色,由其負(fù)責(zé)協(xié)調(diào)多個 Follower 進(jìn)程的運(yùn)行.
  2. Leader 進(jìn)程都會等待超過半數(shù)的 Follower 做出正確的反饋后,才會將一個提案進(jìn)行提交.
  3. ZAB 協(xié)議中,每個 Proposal 中都包含一個 epoch 值來代表當(dāng)前的 Leader周期,Paxos 中名字為 Ballot

不同點(diǎn):

ZAB 用來構(gòu)建高可用的分布式數(shù)據(jù)主備系統(tǒng)(Zookeeper),Paxos 是用來構(gòu)建分布式一致性狀態(tài)機(jī)系統(tǒng)。

5 ZooKeeper 零散知識

5.1 常見指令

Zookeeper 有三種部署模式:

  1. 單機(jī)部署:一臺機(jī)器上運(yùn)行。
  2. 集群部署:多臺機(jī)器運(yùn)行。
  3. 偽集群部署:一臺機(jī)器啟動多個 Zookeeper 實(shí)例運(yùn)行。

部署完畢后常見指令如下:

命令基本語法 功能描述
help 顯示所有操作命令
ls path [watch] 顯示所有操作命令
ls path [watch] 查看當(dāng)前節(jié)點(diǎn)數(shù)據(jù)并能看到更新次數(shù)等數(shù)據(jù)
create 普通創(chuàng)建, -s 含有序列,
-e 臨時(重啟或者超時消失)
get path [watch] 獲得節(jié)點(diǎn)的值
set 設(shè)置節(jié)點(diǎn)的具體值
stat 查看節(jié)點(diǎn)狀態(tài)
delete 刪除節(jié)點(diǎn)
rmr 遞歸刪除節(jié)點(diǎn)

5.2 Zookeeper客戶端

5.2.1. Zookeeper原生客戶端

Zookeeper客戶端是異步的哦!需要引入CountDownLatch 來確保連接好了再做下面操作。Zookeeper原生api是不支持迭代式的創(chuàng)建跟刪除路徑的,具有如下弊端。

  1. 會話的連接是異步的;必須用到回調(diào)函數(shù) 。
  2. Watch需要重復(fù)注冊:看一次watch注冊一次 。
  3. Session重連機(jī)制:有時session斷開還需要重連接。
  4. 開發(fā)復(fù)雜性較高:開發(fā)相對來說比較瑣碎。
5.2.2. ZkClient

開源的zk客戶端,在原生API基礎(chǔ)上封裝,是一個更易于使用的zookeeper客戶端,做了如下優(yōu)化。

優(yōu)化一 、在session loss和session expire時自動創(chuàng)建新的ZooKeeper實(shí)例進(jìn)行重連。優(yōu)化二、 將一次性watcher包裝為持久watcher。

5.2.3. Curator

開源的zk客戶端,在原生API基礎(chǔ)上封裝,apache頂級項(xiàng)目。是Netflix公司開源的一套Zookeeper客戶端框架。了解過Zookeeper原生API都會清楚其復(fù)雜度。Curator幫助我們在其基礎(chǔ)上進(jìn)行封裝、實(shí)現(xiàn)一些開發(fā)細(xì)節(jié),包括接連重連、反復(fù)注冊Watcher和NodeExistsException等。目前已經(jīng)作為Apache的頂級項(xiàng)目出現(xiàn),是最流行的Zookeeper客戶端之一。

5.2.4. Zookeeper圖形化客戶端工具

工具名叫ZooInspector,百度安裝教程即可。

c28e6154-e20a-11ec-ba43-dac502259ad0.png

5.3 ACL 權(quán)限控制機(jī)制

ACL全稱為Access Control List 即訪問控制列表,用于控制資源的訪問權(quán)限。zookeeper利用ACL策略控制節(jié)點(diǎn)的訪問權(quán)限,如節(jié)點(diǎn)數(shù)據(jù)讀寫、節(jié)點(diǎn)創(chuàng)建、節(jié)點(diǎn)刪除、讀取子節(jié)點(diǎn)列表、設(shè)置節(jié)點(diǎn)權(quán)限等。

5.4 Zookeeper使用注意事項(xiàng)

  1. 集群中機(jī)器的數(shù)量并不是越多越好,一個寫操作需要半數(shù)以上的節(jié)點(diǎn)ack,所以集群節(jié)點(diǎn)數(shù)越多,整個集群可以抗掛點(diǎn)的節(jié)點(diǎn)數(shù)越多(越可靠),但是吞吐量越差。集群的數(shù)量必須為奇數(shù)。
  2. zk是基于內(nèi)存進(jìn)行讀寫操作的,有時候會進(jìn)行消息廣播,因此不建議在節(jié)點(diǎn)存取容量比較大的數(shù)據(jù)。
  3. dataDir目錄、dataLogDir兩個目錄會隨著時間推移變得龐大,容易造成硬盤滿了。建議自己編寫或使用自帶的腳本保留最新的n個文件。
  4. 默認(rèn)最大連接數(shù) 默認(rèn)為60,配置maxClientCnxns參數(shù),配置單個客戶端機(jī)器創(chuàng)建的最大連接數(shù)。

審核編輯 :李倩


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 文件系統(tǒng)
    +關(guān)注

    關(guān)注

    0

    文章

    301

    瀏覽量

    20811
  • 分布式
    +關(guān)注

    關(guān)注

    1

    文章

    1063

    瀏覽量

    76422
  • zookeeper
    +關(guān)注

    關(guān)注

    0

    文章

    34

    瀏覽量

    4077

原文標(biāo)題:5 ZooKeeper 零散知識

文章出處:【微信號:zhuyandz,微信公眾號:FPGA之家】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    關(guān)于光模塊TTL電平知道多少?

    TTL電平是? TTL電平信號規(guī)定,+5V等價于邏輯“1”,0V等價于邏輯“0”(采用二進(jìn)制來表示數(shù)據(jù)時)。這樣的數(shù)據(jù)通信及電平規(guī)定方式,被稱做TTL(晶體管-晶體管邏輯電平)信號系統(tǒng)。這是計(jì)算機(jī)處理器控制的設(shè)備內(nèi)部各部分之間通信的標(biāo)準(zhǔn)技術(shù)。 ? TTL電平優(yōu)點(diǎn)有哪些? TTL電平信號對于計(jì)算機(jī)處理器控制的設(shè)備內(nèi)部的數(shù)據(jù)傳輸是很理想的,理由如下: 1.計(jì)算機(jī)處理器控制的設(shè)備內(nèi)部的數(shù)據(jù)傳輸對于電源的要求不高以及熱損耗也較低; 2.TTL電平信號直接與集
    的頭像 發(fā)表于 11-10 15:02 ?130次閱讀

    薄膜電容的關(guān)鍵詞是什么知道嗎?

    薄膜電容是一種以金屬箔作為電極,以聚乙酯、聚丙烯、聚苯乙烯等塑料薄膜作為電介質(zhì)的電容器,在電子電路中具有重要作用。薄膜電容有哪些關(guān)鍵詞知道嗎?
    的頭像 發(fā)表于 10-13 15:30 ?280次閱讀
    薄膜電容的關(guān)鍵詞是什么<b class='flag-5'>你</b><b class='flag-5'>知道</b>嗎?

    知道板卡廠商參與芯片研發(fā)的α階段意味著什么?

    大家都知道芯片很重要,但是否知道一顆芯片從設(shè)計(jì)構(gòu)思到最終量產(chǎn),需要經(jīng)歷怎樣一個漫長的過程嗎?
    的頭像 發(fā)表于 09-24 17:08 ?7270次閱讀
    <b class='flag-5'>你</b><b class='flag-5'>知道</b>板卡廠商參與芯片研發(fā)的α階段意味著什么?

    視覺工程師必須知道的工業(yè)相機(jī)基礎(chǔ)知識

    工業(yè)相機(jī)基礎(chǔ)知識概述。
    的頭像 發(fā)表于 09-19 17:04 ?894次閱讀
    視覺工程師必須<b class='flag-5'>知道</b>的工業(yè)相機(jī)基礎(chǔ)<b class='flag-5'>知識</b>

    知道光耦的特性參數(shù)包括哪些嗎?

    知道光耦的特性參數(shù)包括哪些嗎? 一、輸入特性參數(shù) 正向工作電壓(Forward Voltage):在給定的工作電流下,LED本身的壓降。 反向電壓(Reverse Voltage):LED所能承受
    的頭像 發(fā)表于 07-31 09:44 ?989次閱讀
    <b class='flag-5'>你</b><b class='flag-5'>知道</b>光耦的特性參數(shù)包括哪些嗎?

    有獎問答 | Aigtek安泰電子“功“力無限知識竟賽!一起答題抽好禮!

    親愛的電子工程師們~歡迎參加Aigtek“功“力無限知識競賽!參與互動答題就有機(jī)會贏得精美獎品!作為專用于放大信號+驅(qū)動測試領(lǐng)域的測試儀器,是否了解關(guān)于它基本知識?
    的頭像 發(fā)表于 06-26 18:46 ?486次閱讀
    有獎問答 | Aigtek安泰電子“功“力無限<b class='flag-5'>知識</b>竟賽!一起答題抽好禮!

    關(guān)于SFP連接器必須了解的那些知識

    關(guān)于SFP連接器必須了解的那些知識 一、SFP光籠子的作用及材料組成 1.光籠子的概念與作用 ① 光籠子是什么? SFP Cage(Small Form-factor Pluggable Cage
    的頭像 發(fā)表于 06-17 09:42 ?779次閱讀
    <b class='flag-5'>關(guān)于</b>SFP連接器<b class='flag-5'>你</b>必須了解的那些<b class='flag-5'>知識</b>

    知道船用變壓器有哪些嗎?

    在船舶和海洋平臺上,電力系統(tǒng)的穩(wěn)定運(yùn)行至關(guān)重要,而船用變壓器作為其中的關(guān)鍵設(shè)備,其種類繁多,各具特點(diǎn)。知道船用變壓器有哪些嗎?讓我們一起來揭開它們的神秘面紗。CSD船用變壓器是船舶供電系統(tǒng)中
    的頭像 發(fā)表于 06-01 00:00 ?477次閱讀
    <b class='flag-5'>你</b><b class='flag-5'>知道</b>船用變壓器有哪些嗎?

    BLDC霍爾安裝角度知道多少?(可下載)

    角度排列。 而對于控制人員來說,我們需要知道拿到的電機(jī),霍爾傳感器的安裝方式如何,這樣才能決定相應(yīng)的 控制策略關(guān)于霍爾的位置擺放,一般是由電機(jī)本體設(shè)計(jì)相關(guān)的人員需
    發(fā)表于 03-31 14:56 ?4次下載

    一文讀懂鋰電池方形的尺寸及型號命名規(guī)則

    方形鋰電池的尺寸及型號命名規(guī)則雖然看似簡單,但背后卻關(guān)聯(lián)著整個鋰電池產(chǎn)業(yè)的發(fā)展。了解這些知識,無論是對于我們從事鋰電池相關(guān)行業(yè),還是日常使用鋰電池產(chǎn)品,都有著不小的幫助。如果還想知道關(guān)于
    的頭像 發(fā)表于 01-23 14:44 ?3974次閱讀
    一文讀懂鋰電池方形的尺寸及型號命名規(guī)則

    關(guān)于射頻導(dǎo)納物位開關(guān)知道知識點(diǎn)

    它作為一種重要的工業(yè)自動化設(shè)備,在生產(chǎn)領(lǐng)域中扮演者重要的角色,這款物位儀表就是射頻導(dǎo)納物位開關(guān),它可以用于測量和控制物料的位置和數(shù)量。它之所以受歡迎是因?yàn)楫a(chǎn)品的防刮料功能好、測量數(shù)值準(zhǔn)確、適用的范圍廣,能夠幫助工業(yè)生產(chǎn)領(lǐng)域的人們有效的解決一些傳統(tǒng)物位開關(guān)的限制問題。 這款物位開關(guān)的穩(wěn)定性高、測量數(shù)值準(zhǔn)、適用場合多等優(yōu)點(diǎn),且他還能配備報警指示燈等功能,能夠讓用戶更為直觀的獲取到它測量出來的數(shù)值信息,方便
    的頭像 發(fā)表于 01-21 13:56 ?787次閱讀
    <b class='flag-5'>關(guān)于</b>射頻導(dǎo)納物位開關(guān)<b class='flag-5'>你</b>不<b class='flag-5'>知道</b>的<b class='flag-5'>知識</b>點(diǎn)

    Aigtek功率放大器應(yīng)用:電感線圈的知識點(diǎn)分享

    電磁驅(qū)動是功率放大器的一大基礎(chǔ)應(yīng)用領(lǐng)域,其中我們最常見的就是用功放來驅(qū)動電感線圈,那么關(guān)于電感線圈的這10大知識點(diǎn)知道嗎?今天Aigtek安泰電子來給大家介紹一下電感線圈的基礎(chǔ)
    的頭像 發(fā)表于 01-07 15:43 ?1195次閱讀
    Aigtek功率放大器應(yīng)用:電感線圈的<b class='flag-5'>知識</b>點(diǎn)分享

    鋁電解電容器基本化學(xué)知識

    關(guān)于鋁電解電容器的基本化學(xué)知識介紹
    發(fā)表于 01-02 14:55 ?5次下載

    儀器知識問答小課堂

    關(guān)于儀器設(shè)備實(shí)驗(yàn)中的各種知識問題的問答
    的頭像 發(fā)表于 12-27 16:21 ?754次閱讀
    儀器<b class='flag-5'>知識</b>問答小課堂

    關(guān)于NAND Flash的一些小知識

    前言 作為一名電子專業(yè)的學(xué)生,半導(dǎo)體存儲顯然是繞不過去的一個坎,今天聊一聊關(guān)于Nand Flash的一些小知識。 這里十分感謝深圳雷龍發(fā)展有限公司為博主提供的兩片CS創(chuàng)世SD NAND的存儲芯片
    的頭像 發(fā)表于 12-17 17:33 ?1429次閱讀