接手一個需要多服務(wù)協(xié)作的項目時我踩過的第一個大坑就是所有節(jié)點(diǎn)各干各的沒有一套統(tǒng)一的協(xié)調(diào)機(jī)制。后來我把ZooKeeper引入整個架構(gòu)先后解決了配置同步、服務(wù)上下線感知和分布式鎖這幾個最頭疼的問題。這篇文章就是我基于實際項目做的階段性總結(jié)寫給正在學(xué)Java分布式、并且準(zhǔn)備把ZooKeeper用起來的開發(fā)者尤其是那些剛看完理論、想知道怎么落地的朋友。我會從ZooKeeper的定位講起帶著你理解它的數(shù)據(jù)模型和會話機(jī)制然后給出Java客戶端選型的關(guān)鍵對比再手把手拆解節(jié)點(diǎn)CRUD、Watch監(jiān)聽、分布式鎖和服務(wù)發(fā)現(xiàn)這些高頻實戰(zhàn)場景最后聊幾個我親身踩過的坑。整個內(nèi)容不求面面俱到但保證每一個步驟和代碼示例都能讓你直接抄作業(yè)改一改就能跑。1. 為什么分布式系統(tǒng)里需要ZooKeeper這個協(xié)調(diào)員分布式系統(tǒng)的難點(diǎn)往往不在功能實現(xiàn)而在多個進(jìn)程之間怎么達(dá)成一致。我剛接手項目X的時候服務(wù)數(shù)量從幾臺擴(kuò)展到幾十臺馬上就遇到三個問題配置文件散落在各節(jié)點(diǎn)上、改了配置要一臺臺重啟、服務(wù)掛了其他調(diào)用方感知不到。這些問題的共性就是缺少一個可以讓所有節(jié)點(diǎn)共同依賴的協(xié)調(diào)者。1.1 沒有協(xié)調(diào)框架時的混亂場景舉個例子項目X里有三個服務(wù)需要共享一份DB開關(guān)配置。我最初的做法是把配置寫在每個服務(wù)本地的properties文件里運(yùn)維改配置時用腳本批量推送。聽起來簡單但實際會發(fā)生兩種情況推送時部分節(jié)點(diǎn)成功、部分節(jié)點(diǎn)失敗失敗節(jié)點(diǎn)繼續(xù)跑舊邏輯新邏輯和舊邏輯并行。服務(wù)擴(kuò)容時新拉起來的機(jī)器如果配置文件不是最新版會帶著舊配置進(jìn)入生產(chǎn)環(huán)境。更麻煩的是分布式鎖。早期我用數(shù)據(jù)庫的唯一索引做鎖通過insert一條記錄來占用鎖最后delete釋放。在高并發(fā)下數(shù)據(jù)庫連接會被打滿而且鎖的續(xù)租、異常釋放、死鎖檢測全部要自己寫。后來我決定徹底改造用ZooKeeper把這些分散的麻煩事統(tǒng)一收攏。1.2 ZooKeeper到底替我們解決了什么問題ZooKeeper在架構(gòu)里扮演的角色簡單說就是一個帶強(qiáng)一致性的分布式文件系統(tǒng)同時具備通知機(jī)制。它讓你可以像操作目錄一樣存數(shù)據(jù)又能在數(shù)據(jù)變化時主動告訴訂閱者。如果把這個模型放到業(yè)務(wù)場景里可以看到幾個核心能力統(tǒng)一配置存儲配置放ZooKeeper節(jié)點(diǎn)上集中修改所有客戶端實時收到變更通知。服務(wù)注冊和發(fā)現(xiàn)服務(wù)啟動時注冊臨時節(jié)點(diǎn)服務(wù)掛掉后節(jié)點(diǎn)自動消失調(diào)用方通過Watch感知上下線。分布式鎖利用ZooKeeper的臨時順序節(jié)點(diǎn)多個客戶端可以排隊獲取鎖避免了單點(diǎn)故障。這三類能力基本覆蓋了中小團(tuán)隊80%的協(xié)調(diào)需求。ZooKeeper之所以能承擔(dān)這些職責(zé)是因為它背后的Zab協(xié)議保證了寫入順序的一致性和高可用。集群內(nèi)部通過選舉產(chǎn)生Leader所有寫請求都交給Leader廣播給Follower超過半數(shù)確認(rèn)后返回成功保證數(shù)據(jù)不會因為節(jié)點(diǎn)故障而分叉。1.3 它不是萬能存儲適用邊界要先劃清楚我在團(tuán)隊內(nèi)部做技術(shù)分享時總強(qiáng)調(diào)一句話不要把ZooKeeper當(dāng)數(shù)據(jù)庫用。它默認(rèn)單個節(jié)點(diǎn)的數(shù)據(jù)大小限制通常是1MB不適合存業(yè)務(wù)大對象。它更適合存配置項、元數(shù)據(jù)、鎖標(biāo)識這類小而關(guān)鍵的信息。如果你發(fā)現(xiàn)某個ZNode里的數(shù)據(jù)超過幾十KB就要停下來想想是不是設(shè)計有問題。ZooKeeper的強(qiáng)順序一致性也是有時機(jī)代價的寫請求需要多數(shù)派確認(rèn)所以吞吐量跟Redis沒法比。業(yè)務(wù)向的高頻寫操作建議放RedisZooKeeper只做協(xié)調(diào)類數(shù)據(jù)。把邊界劃清楚后面用起來才不別扭。2. 數(shù)據(jù)模型與會話機(jī)制入門ZooKeeper前必須搞懂的四個核心概念跳過這些底層概念直接寫代碼很容易遇到各種摸不著頭腦的問題。我見過不少同事在寫節(jié)點(diǎn)操作時搞不清持久節(jié)點(diǎn)和臨時節(jié)點(diǎn)的區(qū)別結(jié)果服務(wù)重啟后舊節(jié)點(diǎn)還掛在線上服務(wù)注冊信息一直重復(fù)。所以我想先把四個核心概念講透。2.1 樹形數(shù)據(jù)模型ZNode不是傳統(tǒng)的文件ZooKeeper的命名空間是一棵類似文件系統(tǒng)的樹每個節(jié)點(diǎn)叫ZNode。路徑比如 /config、/config/db_switch寫法上和Linux目錄一樣訪問某個ZNode就是直接按路徑定位。與傳統(tǒng)文件系統(tǒng)不同ZNode既可以有子節(jié)點(diǎn)本身也可以存數(shù)據(jù)這一點(diǎn)要特別注意。每個ZNode的數(shù)據(jù)量很小實際操作時一般存JSON字符串或特定業(yè)務(wù)標(biāo)識。ZNode上不僅有數(shù)據(jù)還附帶一系列元信息比如版本號、創(chuàng)建時間、數(shù)據(jù)長度。這里最關(guān)鍵的一個元信息是版本號因為ZooKeeper的并發(fā)改造成靠版本號來實現(xiàn)類似樂觀鎖的機(jī)制。2.2 節(jié)點(diǎn)類型持久、臨時、順序節(jié)點(diǎn)各自的使用場景ZooKeeper把ZNode分成幾種類型每個類型都對應(yīng)一個典型業(yè)務(wù)場景節(jié)點(diǎn)類型特點(diǎn)典型用途持久節(jié)點(diǎn)客戶端斷開后節(jié)點(diǎn)依然存在保存配置數(shù)據(jù)、全局元信息持久順序節(jié)點(diǎn)持久節(jié)點(diǎn)基礎(chǔ)上帶全局自增序號記錄有序事件、任務(wù)編號臨時節(jié)點(diǎn)客戶端會話結(jié)束自動刪除服務(wù)注冊、分布式鎖占位臨時順序節(jié)點(diǎn)臨時節(jié)點(diǎn)基礎(chǔ)上帶全局自增序號分布式鎖的排隊隊列我最初用過持久節(jié)點(diǎn)做服務(wù)注冊結(jié)果服務(wù)宕機(jī)后節(jié)點(diǎn)不會消失手動清理又容易出錯。后來改成臨時節(jié)點(diǎn)服務(wù)進(jìn)程退出、會話斷開節(jié)點(diǎn)馬上被刪除整個上下線流程就自動化了。順序節(jié)點(diǎn)雖然不常用但分布式鎖里它是核心因為鎖競爭退出時可以利用序號的先后關(guān)系確定獲取順序避免驚群效應(yīng)。2.3 會話與心跳客戶端和服務(wù)器如何維持連接ZooKeeper客戶端和服務(wù)端之間的連接基于會話會話本質(zhì)是一個帶超時時間的TCP長連接?？蛻舳送ㄟ^發(fā)送心跳請求來?；罘?wù)端在會話超時時間內(nèi)收到心跳會話就保持有效超過時間還沒收到會話過期臨時節(jié)點(diǎn)隨之被清理。Java操作時我一般配置會話超時時間為3000到5000毫秒這個值既不能太大也不能太小。太大會話過期識別慢臨時節(jié)點(diǎn)殘留時間久太小網(wǎng)絡(luò)抖動就會導(dǎo)致會話誤判超時服務(wù)頻繁掉線。再配合客戶端自動重連機(jī)制即使網(wǎng)絡(luò)短暫異常原來創(chuàng)建的臨時節(jié)點(diǎn)也會在重連后恢復(fù)但這個恢復(fù)并不自動需要代碼回滾業(yè)務(wù)邏輯。2.4 Watch通知機(jī)制一次性觸發(fā)循環(huán)注冊Watch是ZooKeeper最實用也最容易寫錯的機(jī)制。客戶端可以對某個事務(wù)操作注冊監(jiān)聽比如節(jié)點(diǎn)數(shù)據(jù)變化、子節(jié)點(diǎn)列表變化、節(jié)點(diǎn)刪除只要事件發(fā)生客戶端會收到一次通知。注意是“一次”因為每次通知完之后監(jiān)聽就失效了想繼續(xù)監(jiān)聽必須重新注冊。這個一次性規(guī)則讓很多初學(xué)者困惑為什么第一次修改配置能收到通知第二次就不行原因就是沒做再次注冊。后面的代碼示例里我會專門封裝一個帶循環(huán)注冊的工具類把每次收到通知后重新設(shè)置Watch這個動作固化進(jìn)去。3. 客戶端選型原生API、ZkClient與Curator的取舍Java操作ZooKeeper時選型直接影響開發(fā)效率和后期維護(hù)。我在這部分有比較明確的答案但為了讓你做技術(shù)決策時有依據(jù)我先把三種方案的實際體驗都列出來。3.1 三種客戶端方案的橫向?qū)Ρ染S度原生ZooKeeper APIZkClientCurator依賴程度JDK自帶輕量封裝完整框架Watch處理手動循環(huán)注冊自動監(jiān)聽自動監(jiān)聽重連機(jī)制需自己實現(xiàn)簡單封裝完善分布式鎖需要手寫需要手寫內(nèi)置實現(xiàn)維護(hù)活躍度保持更新基本停滯活躍學(xué)習(xí)曲線較陡平滑中間原生API最大的問題不是功能不夠而是重復(fù)代碼太多。每次操作都要處理連接狀態(tài)、重連邏輯、Watch重新注冊這些都是極其容易出錯的邊角料。ZkClient曾經(jīng)流行過一段但封裝程度有限遇到復(fù)雜會話事件處理比較吃力。如果你問我現(xiàn)在的建議我會直接推薦Curator它在國內(nèi)項目里已經(jīng)積累了足夠的驗證文檔也相對齊全。3.2 為什么我建議直接上CuratorCurator把ZooKeeper客戶端做成了可以開箱即用的框架提供了連接狀態(tài)監(jiān)聽、自動重連、Watch管理器還內(nèi)置了InterProcessMutex這類分布式鎖實現(xiàn)。引入Curator之后代碼量對比原生API至少減少一半同時可讀性和健壯性明顯提升。當(dāng)然這不意味著原生API不值得學(xué)。我建議你先把原生API的基本操作跑一遍理解它怎么建立連接、怎么注冊Watch、怎么處理回調(diào)然后切到Curator你會更清楚框架替你做了什么遇到問題時也能定位到ZooKeeper底層還是框架封裝層。這種學(xué)習(xí)路徑比直接上手Curator更扎實。3.3 環(huán)境準(zhǔn)備單機(jī)部署和偽集群搭建本地開發(fā)時單機(jī)模式就夠用。下載解壓后修改配置文件zoo.cfg設(shè)置dataDir和clientPort默認(rèn)2181端口然后執(zhí)行啟動腳本。確認(rèn)啟動成功的命令是連接2181端口并輸入stat能看到ZooKeeper版本信息就說明通了。如果需要模擬生產(chǎn)環(huán)境的故障轉(zhuǎn)移我建議用偽集群模式也就是在同一臺機(jī)器上跑三個ZooKeeper實例。三個實例分別監(jiān)聽2181、2182、2183端口dataDir也分成三份并且在每個實例的data目錄中都要新建myid文件內(nèi)容分別是1、2、3。配置文件里通過server.1127.0.0.1:2888:3888這樣的格式聲明集群成員。偽集群能驗證選舉和會話轉(zhuǎn)移對理解ZooKeeper高可用機(jī)制幫助很大。4. 手寫Java操作ZooKeeper從連接、CRUD到Watch監(jiān)聽這一章是實操的重點(diǎn)。我會同時給出原生API和Curator兩套代碼方便你根據(jù)項目實際情況選用。所有代碼我都基于實際跑通的示例整理你復(fù)制到自己的項目里改幾個參數(shù)就能用。4.1 基礎(chǔ)依賴與連接建立如果用Curator需要在pom.xml中加入dependency groupIdorg.apache.curator/groupId artifactIdcurator-framework/artifactId version5.5.0/version /dependency dependency groupIdorg.apache.curator/groupId artifactIdcurator-recipes/artifactId version5.5.0/version /dependency如果只是想體驗原生API只需要引入ZooKeeper官方客戶端依賴。不過下文除了最基礎(chǔ)的連接示例用原生API后面的業(yè)務(wù)操作我都用Curator因為Curator的API設(shè)計更適合工程落地。原生API建立連接的方式ZooKeeper zooKeeper new ZooKeeper(127.0.0.1:2181, 3000, event - { System.out.println(收到事件 event.getType()); });原生API的構(gòu)造函數(shù)中第一個參數(shù)是連接串第二個是會話超時時間第三個是Watcher回調(diào)。連接本身是異步的所以構(gòu)造完成后要等待一下確認(rèn)連接穩(wěn)定再繼續(xù)執(zhí)行后續(xù)操作。用Curator建立連接的代碼會更直觀RetryPolicy retryPolicy new ExponentialBackoffRetry(1000, 3); CuratorFramework client CuratorFramework.builder() .connectString(127.0.0.1:2181) .sessionTimeoutMs(3000) .connectionTimeoutMs(3000) .retryPolicy(retryPolicy) .build(); client.start();ExponentialBackoffRetry設(shè)置了初始重試間隔1000毫秒、最多重試3次。Curator啟動后不是馬上連上實際操作前最好調(diào)用blockUntilConnected等待連接建立避免在未連接狀態(tài)執(zhí)行命令拋異常。4.2 節(jié)點(diǎn)的增刪改查與版本控制用Curator操作節(jié)點(diǎn)非常方便。創(chuàng)建持久節(jié)點(diǎn)的代碼client.create().creatingParentContainersIfNeeded() .withMode(CreateMode.PERSISTENT) .forPath(/config/db_switch, on.getBytes(StandardCharsets.UTF_8));creatingParentContainersIfNeeded會自動創(chuàng)建父節(jié)點(diǎn)這個特性很實用避免手動判斷父路徑是否存在。withMode指定節(jié)點(diǎn)類型CreateMode.PERSISTENT是持久節(jié)點(diǎn)如果做服務(wù)注冊就換成EPHEMERAL。讀取節(jié)點(diǎn)數(shù)據(jù)byte[] data client.getData().forPath(/config/db_switch); String value new String(data, StandardCharsets.UTF_8);更新節(jié)點(diǎn)有兩種情況。第一種直接覆蓋用setData第二種是帶版本號的更新。ZooKeeper里的setData可以指定期望版本如果當(dāng)前版本和期望版本不一致會拋出BadVersionException。這種機(jī)制適合保證多人同時改配置時不覆蓋別人的修改client.setData() .withVersion(0) .forPath(/config/db_switch, off.getBytes(StandardCharsets.UTF_8));刪除節(jié)點(diǎn)也有版本控制并且刪除有子節(jié)點(diǎn)的節(jié)點(diǎn)會失敗需要先遞歸刪除子節(jié)點(diǎn)。Curator的刪除方法支持guaranteed和deletingChildrenIfNeeded前者保證網(wǎng)絡(luò)異常時后臺重試刪除后者自動清理子節(jié)點(diǎn)client.delete().guaranteed().deletingChildrenIfNeeded().forPath(/config);4.3 一個能落地的Watch監(jiān)聽循環(huán)Watch是ZooKeeper最核心的機(jī)制代碼也最容易出錯。原生API的寫法是注冊Watcher但一次觸發(fā)后失效所以要在回調(diào)里再次注冊。下面是封裝好的循環(huán)監(jiān)聽工具public class ConfigWatcher { private final ZooKeeper zooKeeper; public ConfigWatcher(ZooKeeper zooKeeper) { this.zooKeeper zooKeeper; } public void watch(String path) throws Exception { // 用getData注冊監(jiān)聽監(jiān)聽的事件是節(jié)點(diǎn)數(shù)據(jù)變化 byte[] data zooKeeper.getData(path, event - { System.out.println(配置發(fā)生變化 event.getPath()); try { // 實際業(yè)務(wù)處理比如刷新本地緩存 handleConfigChange(path); // 重點(diǎn)重新注冊監(jiān)聽 watch(path); } catch (Exception ex) { ex.printStackTrace(); } }, null); System.out.println(當(dāng)前配置值 new String(data)); } }這段代碼的關(guān)鍵點(diǎn)就在watch方法末尾再次調(diào)用自己注冊下一次監(jiān)聽。漏掉這一步監(jiān)聽只會觸發(fā)一次。我在項目里看到過很多次這個問題造成的現(xiàn)象是配置第一次修改生效以后再也收不到通知。用Curator時可以借助CuratorCache或者NodeCache來簡化監(jiān)聽邏輯。NodeCache在節(jié)點(diǎn)數(shù)據(jù)變化時觸發(fā)支持再次監(jiān)聽不需要手動循環(huán)NodeCache nodeCache new NodeCache(client, /config/db_switch); nodeCache.getListenable().addListener(() - { String newValue new String(nodeCache.getCurrentData().getData()); System.out.println(最新配置 newValue); }); nodeCache.start();NodeCache啟動后內(nèi)部自己處理了Watch重新注冊你只需要關(guān)心業(yè)務(wù)邏輯。這也是我更推薦Curator的原因把最容易錯的邊角料封住了。4.4 關(guān)于序列化傳數(shù)據(jù)到底傳什么操作ZNode時雖然接口接收的是byte[]但實際傳什么內(nèi)容我建議先約定好。寫項目X時我統(tǒng)一用JSON字符串把配置項封裝成對象后序列化存儲到節(jié)點(diǎn)里。讀取時再反序列化回對象。如果直接用Java原生序列化雖然類實現(xiàn)了Serializable就能存但跨語言調(diào)用會很痛苦而且序列化內(nèi)容體積大浪費(fèi)ZooKeeper有限的存儲空間。所以我的建議是存量小字段直接用字符串比如開關(guān)狀態(tài)寫on/off。結(jié)構(gòu)化成組配置用JSON字符串。切勿存大對象或大數(shù)組。深度思考一下ZooKeeper節(jié)點(diǎn)的數(shù)據(jù)是給所有客戶端看的用通用的JSON格式意味著不同語言的服務(wù)也能解析這比綁定Java序列化的方案通用性強(qiáng)很多。5. 實戰(zhàn)分布式鎖、服務(wù)發(fā)現(xiàn)、配置下發(fā)這三個場景怎么拆掌握基礎(chǔ)操作后關(guān)鍵是把它們組合成真正的業(yè)務(wù)解決方案。這一章我會挑三個最有代表性的實戰(zhàn)場景完整說明設(shè)計思路和實現(xiàn)步驟。5.1 用臨時順序節(jié)點(diǎn)實現(xiàn)分布式鎖項目X里有個定時任務(wù)需要保證集群里只有一個實例在執(zhí)行。最初用數(shù)據(jù)庫鎖后來切到ZooKeeper后穩(wěn)定很多。原理很簡單多個客戶端在同一個鎖路徑下創(chuàng)建臨時順序節(jié)點(diǎn)序號最小的獲得鎖其他客戶端監(jiān)聽序號比自己小的節(jié)點(diǎn)等它刪除后再嘗試獲得鎖。用Curator內(nèi)置的InterProcessMutex代碼幾乎沒有門檻InterProcessMutex lock new InterProcessMutex(client, /lock/order_task); boolean acquired lock.acquire(5, TimeUnit.SECONDS); if (acquired) { try { // 執(zhí)行定時任務(wù) doTask(); } finally { lock.release(); } }acquire方法第二個參數(shù)是獲取鎖的超時時間超過則放棄避免線程長時間卡死。release方法必須在finally里調(diào)用否則鎖不會釋放其他實例會一直阻塞。還要注意如果進(jìn)程崩潰鎖節(jié)點(diǎn)因為是臨時節(jié)點(diǎn)會自動被ZooKeeper清除這也是這個方案比數(shù)據(jù)庫鎖穩(wěn)的原因之一。如果不用Curator也可以基于原生API自己實現(xiàn)分布式鎖核心代碼邏輯是創(chuàng)建臨時順序節(jié)點(diǎn)然后獲取父節(jié)點(diǎn)下所有子節(jié)點(diǎn)列表判斷自己序號是否最小。不過這部分代碼要處理監(jiān)聽和重試細(xì)節(jié)我強(qiáng)烈建議直接用InterProcessMutex。5.2 服務(wù)注冊與發(fā)現(xiàn)沒有注冊中心時怎么辦服務(wù)注冊與發(fā)現(xiàn)是ZooKeeper非常經(jīng)典的場景。服務(wù)啟動時在 /services/服務(wù)名下創(chuàng)建臨時節(jié)點(diǎn)節(jié)點(diǎn)里存服務(wù)地址。調(diào)用方監(jiān)聽 /services/服務(wù)名 下的子節(jié)點(diǎn)列表變化就能實時感知服務(wù)的上下線。服務(wù)端注冊的示例String servicePath /services/order-service; String instancePath servicePath /instance- UUID.randomUUID(); String address 192.168.1.10:8080; client.create().creatingParentContainersIfNeeded() .withMode(CreateMode.EPHEMERAL) .forPath(instancePath, address.getBytes(StandardCharsets.UTF_8));客戶端訂閱服務(wù)列表的示例PathChildrenCache cache new PathChildrenCache(client, /services/order-service, true); cache.getListenable().addListener((curator, event) - { System.out.println(服務(wù)列表發(fā)生變化 event.getType()); cache.getCurrentData().forEach(data - { String address new String(data.getData()); System.out.println(可用實例 address); }); }); cache.start();PathChildrenCache是Curator提供的子節(jié)點(diǎn)監(jiān)聽工具啟動后監(jiān)聽子節(jié)點(diǎn)新增、刪除、數(shù)據(jù)修改。服務(wù)上下線時監(jiān)聽回調(diào)會收到事件客戶端就可以更新本地服務(wù)列表。配合臨時節(jié)點(diǎn)能夠?qū)崿F(xiàn)服務(wù)宕機(jī)自動摘除整個過程不需要人工介入。5.3 配置中心動態(tài)下發(fā)與App內(nèi)熱更新配置中心是ZooKeeper比較容易上手的場景。我把項目X的數(shù)據(jù)庫連接池參數(shù)、功能開關(guān)、限流閾值全部放到了 /config 路徑下每個子節(jié)點(diǎn)對應(yīng)一個配置項。服務(wù)啟動時讀取一次然后注冊監(jiān)聽配置更新后應(yīng)用自動刷新對應(yīng)組件。一個典型的配置模型// 啟動加載 byte[] data client.getData().forPath(/config/db_pool_max_active); String maxActive new String(data); // 修改數(shù)據(jù)庫連接池 dataSource.setMaxActive(Integer.parseInt(maxActive)); // 啟動監(jiān)聽后續(xù)變化實時更新 NodeCache cache new NodeCache(client, /config/db_pool_max_active); cache.getListenable().addListener(() - { String newMaxActive new String(cache.getCurrentData().getData()); dataSource.setMaxActive(Integer.parseInt(newMaxActive)); }); cache.start();這套配置中心實現(xiàn)上非常簡單比引入完整的配置中心中間件輕量得多。如果你只是需要十幾個配置項的熱更新ZooKeeper是性價比極高的方案。但要注意配置項應(yīng)該集中在一個路徑下方便管理還要為沒有經(jīng)驗的運(yùn)維同學(xué)準(zhǔn)備好配置變更的操作文檔避免改錯數(shù)據(jù)格式導(dǎo)致應(yīng)用啟動時解析失敗。5.4 三個場景的通用套路總結(jié)拆完三個場景你能發(fā)現(xiàn)它們共享同一套設(shè)計模式選定ZNode路徑、確定節(jié)點(diǎn)類型、注冊Watch。服務(wù)注冊用臨時節(jié)點(diǎn)是因為要自動清理配置存儲用持久節(jié)點(diǎn)是因為要長期保存分布式鎖用臨時順序節(jié)點(diǎn)是因為要排隊和自動釋放。所以學(xué)習(xí)ZooKeeper時不需要死記硬背API關(guān)鍵是能把業(yè)務(wù)需求翻譯成“節(jié)點(diǎn)類型 監(jiān)聽事件”的二元組。翻譯對了代碼只是時間問題。6. 生產(chǎn)環(huán)境必須面對的幾個硬骨頭把ZooKeeper放到生產(chǎn)環(huán)境之前有幾個問題必須提前想清楚。我在項目X推進(jìn)的過程中就踩過不少坑這里挑影響最大的幾個說。6.1 會話超時與心跳假死ZooKeeper客戶端會話超時機(jī)制是它高可用的基礎(chǔ)但也容易造成假死。現(xiàn)象是服務(wù)進(jìn)程還在但ZooKeeper服務(wù)端判斷會話過期把臨時節(jié)點(diǎn)清掉了其他客戶端看到你的服務(wù)已經(jīng)下線實際你的進(jìn)程還在運(yùn)行。我遇到過一次比較典型的情況某服務(wù)因為Full GC暫停了幾秒心跳沒發(fā)出去ZooKeeper判定會話超時把臨時節(jié)點(diǎn)刪了。Full GC恢復(fù)后服務(wù)還在處理業(yè)務(wù)下游已經(jīng)把流量切走了。這個問題靠代碼很難完全規(guī)避但可以通過調(diào)大sessionTimeout來降低誤判概率。我線上一般設(shè)sessionTimeoutMs為10秒比本地開發(fā)時大不少。處理方式是在客戶端加上ConnectionStateListener監(jiān)聽會話的重連和過期事件。Curator里這個Listener會告訴你RECONNECTED或者LOST。收到LOST事件時業(yè)務(wù)側(cè)必須主動檢查自己的臨時節(jié)點(diǎn)是否還存在不存在就需要重新注冊。6.2 Watch風(fēng)暴與重復(fù)注冊Watch機(jī)制雖然好用但用不好會造成嚴(yán)重問題。如果幾百個客戶端對同一個父節(jié)點(diǎn)注冊子節(jié)點(diǎn)監(jiān)聽那么這個節(jié)點(diǎn)一變化幾百個客戶端全部被打醒同時執(zhí)行后續(xù)邏輯這就是Watch風(fēng)暴。我在項目X早期犯過這個錯誤所有服務(wù)實例都在監(jiān)聽同一個服務(wù)列表節(jié)點(diǎn)導(dǎo)致服務(wù)上下線時通知量爆炸。優(yōu)化方案是把監(jiān)聽改為客戶端主動輪詢或者說改變數(shù)據(jù)組織方式讓每個客戶端只關(guān)心自己需要的那部分節(jié)點(diǎn)。比如把子節(jié)點(diǎn)按租戶分隔客戶端只監(jiān)聽自己租戶的路徑。這個調(diào)整之后通知量降了一個數(shù)量級效果立竿見影。另外就是重復(fù)注冊的坑。在緩存框架里一個節(jié)點(diǎn)被多個模塊同時監(jiān)聽很容易產(chǎn)生重復(fù)的Watcher。釋放節(jié)點(diǎn)緩存時必須調(diào)用close清理監(jiān)聽否則舊監(jiān)聽會一直駐留不僅浪費(fèi)內(nèi)存還會造成重復(fù)通知。6.3 單機(jī)模式的坑與集群容錯本地開發(fā)用單機(jī)模式?jīng)]問題但生產(chǎn)環(huán)境千萬不能只部署一個ZooKeeper實例。一旦這個單點(diǎn)宕機(jī)依賴它的配置中心和分布式鎖全部癱瘓整個系統(tǒng)都被卡住。我建議生產(chǎn)環(huán)境至少部署三個實例并且滿足奇數(shù)個。這是ZooKeeper選舉機(jī)制決定的3個實例允許掛1個5個允許掛2個。如果只部署2個掛1個就達(dá)不到多數(shù)派條件集群直接不可用還不如單機(jī)。部署時還要注意ZooKeeper和業(yè)務(wù)應(yīng)用盡量分離部署不要圖省事混在同一個宿主機(jī)上否則宿主機(jī)資源被業(yè)務(wù)占滿時ZooKeeper的磁盤和端口也會受影響容易產(chǎn)生連鎖故障。6.4 ACL權(quán)限不要讓ZNode裸奔很多團(tuán)隊搭建ZooKeeper后節(jié)點(diǎn)默認(rèn)不設(shè)任何權(quán)限所有人都能讀寫。在開發(fā)環(huán)境可以容忍但生產(chǎn)環(huán)境這樣做風(fēng)險很大。如果有誤操作或者在從節(jié)點(diǎn)路徑上亂寫數(shù)據(jù)可能導(dǎo)致線上配置被覆蓋。ZooKeeper的ACL不像Linux文件權(quán)限那么簡單它包含scheme、id和permission三層。我目前用的是digest認(rèn)證給節(jié)點(diǎn)設(shè)置用戶名密碼客戶端訪問時必須攜帶認(rèn)證信息。雖然MultiDocker內(nèi)部的網(wǎng)絡(luò)環(huán)境相對可控但加上認(rèn)證至少能擋住誤操作和弱安全要求的臨時腳本訪問。設(shè)置認(rèn)證的示例client.setACL().withACL(ZooDefs.Ids.CREATOR_ALL_ACL).forPath(/config);同時客戶端連接后要調(diào)用addAuthInfoclient.getZookeeperClient().getZooKeeper() .addAuthInfo(digest, admin:password.getBytes());ACL的好處是防止未授權(quán)客戶端亂寫數(shù)據(jù)代價是每次連接多一步認(rèn)證但這對生產(chǎn)安全是有價值的。如果你所在團(tuán)隊安全要求比較高建議一開始就按這套方式設(shè)計節(jié)點(diǎn)權(quán)限體系。作為Java開發(fā)者在項目中落地ZooKeeper我從最開始的只會寫CRUD到后來能獨(dú)立完成分布式鎖、服務(wù)發(fā)現(xiàn)和配置中心整個過程中最大的體會是ZooKeeper的API并不難難的是把“節(jié)點(diǎn)類型 Watch事件”這兩個概念靈活組合出正確的解決方案。我在項目X里真正穩(wěn)定運(yùn)行之后才慢慢把之前踩過的坑變成團(tuán)隊內(nèi)部的排查手冊。最后分享一個小技巧排查ZooKeeper相關(guān)問題時可以先用命令行客戶端連接上去手動執(zhí)行g(shù)et和ls操作確認(rèn)數(shù)據(jù)狀態(tài)是否和預(yù)期一致再回頭查代碼邏輯這樣能快速縮小問題范圍比直接翻代碼有效率得多。