摘要：?相信很多研發(fā)同學(xué)都有過(guò)引入緩存進(jìn)入到應(yīng)用架構(gòu)設(shè)計(jì)中的經(jīng)歷，本文從幾個(gè)角度闡述一些選型誤區(qū)和使用誤區(qū)以及高階使用技巧等，供開(kāi)發(fā)者參考。

阿里云高級(jí)解決方案架構(gòu)師 楊旭

世界最大混合云的總架構(gòu)師，4年前，開(kāi)始作為雙11阿里云技術(shù)負(fù)責(zé)人，負(fù)責(zé)搭建全球最大的混合云結(jié)構(gòu)，把 “雙11”的電商業(yè)務(wù)和技術(shù)場(chǎng)景在阿里云上實(shí)現(xiàn)，并保障這個(gè)混合云在雙11當(dāng)天能夠滿足全球客戶的購(gòu)物需求。

正文

相信很多研發(fā)同學(xué)都有過(guò)引入緩存進(jìn)入到應(yīng)用架構(gòu)設(shè)計(jì)中的經(jīng)歷，本文從幾個(gè)角度闡述一些選型誤區(qū)和使用誤區(qū)以及高階使用技巧等，供開(kāi)發(fā)者參考。

1. 什么情況下開(kāi)始考慮緩存？

緩存的主要目的是為了擋一些讀多寫(xiě)少的用戶請(qǐng)求，且數(shù)據(jù)在一定時(shí)間周期內(nèi)保持不變，再且業(yè)務(wù)允許一定時(shí)間差而導(dǎo)致的臟數(shù)據(jù)。假設(shè)你的業(yè)務(wù)直接讀寫(xiě)持久化存儲(chǔ)(比如mysql)的壓力不大，換言之持久化存儲(chǔ)的水位還較低可控范圍內(nèi)，那么不建議引入緩存，不但增加了一道依賴提高了系統(tǒng)復(fù)雜度，而且并沒(méi)有帶來(lái)可觀的解決問(wèn)題收益。引入緩存是為了提高系統(tǒng)承載能力且有效減少對(duì)后端持久化存儲(chǔ)的沖擊。遵循架構(gòu)簡(jiǎn)單適用的原則，不要為了使用緩存而使用。

2. 確定引入緩存后我該如何設(shè)計(jì)內(nèi)部數(shù)據(jù)結(jié)構(gòu)和緩存服務(wù)架構(gòu)？

先說(shuō)緩存數(shù)據(jù)結(jié)構(gòu)，這里往往存在使用誤區(qū)，不少開(kāi)發(fā)者將大字節(jié)key-value型數(shù)據(jù)寫(xiě)入緩存系統(tǒng)，業(yè)務(wù)頻繁讀取，那么問(wèn)題來(lái)了，從普通緩存服務(wù)器的網(wǎng)卡能力來(lái)看，幾K甚至幾十K大小的key-value，QPS上不了多少就會(huì)打爆網(wǎng)卡，因此數(shù)據(jù)大小遵循小夠用原則，而不是什么都往里面放。

另外內(nèi)存型緩存更關(guān)注整體內(nèi)存使用量，業(yè)務(wù)的key數(shù)量以及平均key大小跟內(nèi)存之間的博弈，同時(shí)務(wù)必合理設(shè)置數(shù)據(jù)過(guò)期時(shí)間。不推薦復(fù)雜數(shù)據(jù)結(jié)構(gòu)和時(shí)間復(fù)雜度高的操作，比如redis的執(zhí)行時(shí)間為O(N)的指令集。最后最重要一點(diǎn)切記把內(nèi)存型緩存當(dāng)做持久存儲(chǔ)對(duì)待，從應(yīng)用系統(tǒng)設(shè)計(jì)上內(nèi)存型緩存是要考慮隨時(shí)丟失的場(chǎng)景。

至于緩存服務(wù)架構(gòu)如何選擇，有幾種供參考，單master模式，master-slave模式(快速切換)，集群模式(有必要進(jìn)行業(yè)務(wù)數(shù)據(jù)分片)等。外加運(yùn)維管控系統(tǒng)，常見(jiàn)的緩存服務(wù)結(jié)構(gòu)：

Figure 3來(lái)源阿里云ApsaraDB for Redis

3. 幾種高階使用場(chǎng)景介紹

針對(duì)一些常見(jiàn)的緩存大規(guī)模使用場(chǎng)景，介紹幾例高階的用法：

一、 大流量下緩存前置架構(gòu)以提高服務(wù)性能。比如APP_A請(qǐng)求APP_B，正常路徑從APP_A → APP_B → Cache，前置做法簡(jiǎn)單的說(shuō)是APP_A內(nèi)嵌APP_B的client，以達(dá)到直接讀取Cache，請(qǐng)求不經(jīng)過(guò)APP_B。這兒也有個(gè)問(wèn)題，APP_B的研發(fā)同學(xué)需要把控好plugin到APP_A的客戶端，比如權(quán)限的收放，哪些可以在客戶端里做，哪些操作不能在客戶端側(cè)做，根據(jù)業(yè)務(wù)實(shí)際場(chǎng)景斟酌。

二、 SmartClient智能客戶端?？蛻舳丝梢愿鶕?jù)配置變更動(dòng)態(tài)做出變化，比如QPS限流，白名單等等策略，通過(guò)配置動(dòng)態(tài)更新通知客戶端做相應(yīng)的預(yù)期調(diào)整。舉個(gè)例子，流量突增導(dǎo)致緩存壓力過(guò)大，通過(guò)配置變更使得客戶端部分讀緩存改為走讀mysql，有效分擔(dān)緩存系統(tǒng)壓力。

三、 復(fù)雜緩存失效場(chǎng)景如何解？除了根據(jù)業(yè)務(wù)場(chǎng)景主動(dòng)設(shè)置數(shù)據(jù)過(guò)期時(shí)間，還有幾種情況，比如因數(shù)據(jù)請(qǐng)求更新mysql完畢，同時(shí)應(yīng)用觸發(fā)更新cache數(shù)據(jù)以達(dá)到緩存和mysql的數(shù)據(jù)一致性，此外假設(shè)還有跨機(jī)房集群而需要多個(gè)集群失效保持同步，一般會(huì)通過(guò)主動(dòng)失效服務(wù)來(lái)做多側(cè)的同步失效。如圖中的“失效中心”角色:

Figure 4來(lái)源阿里巴巴內(nèi)部業(yè)務(wù)系統(tǒng)

【往期回顧】
1.阿里云王牌架構(gòu)師一問(wèn)開(kāi)發(fā)者：我需要一個(gè)高并發(fā)的架構(gòu)，我的系統(tǒng)要改造成微服務(wù)嗎
https://yq.aliyun.com/articles/623271?spm=a2c4e.11155435.0.0.120433122PgFrW

2.阿里云王牌架構(gòu)師二問(wèn)開(kāi)發(fā)者：容器和虛擬化你會(huì)怎么選？
https://yq.aliyun.com/articles/623272?spm=a2c4e.11155435.0.0.120433122PgFrW

3.阿里云王牌架構(gòu)師楊曦：N多環(huán)境N多應(yīng)用個(gè)性配置管理如何從混亂到簡(jiǎn)單？
https://yq.aliyun.com/articles/623882?spm=a2c4e.11155435.0.0.7a783312apAOKE

原文鏈接

本文為云棲社區(qū)原創(chuàng)內(nèi)容，未經(jīng)允許不得轉(zhuǎn)載。