IBM聲稱，使用NAND或3D XPoint部署Memcache可以以更低的成本接近DRAM的緩存性能。

Memcache是一個(gè)在2003年推出的開源分布式內(nèi)存系統(tǒng)。目前，數(shù)據(jù)庫(kù)規(guī)模要大得多，DRAM仍然很昂貴，實(shí)際上，從2016年到2017年，價(jià)格上漲了47％。

據(jù)統(tǒng)計(jì)現(xiàn)如今有700多個(gè)應(yīng)用程序使用Memcache，還有許多公共云提供托管Memcache服務(wù)。例如，LinkedIn，Airbnb和Twitter使用Memcache來避免訪問存儲(chǔ)上的數(shù)據(jù)庫(kù)，從而減少查詢響應(yīng)速度。

IBM將內(nèi)存驅(qū)動(dòng)到uDepot

IBM蘇黎世研究人員使用NVMe閃存和Optane（3D XPoint）構(gòu)建Memcache時(shí)表示，它可以以更低的成本提供接近DRAM的性能，并且在保存內(nèi)容時(shí)而不損耗功率。

IBM員工指出了其中的一個(gè)關(guān)鍵要點(diǎn)：名為uDepot的超值商店，專為NVMe閃存而設(shè)計(jì)，還有Optane。在使用3D XPoint（1.25美元/ GiB）而不犧牲性能并獲得更高的云緩存容量可擴(kuò)展性時(shí)，使用閃存（$ 0.4 / GiB）和降低4.5倍硬件成本時(shí)，用戶可以降低比DRAM低10倍的預(yù)期成本（10美元/ GiB） 。

他們將uDepot與NVMe閃存SSD一起實(shí)施為IBM Cloud服務(wù)，將其稱為Data Store for Memcache，并使用memaslap測(cè)試對(duì)其進(jìn)行基準(zhǔn)測(cè)試，其中針對(duì)使用亞馬遜AWS Elasticache使用DRAM的免費(fèi)版本。

他們發(fā)現(xiàn)，Memcache的數(shù)據(jù)存儲(chǔ)平均速度提高了33％（在所有并發(fā)請(qǐng)求數(shù)據(jù)點(diǎn)上），每秒事務(wù)圖表顯示如下：

延遲對(duì)比圖表顯示DataStore for Memcache接近Elasticache延遲：

此圖表的未標(biāo)記垂直軸顯示平均延遲（以微秒為單位）。

DataStore for Memcache可作為IBM Cloud的免費(fèi)測(cè)試版提供。

IBM官方產(chǎn)品目前還在測(cè)試階段，以下是官網(wǎng)是給出的鏈接，有興趣的可以去嘗試體驗(yàn)一下：https://cloud.ibm.com/catalog/services/data-store-for-memcache

Memcache的問題

IBM還使用兩個(gè)Intel Optane 3D XPoint驅(qū)動(dòng)器（Intel P4800X 375GB）實(shí)現(xiàn)了uDepot，并將其與DRAM和閃存Memcache實(shí)施進(jìn)行了比較，再次使用memaslap測(cè)試。該公司比較了五種備選的memcache實(shí)現(xiàn)：

uDepot Optane與trt-spdk后端

uDepot Optane與trt-aio后端

memcached與DRAM

MemC3 - 一個(gè)帶DRAM更新的Memcache實(shí)現(xiàn)

Fatcache - 為SSD編寫的Memcache實(shí)現(xiàn)，但在此處使用Optane媒體實(shí)現(xiàn)

結(jié)果顯示uDepot接近memcached，MemC3在吞吐量方面表現(xiàn)優(yōu)于memcached（左圖）。Fatcache及其基于SSD的代碼在吞吐量測(cè)試方面遠(yuǎn)遠(yuǎn)落后。

在延遲方面（右圖）Fatcache也不是那么好。它將數(shù)據(jù)緩存在DRAM中，在低隊(duì)列深度處獲得低延遲，然后延遲隨著來自客戶端的并發(fā)請(qǐng)求數(shù)量而迅速增加。

memcached和MemC3 DRAM以及uDepot Optane緩存替代方案在延遲方面緊密結(jié)合。

對(duì)于128個(gè)客戶端，實(shí)際延遲和吞吐量數(shù)量為：

MemC3 - 110μs和1,145kops/s

memcached - 126μs和1,001kops/s

uDepot trt-spdk - 128μs和985kops/s

uDepot trt-aio - 139μs和911kops/s

Fatcache - 2,418μs和53kops/s

IBM研究人員得出結(jié)論，DRAM上的memcached可以被Optane上的uDepot取代，其中對(duì)性能的影響可以忽略不計(jì)。

uDepot Optane吞吐量與uDepot閃存相比如何？128個(gè)客戶端的uDepot Flash吞吐量為40,000，從第一張圖表讀取，大約為140,000，讀取右上方的uDepot Optane圖表 - 好3.5倍。

這些數(shù)字表明NVMe Optane驅(qū)動(dòng)器在memcache應(yīng)用程序中可能是值得替代的DRAM。