突破存儲器帶寬和容量限制三星CXL存儲器擴展設備

by Kapil Sethi

三星半導體DRAM產(chǎn)品計劃部高級經(jīng)理

近年來，人工智能、機器學習和云計算等技術不斷發(fā)展，產(chǎn)生了海量的數(shù)據(jù)。隨著數(shù)據(jù)驅(qū)動型技術的興起，對更強大計算機硬件架構的需求也隨之產(chǎn)生。為了創(chuàng)造強大的處理器，人們在單個處理器芯片上集成越來越多的內(nèi)核，以滿足數(shù)據(jù)密集型應用的處理和性能需求。然而，存儲器帶寬和容量未能跟上CPU（中央處理器）內(nèi)核數(shù)量的增長步伐，使處理器和存儲器性能之間出現(xiàn)鴻溝。

而存儲器容量和帶寬方面的需求得不到滿足，正不斷推動現(xiàn)有存儲器技術突破創(chuàng)新。由于現(xiàn)有常規(guī)DRAM的設計存在局限，使存儲器容量的擴展難以突破既定量級，因此需要全新的存儲器接口技術。此外，人工智能 (AI) 和大數(shù)據(jù)的興起推動了異構計算的潮流，多個不同類型的處理器能夠并行處理大量數(shù)據(jù)。

為了順應發(fā)展和變化，針對異構計算和組合基礎架構開發(fā)下一代互聯(lián)技術，以實現(xiàn)高效的資源利用。

?什么是Compute Express Link(CXL)？?

CXL是CXL聯(lián)盟開發(fā)的一項開放式互聯(lián)新標準，基于PCIe物理層的高速、低延遲CPU到設備互連技術。CXL可在主機CPU和互聯(lián)設備（例如加速器和存儲器擴展設備）之間提供高效連接。

CXL事務層由匯總到單個鏈路的三個動態(tài)多路通信子協(xié)議組成。這些協(xié)議分別稱為CXL.io、CXL.cache和CXL.mem。CXL設備連接到CXL主機時，通過CXL.io協(xié)議進行發(fā)現(xiàn)、枚舉、配置和管理。CXL.cache支持CXL設備訪問處理器內(nèi)存，CXL.mem則支持處理器訪問CXL設備存儲器。CXL.cache和CXL.mem協(xié)議棧已通過優(yōu)化實現(xiàn)低延遲。

圖：CXL設備類型（來自CXL聯(lián)盟）

CXL聯(lián)盟確定了三種不同的設備類型：

Type 1 CXL設備是一種緩存設備，例如加速器和SmartNICs（智能網(wǎng)卡）。Type 1設備可通過CXL.cache事務訪問主機內(nèi)存，并維護與主機內(nèi)存一致的本地緩存。

Type 2 CXL設備是GPU和FPGA（現(xiàn)場可編程邏輯門陣列，AI芯片的一種），具有掛載到設備的DDR（雙倍數(shù)據(jù)率同步動態(tài)隨機存儲器）和HBM（高帶寬存儲）等存儲器。Type 2 CXL設備可以像Type 1 CXL設備一樣直接訪問主機掛載的存儲器。除此之外，Type 2 CXL設備具有本地地址空間，主機CPU可以通過 CXL.mem事務查看和訪問該地址空間。

Type 3 CXL設備是內(nèi)存擴展設備，支持主機處理器通過cxl.mem事務一致地訪問CXL設備存儲器緩存。Type 3 CXL設備可用于實現(xiàn)存儲器容量和帶寬的擴展。

三星CXL存儲器擴展設備的更多亮點正在解碼中。在下篇中，我們將主要探討三星Type 3 CXL設備的特點和開源CXL軟件，敬請期待！

審核編輯 ：李倩