隨著個人與企業(yè)所產(chǎn)生及使用的資料量急劇增長,為了支持使用人工智能 (AI)、機器學習 (ML) 等復雜模型的應用,云服務供應商需要一套全新的架構(gòu)來存儲、分析及傳送資料。但由于內(nèi)存容量需求不斷上升,使得處理器數(shù)量及內(nèi)存頻寬達到瓶頸,舉例來說,盡管 DRAM 占服務器成本的比例高達 50%,卻受限于內(nèi)存無法連接到多個 CPU 或 GPU 的架構(gòu),導致在各個時間段中約有 25% 的內(nèi)存處于閑置的窘境。
Compute Express Link (CXL) 是一種用于處理器、內(nèi)存擴展和加速器的開放標準。CXL 內(nèi)存控制器允許內(nèi)存通過擴張、池化、共享等方式,增加內(nèi)存利用率,并減少總擁有成本 (TCO),同時改善系統(tǒng)能效及效率,以支持通用運算、AI 訓練和推理、機器學習、內(nèi)存資料庫、內(nèi)存分層及其他應用專屬的工作負載。CXL 內(nèi)存控制器也提供了高度的彈性,保留未來升級的空間,與主流 CPU、GPU 與內(nèi)存廠商的相容性讓這個產(chǎn)品能夠更容易被管理、偵錯及規(guī)?;?/p>
Astera Labs - Leo CXL Memory Connectivity Platform
Astera Labs Leo CXL Memory Connectivity 平臺是業(yè)界首個通過內(nèi)存擴展、池化和共享來消除內(nèi)存瓶頸、提高性能和降低 TCO 的解決方案。Leo 控制器具有云規(guī)模部署所需的廣泛功能,包括服務器級 RAS 功能、端到端安全性、低延遲 DDRx 等。與領先業(yè)界的處理器廠商、存儲器廠商、策略云端客戶、系統(tǒng) OEM 和 CXL 聯(lián)盟密切合作開發(fā),以確保其滿足眾廠商的特定要求,并在整個生態(tài)系統(tǒng)中流暢互通。
相關產(chǎn)品
![]() |
![]() |
A100 80GB PCIe GPU NVIDIA 適用于 PCIe 的 NVIDIA A100,為所有工作負載提供最高程度的多樣性。在 80 GB 版本上首度推出全球最快速的內(nèi)存頻寬,每秒超過 2 TB (TB/秒),可解決最大的模型和資料集。 |
2-Mbit I2C EEPROM STMicroelectronics M24M02 是一個 2-Mbit I2C 兼容的 EEPROM,可以在1.8V 至 5.5V 的電壓及-40 °C / +85 °C 的溫度范圍內(nèi)作業(yè)。 |
-
內(nèi)存
+關注
關注
8文章
3125瀏覽量
75270 -
ML
+關注
關注
0文章
151瀏覽量
35078 -
益登科技
+關注
關注
0文章
28瀏覽量
12899 -
云服務器
+關注
關注
0文章
809瀏覽量
13834
原文標題:云服務器中的 CXL 內(nèi)存擴充與池化
文章出處:【微信號:gh_35b6c826f6e2,微信公眾號:益登科技】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
救場服務器內(nèi)存的CXL
云服務器有什么優(yōu)勢?怎么選對云服務器?
云服務器安全嗎?云服務器有哪些優(yōu)勢?
CXL內(nèi)存協(xié)議介紹
云服務和普通服務器的四個不同
Astera Labs面向CXL附加內(nèi)存擴展和池化應用的Leo Memory Connectivity Platform進入預量產(chǎn)階段
基于CXL技術的大內(nèi)存池化方案解析
訪問CXL 2.0設備中的內(nèi)存映射寄存器

CXL技術的三種模式 CXL技術與其他技術的對比

評論