人工智能（AI）無疑是近幾年最火的技術。從開發(fā)到部署AI技術主要可分為兩大步驟，即AI訓練和AI推理。

AI訓練主要是為AI模型提供數(shù)據(jù)，使其掌握了解將要分析的數(shù)據(jù)類型所需的一切信息的過程；而AI推理則是通過經過訓練的AI模型運行新的實時數(shù)據(jù)，從而作出預測并產生可執(zhí)行結果的過程。

在這兩個過程中，它們對于計算的需求不同，AI訓練的計算周期長，需要大量優(yōu)質數(shù)據(jù)，是一次性的投資。AI推理則是短時間的算力需求激增，需要快速、高效能的計算，是一個長期投資。

尤其對于AI訓練，隨著AI大模型的復雜度不斷提升，AI訓練所需的數(shù)據(jù)也在持續(xù)增長。根據(jù)OpenAI的數(shù)據(jù)，自2012年以來，最大規(guī)模的AI訓練所使用的計算量以每年10倍的速度增長。以OpenAI的ChatGPT為例，2022年11月發(fā)布的GPT-3當時使用了1750億個參數(shù)構建，而到2023年3月發(fā)布的GPT-4時，使用的參數(shù)數(shù)量已經超過1.5萬億個。這一數(shù)據(jù)還在持續(xù)增長中。

如此大規(guī)模的數(shù)據(jù)總量對于內存提出了較高要求，如高帶寬、高容量、高性能等，傳統(tǒng)的內存產品已經無法滿足AI訓練的需求。而HBM似乎是為AI訓練量身定做的存儲器產品。

HBM（High Bandwidth Memory，高帶寬存儲器）最先是AMD和SK海力士發(fā)起的一種基于3D堆棧工藝的高性能DRAM，它包含了中介層、處理器以及內存堆棧。這意味著HBM可以提供非常高的帶寬，而且還具有非常高的能效及低延遲。目前，HBM內存已經演進了了幾代，最新一代為HBM3E，英偉達即將發(fā)布的H200將是首款提供HBM3E的GPU產品。

人工智能技術的發(fā)展也帶動了HBM市場的不斷發(fā)展，在今年內存市場普遍低迷的情況下，HBM需求井噴，未來幾年的增幅也將擴大。據(jù)咨詢機構TrendForce預測，2024年全球HBM的位元供給有望增長105%。到2024年，HBM的市場規(guī)模有望達到89億美元，同比增長127%，2025年預計將突破100億美元。

在此情況下，作為內存控制器IP的主要提供商之一，Rambus也積極布局HBM內存市場，近期推出了數(shù)據(jù)傳輸速率高達9.6Gb/s的HBM3內存控制器IP，可幫助大幅提高AI性能。據(jù)Rambus接口IP產品管理和營銷副總裁Joe Salvador先生介紹，Rambus的這一內存控制器IP產品是經過驗證的，可支持所有HBM3產品，也包括最新的HBM3E內存設備。

Rambus HBM3控制器模塊圖

Joe Salvador強調：“Rambus HBM3控制器不僅僅是一個獨立產品，我們還能提供一整套完整的經過驗證的解決方案，能夠和市面上目前比較常見的HBM3以及相關的內存模組進行匹配，如SK海力士、美光和三星的產品，我們都已經完成了一整套的測試。另外，我們也經過了第三方來自西門子Avery的驗證IP，也可以完整地支持相應的功能?！?/p>

目前，隨著AI技術的不斷發(fā)展，對于算力和內存的需求也將不斷增長。Rambus大中華區(qū)總經理蘇雷先生表示：“AI技術發(fā)展面臨的挑戰(zhàn)將更多集中于存儲墻問題，而算力的演進將不會面臨太多的挑戰(zhàn)。目前的內存和帶寬的發(fā)展還是太慢，無法跟上AI技術的發(fā)展腳步。作為存儲方面的專家，Rambus可以預見，伴隨著AI的新成長和驅動，我們會在這一輪的科技浪潮中發(fā)揮越來越重要的作用，助力AI的發(fā)展。”

另外，數(shù)據(jù)安全也是在AI技術發(fā)展中不可忽視的問題。蘇雷表示：“我們也提供安全IP方面的全套方案，讓數(shù)據(jù)傳輸更快、更安全?！?/p>

AI時代的來臨，帶來了很多挑戰(zhàn)和機遇。而對于存儲器市場來說，則是一次很好的發(fā)展機會。作為存儲行業(yè)的老兵，Rambus未來也大有可為。

審核編輯：劉清