AI時代，HBM掀起存儲芯片新浪潮

2022年末，ChatGPT的面世無疑成為了引領(lǐng)人工智能浪潮的標志性事件，宣告著新一輪科技革命的到來。

從ChatGPT掀起的一片浪花，到無數(shù)大模型席卷全球浪潮，再到今年的Sora火爆全網(wǎng)，人工智能的浪潮一浪高過一浪。

在這波浪潮中，伴隨著人才、數(shù)據(jù)、算力的不斷躍級，人工智能產(chǎn)業(yè)正展現(xiàn)出巨大的潛力和應(yīng)用前景，正在多個領(lǐng)域展現(xiàn)出重要作用。

AI的快速發(fā)展對算力的需求呈現(xiàn)井噴的態(tài)勢，全球算力規(guī)模超高速增長。國際數(shù)據(jù)公司IDC、浪潮信息等聯(lián)合發(fā)布的《2022-2023全球計算力指數(shù)評估報告》預測，全球AI計算市場規(guī)模將從2022年的195億美元增長到2026年的346.6億美元。

巨大的生產(chǎn)潛力下，以GPU為代表的AI芯片供應(yīng)商在市場上獨孤求敗，無論是股票市值還是公司業(yè)績，頭部AI企業(yè)漲幅領(lǐng)跑全球市場，迎來了有史以來最強勁的增長態(tài)勢。

GPU繁榮背后，HBM同樣炙手可熱

AI熱潮造就GPU繁榮的同時，也讓扮演關(guān)鍵角色的HBM熱度高居不下，成為當前AI賽道的新興爆發(fā)風口。

HBM，全稱為High Bandwidth Memory，即高帶寬存儲器，是一款新型基于3D堆棧工藝的高性能DRAM，其實就是將很多個DDR芯片堆疊在一起后和GPU封裝在一起，實現(xiàn)大容量，高位寬的DDR組合陣列。

圖：AMD官網(wǎng)

與傳統(tǒng)DRAM芯片相比，HBM具有高帶寬、高容量、低延時與低功耗等優(yōu)勢，可以加快AI數(shù)據(jù)處理速度。

憑借這些優(yōu)勢，HBM能夠?qū)崿F(xiàn)大模型時代的高算力、大存儲的現(xiàn)實需求，在所有存儲芯片中，HBM被看作是最適用于AI訓練、推理的存儲芯片，是AI性能提升的關(guān)鍵。

據(jù)了解，HBM主要是通過硅通孔（TSV）工藝進行芯片堆疊，以增加吞吐量并克服單一封裝內(nèi)帶寬的限制，將數(shù)個DRAM裸片像樓層一樣垂直堆疊。相較傳統(tǒng)封裝方式，TSV技術(shù)能夠縮減30%體積，并降低50%能耗。

同時，也正是基于Interposer中介層互聯(lián)實現(xiàn)了近存計算，以及TSV工藝的堆疊技術(shù)，也讓更大的模型，更多的參數(shù)留在離核心計算更近的地方，從而減少內(nèi)存和存儲解決方案帶來的延遲。

從技術(shù)角度看，HBM使得DRAM從傳統(tǒng)2D轉(zhuǎn)變?yōu)榱Ⅲw3D，充分利用空間、縮小面積，正契合半導體行業(yè)小型化、集成化的發(fā)展趨勢。HBM突破了內(nèi)存容量與帶寬瓶頸，被視為新一代DRAM解決方案，業(yè)界認為這是DRAM通過存儲器層次結(jié)構(gòu)的多樣化開辟一條新的道路，革命性提升DRAM的性能。

隨著存儲數(shù)據(jù)量激增，市場對于HBM的需求將有望大幅提升。

從技術(shù)迭代上看，自2014年全球首款硅通孔HBM產(chǎn)品問世以來，HBM已經(jīng)從HBM1、HBM2、HBM2E，發(fā)展至目前被業(yè)界認為成為市場主流的HBM3，甚至HBM3E。

最初的HBM1為4層die堆疊，提供128GB/s帶寬，4GB內(nèi)存，顯著優(yōu)于同期GDDR5；

HBM2于2016年發(fā)布，2018年正式推出，為4層DRAM die，現(xiàn)在多為8層die，提供256GB/s帶寬，2.4Gbps傳輸速度和8GB內(nèi)存；

HBM2E于2018年發(fā)布，于2020年正式提出，在傳輸速度和內(nèi)存等方面均有較大提升，提供3.6Gbps傳輸速度和16GB內(nèi)存；

HBM3于2020年發(fā)布，2022年正式推出，堆疊層數(shù)及管理通道數(shù)均有增加，提供6.4Gbps傳輸速度和16GB內(nèi)存；

第五產(chǎn)品HBM3E，提供供高達8Gbps的傳輸速度和24GB容量，計劃于2024年大規(guī)模量產(chǎn)。

圖源：Rambus

近段時間來，全球多個科技巨頭都在競購第五代高帶寬內(nèi)存HBM3E。自2024年起，市場關(guān)注焦點即由HBM3轉(zhuǎn)向HBM3e，預計下半年將逐季放量，并逐步成為HBM市場主流。

對于接下來的規(guī)劃和技術(shù)發(fā)展方向，業(yè)界旨在突破目前HBM在速度、密度、功耗、占板空間等方面的極限。

過去幾年來，HBM產(chǎn)品帶寬增加了數(shù)倍，目前已接近或達到1TB/秒的里程碑節(jié)點。相較于同期內(nèi)其他產(chǎn)品僅增加兩三倍的帶寬增速，HBM的快速發(fā)展歸功于存儲器制造商之間的競爭和比拼。

下一代HBM4有望于2025-2026年推出。隨著客戶對運算效能要求的提升，HBM4在堆棧的層數(shù)上，除了現(xiàn)有的12hi（12層）外，也將再往16hi（16層）發(fā)展，更高層數(shù)也預估帶動新堆棧方式hybrid bonding的需求。HBM4 12hi產(chǎn)品將于2026年推出，而16hi產(chǎn)品則預計于2027年問世。

HBM芯片，AI時代的“金礦”

HBM突破了內(nèi)存容量與帶寬瓶頸，可以為GPU提供更快的并行數(shù)據(jù)處理速度，打破“內(nèi)存墻”對算力提升的桎梏。

憑借諸多優(yōu)勢，HBM成為AI時代的“新寵”，受到各大廠商的追捧，市場需求強勁。

首先，AI服務(wù)器的需求會在近兩年爆增，如今在市場上已經(jīng)出現(xiàn)了快速的增長。AI服務(wù)器可以在短時間內(nèi)處理大量數(shù)據(jù)，GPU可以讓數(shù)據(jù)處理量和傳輸速率的大幅提升，讓AI服務(wù)器對帶寬提出了更高的要求，HBM基本成為了AI服務(wù)器的標配。比如，AMD的MI300X、MI300A、MI250、MI250X等系列GPU已成為AI服務(wù)器市場的主流產(chǎn)品，這些GPU基本都配備了HBM。

并且AI浪潮還在愈演愈烈，HBM今后的存在感或許會越來越強。據(jù)semiconductor-digest預測，到2031年，全球HBM市場預計將從2022年的2.93億美元增長到34.34億美元，在2023-2031年的預測期內(nèi)復合年增長率為31.3%。

這樣的市場表現(xiàn)，無疑證明了HBM在市場上的巨大潛力。它不僅僅是一種存儲芯片，更是AI時代的“金礦”。

除了AI服務(wù)器，汽車也是HBM值得關(guān)注的應(yīng)用領(lǐng)域。汽車中的攝像頭數(shù)量，所有這些攝像頭的數(shù)據(jù)速率和處理所有信息的速度都是天文數(shù)字，想要在車輛周圍快速傳輸大量數(shù)據(jù)，HBM具有很大的帶寬優(yōu)勢。

另外，AR和VR也是HBM未來將發(fā)力的領(lǐng)域。因為VR和AR系統(tǒng)需要高分辨率的顯示器，這些顯示器需要更多的帶寬來在 GPU 和內(nèi)存之間傳輸數(shù)據(jù)。而且，VR和AR也需要實時處理大量數(shù)據(jù)，這都需要HBM的超強帶寬來助力。

此外，智能手機、平板電腦、游戲機和可穿戴設(shè)備的需求也在不斷增長，這些設(shè)備需要更先進的內(nèi)存解決方案來支持其不斷增長的計算需求，HBM也有望在這些領(lǐng)域得到增長。并且，5G 和物聯(lián)網(wǎng) (IoT) 等新技術(shù)的出現(xiàn)也進一步推動了對HBM的需求。

整體來看，隨著人工智能、機器學習、高性能計算、數(shù)據(jù)中心、自動駕駛、AR/VR等應(yīng)用市場的興起，內(nèi)存產(chǎn)品設(shè)計的復雜性正在快速上升，并對帶寬提出了更高的要求，不斷上升的寬帶需求持續(xù)驅(qū)動HBM發(fā)展。相信未來，存儲巨頭們將會持續(xù)發(fā)力、上下游廠商相繼入局，讓HBM得到更快的發(fā)展和更多的關(guān)注。

據(jù)市場研究機構(gòu)TrendForce預測，2023年全球搭載HBM總?cè)萘繉⑦_2.9億GB，同比增長近60%。到2027年，HBM市場預計將以82%的復合年增長率保持增長，未來市場前景非常廣闊。

在2023年的市場風云中，存儲芯片市場持續(xù)低迷，HBM如同一股清流逆流而上，照亮了存儲行業(yè)的前行之路，成為存儲巨頭在下行行情中對業(yè)績的重要扭轉(zhuǎn)力量，也是產(chǎn)業(yè)鏈上常提及的高頻詞。

當以AI GPU為代表的相關(guān)各類需求如潮水般洶涌而至，由于英偉達和AMD等AI芯片制造商的需求激增，HBM價格逆勢上揚，成為了行業(yè)的“香餑餑”。

方正證券報告指出，從成本端來看，HBM平均售價至少是DRAM三倍；而此前受ChatGPT的拉動同時受限產(chǎn)能不足，供不應(yīng)求成為現(xiàn)狀，HBM價格一路上漲。

2023年，HBM平均售價“逆勢暴漲”500%。2024年，HBM依舊“狀態(tài)火熱”。

擴產(chǎn)，HBM廠商的主旋律

受生成式AI大模型等領(lǐng)域的驅(qū)動，HBM逐漸發(fā)展成為新興熱門產(chǎn)業(yè)之一，隨著上游客戶不斷發(fā)出新的需求，目前HBM市場正釋放出供不應(yīng)求的信號。

在此現(xiàn)狀和趨勢下，HBM產(chǎn)能緊張的問題日益凸顯，正釋放出供不應(yīng)求的信號。很多高性能GPU的產(chǎn)能上不來，很大程度上就是因為HBM不夠用了。

日前，美光科技CEO Sanjay Mehrotra 在財報電話會議上表示，AI 服務(wù)器需求正推動 HBM DDR5 和數(shù)據(jù)中心 SSD 快速成長，這使得高階 DRAM、NAND 供給變得吃緊，進而對儲存終端市場報價帶來正面連鎖效應(yīng)。同時強調(diào)道：“美光今年HBM產(chǎn)能已銷售一空，且2025年絕大多數(shù)產(chǎn)能已被預訂?！?/p>

不難猜測，在此情形下，其他HBM供應(yīng)商例如SK海力士和三星電子的產(chǎn)能估計也會變得緊張。

對此，生產(chǎn)和擴產(chǎn)成了HBM提供商的主旋律。

據(jù)報道，包括美光科技在內(nèi)的頭部存儲原廠正在追加投資HBM產(chǎn)線，擴大HBM目標產(chǎn)能，以應(yīng)對市場的旺盛需求。同時，大廠們繼續(xù)埋頭攻破技術(shù)壁壘，以迅速抓住市場新機遇，力求在下一代標準中掌握主導權(quán)。

預計今年各大制造商在HBM領(lǐng)域?qū)懈嗯e措，屬于HBM市場的一場爭奪戰(zhàn)正式開啟。

然而，即便是在這樣的擴產(chǎn)計劃下，HBM的供應(yīng)仍然難以滿足市場的需求。市場研究公司Yole表示，受到生產(chǎn)擴張難度和需求激增的雙重影響，2023-2028年間，HBM供應(yīng)的年復合增長率將達到45%。這意味著，在相當長的一段時間內(nèi)，HBM的價格都將保持高位。

從性能來看，HBM無疑是出色的，其在數(shù)據(jù)傳輸?shù)乃俾?、帶寬以及密度上都有著巨大的?yōu)勢。不過，目前HBM仍主要應(yīng)用于服務(wù)器、數(shù)據(jù)中心等應(yīng)用領(lǐng)域，其最大的限制條件在于成本，對成本比較敏感的消費領(lǐng)域而言，HBM的使用門檻仍較高。因此HBM當前市場份額還比較低，但隨著多領(lǐng)域需求的提升，未來HBM市場將會呈現(xiàn)爆發(fā)式的增長。

根據(jù)TrendForce預估，2024年全球HBM的位元供給有望增長105%，市場規(guī)模也有望于今年達89億美元，同比增長127%，預計至2026年市場規(guī)模將達127.4億美元，對應(yīng)CAGR約37%。

以規(guī)格而言，伴隨AI芯片需要更高的效能，HBM主流也將在2024年移轉(zhuǎn)至HBM3與HBM3E。整體而言，在需求位元提高以及HBM3與HBM3E平均銷售價格高于前代產(chǎn)品的情形下，2024年HBM營收可望有顯著的成長。

存儲回暖，HBM加速

目前消費電子已出現(xiàn)復蘇信號，行業(yè)新的轉(zhuǎn)機正在孕育生成，AI催生存力新需求，2024年存儲市場有望迎來新的轉(zhuǎn)機。

在供應(yīng)鏈庫存水位已大幅改善和需求回溫的態(tài)勢下, 客戶為避免供貨短缺及成本墊高的風險, 持續(xù)增加采購訂單。

據(jù)TrendForce數(shù)據(jù)預測，2024年一季度受惠訂單規(guī)模持續(xù)放大，激勵DRAM合約價季漲幅約13~18%，NAND Flash則是18-23%。

NAND Flash合約價平均漲幅高達25%；觀察2024年第一季DRAM市場趨勢，原廠目標仍為改善獲利，漲價意圖強烈，促使DRAM合約價季漲幅近兩成。

展望第二季度，雖然目前市場對整體需求看法仍屬保守，但DRAM與NAND Flash供應(yīng)商已分別在2023年第四季下旬，以及2024年第一季調(diào)升產(chǎn)能利用率，加上NAND Flash買方也早在第一季將陸續(xù)完成庫存回補。因此，DRAM、NAND Flash第二季合約價季漲幅皆收斂至3~8%。

存儲芯片市場價格的反彈信號，讓行業(yè)人士看到了“曙光”。

而隨著HBM的興起，將成為半導體和算力行業(yè)未來新的增長點，HBM無疑將繼續(xù)引領(lǐng)存儲行業(yè)的新篇章。而那些能夠在這個領(lǐng)域立足并不斷創(chuàng)新的公司，也將會迎來更加廣闊的發(fā)展空間和機遇。

據(jù)WSTS預測，2024年存儲芯片市場漲幅達44.8%。

過去兩年來，在存儲市場下行時期，HBM作為行業(yè)的中流砥柱異軍突起，為行業(yè)疲態(tài)“雪中送炭”；而如今，隨著存儲行業(yè)觸底反彈，優(yōu)勢傍身的HBM在產(chǎn)業(yè)搶購與擴產(chǎn)聲中，再次掀起存儲芯片的發(fā)展新浪潮，為其增勢“錦上添花”。

展望未來，隨著AI技術(shù)的不斷進步和應(yīng)用場景的拓展，HBM的需求將會持續(xù)增長。而國際存儲芯片大廠們也在積極布局，加大產(chǎn)能擴張力度，以應(yīng)對市場的挑戰(zhàn)。同時，隨著HBM技術(shù)的不斷成熟和應(yīng)用領(lǐng)域的拓展，其成本也有望逐漸降低，從而進一步推動其在市場上的普及和應(yīng)用。

審核編輯：劉清