?HBM即高帶寬存儲，由多層DRAM Die垂直堆疊，每層Die通過TSV穿透硅通孔技術(shù)實現(xiàn)與邏輯Die連接，使得8層、12層Die封裝于小體積空間中，從而實現(xiàn)小尺寸于高帶寬、高傳輸速度的兼容，成為高性能AI服務(wù)器GPU顯存的主流解決方案。

目前迭代至HBM3的擴(kuò)展版本HBM3E，提供高達(dá)8Gbps的傳輸速度和16GB內(nèi)存，由SK海力士率先發(fā)布，將于2024年量。

HBM主要應(yīng)用場景為AI服務(wù)器，最新一代HBM3e搭載于英偉達(dá)2023年發(fā)布的H200。根據(jù)Trendforce數(shù)據(jù)，2022年AI服務(wù)器出貨量86萬臺，預(yù)計2026年AI服務(wù)器出貨量將超過200萬臺，年復(fù)合增速29%。

AI服務(wù)器出貨量增長催化HBM需求爆發(fā)，且伴隨服務(wù)器平均HBM容量增加，經(jīng)測算，預(yù)期25年市場規(guī)模約150億美元，增速超過50%。

HBM供給廠商主要聚集在SK海力士、三星、美光三大存儲原廠，根據(jù)Trendforce數(shù)據(jù)，2023年SK海力士市占率預(yù)計為53%，三星市占率38%、美光市占率9%。HBM在工藝上的變化主要在CoWoS和TSV。

HBM1最早于2014年由AMD與SK海力士共同推出，作為GDDR競品，為4層die堆疊，提供128GB/s帶寬，4GB內(nèi)存，顯著優(yōu)于同期GDDR5。

HBM2于2016年發(fā)布，2018年正式推出，為4層DRAMdie，現(xiàn)在多為8層die，提供256GB/s帶寬，2.4Gbps傳輸速度，和8GB內(nèi)存；HBM2E于2018年發(fā)布，于2020年正式提出，在傳輸速度和內(nèi)存等方面均有較大提升，提供3.6Gbps傳輸速度，和16GB內(nèi)存。HBM3于2020年發(fā)布，2022年正式推出，堆疊層數(shù)及管理通道數(shù)均有增加，提供6.4Gbps傳輸速度，傳輸速度最高可達(dá)819GB/s，和16GB內(nèi)存HBM3E由SK海力士發(fā)布HBM3的增強版，提供高達(dá)8Gbps的傳輸速度，24GB容量，計劃于2024年大規(guī)模量產(chǎn)。

HBM因其高帶寬、低功耗、小體積等特性，廣泛應(yīng)用于AI服務(wù)器場景中。HBM的應(yīng)用主要集中在高性能服務(wù)器，最早落地于2016年的NVP100GPU（HBM2）中，后于2017年應(yīng)用在V100（HBM2）、于2020年應(yīng)用在A100（HBM2）、于2022年應(yīng)用在H100（HBM2e/HBM3），最新一代HBM3e搭載于英偉達(dá)2023年發(fā)布的H200，為服務(wù)器提供更快速度及更高容量。

HBM供給廠商主要聚集在SK海力士、三星、美光三大廠，SK海力士領(lǐng)跑。三大存儲原廠主要承擔(dān)DRAMDie的生產(chǎn)及堆疊，展開技術(shù)升級競賽，其中SK海力士與AMD合作發(fā)布全球首款HBM，23年率先供應(yīng)新一代HBM3E，先發(fā)奠定市場地位，主要供應(yīng)英偉達(dá)，三星供應(yīng)其他云端廠商，根據(jù)TrendForce數(shù)據(jù)，2022年SK海力士市占率50%、三星市占率40%、美光市占率10%左右，2023年SK海力士市占率預(yù)計為53%，三星市占率38%、美光市占率9%。

HBM在封裝工藝上的變化主要在CoWoS和TSV。

1）CoWoS：是將DRAMDie一同放在硅中介層上，通過過ChiponWafer（CoW）的封裝制程連接至底層基板上，即將芯片通過ChiponWafer（CoW）的封裝制程連接至硅晶圓，再把CoW芯片與基板連接，整合成CoWoS。當(dāng)前，HBM與GPU集成的主流解決方案為臺積電的CoWoS，通過縮短互連長度實現(xiàn)更高速的數(shù)據(jù)傳輸，已廣泛應(yīng)用于A100、GH200等算力芯片中。

2）TSV：TSV硅通孔是實現(xiàn)容量和帶寬擴(kuò)展的核心，通過在整個硅晶圓厚度上打孔，在芯片正面和背面之間形成數(shù)千個垂直互連。在HBM中多層DRAMdie堆疊，通過硅通孔和焊接凸點連接，且只有最底部的die能向外連接到存儲控制器，其余管芯則通過內(nèi)部TSV實現(xiàn)互連。

審核編輯：黃飛

?