電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）如今英偉達(dá)GPU迭代速度加快至每年一次，HBM存儲(chǔ)速率如何跟上GPU發(fā)展節(jié)奏。越來越多的超大規(guī)模云廠商、GPU廠商開始轉(zhuǎn)向定制化HBM。而HBM存儲(chǔ)廠商以及晶圓代工廠也在積極配合這一客戶需求。從HMB4的加速量產(chǎn)、HBM4E演進(jìn)到邏輯裸芯片的定制化等HBM技術(shù)正在創(chuàng)新中發(fā)展。

HBM4E的基礎(chǔ)裸片集成內(nèi)存控制器

外媒報(bào)道，臺(tái)積電在近日的生態(tài)論壇上分享了對(duì)首代定制 HBM 內(nèi)存的看法。臺(tái)積電認(rèn)為定制HBM將在HBM4E時(shí)代正式落地，即C-HBM4E。

據(jù)介紹，臺(tái)積電為HBM4提供兩種不同的HBM Base Die（基礎(chǔ)裸片）制程方案，分別是面向主流市場(chǎng)的 N12FFC+ 和追求更高性能的N5。后應(yīng)英偉達(dá)要求，SK 海力士將基礎(chǔ)裸片工藝升級(jí)為更先進(jìn)的 N3 節(jié)點(diǎn)。

?

在 C-HBM4E 上，為向基礎(chǔ)裸片集成MC（內(nèi)存控制器）以滿足節(jié)省計(jì)算芯片面積等需求，臺(tái)積電將提供 N3P 先進(jìn)制程基礎(chǔ)裸片解決方案，可將能效提升至HBM3E基礎(chǔ)裸片的2倍左右。同時(shí) C-HBM4E 的 Vdd 電壓將僅有 0.75V，較HBM4 進(jìn)一步降低。

去年，SK 海力士與臺(tái)積電簽署諒解備忘錄，臺(tái)積電負(fù)責(zé)生產(chǎn)HBM4的基礎(chǔ)裸片。SK 海力士以往 HBM 產(chǎn)品的基礎(chǔ)裸片由自身制程工藝制造，而 HBM4 采用臺(tái)積電的先進(jìn)邏輯工藝。同時(shí)，雙方還將協(xié)力優(yōu)化 SK 海力士的 HBM 產(chǎn)品和臺(tái)積電的 CoWoS 技術(shù)融合，共同應(yīng)對(duì) HBM 相關(guān)客戶的要求。

在SK 海力士首次公開展示的HBM4可以看到，該產(chǎn)品采用12層堆疊結(jié)構(gòu)，通過臺(tái)積電N3 工藝制造的基底裸片，實(shí)現(xiàn)了單顆36GB容量和2TB/s 的帶寬突破，較前代 HBM3E 的傳輸速度提升了60% 以上。
將GPU、xPU核心集成到HBM的可能性

日前，Meta和Nvidia正在與SK海力士和三星電子探討合作，他們希望將AI xPU 的特定功能電路卸載到 HBM的基礎(chǔ)裸片中，從而提升xPU的芯片面積利用率，讓 HBM 不僅是片外緩存拓展，還成為 xPU 邏輯功能的組成部分，從而提高芯片整體效率，減少面積占用，滿足 AI 應(yīng)用對(duì)極致性能和能效比的追求。例如，將GPU核心嵌入到位于HBM底部的基片中，就是將之前集中在GPU上的計(jì)算功能卸載到內(nèi)存，從而減少數(shù)據(jù)傳輸和GPU本身的負(fù)擔(dān)。

目前HBM底部的基片負(fù)責(zé)內(nèi)存與外部環(huán)境之間的通信。上述內(nèi)容提到HBM4E的基片有望集成內(nèi)存控制器。大型科技公司試圖通過添加能夠控制內(nèi)存的半導(dǎo)體來提升性能和效率。而集成 GPU 核心又提供了另一種技術(shù)可能。其本質(zhì)仍然是縮短內(nèi)存與計(jì)算之間的物理距離，降低數(shù)據(jù)傳輸延遲和功耗，提升性能。

不過，報(bào)道指出由于硅通孔TSV工藝的限制，HBM 基片上用于容納 GPU 核心的空間非常有限。電源供應(yīng)和散熱也是關(guān)鍵問題。GPU計(jì)算核心功耗高、發(fā)熱量大，散熱管理成為瓶頸。

美光HBM4E基底邏輯芯片將與臺(tái)積電合作定制

美光日前表示，在高帶寬內(nèi)存（HBM）領(lǐng)域，美光表示其 12 層堆疊的 HBM4 DRAM 方案按計(jì)劃推進(jìn)。為響應(yīng)近期激增的性能需求，公司已完成業(yè)界最快 HBM4 解決方案的首批樣片交付，該方案實(shí)現(xiàn)超 11 Gbps 引腳傳輸速率與 2.8 TB/s 帶寬。美光 HBM4 憑借業(yè)界頂尖的性能表現(xiàn)與能效比，全面優(yōu)于所有競(jìng)品。

美光總裁兼首席執(zhí)行官桑杰?梅赫羅特拉（Sanjay Mehrotra）表示，成熟的 1-γ DRAM 工藝、創(chuàng)新低功耗的 HBM4 架構(gòu)、自研先進(jìn) CMOS 基底芯片及前沿封裝技術(shù)，構(gòu)成了這款標(biāo)桿產(chǎn)品的核心競(jìng)爭(zhēng)力。

他進(jìn)一步披露了下一代 HBM4E 內(nèi)存規(guī)劃。與完全基于自研先進(jìn) CMOS 基底芯片的 HBM 不同，HBM4E 的基底邏輯芯片將與臺(tái)積電合作制造，涵蓋標(biāo)準(zhǔn)品與定制化產(chǎn)品。美光預(yù)計(jì) HBM4E 將于 2027 年正式推出。

他說，針對(duì) HBM4E，美光科技將提供標(biāo)準(zhǔn)產(chǎn)品及基底邏輯芯片定制服務(wù)。我們正與臺(tái)積電合作，為標(biāo)準(zhǔn)品與定制化產(chǎn)品同步開發(fā) HBM4E 基底邏輯芯片。定制化方案需與客戶深度協(xié)同，預(yù)計(jì)搭載定制基底邏輯芯片的 HBM4E 將較標(biāo)準(zhǔn)品實(shí)現(xiàn)更高毛利率。目前美光 HBM 客戶群已擴(kuò)展至 6 家。

三星積極推進(jìn)HBME4

三星電子計(jì)劃最早于明年上半年完成 HBM4E 的開發(fā)工作。HBM4E邏輯裸片的定制化需要廠商具備定制產(chǎn)品設(shè)計(jì)的能力，以及先進(jìn)的晶圓代工制程能力。三星從 HBM4 世代開始采用自家晶圓代工工藝生產(chǎn)邏輯裸片，具備垂直整合、以及調(diào)配供應(yīng)鏈的能力。不過，考慮到SK海力士、美光都選擇與臺(tái)積電合作邏輯裸片，對(duì)于HBM4E邏輯裸片的定制化的確也考驗(yàn)三星對(duì)基礎(chǔ)裸片進(jìn)行設(shè)計(jì)與制造能力。

小結(jié)：

不僅是英偉達(dá)，現(xiàn)在很多大型科技公司都在自主研發(fā)AI加速器，于是對(duì)HBM4E定制化的需求日益強(qiáng)烈且多元化。以搭載 HBM4E的AI 加速器計(jì)劃于2027 年正式發(fā)布來倒推，HBM4E 有望在明年下半年完成產(chǎn)品品質(zhì)驗(yàn)證。對(duì)于存儲(chǔ)廠商來說，定制化能夠加深客戶和存儲(chǔ)廠商的合作關(guān)系。一旦進(jìn)入供應(yīng)鏈體系后，客戶不會(huì)輕易更換供應(yīng)商。這種定制化HBM合作會(huì)是存儲(chǔ)廠商搶占客戶提升市場(chǎng)份額的關(guān)鍵，可以想見未來HBM市場(chǎng)格局的競(jìng)爭(zhēng)將非常激烈。