來源:TECHPOWERUP
2024 IEEE IEDM 會議目前正在美國加州舊金山舉行。據(jù)分析師 Ian Cutress 在其社交平臺上發(fā)布的動態(tài),英偉達在本次學(xué)術(shù)會議上分享了有關(guān)未來 AI 加速器設(shè)計的愿景。
英偉達認(rèn)為未來整個 AI 加速器復(fù)合體將位于大面積先進封裝基板之上,采用垂直供電,集成硅光子 I/O 器件,GPU 采用多模塊設(shè)計,3D 垂直堆疊 DRAM 內(nèi)存,并在模塊內(nèi)直接整合冷板。
在英偉達給出的模型中,每個 AI 加速器復(fù)合體包含 4 個 GPU 模塊,每個 GPU 模塊與 6 個小型 DRAM 內(nèi)存模塊垂直連接并與 3 組硅光子 I/O 器件配對。
硅光子 I/O 可實現(xiàn)超越現(xiàn)有電氣 I/O 的帶寬與能效表現(xiàn),是目前先進工藝的重要發(fā)展方向;3D 垂直堆疊的 DRAM 內(nèi)存較目前的 2.5D HBM 方案擁有更低信號傳輸距離,有益于 I/O 引腳的增加和每引腳速率的提升;垂直集成更多器件導(dǎo)致發(fā)熱提升,模塊整合冷板可提升解熱能力。
熱管理是另一個關(guān)鍵考慮因素。多層 GPU 設(shè)計帶來了復(fù)雜的冷卻挑戰(zhàn),而目前的技術(shù)無法充分解決這一問題。NVIDIA 承認(rèn),在將 DRAM 堆疊在邏輯上的概念成為現(xiàn)實之前,材料科學(xué)必須取得重大進展。該公司正在探索創(chuàng)新解決方案,包括實施芯片內(nèi)冷卻系統(tǒng),例如使用專用冷板進行模塊級冷卻。這種設(shè)計的商業(yè)化還需要一段時間,Ian Cutress 博士等分析師預(yù)測,采用這種技術(shù)的產(chǎn)品可能會在 2028-2030 年左右上市。
審核編輯 黃宇
-
加速器
+關(guān)注
關(guān)注
2文章
833瀏覽量
39577 -
AI
+關(guān)注
關(guān)注
88文章
37012瀏覽量
290009 -
英偉達
+關(guān)注
關(guān)注
23文章
4014瀏覽量
96782 -
DRAM內(nèi)存
+關(guān)注
關(guān)注
0文章
9瀏覽量
3742
發(fā)布評論請先 登錄
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+半導(dǎo)體芯片產(chǎn)業(yè)的前沿技術(shù)
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
繼HBM之后,英偉達帶火又一AI內(nèi)存模組!顛覆AI服務(wù)器與PC
簡單認(rèn)識高帶寬存儲器
英偉達開發(fā)新型內(nèi)存模組SOCAMM,或年底量產(chǎn)
騰訊混元3D AI創(chuàng)作引擎正式發(fā)布
技術(shù)資訊 | 2.5D 與 3D 封裝

英偉達加速認(rèn)證三星新型AI存儲芯片
英偉達加速認(rèn)證三星AI內(nèi)存芯片

評論