除集中采購(gòu)臺(tái)積電產(chǎn)能外，英偉達(dá)更斥巨額資金購(gòu)買了HBM3內(nèi)存。據(jù)消息人士指出，該公司已向美光和 SK海力士預(yù)先訂購(gòu)高達(dá)韓元1兆至10兆的HBM3內(nèi)存，雖尚無明確用途，但業(yè)界普遍推測(cè)旨在確保2024年前期HBM供應(yīng)穩(wěn)定。

另有業(yè)內(nèi)專家透露，三星、SK海力士以及美光三家頭部存儲(chǔ)器供應(yīng)商早已備戰(zhàn)明年的HBM產(chǎn)能，預(yù)計(jì)將呈現(xiàn)出急速上漲的趨勢(shì)。

據(jù)最新傳聞，英偉達(dá)正在籌劃發(fā)布兩款搭載HBM3E內(nèi)存的新品——包括141GB HBM3E的H200 GPU及GH200超級(jí)芯片，這也進(jìn)一步說明了對(duì)于HBM內(nèi)存的大量需求。

H200堪稱全球最強(qiáng)大的AI芯片之一，且為全球首個(gè)采用HBM3e的GPU，基于NVIDIA Hopper架構(gòu)設(shè)計(jì)，與H100相容，能達(dá)到4.8 TB/s的運(yùn)行速度。

在AI領(lǐng)域，英偉達(dá)聲稱，HGT H200在Lima 2（含700億參數(shù)LLM）上的推理速度較H100成倍提升。這款HGT H200計(jì)劃以4路和8路模式提供服務(wù)，同時(shí)與H100系統(tǒng)中軟硬件完美兼容。已知它將適用于所有數(shù)據(jù)中心（包括本地、云、混合云及邊緣），并得到Amazon Web Services、Google Cloud、Microsoft Azure和Oracle Cloud Infrastructure等多個(gè)平臺(tái)推廣，預(yù)計(jì)于2024年第二季度上市。