谷歌憑借新版TPU v5p成功挑戰(zhàn)Nvidia——這款搭載超級計算機的頂級人工智芯片,擁有更高速度、大容量內存及帶寬,顯著優(yōu)于Nvidia的H100。
谷歌借其最先進的Gemini人工智能模型,全新推出人工智能訓練及推理專用的張量處理單元(TPU)最新版本,顯然有意向Nvidia霸主地位的GPU發(fā)起沖擊。
TPU v5p已在谷歌“AI超級計算機”項目中發(fā)揮重要作用,這并非專業(yè)科研型超算平臺,而是面向各類人工智能應用。與Nvidia開放GPU購買策略不同,谷歌高端TPU主要供自家產品和服務運用。
新架構版TPU每個模塊有8960顆芯片,較之上代v4的4096有所提升,且每塊架構內的總浮點運算次數(shù)(FLOPs)增加至原來的四倍,吞吐能力達到驚人的4800Gbps。新型架構在內存及帶寬方面更為出色,高達95GB的高帶寬內存(HBM)遠超TPU v4的32GB。
面對Nvidia異軍突起的H100,究竟誰更強?值得關注的是,谷歌的TPU v5p在訓練大規(guī)模語言模型上表現(xiàn)突出,效率提升兩倍以上,相比于倉庫版TPU v5e雖然在性價比上稍遜一籌,但仍使其成為當前最強版本。
比起Nvidia頂配的H100顯卡——被公認為最適合AI任務專業(yè)級別的顯卡之一,谷歌TPU v5p毫不畏懼。根據(jù)官方數(shù)據(jù)顯示,其訓練效能竟超越Nvidia同系列A100 GPU整整四倍!然而,實際對比還需通過嚴謹?shù)幕鶞蕼y試才能最終定論。
另傳聞稱,谷歌TPU v4在訓練效能上較A100還要提升1.2~1.7倍,此數(shù)據(jù)去年四月便已得到證實。據(jù)此估計,谷歌TPU v5p相較A100性能優(yōu)勢可能位于3.4~4.8倍之間,其競爭力水平相當于甚至超過Nvidia的H100,持續(xù)關注后續(xù)發(fā)展動態(tài)。
-
超級計算機
+關注
關注
2文章
476瀏覽量
42969 -
人工智能
+關注
關注
1811文章
49500瀏覽量
258231 -
TPU
+關注
關注
0文章
160瀏覽量
21436
發(fā)布評論請先 登錄
挖到寶了!人工智能綜合實驗箱,高校新工科的寶藏神器
挖到寶了!比鄰星人工智能綜合實驗箱,高校新工科的寶藏神器!
超小型Neuton機器學習模型, 在任何系統(tǒng)級芯片(SoC)上解鎖邊緣人工智能應用.
最新人工智能硬件培訓AI 基礎入門學習課程參考2025版(大模型篇)
GPU 維修干貨 | 英偉達 GPU H100 常見故障有哪些?

Cognizant將與NVIDIA合作部署神經人工智能平臺,加速企業(yè)人工智能應用

英偉達A100和H100比較

評論