chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AMD硬剛英偉達,推出Instinct MI300,單芯片可運行800億參數

DzOH_ele ? 來源:電子發(fā)燒友網 ? 2023-06-14 16:46 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

美國時間本周二,AMD舉行了重磅發(fā)布會,推出了一款全新的人工智能GPU Instinct MI300,并表示這款處理器將于今年晚些時候開始向部分客戶發(fā)貨。自英偉達發(fā)布了AI芯片后,便徹底帶動了市場的投資熱情,也推動英偉達登上萬億美元市值的高峰。此次AMD發(fā)布重磅AI芯片,有望對英偉達當前的市場地位形成一定沖擊。

AMD推出高性能AI芯片

在這次AMD的新品發(fā)布會中,核心產品無疑是用于訓練大模型的GPU Instinct MI300。早在今年初,AMD便已經宣布了新一代Instinct MI300,是全球首款同時集成CPU、GPU的數據中心APU。

601e5ef4-0a8e-11ee-962d-dac502259ad0.png

如今,這款芯片的名字變成了Instinct MI300A,而純GPU產品則命名為Instinct MI300X。據AMD的CEO蘇姿豐透露,MI300A是全球首個為AI和HPC(高性能計算)打造的APU加速卡,擁有13個小芯片,總共包含1460億個晶體管,24個Zen 4 CPU核心,1個CDNA 3圖形引擎和128GB HBM3內存。

相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在發(fā)布會稍早介紹,新的Zen 4c內核比標準的Zen 4內核密度更高,比標準Zen 4的內核小35%,同時保持100%的軟件兼容性。

602c2b92-0a8e-11ee-962d-dac502259ad0.png

而GPU MI300X更是本次發(fā)布會的重點,這款芯片是AMD針對大語言模型優(yōu)化的版本,該產品的晶體管數量達到1530億個,內存達到了192GB,內存帶寬為5.2TB/s,Infinity Fabric帶寬為896GB/s。對比英偉達的H100,MI300X提供的HBM(高帶寬內存)密度約為H100的2.4倍,HBM帶寬是1.6倍。

這意味著AMD的這款產品可以運行比英偉達H100更大的模型,在現場AMD演示了MI300X運行400億參數的Falcon模型,而OpenAI的GPT-3模型有1750億個參數。蘇姿豐還用Hugging Face基于MI300X的大模型寫了一首關于活動舉辦地舊金山的詩。

這也是全球首次在單個GPU上運行這么大的模型,據AMD介紹,單個MI300X可以運行一個參數多達800億的模型。而在未來隨著AI模型越來越大,意味著需要更多GPU來運行最新的大模型,而AMD芯片上內存的增加,意味著開發(fā)人員不需要那么多GPU,可以為用戶節(jié)省大量成本。

60a97e44-0a8e-11ee-962d-dac502259ad0.png

蘇姿豐表示,MI300X將于今年第三季度向一些客戶提供樣品,并于第四季度量產。同時AMD還發(fā)布了AMD Instinct Platform,集合了8個MI300X,可提供總計1.5TB的HBM3內存。對標英偉達的CUDA,AMD也介紹了自身的芯片軟件ROCm,AMD總裁Victor Peng稱,在構建強大的軟件堆棧方面,AMD取得了真正的巨大進步,ROCm軟件??膳c模型、庫、框架和工具的開放生態(tài)系統配合使用。

之所以將重心放在AI芯片,也是因為AMD非??春梦磥淼腁I市場。蘇姿豐認為,數據中心人工智能加速器的潛在市場總額將從今年的300億美元增長到2027年的1500億美元以上。

硬剛英偉達,但尚未透露大客戶

從AMD所介紹的產品性能來看,將成為當下AI市場的有力競爭者,尤其在ChatGPT等生成式AI的帶動下,市場對高性能GPU需求旺盛。不過當前市場中,英偉達處于絕對優(yōu)勢,占據80%的市場。

而AMD并沒有公布這款GPU的具體價格,但是對比英偉達H100價格大多在3萬美元以上,如果MI300X價格能夠更加實惠,將顯著的對英偉達產品造成沖擊,并有助于降低生成式AI的研發(fā)成本。

有意思的是,在如此強勁的性能面前,市場卻似乎并不買單。截至當日收盤,AMD股價反而下降了3.61%,市值來到2000億元關口。而英偉達股價則拉升了3.9%,總市值達到1.01萬億美元,是AMD的五倍。

此次AMD并未透露哪些公司會采用MI300X或簡配版MI300A,而在此前的發(fā)布會中,AMD都會披露新產品的大客戶。這可能讓市場認為,目前并沒有大客戶為這款芯片買單。

另一方面,AMD并沒有透露新款AI芯片的具體售價,但想要有顯著的成本優(yōu)勢可能不太現實,因為高密度的HBM價格昂貴。即便MI300X的內存達到了192GB,但這也不是顯著優(yōu)勢,因為英偉達也擁有相同內存規(guī)格的產品。

更重要的原因在于,MI300并不具備H100所擁有的Transformer Engine。Transformer Engine能夠用于加速Transformer模型,以在AI的訓練和推理中以較低的內存利用率提供更好的性能。

有分析師認為,如果訓練一個新的模型,需要投入數千個GPU,并耗費一年的時間,那么幾乎不會有人會浪費2-3年或者投入3倍數量的GPU。而Transformer Engine能夠讓大模型實現三倍的性能表達。

盡管市場中認為,AMD的MI300芯片應該是除了谷歌的TPU之外,能與英偉達在AI訓練端上匹敵的產品。成為當前大企業(yè)在訓練AI大模型時,除了英偉達之外的另一個重要選擇。

但想要在短時間內挑戰(zhàn)英偉達,顯然還是比較困難的。就如AMD總裁VictorPeng說的那樣,“盡管這是一個過程,但我們在構建強大的軟件堆棧方面取得了很大進展,該軟件堆棧與開放的模型、庫、框架和工具生態(tài)系統兼容?!?/p>

無論如何需要市場中有大客戶切實的使用AMD新款芯片。

小結

AMD此次重磅發(fā)布的MI300系列芯片,無疑為AI市場注入了一劑強心針,不僅預示著AMD在持續(xù)看好未來的AI市場,也將表明AMD將在這一市場中與英偉達正面競爭。至少對于相關企業(yè)及用戶而言,有更多的選擇是一件好事。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • amd
    amd
    +關注

    關注

    25

    文章

    5626

    瀏覽量

    138613
  • 人工智能
    +關注

    關注

    1812

    文章

    49521

    瀏覽量

    258954
  • AI芯片
    +關注

    關注

    17

    文章

    2034

    瀏覽量

    36419

原文標題:AMD硬剛英偉達,推出Instinct MI300,單芯片可運行800億參數

文章出處:【微信號:elecfanscom,微信公眾號:核芯產業(yè)觀察】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    性能狂飆!AMD新品叫板英偉GB200,角逐5000AI加速器賽道

    AMD線上會議截圖 本次大會上,蘇姿豐重點宣布了MI350 系列和 MI400 系列 AI 芯片的強大性能,她表示這些芯片將與
    的頭像 發(fā)表于 06-14 00:44 ?6058次閱讀
    性能狂飆!<b class='flag-5'>AMD</b>新品叫板<b class='flag-5'>英偉</b><b class='flag-5'>達</b>GB200,角逐5000<b class='flag-5'>億</b>AI加速器賽道

    英偉追加800G光模塊訂單!兩大巨頭瓜分六成

    投資,左腳踩右腳螺旋升天,也為AI基建帶來了實打實的訂單預期。包括OpenAI向甲骨文下的5年3000美元云服務大;甲骨文向英偉采購3000
    的頭像 發(fā)表于 10-10 09:11 ?5399次閱讀

    外媒:英偉正開發(fā)新款中國特供芯片B30A 或為旗艦AI芯品B300的閹割版

    我們看到英偉的旗艦新品 B300備受關注;但是受限于美國實施出口限制措施,英偉不會出貨,就像此前英偉
    的頭像 發(fā)表于 08-20 15:19 ?2737次閱讀
    外媒:<b class='flag-5'>英偉</b><b class='flag-5'>達</b>正開發(fā)新款中國特供<b class='flag-5'>芯片</b>B30A 或為旗艦AI芯品B<b class='flag-5'>300</b>的閹割版

    重磅!AMD將恢復向中國出口MI308芯片!

    出貨?!?此前美國政府針對Instinct MI308產品出貨至中國進行出口管制,該產品與英偉H20一樣禁止向中國銷售。 ? 如今,MI3
    的頭像 發(fā)表于 07-15 20:52 ?2694次閱讀

    AMD將DeepSeek-V3模型集成至Instinct MI300X GPU

    AMD近日宣布了一項重要進展,成功將全新的DeepSeek-V3模型集成到其Instinct MI300X GPU上。這一舉措標志著AMD在AI推理優(yōu)化方面邁出了重要一步。 據了解
    的頭像 發(fā)表于 02-06 09:41 ?735次閱讀

    消息稱AMD Instinct MI400 AI加速器將配備8個計算芯片

    近日,據外媒 videocardz 報道,參考 AMD 最新推出AMD - GFX 補丁程序,其中暗示 AMD 旗下的 Instinct
    的頭像 發(fā)表于 02-05 15:07 ?1222次閱讀

    AMD集成DeepSeek-V3模型至Instinct MI300X GPU

    AMD近日宣布了一項重要的技術進展,即將全新的DeepSeek-V3模型成功集成到其旗艦級GPU產品——Instinct MI300X上。這一舉措標志著AMD在人工智能推理領域邁出了堅
    的頭像 發(fā)表于 02-05 13:58 ?704次閱讀

    荷蘭與英偉、AMD商討共建人工智能設施

    荷蘭政府正在積極尋求與全球領先的科技公司英偉AMD的合作,共同推動荷蘭人工智能設施的建設與發(fā)展。 據荷蘭政府官方網站的消息,荷蘭經濟事務大臣迪爾克·貝爾亞爾茨于近日對美國硅谷進行了訪問,期間
    的頭像 發(fā)表于 01-10 13:36 ?929次閱讀

    AMD MI300X AI芯片面臨挑戰(zhàn)

    近日,據芯片顧問機構Semianalysis經過5個月的深入調查后指出,AMD最新推出的“MI300X”AI芯片在軟件缺陷和性能表現上未能達
    的頭像 發(fā)表于 12-25 10:57 ?1041次閱讀

    英偉GB300訂單配置初步敲定

    近日,據報道,英偉公司已經初步確定了其下一代GB300 AI服務器產品線的訂單配置。預計英偉將在明年的3月GTC大會上正式揭曉這一全新產
    的頭像 發(fā)表于 12-24 10:09 ?1556次閱讀

    IBM與AMD攜手部署MI300X加速器,強化AI與HPC能力

    舉措預計將于2025年上半年正式推出。 此次合作的核心目標是提升通用人工智能(AI)模型的性能與能效,并為企業(yè)客戶提供高性能計算(HPC)應用的強大支持。AMDInstinct MI300
    的頭像 發(fā)表于 11-21 11:07 ?1086次閱讀

    IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器

    合作服務預計將于2025年上半年正式推出。AMD Instinct MI300X加速器作為AMD在高性能計算領域的旗艦產品,將為IBM云上的
    的頭像 發(fā)表于 11-19 11:03 ?1076次閱讀

    英偉計劃2025年推出基于Arm架構的消費級CPU,挑戰(zhàn)英特爾和AMD

    11月5日,據科技媒體DigiTimes于10月31日報道,供應鏈消息透露,英偉(Nvidia)正計劃在2025年9月推出其首款基于Arm架構的消費級CPU,目標直指高端PC市場。   據悉
    的頭像 發(fā)表于 11-05 15:29 ?2037次閱讀

    OpenAI調整硬件戰(zhàn)略:2026年起將自研AI芯片

    10月30日,路透社發(fā)布消息稱,OpenAI正著手調整其硬件戰(zhàn)略,旨在優(yōu)化計算資源配置并削減成本。此次調整中,OpenAI將引入AMDMI300系列芯片,并繼續(xù)保留對英偉
    的頭像 發(fā)表于 10-30 16:23 ?1407次閱讀