在SEMiBAY2024《HBM與存儲器技術(shù)與應(yīng)用論壇》上,億鑄科技的創(chuàng)始人、董事長兼CEO熊大鵬博士發(fā)表了題為《超越極限:大算力芯片的技術(shù)挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型時代算力芯片所面臨的挑戰(zhàn)與機遇。
熊大鵬博士指出,AI大模型技術(shù)的快速發(fā)展推動了算力需求的急劇增長。隨著數(shù)據(jù)、算力和模型參數(shù)量的不斷提升,AI大模型的能力顯著增強,甚至出現(xiàn)了類似人類的“涌現(xiàn)”能力,預(yù)示著AI應(yīng)用的廣泛落地即將到來。然而,現(xiàn)有的芯片硬件性能提升速度已難以滿足這種急劇增長的算力需求,摩爾定律正面臨前所未有的挑戰(zhàn)。
據(jù)Omdia最新報告預(yù)測,用于云計算和數(shù)據(jù)中心人工智能的GPU和其他加速芯片市場規(guī)模將大幅增長,但到2026年市場可能會出現(xiàn)明顯拐點,增長動力將從技術(shù)采用轉(zhuǎn)向人工智能應(yīng)用需求的變化。同時,IDC預(yù)測未來人工智能服務(wù)器將更加注重提高計算能力和處理效率(能效比),以適應(yīng)更復(fù)雜、更大規(guī)模的人工智能應(yīng)用。
面對這一挑戰(zhàn),熊大鵬博士強調(diào),硬件架構(gòu)的創(chuàng)新成為突破算力瓶頸的關(guān)鍵路徑之一。現(xiàn)有的AI芯片面臨著“三堵墻”問題:存儲墻、能耗墻和編譯墻。存儲墻是指存儲器的數(shù)據(jù)訪問速度跟不上計算單元的數(shù)據(jù)處理速度,導(dǎo)致性能瓶頸;能耗墻則是指隨著芯片性能的提升,能耗和散熱問題成為限制性能進一步提升的主要因素;編譯墻則是隨著AI模型的復(fù)雜性增加,編譯器需要處理的數(shù)據(jù)量和計算任務(wù)也急劇增加,使得優(yōu)化變得非常困難。
為了打破這三堵墻,億鑄科技選擇了創(chuàng)新之路。熊大鵬博士介紹,億鑄科技采用“存算一體超異構(gòu)”架構(gòu)這一全新的芯片設(shè)計思路,極大地減少了數(shù)據(jù)搬運的延遲,提升了整體的計算效率和能效比。這種架構(gòu)通過將數(shù)據(jù)搬運量大幅下降,使得有效算力密度能夠線性增長,從而突破傳統(tǒng)計算模式的瓶頸。
熊大鵬博士進一步指出,未來算力增長將以存儲單元為中心,而不是傳統(tǒng)的算力單元。通過存算一體架構(gòu)等技術(shù),可以打破有效算力的天花板,實現(xiàn)更高的有效算力。億鑄科技自成立以來,始終致力于通過存算一體提供更具性價比、更高能效比、更大算力發(fā)展空間的AI大算力芯片發(fā)展新路徑。
展望未來,熊大鵬博士表示,隨著AI技術(shù)的不斷進步和算力需求的不斷增長,億鑄科技將通過創(chuàng)新的存算一體架構(gòu)為AI芯片的發(fā)展提供新的方向。在大模型時代,億鑄科技的技術(shù)和產(chǎn)品將為AI技術(shù)的發(fā)展提供強大的支持,推動整個行業(yè)向前發(fā)展。我們有理由期待,隨著億鑄科技技術(shù)的不斷成熟和應(yīng)用的不斷擴展,AI芯片技術(shù)將迎來一個新的發(fā)展階段,為科技進步做出更大的貢獻。
-
芯片
+關(guān)注
關(guān)注
462文章
53184瀏覽量
453769 -
AI
+關(guān)注
關(guān)注
88文章
37030瀏覽量
290082 -
算力
+關(guān)注
關(guān)注
2文章
1325瀏覽量
16406
發(fā)布評論請先 登錄
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內(nèi)容總覽
億鑄科技入圍工信部算力強基揭榜行動
江蘇省工信廳領(lǐng)導(dǎo)蒞臨億鑄科技調(diào)研
大算力芯片的生態(tài)突圍與算力革命
億鑄科技亮相2025中國移動云智算大會

評論