2025全球AI芯片峰會(huì)于9月17日在上海成功舉辦。本屆峰會(huì)匯聚了來(lái)自人工智能芯片領(lǐng)域的42位產(chǎn)學(xué)研專家及創(chuàng)業(yè)先鋒代表,圍繞“大模型下半場(chǎng)中國(guó)AI芯片的創(chuàng)新、落地與破局”等關(guān)鍵議題,分享了前沿觀點(diǎn)與行業(yè)思考。作為業(yè)內(nèi)重要交流平臺(tái),大會(huì)持續(xù)推動(dòng)國(guó)產(chǎn)AI芯片企業(yè)、生態(tài)鏈伙伴與投資機(jī)構(gòu)之間的深度對(duì)話,系統(tǒng)梳理技術(shù)路徑與產(chǎn)業(yè)趨勢(shì),全面解析AI芯片的發(fā)展動(dòng)向。
在當(dāng)天下午舉辦的“大模型AI芯片”專題論壇中,墨芯人工智能解決方案總監(jiān)曾昭鳳發(fā)表了題為《AI普惠的“加速卡”——雙稀疏化算法與軟硬件協(xié)同設(shè)計(jì)》的主題演講。他指出,隨著大模型規(guī)模不斷擴(kuò)大,傳統(tǒng)硬件架構(gòu)普遍面臨性能提升緩慢的挑戰(zhàn),通過(guò)軟硬協(xié)同創(chuàng)新以突破算力瓶頸,已成為行業(yè)共識(shí)。在這一背景下,稀疏化技術(shù)正逐漸顯現(xiàn)出作為關(guān)鍵突破口的潛力。
稀疏化計(jì)算的核心理念在于模擬人腦的高效處理機(jī)制——僅激活參與當(dāng)前計(jì)算所必需的神經(jīng)元,顯著減少冗余操作,從而實(shí)現(xiàn)更高效的計(jì)算資源利用?;谶@一理念,墨芯人工智能提出了“權(quán)重稀疏化+激活稀疏化”雙稀疏技術(shù)路徑。該技術(shù)能夠在同等硬件資源條件下,實(shí)現(xiàn)高達(dá)32倍的稀疏率提升,大幅增強(qiáng)計(jì)算效率。
為推動(dòng)稀疏化技術(shù)的實(shí)際應(yīng)用,墨芯還協(xié)同開(kāi)發(fā)了完整的軟件棧支持,實(shí)現(xiàn)了從算法、編譯器到運(yùn)行時(shí)系統(tǒng)的全棧優(yōu)化。以此為基礎(chǔ),墨芯設(shè)計(jì)了與之高度匹配的專用硬件架構(gòu),推出了高性能AI計(jì)算卡。目前,該產(chǎn)品已在云端推理場(chǎng)景中得到實(shí)際部署,可顯著加速計(jì)算機(jī)視覺(jué)(CV)、自然語(yǔ)言處理(NLP)及知識(shí)圖譜等多種人工智能任務(wù),為客戶提供更具能效比的推理解決方案。
墨芯人工智能將持續(xù)致力于通過(guò)軟硬協(xié)同的創(chuàng)新路徑,推動(dòng)稀疏計(jì)算技術(shù)邁向更廣泛的產(chǎn)業(yè)應(yīng)用。通過(guò)大幅提升計(jì)算效率、降低單位算力成本,墨芯的雙稀疏技術(shù)為AI推理提供了高性能、低功耗的算力支撐,并將更積極融入AI產(chǎn)業(yè)生態(tài),與生態(tài)伙伴協(xié)同合作,以稀疏計(jì)算為核心,持續(xù)推動(dòng)開(kāi)放、合作、共贏的算力新生態(tài)發(fā)展,助力廣大企業(yè)以更經(jīng)濟(jì)、可持續(xù)的方式部署和應(yīng)用大模型,真正實(shí)現(xiàn)AI普惠算力,為構(gòu)建下一代高效、開(kāi)放、包容的AI計(jì)算基礎(chǔ)設(shè)施貢獻(xiàn)力量。
-
人工智能
+關(guān)注
關(guān)注
1814文章
49960瀏覽量
263620 -
AI芯片
+關(guān)注
關(guān)注
17文章
2108瀏覽量
36651 -
墨芯
+關(guān)注
關(guān)注
0文章
20瀏覽量
1248
原文標(biāo)題:讓AI計(jì)算更普惠:墨芯亮相全球AI芯片峰會(huì),分享稀疏計(jì)算創(chuàng)新路徑
文章出處:【微信號(hào):墨芯人工智能,微信公眾號(hào):墨芯人工智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
墨芯亮相2025全球AI芯片峰會(huì)
評(píng)論