近日,云天勵(lì)飛正式加入 OISA 生態(tài),攜手產(chǎn)業(yè)伙伴共同推動(dòng)國(guó)產(chǎn) AI 芯片互聯(lián)體系建設(shè),為中國(guó)算力生態(tài)注入新的動(dòng)力。
OISA(Omni-directional Intelligent Sensing Express Architecture)是由中國(guó)移動(dòng)提出的開(kāi)放互聯(lián)標(biāo)準(zhǔn)體系。
核心目標(biāo)是打造一個(gè)全向、對(duì)等、智能的互聯(lián)新范式,使集群中任意AI芯片之間、AI芯片與CPU之間都能直接高速訪問(wèn)彼此的內(nèi)存,徹底解決智算集群中的內(nèi)存互訪難題,為大規(guī)模并行計(jì)算提供堅(jiān)實(shí)的技術(shù)基石。
隨著大模型,尤其是 MoE 架構(gòu)大模型的爆發(fā)式增長(zhǎng)和廣泛應(yīng)用,算力需求正以前所未有的速度攀升。MoE 的特點(diǎn)在于每次推理只激活部分“專(zhuān)家”,但這些“專(zhuān)家”分布在不同芯片的存儲(chǔ)空間內(nèi),推理過(guò)程中需要跨芯片頻繁調(diào)用參數(shù)。
在這種場(chǎng)景下,單顆 AI 芯片性能的提升已無(wú)法滿足需求,真正的挑戰(zhàn)在于如何高效互聯(lián)成百上千顆 AI 芯片,確保跨芯片的數(shù)據(jù)訪問(wèn)像本地一樣高效,從而將其協(xié)同為一個(gè)超級(jí)計(jì)算集群。因此,突破互聯(lián)技術(shù)的瓶頸,成為支撐萬(wàn)億級(jí) MoE 大模型推理的關(guān)鍵。
憑借在 AI 推理芯片與算力架構(gòu)的長(zhǎng)期積累,云天勵(lì)飛成為 OISA 生態(tài)的重要一員。
自 2014 年成立以來(lái),公司持續(xù)深耕 AI 推理芯片與算力架構(gòu),首創(chuàng)“算力積木”架構(gòu),可讓算力像搭積木一樣靈活組合、擴(kuò)展,滿足各類(lèi)不同應(yīng)用場(chǎng)景的需要。
當(dāng)前,公司形成了 DeepEdge、DeepVerse、DeepXbot 等系列產(chǎn)品,覆蓋從邊緣終端到云端集群、從具身智能到大模型的多元場(chǎng)景。
加入 OISA 后,云天勵(lì)飛將在三方面貢獻(xiàn)力量。
技術(shù)優(yōu)勢(shì):依托“算力積木”架構(gòu)的模塊化與可拓展性,在大規(guī)模推理集群中實(shí)現(xiàn)高效互聯(lián),為包括 MoE 在內(nèi)的超大模型突破 Scale up 瓶頸提供底層支撐;
生態(tài)共建:與 OISA 的開(kāi)放互聯(lián)標(biāo)準(zhǔn)深度協(xié)同,聯(lián)合上下游伙伴打通芯片、系統(tǒng)、應(yīng)用全鏈路,推動(dòng)自主可控的國(guó)產(chǎn)算力生態(tài)發(fā)展;
應(yīng)用落地:加速在智慧城市、智能駕駛、機(jī)器人、邊緣計(jì)算等關(guān)鍵領(lǐng)域的規(guī)?;瘜?shí)踐,讓“算力積木”真正成為 AI 推理產(chǎn)業(yè)化的基礎(chǔ)設(shè)施。
未來(lái),云天勵(lì)飛將繼續(xù)秉持“AI 時(shí)代的加速器”愿景,持續(xù)迭代芯片技術(shù)與架構(gòu)創(chuàng)新,攜手 OISA 生態(tài)伙伴,共同推動(dòng)智能算力的創(chuàng)新與普及,讓下一代 AI 算力真正惠及千行百業(yè)。
-
AI
+關(guān)注
關(guān)注
88文章
36972瀏覽量
289785 -
云天勵(lì)飛
+關(guān)注
關(guān)注
0文章
160瀏覽量
12521 -
大模型
+關(guān)注
關(guān)注
2文章
3348瀏覽量
4694
原文標(biāo)題:云天勵(lì)飛“算力積木”聯(lián)手OISA,突破萬(wàn)億級(jí)MoE大模型推理集群的Scale up瓶頸
文章出處:【微信號(hào):IntelliFusion2,微信公眾號(hào):云天勵(lì)飛】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論