近日,昆侖芯與北京智源人工智能研究院(以下簡稱“智源”)面向多種AI硬件的一體化評(píng)測(cè)引擎FlagPerf完成階段性適配。昆侖芯是FlagPerf首批生態(tài)伙伴,雙方將強(qiáng)強(qiáng)聯(lián)合,共同推進(jìn)AI軟硬件評(píng)測(cè)體系建設(shè),賦能大模型技術(shù)創(chuàng)新能力提升,加速我國AI生態(tài)繁榮發(fā)展。
FlagPerf是智源聯(lián)合各大AI軟硬件廠商建立的開源、開放、靈活、公正、客觀的面向多種AI硬件的一體化評(píng)測(cè)引擎,可快速高效地對(duì)AI軟硬件進(jìn)行適配和評(píng)測(cè),解決當(dāng)前AI軟硬件所面臨的兼容性差、技術(shù)棧異構(gòu)程度高、應(yīng)用場(chǎng)景復(fù)雜多變等挑戰(zhàn)。目前FlagPerf已經(jīng)適配了涵蓋CV、NLP、語音、大模型等領(lǐng)域的近20個(gè)經(jīng)典模型,支持評(píng)測(cè)AI硬件的訓(xùn)練和推理能力,未來還將持續(xù)拓展支持模型數(shù)量和評(píng)測(cè)領(lǐng)域,包括不限于AI服務(wù)器、圖計(jì)算各個(gè)場(chǎng)景,期望全面、立體地刻畫廠商的軟硬件實(shí)力,并通過不斷迭代評(píng)測(cè)體系,緊跟AI產(chǎn)業(yè)發(fā)展浪潮。
作為AI加速領(lǐng)域的領(lǐng)軍企業(yè),昆侖芯持續(xù)推進(jìn)軟硬協(xié)同技術(shù)創(chuàng)新,在短時(shí)間內(nèi)高效完成了十?dāng)?shù)個(gè)模型的適配和調(diào)優(yōu)工作,并在FlagPerf項(xiàng)目中全面開源。這批模型能非常高效地完成適配并發(fā)布,充分展現(xiàn)了昆侖芯優(yōu)秀的泛化能力和軟硬件兼容性,這主要得益于100%自研的昆侖芯XACC AI編譯器(XPU AI Compiler Collection)。
昆侖芯XACC AI編譯器
可自動(dòng)幫助用戶完成開源模型到XPU設(shè)備的遷移工作,并實(shí)現(xiàn)全自動(dòng)性能優(yōu)化,將XPU硬件算法發(fā)揮到極致;
具有零代碼侵入、零環(huán)境侵入的特點(diǎn),用戶無需修改模型代碼,無需修改部署環(huán)境,即可將模型遷移到XPU設(shè)備;
已全面支持Megatron、DeepSpeed等大模型訓(xùn)練框架,用戶可以零成本適配最流行的LLM技術(shù)與模型。
智源研究院是國際知名的人工智能前沿研究機(jī)構(gòu),在中國最早引領(lǐng)開展大模型研究,并率先倡導(dǎo)建設(shè)大模型開源生態(tài)?!肝虻馈谷斯ぶ悄艽竽P晚?xiàng)目,連創(chuàng)“中國首個(gè)+世界最大”紀(jì)錄,“悟道3.0”進(jìn)入全面開源階段。FlagOpen大模型技術(shù)開源體系,由智源聯(lián)合多家企業(yè)、高校和科研機(jī)構(gòu)共建,旨在共建共享大模型時(shí)代的“新Linux”開源開放生態(tài)。面向多種AI硬件的一體化評(píng)測(cè)引擎FlagPerf是FlagOpen的重要組成部分。
針對(duì)智源大模型,昆侖芯已在悟道·天鷹(Aquila)語言大模型上完成了大規(guī)模推理性能驗(yàn)證,在悟道·視界EVA-CLIP視覺大模型上也實(shí)現(xiàn)了適配。
此前,昆侖芯已正式加入智源FlagOpen(飛智)大模型技術(shù)開源體系,攜手多家頂尖硬件企業(yè)與高校科研團(tuán)隊(duì)共建“北京國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)AI開放生態(tài)實(shí)驗(yàn)室”,加速完善芯片軟件生態(tài)建設(shè)。
此次昆侖芯與智源FlagPerf完成適配是雙方生態(tài)共建的又一重要里程碑。智源和昆侖芯將充分發(fā)揮各自優(yōu)勢(shì),共同攜手產(chǎn)業(yè)鏈上下游合作伙伴,促進(jìn)技術(shù)、資源、場(chǎng)景等多方主體的合作,助力企業(yè)更好應(yīng)對(duì)大模型應(yīng)用時(shí)面臨的算力不足、場(chǎng)景不夠開放等問題,進(jìn)一步推動(dòng)我國大模型的技術(shù)研發(fā)和應(yīng)用落地。
關(guān)于昆侖芯
昆侖芯前身為百度智能芯片及架構(gòu)部,于2021年4月完成獨(dú)立融資,首輪估值約130億元。核心團(tuán)隊(duì)在國內(nèi)最早布局AI加速領(lǐng)域,深耕十余年,是一家在體系結(jié)構(gòu)、芯片實(shí)現(xiàn)、軟件系統(tǒng)和場(chǎng)景應(yīng)用均有深厚積累的AI芯片企業(yè)。
秉承著“讓計(jì)算更智能”的使命,昆侖芯專注打造擁有強(qiáng)大通用性、易用性和高性能的通用AI芯片。目前,昆侖芯已實(shí)現(xiàn)兩代通用AI芯片系列產(chǎn)品的量產(chǎn)及落地應(yīng)用,在互聯(lián)網(wǎng)、智慧工業(yè)、智慧交通、智慧金融等領(lǐng)域均有規(guī)模部署,幫助企業(yè)加速產(chǎn)業(yè)智能化布局,將AI算力賦能千行百業(yè)。
審核編輯:彭菁
-
AI
+關(guān)注
關(guān)注
88文章
35141瀏覽量
279816 -
人工智能
+關(guān)注
關(guān)注
1806文章
49016瀏覽量
249461 -
軟硬件
+關(guān)注
關(guān)注
1文章
313瀏覽量
19701 -
昆侖芯科技
+關(guān)注
關(guān)注
0文章
33瀏覽量
855
原文標(biāo)題:首批!昆侖芯全面適配智源AI硬件一體化評(píng)測(cè)引擎FlagPerf
文章出處:【微信號(hào):昆侖芯科技,微信公眾號(hào):昆侖芯科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
勇藝達(dá)人工智能研究院迎大咖加盟
芯盾時(shí)代引領(lǐng)人工智能安全治理新范式
軟通動(dòng)力人工智能工程研究院落戶北京城市副中心
兆芯CPU近期軟硬件適配動(dòng)態(tài)
浪潮信息與智源研究院攜手共建大模型多元算力生態(tài)
安謀科技與智源研究院攜手共建開源AI“芯”生態(tài)
安謀科技與智源研究院達(dá)成戰(zhàn)略合作,共建開源AI“芯”生態(tài)

評(píng)論