近日，浪潮信息與智源研究院達(dá)成戰(zhàn)略合作協(xié)議，雙方將緊密協(xié)作共建大模型多元算力開源創(chuàng)新生態(tài)，提升大模型創(chuàng)新研發(fā)的算力效率，降低大模型應(yīng)用開發(fā)的算力門檻。目前，智源Triton算子庫(kù)FlagGems已正式接入浪潮信息的元腦企智EPAI企業(yè)大模型開發(fā)平臺(tái)，助力企業(yè)實(shí)現(xiàn)更快速、更廣泛、更高效的多元算力適配與使用。

面向應(yīng)用，攜手共建多元算力系統(tǒng)生態(tài)

人工智能的持續(xù)進(jìn)步推動(dòng)了算力多元化與模型多樣化，在為產(chǎn)業(yè)注入創(chuàng)新活力的同時(shí)，也帶來(lái)了較高的大模型應(yīng)用開發(fā)技術(shù)門檻。元腦企智EPAI(Enterprise Platform of AI) 是浪潮信息為企業(yè)AI大模型落地應(yīng)用打造的高效、易用、安全的端到端開發(fā)平臺(tái)，支持主流開源與閉源大模型的應(yīng)用快速開發(fā)，可實(shí)現(xiàn)大模型應(yīng)用在跨算力平臺(tái)上的無(wú)感遷移，降低多元、多模的適配與試錯(cuò)成本。

FlagGems是由智源研究院于2024年6月推出的面向多元算力的開源大模型通用算子庫(kù)，在Triton生態(tài)開源開放的基礎(chǔ)上，面向多元算力，遵循統(tǒng)一的中間語(yǔ)言、統(tǒng)一的算子接口和統(tǒng)一的開源算子庫(kù)實(shí)現(xiàn)路徑，以大模型需求為導(dǎo)向，為多元算力提供開源、統(tǒng)一、高效的算子層生態(tài)接入方案。截止12月，F(xiàn)lagGems已提供超過(guò)130個(gè)大模型算子，是目前提供算子數(shù)量最多、覆蓋廣度最大的開源算子庫(kù)。

此次，智源研究院攜手浪潮信息，將FlagGems算子庫(kù)與元腦企智EPAI內(nèi)置的核心計(jì)算框架進(jìn)行深度融合，旨在確保大模型應(yīng)用開發(fā)能夠使用高性能、跨硬件、多框架兼容的算子集合，順利跨越各類硬件架構(gòu)，滿足多種開發(fā)框架的需求。現(xiàn)在，基于元腦企智EPAI大模型開發(fā)平臺(tái)，企業(yè)可以利用針對(duì)大模型應(yīng)用開發(fā)場(chǎng)景優(yōu)化的先進(jìn)算子集合，在多種算力平臺(tái)上高效構(gòu)建、優(yōu)化和執(zhí)行復(fù)雜的行業(yè)應(yīng)用算法。在復(fù)雜的訓(xùn)練任務(wù)及實(shí)時(shí)性要求嚴(yán)苛的推理場(chǎng)景中，均能實(shí)現(xiàn)穩(wěn)定且高效的運(yùn)算性能。此外，企業(yè)也無(wú)需關(guān)心多元異構(gòu)加速卡之間的軟硬件差異，真正實(shí)現(xiàn)大模型應(yīng)用在跨算力平臺(tái)上的無(wú)縫開發(fā)與遷移。

浪潮信息 × 智源研究院：開源開放，產(chǎn)業(yè)協(xié)作破解多元多模挑戰(zhàn)

算力產(chǎn)業(yè)在大模型技術(shù)趨勢(shì)的推動(dòng)下飛速發(fā)展，但硬件架構(gòu)、指令集的差異及算子庫(kù)的獨(dú)立實(shí)現(xiàn)卻形成了生態(tài)藩籬，顯著提高了企業(yè)應(yīng)用大模型的算力門檻，構(gòu)建一個(gè)開源、統(tǒng)一、高效的多元算力系統(tǒng)生態(tài)顯得尤為迫切。

智源研究院副院長(zhǎng)兼總工程師林詠華表示：“元腦企智EPAI為企業(yè)提供從底層算力到上層應(yīng)用的一站式支撐，而智源FlagGems提供了高性能、跨硬件、多框架兼容的大模型算子，二者如同精密的‘齒輪組’，確保模型在各類硬件架構(gòu)中順滑運(yùn)轉(zhuǎn)，適配多種開發(fā)框架需求，讓主流大模型跨越硬件藩籬，無(wú)論是復(fù)雜的訓(xùn)練任務(wù)，還是實(shí)時(shí)性要求嚴(yán)苛的推理場(chǎng)景，均能穩(wěn)定、高效運(yùn)行，性能表現(xiàn)媲美原生模型?！?/p>

浪潮信息高級(jí)副總裁劉軍表示：“在多元多模的產(chǎn)業(yè)格局下，AI的產(chǎn)業(yè)化落地本質(zhì)上是推動(dòng)人工智能與百行千業(yè)的深度融合，浪潮信息元腦企智EPAI企業(yè)大模型開發(fā)平臺(tái)與智源通用算子庫(kù)FlagGems的全面對(duì)接，是雙方解決生態(tài)離散，化解大模型產(chǎn)業(yè)化落地的算力轉(zhuǎn)化和開發(fā)復(fù)雜等高門檻難題的重要舉措，將為AI應(yīng)用創(chuàng)新注入更強(qiáng)大、多元的算力支持，助力構(gòu)建協(xié)同共生、開放共贏的多元算力系統(tǒng)生態(tài)，充分釋放智能生產(chǎn)力?！?/p>

未來(lái)，浪潮信息將與智源研究院攜手并進(jìn)，持續(xù)推進(jìn)硬件開放與軟件開源，以開源開放、多元多模激發(fā)創(chuàng)新活力，以多元算力系統(tǒng)生態(tài)加速創(chuàng)新落地，協(xié)力共建一個(gè)更加高效、靈活、開放的人工智能應(yīng)用生態(tài)。