?近期，澎峰科技與沐曦完成了對(duì)PerfXLM（推理引擎）、PerfXCloud（大模型服務(wù)平臺(tái)）與沐曦的曦云系列通用計(jì)算GPU的聯(lián)合測(cè)試，測(cè)試結(jié)果表明PerfXLM、PerfXCloud軟件與沐曦GPU產(chǎn)品實(shí)現(xiàn)了全面兼容。

PerfXLM高性能大模型推理引擎與沐曦GPU硬件平臺(tái)完成適配，PerfXLM采用云邊端一體架構(gòu)，支持云端和本地大模型推理。經(jīng)過(guò)雙方聯(lián)合測(cè)試，PerfXLM對(duì)沐曦GPU硬件平臺(tái)的兼容性、穩(wěn)定性和可靠性上取得極大領(lǐng)先，部分指標(biāo)實(shí)現(xiàn)了對(duì)NVIDIA A100的反超。PerfXLM 針對(duì)部分大模型的計(jì)算性能優(yōu)化成果堪稱卓越，多個(gè)主流模型在在該平臺(tái)的推理總吞吐速度實(shí)現(xiàn)了最高達(dá)到50%的性能提升。標(biāo)志著雙方在CUDA生態(tài)兼容上實(shí)現(xiàn)再次突破。

PerfXCloud大模型服務(wù)平臺(tái)與沐曦的GPU硬件平臺(tái)完成適配，并完成了超80種大模型的推理、微調(diào)（包括Qwen系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等）支持，兼容性在國(guó)內(nèi)處于領(lǐng)先地位。未來(lái)，雙方將不斷豐富模型倉(cāng)庫(kù)，以滿足多樣化的應(yīng)用需求，為用戶提供更優(yōu)質(zhì)和便捷的模型服務(wù)，幫助智算中心升級(jí)進(jìn)化為超級(jí)AI Foundry。

此次合作，為國(guó)產(chǎn)計(jì)算軟硬融合和產(chǎn)業(yè)鏈合作建立了示范。未來(lái)，雙方將以市場(chǎng)需求為導(dǎo)向，共同探索更多可能性，為實(shí)現(xiàn)大模型人工智能技術(shù)的自主可控和可持續(xù)發(fā)展貢獻(xiàn)力量。