在2025紅帽論壇上，沐曦股份與全球領(lǐng)先的企業(yè)級(jí)開(kāi)源解決方案提供商紅帽共同發(fā)布MXAIE解決方案。該方案不僅實(shí)現(xiàn)了從底層算力到平臺(tái)運(yùn)營(yíng)的全棧整合，更通過(guò)深度參與開(kāi)源社區(qū)，推動(dòng)國(guó)產(chǎn)GPU與全球AI框架的生態(tài)融合。

作為國(guó)產(chǎn)高性能通用GPU的領(lǐng)軍企業(yè)，此方案的發(fā)布是沐曦股份在“軟硬協(xié)同、開(kāi)源共建”的AI落地路徑上邁出的關(guān)鍵一步。

通過(guò)與紅帽的緊密合作，沐曦股份將國(guó)內(nèi)GPU技術(shù)能力與全球領(lǐng)先的開(kāi)源操作系統(tǒng)及AI軟件生態(tài)結(jié)合起來(lái)，使更多企業(yè)能夠在統(tǒng)一的開(kāi)源框架下，利用國(guó)產(chǎn)算力安全、靈活地運(yùn)行AI工作負(fù)載。

基于MXAIE解決方案，沐曦股份將與紅帽繼續(xù)在vLLM高性能推理引擎的深度優(yōu)化、開(kāi)源生態(tài)共建、人才培養(yǎng)與生態(tài)拓展等領(lǐng)域進(jìn)行深入合作。

MXAIE：全棧協(xié)同的AI解決方案

在人工智能技術(shù)快速演進(jìn)的時(shí)代，單一企業(yè)或團(tuán)隊(duì)已難以主導(dǎo)全棧創(chuàng)新。完整AI創(chuàng)新生態(tài)鏈條的構(gòu)建離不開(kāi)企業(yè)內(nèi)部多部門(mén)、外部合作伙伴、技術(shù)生態(tài)以及開(kāi)發(fā)者社區(qū)共同參與。

MXAIE是沐曦股份攜手紅帽共同打造的一站式AI基礎(chǔ)設(shè)施方案。沐曦股份負(fù)責(zé)構(gòu)建高性能計(jì)算、分布式存儲(chǔ)、網(wǎng)絡(luò)與安全系統(tǒng)，紅帽則通過(guò)OpenShift/OpenShift AI提供資源編排、調(diào)度管理、運(yùn)維體系及AI平臺(tái)支持。雙方通過(guò)技術(shù)整合，實(shí)現(xiàn)了從硬件加速到平臺(tái)管理的閉環(huán)，為企業(yè)級(jí)AI應(yīng)用提供了穩(wěn)定、高效、可擴(kuò)展的底層支持。

圖為 MXAIE參考架構(gòu)

目前雙方已順利完成產(chǎn)品互兼容性測(cè)試，測(cè)試結(jié)果顯示曦云C系列和曦思N系列產(chǎn)品與紅帽平臺(tái)良好適配，且可高效穩(wěn)定運(yùn)行。

圖為 沐曦股份與紅帽產(chǎn)品兼容證書(shū)

vLLM高性能推理引擎的深度優(yōu)化

作為方案的核心技術(shù)環(huán)節(jié)，雙方對(duì)vLLM推理引擎進(jìn)行了聯(lián)合優(yōu)化。紅帽作為vLLM社區(qū)的重要貢獻(xiàn)者與技術(shù)推動(dòng)者，為本次聯(lián)合優(yōu)化提供了成熟的上游協(xié)作機(jī)制與深厚的開(kāi)源工程經(jīng)驗(yàn)。沐曦股份開(kāi)發(fā)的vLLM-metaX插件嚴(yán)格遵循vLLM插件機(jī)制，支持自動(dòng)識(shí)別與加載，集成定制算子優(yōu)化與多attention后端實(shí)現(xiàn)。該插件能夠高效適配vLLM版本迭代，以低遷移成本實(shí)現(xiàn)國(guó)產(chǎn)GPU與開(kāi)源框架的深度協(xié)同。

在性能層面，結(jié)合沐曦股份GPU的高算力、高帶寬及MetaXLink互聯(lián)技術(shù)，vLLM的Decode Context Parallel特性在高并發(fā)、長(zhǎng)上下文場(chǎng)景中顯著提升吞吐量并降低延遲，為大模型推理落地提供了可靠的技術(shù)支撐。

開(kāi)源生態(tài)共建：從代碼貢獻(xiàn)到社區(qū)賦能

沐曦股份積極參與vLLM上游開(kāi)源社區(qū)，不僅貢獻(xiàn)插件代碼，還通過(guò)技術(shù)分享、生態(tài)兼容性?xún)?yōu)化等方式，推動(dòng)國(guó)產(chǎn)GPU與開(kāi)源AI框架的融合。同時(shí)，紅帽長(zhǎng)期深度參與并貢獻(xiàn)vLLM社區(qū)及相關(guān)AI開(kāi)源項(xiàng)目，為生態(tài)兼容性、框架優(yōu)化和開(kāi)發(fā)者支持提供了持續(xù)投入，共同強(qiáng)化國(guó)產(chǎn)GPU與主流AI軟件棧的協(xié)同能力。其中沐曦股份插件架構(gòu)設(shè)計(jì)兼顧開(kāi)放性與性能，使開(kāi)發(fā)者能夠更便捷地將國(guó)產(chǎn)GPU接入主流推理框架，降低技術(shù)使用門(mén)檻。

人才培養(yǎng)與生態(tài)拓展

面對(duì)AI與GPU領(lǐng)域的人才短缺挑戰(zhàn)，沐曦股份計(jì)劃通過(guò)技術(shù)開(kāi)放日、社區(qū)活動(dòng)等形式，推動(dòng)開(kāi)發(fā)者生態(tài)建設(shè)，旨在通過(guò)開(kāi)放協(xié)作，加速技術(shù)普及與產(chǎn)業(yè)應(yīng)用，構(gòu)建可持續(xù)的AI創(chuàng)新生態(tài)。

本次與紅帽的合作，不僅是一次技術(shù)方案的發(fā)布，更是開(kāi)源協(xié)作與生態(tài)共建的實(shí)踐范例。通過(guò)軟硬協(xié)同、開(kāi)源融入與生態(tài)賦能，沐曦股份將繼續(xù)攜手更多產(chǎn)業(yè)伙伴，推動(dòng)AI技術(shù)從實(shí)驗(yàn)室走向規(guī)模化應(yīng)用，為中國(guó)乃至全球的AI基礎(chǔ)設(shè)施發(fā)展提供新的路徑參考。

關(guān)于沐曦股份

沐曦股份致力于自主研發(fā)全棧高性能GPU芯片及計(jì)算平臺(tái)，為智算、通用計(jì)算、云渲染等前沿領(lǐng)域提供高能效、高通用性的算力支撐，助力數(shù)字經(jīng)濟(jì)發(fā)展。