電子發(fā)燒友網(wǎng)綜合報道 2025年11月21日，在上海舉辦的“2025 AI容器應(yīng)用落地與發(fā)展論壇”上，華為正式發(fā)布并開源了創(chuàng)新AI容器技術(shù)Flex:ai，為解決算力資源利用難題帶來了全新的思路和解決方案。

當(dāng)前，AI產(chǎn)業(yè)正處于高速發(fā)展的黃金時期，海量算力需求如潮水般涌來。然而，算力資源利用率偏低的問題卻成為了產(chǎn)業(yè)發(fā)展的關(guān)鍵桎梏。具體表現(xiàn)為，小模型任務(wù)常常獨(dú)占整卡，導(dǎo)致大量資源閑置；大模型任務(wù)又因單機(jī)算力不足而難以支撐；更有大量缺乏GPU/NPU的通用服務(wù)器處于算力“休眠”狀態(tài)。這種供需錯配的現(xiàn)象，造成了嚴(yán)重的資源浪費(fèi)，使得企業(yè)在算力投入上既面臨高昂的成本，又無法獲得理想的算力使用效率。

Flex:ai是基于Kubernetes容器編排平臺構(gòu)建的XPU池化與調(diào)度軟件，它通過三大核心技術(shù)突破，實現(xiàn)了算力資源的精細(xì)化管理。

在算力資源切分方面，華為與上海交通大學(xué)聯(lián)合研發(fā)的XPU池化框架發(fā)揮了關(guān)鍵作用。該框架能夠?qū)螐圙PU/NPU算力卡精準(zhǔn)切分至10%的虛擬單元，實現(xiàn)了單卡同時承載多個AI工作負(fù)載。這種一卡變多卡的技術(shù)，使得小模型訓(xùn)推場景下的整體算力平均利用率提升了30%，大大提高了單卡的服務(wù)能力。

跨節(jié)點算力資源聚合技術(shù)則是華為與廈門大學(xué)合作的成果。通過跨節(jié)點拉遠(yuǎn)虛擬化技術(shù)，將集群內(nèi)各節(jié)點的空閑XPU算力聚合形成共享算力池。這一技術(shù)不僅為大模型任務(wù)提供了充足的資源支撐，還讓通用服務(wù)器能夠通過高速網(wǎng)絡(luò)轉(zhuǎn)發(fā)AI工作負(fù)載，實現(xiàn)了通用算力與智能算力資源的融合，打破了資源孤島。

多級智能調(diào)度技術(shù)由華為與西安交通大學(xué)共同打造。Hi Scheduler智能調(diào)度器能夠自動感知集群負(fù)載與資源狀態(tài)，結(jié)合AI工作負(fù)載的優(yōu)先級、算力需求等多維參數(shù)，對本地及遠(yuǎn)端的虛擬化GPU、NPU資源進(jìn)行全局最優(yōu)調(diào)度。即使在負(fù)載頻繁波動的場景下，也能保障AI工作負(fù)載的平穩(wěn)運(yùn)行，讓每一份算力都物盡其用。

Flex:ai對標(biāo)英偉達(dá)旗下Run:ai公司的核心技術(shù)，但具有獨(dú)特的優(yōu)勢。Run:ai主要服務(wù)于英偉達(dá)GPU生態(tài)，而Flex:ai沒有生態(tài)限制，英偉達(dá)的GPU和華為昇騰NPU等算力卡都可以使用。它通過軟件創(chuàng)新，實現(xiàn)了對英偉達(dá)、昇騰及其他第三方算力資源的統(tǒng)一管理和高效利用，有效屏蔽了不同算力硬件之間的差異，為AI應(yīng)用提供了更高效穩(wěn)定的資源支撐。

華為將Flex:ai開源在魔擎社區(qū)中，并與此前開源的多款A(yù)I工具共同組成完整的ModelEngine開源生態(tài)。

Flex:ai的能力已在真實產(chǎn)業(yè)場景中得到驗證。瑞金醫(yī)院與華為聯(lián)合打造的多模態(tài)病理大模型“RuiPath”，基于Flex:ai的技術(shù)支撐，將XPU資源可用度從40%提升至70%，破解了有限算力下的大規(guī)模訓(xùn)練難題。隨著AI與容器技術(shù)的深度融合，未來的應(yīng)用開發(fā)將更加智能化、自動化。Flex:ai的發(fā)布標(biāo)志著AI基礎(chǔ)設(shè)施競爭正從“拼硬件”轉(zhuǎn)向“拼系統(tǒng)”，當(dāng)軟件能真正駕馭硬件，當(dāng)開源平臺打破廠商藩籬，AI發(fā)展的主動權(quán)才真正回到應(yīng)用者手中。