近日，商湯大裝置SenseCore與昇騰384超節(jié)點率先完成全面適配。

在功能、性能驗證上達到預(yù)期目標，為加速國產(chǎn)AI算力從“可用”邁向“好用”取得了重點突破，為大模型高效訓(xùn)練與推理提供了堅實支撐。

超節(jié)點（SuperPod）是一種通過高速互聯(lián)技術(shù)，將多個GPU/NPU整合為統(tǒng)一計算單元的新型架構(gòu)，解決AI大模型訓(xùn)練中的算力協(xié)同與通信效率問題。

昇騰384超節(jié)點（Atlas 900 A3 SuperPoD）是華為推出的業(yè)界最大規(guī)模超節(jié)點方案，憑借創(chuàng)新的“全對等架構(gòu)”，實現(xiàn)高速互聯(lián)總線的關(guān)鍵突破——把總線從服務(wù)器內(nèi)部擴展到整機柜、甚至跨機柜，最終將CPU、NPU、DPU、存儲和內(nèi)存等資源全部互聯(lián)和池化，形成一臺“超級計算機”，實現(xiàn)更大的算力密度和互聯(lián)帶寬。

商湯聯(lián)合華為昇騰，實現(xiàn)超節(jié)點適配多項創(chuàng)新

華為昇騰推出的這一全新方案架構(gòu)，對軟件棧的升級和平臺調(diào)度優(yōu)化提出了更高要求，讓它能“跑得快、跑得穩(wěn)”。

作為AI云原生平臺，商湯大裝置SenseCore致力于為用戶提供敏捷、靈活、可靠的全棧AI基礎(chǔ)設(shè)施服務(wù)，以極致性價比推動大模型技術(shù)的高效落地與規(guī)模化應(yīng)用。

基于商湯大裝置SenseCore與昇騰384超節(jié)點的特點，雙方團隊聯(lián)合攻關(guān)，在調(diào)度優(yōu)化、系統(tǒng)穩(wěn)定性以及故障恢復(fù)等方面提出多項行業(yè)創(chuàng)新：

調(diào)度優(yōu)化：在調(diào)度能力上，除了支持POD內(nèi)單機和多機調(diào)度、跨POD多機調(diào)度、親和性調(diào)度等基礎(chǔ)能力，SenseCore平臺配合模型并行策略實現(xiàn)了邏輯超節(jié)點自動劃分，使EP/TP等大通信策略可以充分利用靈衢網(wǎng)絡(luò)，提升模型訓(xùn)練效率。

跨POD訓(xùn)練穩(wěn)定性：另外SenseCore團隊提交了多個MR修復(fù)多POD場景下master/work任務(wù)rank亂序問題，從根本上解決了跨POD訓(xùn)練任務(wù)概率性失敗的問題。

多維度故障檢測與恢復(fù)：在故障檢測能力上覆蓋了從服務(wù)器硬件、高速互聯(lián)總線、RoCE網(wǎng)絡(luò)到任務(wù)、進程軟硬件多維度檢測，結(jié)合檢測能力實現(xiàn)Job/Pod/進程多級恢復(fù)機制，全面提升昇騰384超節(jié)點在訓(xùn)練場景下的可靠性與容錯性。

此次商湯大裝置SenseCore與昇騰384超節(jié)點的成功適配，讓多租戶、大規(guī)模、彈性AI云服務(wù)成為可能。同時，商湯大裝置已經(jīng)完成了某客戶的交付，具備了昇騰384超節(jié)點從液冷集群到AI平臺端到端的交付能力。

未來，雙方還將探索更多應(yīng)用場景，包括大模型推理加速、智能體應(yīng)用部署、面向垂直行業(yè)的大模型訓(xùn)練與推理優(yōu)化等，進一步加速基于SenseCore的昇騰384超節(jié)點在各行各業(yè)的應(yīng)用落地。

商湯科技大裝置事業(yè)群CTO宣善明表示：“商湯大裝置非常重視并深度參與國產(chǎn)化算力生態(tài)建設(shè)。SenseCore成為首批完成昇騰384超節(jié)點適配的AI云平臺，不僅得益于SenseCore平臺的開放性、完善的功能和豐富的應(yīng)用實踐，更是國產(chǎn)AI基礎(chǔ)設(shè)施融合發(fā)展的重要里程碑。SenseCore通過與昇騰的深度融合，充分釋放昇騰算力潛能，為產(chǎn)業(yè)界提供更加敏捷、智能、可靠的算力底座，商湯也將在此基礎(chǔ)上打造面向各行業(yè)的AI解決方案，共同推動千行百業(yè)的智能化升級”。