據(jù)了解，中國移動即將發(fā)布自主研發(fā)的九天35B通用大模型。該模型將憑借強大的語言理解、復(fù)雜推理與行業(yè)場景適配能力，有望成為央企自研大模型的標(biāo)桿之作。4月25日，作為中國移動“AI能力聯(lián)合艦隊”核心算力伙伴，壁仞科技基于旗艦通用GPU產(chǎn)品壁礪166系列，已提前完成九天35B模型全流程適配與推理驗證，實現(xiàn)高性能、低顯存占用的穩(wěn)定運行，為中移九天大模型規(guī)?；涞靥峁﹪a(chǎn)化高性能算力底座。

高效適配，釋放模型推理性能

得益于壁礪166系列產(chǎn)品的高通用性與全自研BIRENSUPA軟件棧的成熟度，壁仞科技高效完成九天35B模型推理全鏈路深度打通與快速適配。壁礪166M系列搭載64GB大顯存與1.6TB/s大顯存帶寬，配合超大TensorCore硬件加速，釋放強大算力；在保障模型精度的同時，顯著降低顯存占用、提升推理吞吐，精準(zhǔn)匹配九天35B長文本處理與高并發(fā)響應(yīng)需求；依托vLLM開發(fā)框架、torch_br計算庫全棧優(yōu)化，實現(xiàn)對九天35B模型注意力機制的深度優(yōu)化，實現(xiàn)模型在壁礪166M上高效穩(wěn)定執(zhí)行。

九天模型基于壁礪166系列產(chǎn)品完成推理任務(wù)

實測顯示，在標(biāo)準(zhǔn)推理場景下，壁礪166M可穩(wěn)定支撐九天35B模型高并發(fā)請求，充分滿足通信、政務(wù)、金融等行業(yè)對大模型低時延、高可靠的部署要求。憑借卓越的技術(shù)成熟度，壁礪166系列能夠有效降低開發(fā)者的模型部署與應(yīng)用門檻，打造兼具性能與成本優(yōu)勢的極致推理方案。

“國產(chǎn)GPU+央企大模型”強強聯(lián)合

九天大模型作為中國移動“九天”基座核心產(chǎn)品，具備高安全、高可控、全自主的央企特性，已通過生成式AI服務(wù)雙備案與A級安全認證，廣泛適配數(shù)智化轉(zhuǎn)型場景。此次壁仞科技高效完成九天35B大模型預(yù)適配，充分驗證BIRENSUPA生態(tài)成熟度以及響應(yīng)速度?！皣a(chǎn)GPU+央企大模型”強強聯(lián)合，打造的全棧國產(chǎn)化方案，將為中國移動算網(wǎng)融合、AI能力規(guī)?；敵鎏峁╆P(guān)鍵支撐，助力千行百業(yè)智能化升級。

作為中國移動深度生態(tài)伙伴，壁仞科技已深度參與移動云智算中心、萬卡級集群建設(shè)，在湖南、河南等地實現(xiàn)規(guī)?；撬慵郝涞?。展望未來，壁仞科技將持續(xù)深化與中移九天的協(xié)同合作，共研大模型訓(xùn)練、推理與行業(yè)適配優(yōu)化方案，并積極參與由中國移動牽頭發(fā)起的AI計算存儲架構(gòu)、卡間互聯(lián)協(xié)議等專項技術(shù)研究。壁仞科技作為國產(chǎn)AI算力的核心力量，將深度賦能央企大模型，通過構(gòu)建自主可控、高效可靠的新一代AI基礎(chǔ)設(shè)施，成為驅(qū)動智能經(jīng)濟新形態(tài)的關(guān)鍵引擎。