近日,摩爾線程與滴普科技宣布了一項重要合作成果。摩爾線程的夸娥(KUAE)千卡智算集群與滴普科技的企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配,共同實現(xiàn)了700億參數(shù)LLaMA2大語言模型的預(yù)訓(xùn)練測試。
在測試過程中,摩爾線程的夸娥千卡智算集群展現(xiàn)了其卓越的性能。全程77小時的無故障連續(xù)運(yùn)行,集群訓(xùn)練穩(wěn)定性高達(dá)100%,訓(xùn)練效率和兼容性均達(dá)到預(yù)期。這一成果得益于摩爾線程夸娥千卡智算集群的全棧方案,其模型覆蓋、推理加速、CUDA兼容、斷點(diǎn)續(xù)訓(xùn)、分布式訓(xùn)練、集群可靠性等8大核心能力,為訓(xùn)練提供了強(qiáng)大支持。
此次合作不僅彰顯了摩爾線程在智能計算領(lǐng)域的領(lǐng)先地位,也標(biāo)志著雙方在推動國產(chǎn)化數(shù)智賦能底座構(gòu)建上取得了實質(zhì)性進(jìn)展。展望未來,摩爾線程與滴普科技將繼續(xù)深化合作,共同推動人工智能技術(shù)的創(chuàng)新與發(fā)展。
-
摩爾線程
+關(guān)注
關(guān)注
2文章
247瀏覽量
5964 -
大模型
+關(guān)注
關(guān)注
2文章
3351瀏覽量
4723
發(fā)布評論請先 登錄
摩爾線程發(fā)布大模型訓(xùn)練仿真工具SimuMax v1.0

澎峰科技完成OpenAI最新開源推理模型適配
摩爾線程“AI工廠”:五大核心技術(shù)支撐,打造大模型訓(xùn)練超級工廠

摩爾線程“AI工廠”:以系統(tǒng)級創(chuàng)新定義新一代AI基礎(chǔ)設(shè)施

壁仞科技完成Qwen3旗艦模型適配
摩爾線程GPU率先支持Qwen3全系列模型
摩爾線程GPU成功適配Deepseek-V3-0324大模型

摩爾線程GPU原生FP8計算助力AI訓(xùn)練

摩爾線程支持阿里云通義千問QwQ-32B開源模型

摩爾線程完成DeepSeek開源庫FlashMLA和DeepGEMM適配
昆侖芯率先完成Deepseek訓(xùn)練推理全版本適配

評論