以DeepSeek-R1和V3為代表的開(kāi)源模型系列在多語(yǔ)言理解和復(fù)雜推理任務(wù)中表現(xiàn)出色,極大優(yōu)化了算力成本,并進(jìn)一步改變了訓(xùn)練和部署的算法結(jié)構(gòu),這一技術(shù)創(chuàng)新將快速提升對(duì)于推理算力的需求,從而加速推動(dòng)AI應(yīng)用場(chǎng)景的落地。
作為國(guó)產(chǎn)算力領(lǐng)軍企業(yè),燧原科技完成了對(duì)DeepSeek全量模型的高效適配,包括DeepSeek-R1/V3 671B原生模型、DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B、DeepSeek R1-Distill-Llama-8B/70B等蒸餾模型。整個(gè)適配進(jìn)程中,燧原AI加速卡的計(jì)算能力得到充分利用,能夠快速處理海量數(shù)據(jù),同時(shí)其穩(wěn)定性為模型的持續(xù)優(yōu)化和大規(guī)模部署提供了堅(jiān)實(shí)的基礎(chǔ)。
目前,DeepSeek的全量模型已在慶陽(yáng)、無(wú)錫、成都等智算中心完成了數(shù)萬(wàn)卡的快速部署,將為客戶(hù)及合作伙伴提供高性能計(jì)算資源,提升模型推理效率,同時(shí)降低使用門(mén)檻,大幅節(jié)省硬件成本。這一成果標(biāo)志著燧原科技在國(guó)內(nèi)率先實(shí)現(xiàn)了DeepSeek全量模型的部署和落地,也充分展示了燧原科技超大規(guī)模集群的部署能力和日趨成熟的軟件生態(tài),為2025年更大規(guī)模國(guó)產(chǎn)算力的建設(shè)應(yīng)用提供了樣板。
此外,燧原科技與并濟(jì)科技、并行科技、東華軟件、道客網(wǎng)絡(luò)、光環(huán)云、邁富時(shí)、清程極智、燧弘華創(chuàng)、未來(lái)速度、無(wú)問(wèn)芯穹、向量棧、億算智能、中科加禾等合作伙伴緊密合作,積極推進(jìn)DeepSeek全量模型的更多系統(tǒng)級(jí)優(yōu)化,進(jìn)一步提升模型在推理系統(tǒng)的性?xún)r(jià)比,從而為客戶(hù)帶來(lái)更優(yōu)的商業(yè)價(jià)值。
與此同時(shí),燧原科技還與萬(wàn)物安全、飛渡科技、萬(wàn)物之宜等深度合作,即將推出面向“智慧城市、智慧園區(qū)、智慧交通”等AIoT場(chǎng)景的國(guó)內(nèi)首個(gè)DeepSeek智算訓(xùn)推一體機(jī),幫助用戶(hù)解決國(guó)產(chǎn)化私有算力、超清數(shù)字孿生及物聯(lián)網(wǎng)安全等問(wèn)題。
燧原科技正在推動(dòng)“國(guó)產(chǎn)推理算力系統(tǒng)+國(guó)產(chǎn)大模型+國(guó)產(chǎn)應(yīng)用+國(guó)產(chǎn)智算中心” 全方位生態(tài)的普及和泛化,以慶陽(yáng)的推理萬(wàn)卡集群為起點(diǎn),用“算力普惠”的理念推動(dòng)更大規(guī)模的國(guó)產(chǎn)算力部署,為國(guó)產(chǎn)應(yīng)用賦能,為中國(guó)人工智能產(chǎn)業(yè)的發(fā)展提供了新的路徑。
-
開(kāi)源
+關(guān)注
關(guān)注
3文章
4203瀏覽量
46120 -
模型
+關(guān)注
關(guān)注
1文章
3751瀏覽量
52096 -
燧原科技
+關(guān)注
關(guān)注
0文章
152瀏覽量
10408 -
DeepSeek
+關(guān)注
關(guān)注
2文章
835瀏覽量
3252
原文標(biāo)題:燧原科技實(shí)現(xiàn)全國(guó)各地智算中心DeepSeek的全量推理服務(wù)部署
文章出處:【微信號(hào):gh_1222367b8780,微信公眾號(hào):燧原科技Enflame】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
太初元碁:40+AI大模型全覆蓋,新版本即發(fā)即適配、上線(xiàn)即可用,實(shí)現(xiàn)國(guó)產(chǎn)“芯”速度
燧原科技訓(xùn)推一體芯片L600適配階躍星辰基座模型Step 3.5 Flash
中科曙光AI超集群系統(tǒng)和scaleX640超節(jié)點(diǎn)等產(chǎn)品全面適配DeepSeek V3.2
寒武紀(jì)成功適配DeepSeek-V3.2-Exp模型
曙光AI超集群系統(tǒng)全面支持DeepSeek-V3.2-Exp
燧原科技DeepSeek一體機(jī)與S60卡:引領(lǐng)國(guó)產(chǎn)智算新潮流
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】+混合專(zhuān)家
信而泰×DeepSeek:AI推理引擎驅(qū)動(dòng)網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代
【書(shū)籍評(píng)測(cè)活動(dòng)NO.62】一本書(shū)讀懂 DeepSeek 全家桶核心技術(shù):DeepSeek 核心技術(shù)揭秘
壁仞科技完成Qwen3旗艦模型適配
摩爾線(xiàn)程GPU成功適配Deepseek-V3-0324大模型
燧原科技完成DeepSeek全量模型高效適配
評(píng)論