今天,在2025全球開(kāi)發(fā)者先鋒大會(huì)上,中科曙光正式發(fā)布DeepAI深算智能引擎,通過(guò)打造端到端全棧AI加速套件,助力各行各業(yè)AI應(yīng)用開(kāi)發(fā)與落地。
DeepSeek等大模型在全球范圍內(nèi)的爆火,進(jìn)一步激發(fā)了各行各業(yè)對(duì)于低成本、高效率的AI需求。多年前中科曙光就已預(yù)見(jiàn)到“算力即是生產(chǎn)力”的大勢(shì)所趨,針對(duì)AI大模型在多元場(chǎng)景的實(shí)際需求,DeepAI深算智能引擎帶來(lái)了三大升級(jí):
高性能:全面支持基于新一代國(guó)產(chǎn)AI異構(gòu)加速卡的框架/組件功能適配,并深度優(yōu)化算子,性能總吞吐量提升120%;
高易用:自研獨(dú)立完整軟件棧,同時(shí)完全兼容主流生態(tài),CUDA核心組件功能覆蓋率除硬件外達(dá)到100%;
高耦合:推出大模型應(yīng)用平臺(tái)和大模型云原生AI平臺(tái),支持主流大模型開(kāi)放納管。
圍繞“高性能、高可用、高耦合”持續(xù)迭代,DeepAI深算智能引擎為廣大開(kāi)發(fā)者群體提供靈活、易用、低成本的AI套件,面向多元場(chǎng)景幫助客戶圍繞DeepSeek等大模型構(gòu)建AI能力,真正實(shí)現(xiàn)人工智能從技術(shù)積累到價(jià)值釋放的關(guān)鍵躍遷。
全鏈條優(yōu)化
大模型從訓(xùn)練開(kāi)發(fā)到推理部署,性能調(diào)優(yōu)是關(guān)鍵支撐。為此,在去年推出的 Al軟件棧DAS基礎(chǔ)上,DeepAI深算智能引擎從GPUFusion兼容層、基礎(chǔ)算子層、框架工具層、模型擴(kuò)展組件層等四個(gè)層面入手,進(jìn)行深度優(yōu)化,目標(biāo)算子性能提升30-70%,模型性能提升20-50%,單卡推理速度最高提升1倍以上。
針對(duì)新一代國(guó)產(chǎn)AI異構(gòu)加速卡,DeepAI深算智能引擎進(jìn)行“算子-框架-模型”全鏈條深度優(yōu)化,并首發(fā)自研推理框架SGInfer,提供包括稀疏化實(shí)現(xiàn)、runtime層優(yōu)化、圖層優(yōu)化等在內(nèi)的多種策略,單卡推理性能總吞吐量最高提升1倍以上,做到“軟硬協(xié)同、敏捷開(kāi)發(fā)、高效部署”。
全周期服務(wù)
圍繞大模型開(kāi)發(fā)、訓(xùn)練、微調(diào)、推理、部署等全流程,DeepAI深算智能引擎內(nèi)嵌DAP智能平臺(tái),基于國(guó)產(chǎn)AI異構(gòu)加速芯片打造大模型應(yīng)用平臺(tái)、云原生AI平臺(tái),預(yù)置100+關(guān)鍵場(chǎng)景應(yīng)用,300+精調(diào)模型與加速算法。
其中,大模型應(yīng)用平臺(tái)具備知識(shí)融合增強(qiáng)、智能體可視化編排、數(shù)據(jù)智能分析能力,云原生AI平臺(tái)具備數(shù)據(jù)處理、模型訓(xùn)練和微調(diào)、大模型推理服務(wù)能力,共同為大模型的多元場(chǎng)景落地提供“數(shù)據(jù)治理-算法研發(fā)-模型部署-應(yīng)用集成”全生命周期服務(wù)。
全場(chǎng)景適配
面向金融、醫(yī)療、政務(wù)、能源、科研、教育等行業(yè)場(chǎng)景,DeepAI深算智能引擎依托完整軟件棧和優(yōu)化集成、完善的模型適配基礎(chǔ)、廣泛應(yīng)用的AI智能平臺(tái),覆蓋從十億級(jí)推理到千億級(jí)訓(xùn)練的全場(chǎng)景產(chǎn)品方案,快速響應(yīng)不同行業(yè)、不同場(chǎng)景定制需求,讓AI變得觸手可及。
截至目前,中科曙光以DeepAI深算智能引擎為核心,已經(jīng)進(jìn)入眾多關(guān)鍵行業(yè),持續(xù)為中國(guó)氣象局、深圳紀(jì)委、中國(guó)電信天翼云、PICC人保財(cái)險(xiǎn)、中石化物探院等頭部客戶提供高品質(zhì)服務(wù)。
-
中科曙光
+關(guān)注
關(guān)注
5文章
435瀏覽量
18740 -
大模型
+關(guān)注
關(guān)注
2文章
3348瀏覽量
4694 -
DeepSeek
+關(guān)注
關(guān)注
2文章
820瀏覽量
2538
原文標(biāo)題:DeepAI深算智能引擎重磅發(fā)布:多元場(chǎng)景玩轉(zhuǎn)DeepSeek
文章出處:【微信號(hào):sugoncn,微信公眾號(hào):中科曙光】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論