在“雙碳”目標(biāo)的指引下,能源行業(yè)正經(jīng)歷從傳統(tǒng)模式向智能化、綠色化的深度轉(zhuǎn)型。上海達(dá)卯科技有限公司(以下簡(jiǎn)稱“達(dá)卯智能”)是人工智能領(lǐng)域的能源大模型企業(yè),專注于通過(guò)通用人工智能(AGI)技術(shù)構(gòu)建能源管理與虛擬電廠解決方案。
深耕能源行業(yè)打造專用垂類模型
達(dá)卯智能全自主研發(fā)了基于 MOE 架構(gòu)的能源大模型,憑借業(yè)界獨(dú)創(chuàng)的能量塊數(shù)據(jù)結(jié)構(gòu),應(yīng)用云端大模型+邊端智能體相結(jié)合的云邊協(xié)同架構(gòu),極大優(yōu)化了預(yù)測(cè)和策略模型生成的效率與準(zhǔn)確性,相較傳統(tǒng)策略算法,得到了大幅度提升。
達(dá)卯能源大模型是國(guó)內(nèi)領(lǐng)先的、面向各類能源場(chǎng)景、對(duì)各類能源任務(wù)具備通用求解能力的垂類大模型體系,該模型體系主要由三個(gè)核心部分構(gòu)成:基于 MOE 架構(gòu)的能源知識(shí)模型、基于 Transformer 架構(gòu)的能量系統(tǒng)平衡模型以及多模態(tài)模型,共同鑄就了達(dá)卯智能在能源領(lǐng)域的技術(shù)領(lǐng)先地位。
隨著 DeepSeek 的橫空出世,達(dá)卯智能也開(kāi)始接入和適配 DeepSeek-R1 模型,DeepSeek 強(qiáng)大的推理能力,填補(bǔ)了達(dá)卯智能此前的空白,達(dá)卯智能基于 DeepSeek 進(jìn)一步升級(jí)和完善了其自研產(chǎn)品的核心能力。一方面,基于能源行業(yè)獨(dú)有的海量垂直語(yǔ)料庫(kù)與自研能源大模型體系,“能源小達(dá)”AI 智能體實(shí)現(xiàn)突破性升級(jí),為發(fā)電、輸電、配電、電力交易、政策合規(guī)等全產(chǎn)業(yè)鏈提供高精度、低延遲、強(qiáng)適配的 AI 決策支持。另一方面,達(dá)卯智能進(jìn)行二次開(kāi)發(fā),開(kāi)發(fā)了虛擬電廠功能,可對(duì)能源資源進(jìn)行調(diào)度、交易和聚合,為能源行業(yè)客戶生成相應(yīng)的資源調(diào)度策略報(bào)告,實(shí)現(xiàn)能源行業(yè)降本 15%。
RTX 5880 Ada 賦能達(dá)卯能源一體機(jī)重構(gòu)本地化部署范式
任何大模型或深度學(xué)習(xí)應(yīng)用的部署,都逃不開(kāi)算力瓶頸。面對(duì)數(shù)十億甚至上百億參數(shù)規(guī)模的模型,一個(gè)合適的硬件配置能夠讓推理速度提升一個(gè)數(shù)量級(jí)。
為適應(yīng)能源行業(yè) AI 的變革,達(dá)卯智能基于 DeepSeek R1 與 NVIDIA 架構(gòu),推出了 DM-Engine R1 系列能源大模型一體機(jī),通過(guò)搭載麗臺(tái)科技提供的 NVIDIA RTX 5880 Ada GPU,結(jié)合麗臺(tái)科技定制化工作站和服務(wù)器整機(jī),達(dá)卯智能為能源行業(yè)打造了安全端到端 AI 推理方案。
此次推出的 DM-Engine R1 一體機(jī)系列有三款,其中 DM-Engine R1 14B 標(biāo)準(zhǔn)版和 DM-Engine R1 32B 旗艦版均搭載 NVIDIA RTX 5880 Ada,分別適用于輕量級(jí)模型推理以及高精度專業(yè)領(lǐng)域任務(wù)。

RTX 5880 Ada 具備 48GB GDDR6 顯存以及 14,080 個(gè) CUDA 核心和 440 個(gè)第四代 Tensor Core,具有 69.3 TFLOPs 的 FP32 計(jì)算能力和 1,108 TFLOPs 的 Tensor 性能,非常適合用于 AI 模型推理任務(wù),單 GPU 即可勝任小規(guī)模模型或低并發(fā)推理需求,而多 GPU 的靈活擴(kuò)展則更適用于處理教大的輸入或高并發(fā)推理場(chǎng)景。
DM-Engine R1 14B 標(biāo)準(zhǔn)版能夠使 TCO(總體擁有成本)降低 40% 并且支持 365*24 小時(shí)無(wú)休運(yùn)行。DM-Engine R1 32B 旗艦版配備 2 塊 RTX 5880 Ada,48GB*2 顯存保障 8,192 步長(zhǎng)時(shí)序預(yù)測(cè)零中斷,同時(shí)支持 2.4 萬(wàn) QPS 高并發(fā),能夠?qū)崿F(xiàn)結(jié)構(gòu)化剪枝技術(shù)能源場(chǎng)景推理提速 300%。
DM-Engine R1 系列一體機(jī)特點(diǎn):
全棧深度適配
預(yù)集成能源領(lǐng)域?qū)俅竽P团c工具鏈,通過(guò)可視化界面與標(biāo)準(zhǔn)化接口,實(shí)現(xiàn)從部署到應(yīng)用的極簡(jiǎn)操作流程,企業(yè)可以快速構(gòu)建專屬能源模型,無(wú)需復(fù)雜的配置和調(diào)試,大大縮短了項(xiàng)目上線時(shí)間,提高了業(yè)務(wù)響應(yīng)速度,使企業(yè)能夠更敏捷地應(yīng)對(duì)市場(chǎng)變化和能源管理需求。
算效比全面領(lǐng)先
基于 NVIDIA 新一代架構(gòu) GPU 保障千億級(jí)模型推理精度,實(shí)現(xiàn)單位功耗算力倍增,邊緣場(chǎng)景綜合能效比達(dá)業(yè)界標(biāo)桿水平。這意味著在相同的能耗條件下,該系列一體機(jī)能夠提供更強(qiáng)大的計(jì)算性能,幫助能源企業(yè)降低運(yùn)營(yíng)成本,提高能源利用效率,符合“雙碳”目標(biāo)下的可持續(xù)發(fā)展要求。
靈活部署全域覆蓋
支持從邊端設(shè)備監(jiān)測(cè)到云端超大規(guī)模集群的多層級(jí)算力配置,適配私有化部署與公有云快速接入,滿足能源預(yù)測(cè)、智能調(diào)度、電力交易等全場(chǎng)景需求,兼顧數(shù)據(jù)安全與業(yè)務(wù)敏捷性。能源企業(yè)可以根據(jù)自身的業(yè)務(wù)特點(diǎn)和需求,選擇最適合的部署方案,確保數(shù)據(jù)的保密性和完整性,同時(shí)實(shí)現(xiàn)快速的業(yè)務(wù)拓展和創(chuàng)新。
DM-Engine R1 系列一體機(jī)通過(guò)不同的配置,來(lái)精準(zhǔn)匹配各類能源行業(yè)需求。在能效優(yōu)化方面,幫助用戶年節(jié)省百萬(wàn)級(jí)能耗成本,實(shí)現(xiàn)了能源的高效利用和成本的大幅降低。其海量秒級(jí)響應(yīng)決策能力,使能源企業(yè)在面對(duì)市場(chǎng)波動(dòng)和需求變化時(shí),能夠迅速做出精準(zhǔn)的調(diào)度和決策,提升企業(yè)的市場(chǎng)競(jìng)爭(zhēng)力。同時(shí),本地化的部署能夠保障核心資產(chǎn)與業(yè)務(wù)數(shù)據(jù)安全,防止數(shù)據(jù)泄露和惡意攻擊,為能源企業(yè)的數(shù)字化轉(zhuǎn)型提供了堅(jiān)實(shí)的安全保障。
達(dá)卯智能技術(shù)人員表示:“達(dá)卯智能基于 NVIDIA RTX 5880 Ada 打造的一體機(jī),是面向能源行業(yè)的專屬 AI 推理方案,做到算力與模型的高效協(xié)同,為能源行業(yè)帶來(lái)了更高效、更智能的解決方案。”
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5594瀏覽量
109781 -
能源
+關(guān)注
關(guān)注
3文章
2342瀏覽量
46038 -
大模型
+關(guān)注
關(guān)注
2文章
3651瀏覽量
5191 -
DeepSeek
+關(guān)注
關(guān)注
2文章
835瀏覽量
3276
原文標(biāo)題:案例分享丨算模協(xié)同:RTX 5880 Ada 賦能達(dá)卯智能能源大模型
文章出處:【微信號(hào):Leadtek,微信公眾號(hào):麗臺(tái)科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
NVIDIA RTX PRO 5000 Blackwell GPU的深度評(píng)測(cè)
NVIDIA RTX PRO 4000 Blackwell GPU性能測(cè)試
NVIDIA RTX PRO 5000 72GB Blackwell GPU現(xiàn)已全面上市
NVIDIA RTX PRO 2000 Blackwell GPU性能測(cè)試
NVIDIA RTX PRO 4500 Blackwell GPU測(cè)試分析
NVIDIA桌面GPU系列擴(kuò)展新產(chǎn)品
NVIDIA助力構(gòu)建人形機(jī)器人全身遙操作仿真平臺(tái)
NVIDIA RTX AI加速FLUX.1 Kontext現(xiàn)已開(kāi)放下載
使用NVIDIA Triton和TensorRT-LLM部署TTS應(yīng)用的最佳實(shí)踐
雷卯賦能儲(chǔ)能安全:構(gòu)建全鏈路防護(hù)體系
雷卯賦能儲(chǔ)能安全:構(gòu)建全鏈路防護(hù)體系
NVIDIA Omniverse與RTX 5880 Ada驅(qū)動(dòng)工廠數(shù)字孿生
NVIDIA RTX 5880 Ada與Qwen3系列模型實(shí)測(cè)報(bào)告
使用NVIDIA RTX PRO Blackwell系列GPU加速AI開(kāi)發(fā)
NVIDIA RTX 5880 Ada顯卡部署DeepSeek-R1模型實(shí)測(cè)報(bào)告
NVIDIA RTX 5880 Ada GPU賦能達(dá)卯智能能源大模型
評(píng)論