當(dāng)前,以DeepSeek為代表的大模型爆發(fā)式發(fā)展,持續(xù)降低AI使用門檻,助推政企單位AI應(yīng)用加速落地,大模型私有化部署需求持續(xù)增長(zhǎng)。然而,傳統(tǒng)部署方式面臨硬件適配復(fù)雜、安全風(fēng)險(xiǎn)大、運(yùn)維成本高等挑戰(zhàn)。日前,360正式發(fā)布DeepSeek大模型一體機(jī),以低門檻、高性能、強(qiáng)安全、多場(chǎng)景的一站式解決方案,為政企單位構(gòu)建數(shù)智化轉(zhuǎn)型“基礎(chǔ)設(shè)施”,跨越從技術(shù)驗(yàn)證到規(guī)模應(yīng)用的鴻溝,真正實(shí)現(xiàn)AI普惠。
開(kāi)箱即用,打通大模型落地最后一公里
面對(duì)大模型時(shí)代的安全挑戰(zhàn)與智能化機(jī)遇,360將安全基因深度融合AI底座,推出首個(gè)安全原生大模型一體機(jī):360 DeepSeek大模型一體機(jī),采用AI云原生基座,集成DeepSeek全系列模型及360智腦在內(nèi)的主流大模型,融合輕量模型訓(xùn)練平臺(tái)、企業(yè)AI應(yīng)用創(chuàng)新平臺(tái)等,實(shí)現(xiàn)對(duì)模型部署、管理、推理、微調(diào)、蒸餾以及AI應(yīng)用開(kāi)發(fā)的全鏈路能力覆蓋。提供開(kāi)箱即用的便捷體驗(yàn),在確保性能與安全的情況下,幫助政企單位快速實(shí)現(xiàn)大模型部署落地。
· 更低門檻,開(kāi)箱即用:面對(duì)DeepSeek部署面臨的硬件選型復(fù)雜、兼容性適配成本高、技術(shù)門檻高等痛點(diǎn),360 DeepSeek大模型一體機(jī)無(wú)需復(fù)雜配置和外部環(huán)境依賴,通過(guò)預(yù)集成高性能算力硬件與輕量云原生架構(gòu),僅需1臺(tái)GPU服務(wù)器即可快速啟動(dòng)服務(wù),部署時(shí)間從數(shù)周縮短至小時(shí)級(jí)。
· 更高性能,提質(zhì)增效:360 DeepSeek大模型一體機(jī)支持DeepSeek官方推薦的FP8精度。通過(guò)軟硬件協(xié)同設(shè)計(jì),集成CPU、GPU、NPU等算力資源實(shí)現(xiàn)硬件資源高效調(diào)度;內(nèi)置DeepSeek等開(kāi)源模型,提供優(yōu)化推理引擎、分布式緩存和高效的路由能力,降低Token延時(shí),最大化模型服務(wù)吞吐量。采用高性能的緩存加載和服務(wù)按需加載方式,模型加載速度相比本地盤(pán)提升10倍。
· 更強(qiáng)兼容,靈活適配:360 DeepSeek大模型一體機(jī)全可通過(guò)單節(jié)點(diǎn)支持DeepSeek滿血版的部署和實(shí)時(shí)推理,兼容主流 GPU 和各類異構(gòu)計(jì)算卡,在高精度下,確保推理、訓(xùn)練任務(wù)的高效穩(wěn)定。
· 更多安全,可靠防護(hù):面對(duì)大模型內(nèi)容合規(guī)和數(shù)據(jù)保護(hù)等要求,360基于“以模制?!崩砟?,將360安全大模型加持DeepSeek大模型一體機(jī),搭建覆蓋“基座模型-知識(shí)庫(kù)-智能體”的全鏈路安全體系,解決大模型落地過(guò)程中面臨的系統(tǒng)安全、數(shù)據(jù)安全、知識(shí)安全、內(nèi)容安全、Agent安全等挑戰(zhàn),全流程守護(hù)大模型訓(xùn)練、推理和運(yùn)營(yíng)。
· 更廣場(chǎng)景,豐富應(yīng)用:針對(duì)不同行業(yè)垂直場(chǎng)景運(yùn)行需求,360 DeepSeek大模型一體機(jī)內(nèi)置100+行業(yè)應(yīng)用模版和100+企業(yè)級(jí)插件工具,支持分鐘級(jí)快速構(gòu)建應(yīng)用。同時(shí),支持主流大模型的蒸餾、微調(diào),提供AI一站式服務(wù),支持沉淀行業(yè)專屬知識(shí)、模塊調(diào)優(yōu)模型性能,進(jìn)而構(gòu)建企業(yè)專屬智能體,融合業(yè)務(wù)協(xié)同工作流,實(shí)現(xiàn)端到端的行業(yè)AI應(yīng)用交付。
360 DeepSeek大模型一體機(jī)高度集成AI產(chǎn)業(yè)鏈上游的模型、算法、硬件,中游的平臺(tái)以及下游的應(yīng)用,為客戶提供垂類領(lǐng)域大模型解決方案,打通大模型落地應(yīng)用最后一公里,加速企業(yè)AI升級(jí)。
推動(dòng)AI普惠,360始終以技術(shù)革新引領(lǐng)行業(yè)浪潮。未來(lái),360不斷優(yōu)化和完善產(chǎn)品能力,持續(xù)助力政企單位數(shù)字化轉(zhuǎn)型和智能化升級(jí)。
審核編輯 黃宇
-
一體機(jī)
+關(guān)注
關(guān)注
0文章
1166瀏覽量
33475 -
大模型
+關(guān)注
關(guān)注
2文章
3146瀏覽量
4076 -
DeepSeek
+關(guān)注
關(guān)注
1文章
798瀏覽量
1757
發(fā)布評(píng)論請(qǐng)先 登錄
軟通計(jì)算機(jī)重磅發(fā)布DeepSeek大模型一體機(jī)產(chǎn)品

一夜爆火的DeepSeek一體機(jī),如何改寫(xiě)AI游戲規(guī)則?

中軟國(guó)際發(fā)布基于昇騰計(jì)算架構(gòu)的“DeepSeek社?;鸨O(jiān)管大模型一體機(jī)”解決方案

評(píng)論