電子發(fā)燒友網(wǎng)報道(文/李彎彎)2022年底,以ChatGPT為標志的生成式AI場景引爆市場,引發(fā)了全行業(yè)對于AI大模型等技術的關注,AI發(fā)展跨越拐點,大模型逐漸成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量。然而大模型的訓練和部署需要大量的計算資源。
訓推一體機成為算力行業(yè)趨勢
今年7月,華為攜手伙伴聯(lián)合發(fā)布昇騰AI大模型訓推一體化解決方案,加速大模型在各行業(yè)應用落地,并有23家昇騰AI伙伴推出AI服務器、智能邊緣與終端新品,共同為行業(yè)智能化升級提供豐富的產(chǎn)品與解決方案。
昇騰一體機主要是為特定的AI應用設計的集成解決方案。它們整合了昇騰AI處理器、軟件平臺、開發(fā)工具和其他關鍵組件,如存儲和網(wǎng)絡設施,以提供針對特定AI任務(如深度學習、圖像處理)的優(yōu)化性能。這類設備通常更加用戶友好,支持即插即用,特別適合于那些需要快速部署并立即投入使用AI技術的場景。
業(yè)界認為,訓推一體機是適合我國市場的優(yōu)選解決方案。當前我國大模型產(chǎn)業(yè)正高速發(fā)展,與此同時,技術變革帶來的大模型應用研發(fā)周期長、研發(fā)門檻高、業(yè)務安全隱患等問題一定程度上阻礙里技術落地,尤其是在中國存在大量的G 端和B 端客戶,而訓推一體機很好地解決了這些痛點:
開箱即用,直接享用新技術成果。訓推一體機可實現(xiàn)定制化的大模型應用軟硬一體解決方案,一般可集成優(yōu)選的成熟大模型產(chǎn)品,廠家可以協(xié)助大模型預訓練定制、微調定制、訓練標注、技術培訓等;
2、簡化部署,一般一體機均會提前做好適配調優(yōu),算法遷移,幫助客戶簡化大模型部署;3、數(shù)據(jù)安全,我國高度重視數(shù)據(jù)安全,尤其是政企客戶,常規(guī)鏈接通用大模型存在數(shù)據(jù)泄露安全隱患,政府等客戶更希望能本地化部署,訓推一體機可完成本地訓練和推理,解決大模型應用數(shù)據(jù)安全難題,試用于高安全要求場景和客戶。
對于訓推一體機市場需求情況,云從科技此前對媒體表示,對于國產(chǎn)信創(chuàng)需求的增加和對合規(guī)、私有化部署的重視,對數(shù)據(jù)要素和基于大模型的應用側變化的重視,預計將會涌現(xiàn)出較大的應用場景,市場規(guī)模龐大,尤其在IT部分的升級和場景需求明確的私有化部署方面,將有巨大的市場機會。
訓推一體機已在多個場景實現(xiàn)落地
據(jù)介紹,昇騰AI訓推一體機單體價值量比昇騰服務器提高了很多,可以將其理解為昇騰服務器疊加大模型私有化部署遷移。根據(jù)中國招標投標公共服務平臺公告,中貝通信和恒為科技分別中標了AI算力一體機采購項目,該項目采購總價為21.12億元,單價為440萬元。
眾多廠商與華為攜手推出大模型訓推一體機。云從科技表示,公司正在與華為合作推出大模型訓推一體機,方式是共同打造產(chǎn)品。華為的代工廠會將芯片與云從的大模型集成,然后共同推廣給客戶。云從在這個合作中不僅賣產(chǎn)品,還會提供其他應用開發(fā)相關的服務。
整個市場空間不同于以往的分成模式,而是通過聯(lián)合推廣的方式,與華為各地銷售團隊一起推廣。價格上訓推一體機大約在三四百萬元的范圍內,在中檔旗艦訓練部分報價大致在一百萬元以下,更低端的一體機報價大約在30萬左右。
云天勵飛近日表示,公司聯(lián)合華為于今年9月推出了大模型訓推一體化產(chǎn)品—云天天書大模型訓推一體機。該產(chǎn)品內置了公司自主研發(fā)的天書千億級大模型。通過與昇騰硬件加速平臺的聯(lián)合深度優(yōu)化,并集成“開箱即用”系列訓推工具,產(chǎn)品可滿足面向多業(yè)務場景的大模型高并發(fā)高能效處理、業(yè)務快速上線的需求。同時,產(chǎn)品具有豐富的接口,支持靈活的二次開發(fā)和敏捷部署。
智譜AI、昇騰、華鯤振宇在今年9月也聯(lián)合預發(fā)布了三款智譜GLM昇騰大模型一體機,包括智譜-昇騰ChatGLM訓推一體機、智譜-昇騰CodeGeeX代碼生成一體機、智譜-昇騰ChatGLM推理一體機,旨在推動千行百業(yè)數(shù)字化轉型升級。
智譜AI CEO張鵬表示,智譜AI專注于大模型的自主創(chuàng)新,一方面通過人工智能助手產(chǎn)品智譜清言將大模型能力開放給公眾,另一方面也踐行“模型即服務”的理念,讓大模型應用落地千行百業(yè)。本次基于昇騰AI打造的大模型一體機,相信將為各行各業(yè)帶來更便捷、更安全的大模型軟硬件協(xié)同解決方案,推動建設更完善、健全的大模型應用生態(tài)。
此外,軟通動力、科大訊飛、醫(yī)渡科技、安恒信息、中軟國際此前都陸續(xù)發(fā)布了其昇騰一體機解決方案,有望賦能千行百業(yè)。并且不少方案已經(jīng)在諸多場景中實現(xiàn)落地,例如AI訓練開發(fā)一體機解決方案賦能山東大學科研創(chuàng)新、軟通動力AI機器人昇騰一體機助力深圳機場國際快件海關監(jiān)管EIMS系統(tǒng)智能化升級等。
總結
隨著科技的不斷發(fā)展,人工智能已經(jīng)逐漸滲透到我們生活的方方面面,從智能手機、智能家居到自動駕駛汽車、醫(yī)療診斷等,都離不開人工智能技術的支持。大模型的出現(xiàn)更是為更多領域帶來助力,然而算力也因此面臨挑戰(zhàn)。而訓推一體機讓企業(yè)能夠便捷的構建解決方案。
-
昇騰
+關注
關注
1文章
174瀏覽量
7245 -
算力
+關注
關注
2文章
1323瀏覽量
16399 -
大模型
+關注
關注
2文章
3348瀏覽量
4711
發(fā)布評論請先 登錄
開普云「開悟智核」:極致性價比的智能體一體機,破局大模型應用難題

DeepSeek一體機:加速AI訓推超融合,推動行業(yè)智能化落地

格靈深瞳發(fā)布全國產(chǎn)超融合大模型一體機
梯度科技推出DeepSeek智算一體機
寧暢推出DeepSeek大模型一體機
曙光云推出DeepSeek大模型一體機
云從科技從容大模型訓推一體機成功適配DeepSeek
云天天書大模型訓推一體機成功適配DeepSeek

觸控一體機與毛絨玩具的聯(lián)動,也太可愛了吧 # 觸控一體機# 瑞芯微# RK3568 #工控一體機 #聯(lián)動
新華三發(fā)布DeepSeek大模型一體機UniCube

評論