chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI算力調度平臺,大模型時代云計算的新生意

甲子光年 ? 來源:甲子光年 ? 2023-09-28 16:57 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

提供AI算力的另一種方式。

大模型時代,云計算廠商如何賺錢?

最常見的方式是提供算力。大模型需要大算力,因此,對算力尤其是英偉達GPU的巨額投入是不可或缺的。英偉達曾透露,2023財年數據中心業(yè)務有40%的收入來自超大規(guī)模數據中心與云服務商。

但現在,云計算廠商又多了一門新生意。

近期,有“混合云第一股”之稱的云廠商青云科技推出了兩款新的云產品——AI算力調度平臺與AI算力云。AI算力調度平臺是一款軟件產品,它介于底層的資源層與上層的模型層之間,通過整合不同來源、類型和架構的算力資源,實現統(tǒng)一調度與運營,為用戶提供按需獲取和調度的服務;AI算力云,就是以青云為主來運營的AI算力服務。

這兩款AI算力產品與服務針對的是算力中心的短期建設與中長期運營的需求。青云科技總裁林源表示,今天中國云計算市場處在算力建設階段,大量的數據中心如雨后春筍般出現,這些建設者有地方政府、國資央企、地方AI集成商等。對于建設者而言,成本與技術的挑戰(zhàn)都很大,比如一臺最新的一臺英偉達服務器高達200萬元。如此大的投資,怎么建?建成之后如何運營,如何賺錢?這些問題都需要有人來解決。

青云科技的AI算力調度平臺已經成功服務于國家超算濟南中心。濟南超算中心是一個多元計算中心,對外提供1000P算力、300PB存儲,算力類型包括HPC超算,主要服務于山東省的高校;以CPU為主的通用算力,主要服務于傳統(tǒng)的政務云、企業(yè)數字化應用;以GPU為主的智算,主要服務于智慧城市,以及正在爆發(fā)的AI需求。

濟南超算中心的建設覆蓋了幾乎所有產業(yè)鏈上下游公司,但青云科技為其獨家提供了算力調度平臺,至今已經運營了3年。濟南超算中心目前已經盈利。

對于AI算力云服務,不同于大廠選擇重金投入GPU來獲取稀缺的算力資源,青云科技采用了“輕資產”運營,以生態(tài)合作的方式共同運營AI算力。

以濟南超算中心為例,建成之后不僅服務于當地企業(yè),也會服務于全國其他地區(qū)的企業(yè)。當青云科技的客戶有算力需求,青云科技可以通過直接調度濟南超算的算力向客戶提供AI算力資源。因此,青云科技既是濟南超算的供應商,也是其渠道商。

這樣的案例不在少數。青云科技已經與北京、寧夏、河南、湖北、四川等地區(qū)的算力中心建立起合作關系。

在2023年半年報中,青云科技披露AI算力服務的收入超2000萬元。林源表示,未來AI算力產品與服務將會成為青云科技營收的主力。

過去十年,中國的云計算市場一共經歷了三次比較大的機會。第一次是數字化,移動數字化催生了公有云,產業(yè)數字化催生了私有云;第二次是信創(chuàng)與國產替代。而當前爆發(fā)的生成式AI,就是第三次大機會。

林源認為,2023年由GPU驅動的智算,正如十年前的2013年由CPU驅動的通用云計算。而這一次的市場規(guī)模,要比過去大10倍、甚至100倍。

近期,「甲子光年」等媒體采訪了青云科技總裁林源,青云科技產品經理苗慧。以下是專訪實錄,略經刪改:

1.與大廠定位不同

問:青云的算力調度產品有哪些特色?

苗慧:簡單舉幾個例子。第一,青云針對上百臺機器的大集群,研發(fā)了更加優(yōu)化的調度算法。比如在調度的鏈路標簽上,盡可能做到調度同一個交換機,減少數據的損耗。第二,在應用環(huán)境上,青云應用了K8s和Slurm兩種調度平臺同時為客戶服務,是完全集成好的。在顆粒度和運維傳統(tǒng)機器方面,也會有更多的優(yōu)化。

19bf9d24-5dd6-11ee-939d-92fbcf53809c.jpg

圖片來源:青云科技

問:大廠、運營商、私有云廠商也有軟件能力,為什么說青云的AI算力調度運營是青云科技的優(yōu)勢?

林源:首先,私有云廠商想做,需要補齊十幾年公有云運營的經驗。第二,大廠的定位一定是發(fā)展自己的云,而不是支持別人去做云,或者說支持第三方做云只是他的一個項目而已,主力還在自己的云產品與服務。

苗慧:比如對于國家超算的人員配置,根本沒有研發(fā)這個崗位,全都是運維人員。用戶通過青云AI算力調度平臺,申請10臺機器,5分鐘內就能得到。否則,運維人員需要兩個人部署三天,這就是更多的投入。

問:英偉達今年發(fā)布了AI云產品DGX Cloud,青云的產品和英偉達DGX Cloud在定位上有沒有相似?

苗慧:DGX-Cloud還是基于硬件。英偉達在今年發(fā)布了24臺機器的整機,巨大的機器上云一定會有優(yōu)勢。但DGX Cloud不在中國區(qū)運營,從資源層和運營層都是其自身的。青云的算力調度產品不僅自己的公有云能用,還能給到任何一家算力中心。

林源:英偉達DGX Cloud還是單一算力,肯定以GPU為主。站在英偉達的角度,他服務于大模型的訓練、推理,定位就是面對AI的場景,以及賣GPU卡。而青云科技根據中國市場國情,需要向下兼容,不同的客戶需要的芯片算力種類不同,既有GPU,也有CPU、超算。比如我們跟英特爾9系列做適配,一個芯片2T內存,在推理場景比英偉達還要好一些。青云的算力調度平臺,針對的是多元算力。

2.“輕資產”提供AI算力

?

問:青云自身在算力上的投入是怎樣的?

林源:GPU不太一樣,青云不會跟云大廠拼投資,而是以相對“輕資產”的方式與別人一起運營AI算力云。青云是聯(lián)合運營方,投資的是技術與產品,但不會花1個億買幾百張卡、幾百臺服務器。重資產不是青云的價值所在。

問:那誰來做算力層面的投入?

林源:目前來看,算力層面上的投資建設者主要有以下幾種:第一種是地方國企和地方央企,例如能源公司,他們有強烈的興趣將電力轉變成算力。第二種是地方政府,他們需要新的工具來促進產業(yè)聚集,提升GDP,有些直接進行投資,有些與央企或銀行合作。第三種是大模型公司、AI芯片公司等,他們在各地都參與建立了算力中心,但缺乏標準平臺,他們也想銷售硬件或整合解決方案,通常更愿意與獨立的供應商合作。我們之間互為渠道伙伴,青云協(xié)助他們進行計算資源調度,并一起提供AI計算資源云服務。

以濟南超算為例,濟南超算會基于他投資的算力直接賣給他的客戶,青云也會出售給青云的客戶,青云既是他的供應商,也是他的渠道商。未來所有的本地數據中心建設都會面臨這個問題,當地企業(yè)會消費一部分,剩余部分他會希望有人幫他消耗。AI算力云與算力調度中心是青云的同構產品,可以進行系統(tǒng)級的產品對接。

19e1e33e-5dd6-11ee-939d-92fbcf53809c.jpg

圖片來源:青云科技

問:除了和濟南超算有合作外,還有其他的合作方嗎?

林源:跟北京、寧夏、河南、湖北、四川等地區(qū)有合作。北京是以高校為主,寧夏是地域性的算力投資建設者,四川、湖北是能源公司,河南是地方政府。還有一些小城市,主要是一些AI合作伙伴,對接當地的算力中心后,用青云的調度平臺做賦能。

問:青云自己提供云服務和青云給甲方提供算力調度服務,會成為一種競合的關系嗎?

林源:我們先看下市場現狀,為什么會有那么多供應商和地區(qū)云、國資云、地方私有云平臺呢?這是中國的市場形態(tài)決定的,每個人都有所屬的客戶和資源。AI來了之后,市場會不一樣嗎?我覺得不會那么快改變。

問:很多大模型廠商會選擇自己買卡,這類廠商對于青云科技的AI算力云還有需求嗎?

林源:大模型廠商自己的規(guī)劃中,有相對固定的部分,他會更愿意買卡,因為現金充裕,會更加可控,這部分跟青云確實沒太大關系。但在模型訓練階段、項目落地階段,有很多彈性需求,比如他需要訓練行業(yè)模型,同時希望跟一場算力云廠商合作提供MaaS的服務。大模型公司一定會買一部分,自建一部分。

問:目前市場上算力資源不夠,怎么辦?

林源:算力不夠的核心是GPU的供貨問題,不在于我們。用戶一般是簽完合同后等著我們的算力供應,所有廠商都面臨相同的問題。但是不同廠商的解法不一樣,大廠是靠錢買,青云的方式是與合作伙伴一起。青云的核心是調度平臺,但不妨礙青云一起給客戶提供AI算力云。

問:在青云開放同盟中,有哪些廠商?青云處于什么地位?

林源:可以分為技術生態(tài)和商業(yè)生態(tài)。技術生態(tài)的第一層是GPU、CPU等異構芯片;第二層是模型生態(tài)(MaaS),包括主流的商業(yè)大模型、開源大模型。在芯片層跟模型層之間,就是算力調度層。算力調度層不僅靠青云,也有很多廠商在做模型的加速和模型的驅動。技術生態(tài)還有一環(huán),就是行業(yè)ISV。

商業(yè)生態(tài),包括我們說的智算中心建設方,以及天然就能幫你售賣的合作伙伴。

問:在AI時代,大家合作的意愿會比以前更強嗎?在巨大的市場紅利面前,為什么會愿意收益共享?

林源:先談主觀看法,我認為有必要這么做,大家就應該各司其職、合作共贏?,F在持這種想法的不只青云一家。哪怕是客戶,也不希望一家獨大,不希望被一家廠商綁定。他希望在每一個細分領域找到最優(yōu)秀的人,為他提供整體解決方案。這是一個正常的、合理的商業(yè)模式。

第二點是客觀。一家企業(yè)很難從底層資源到上層應用,自己把做有事情做好,AI時代這會比過去更難?,F在的經濟環(huán)境,要核算投入產出比,需要成為所有行業(yè)的專家,才能“單打獨斗”,這是一個客觀的挑戰(zhàn)。

問:AI會給現有的云廠商格局帶來一些什么樣的變化?青云如何定位自己未來的位置?

林源:AI一定會對于現在的云廠商帶來變化。第一,對于底層技術的需求,以及對于合作的模式,都在發(fā)生變化。

第二,現在所有人都在同一起跑線上。我判斷會有一些新晉做AI Cloud的公司進入市場。傳統(tǒng)的IDC已經不適合GPU運行,因為能耗、設計都不一樣,傳統(tǒng)IDC面臨改造升級。

第三,有些云廠商自己也做大模型,青云科技不做,而是深耕AI算力調度平臺。面對新的AI應用需求,大家需要很多技術積累、技術迭代,這特別像2013年的云時代。

在資本側,確實可以自己投資建設,但現在AI不缺投資者與建設者,缺的是運營平臺。資本會有影響,但不會像以前那么大。

總結來說,大廠在技術與資本層面并沒有明顯的優(yōu)勢。我們?yōu)槭裁磽肀I,因為AI是唯一的增長市場。2017年之前,大家不會考慮增量市場的問題,但之后客戶應用在飽和,越來越多的云廠商冒出來,這時候大廠靠自己的品牌以及價格優(yōu)勢在公有云市場上來搶奪機會?,F在大家忙的不是競爭,而是在AI時代如何為客戶更好地服務,解決算力問題。

3.AI會成為未來營收主力

問:青云科技的半年報顯示,今年上半年AI算力服務的收入有2000多萬元。青云的算力產品與服務,未來可以帶來多大的營收?有哪些期待?

林源:營收數字以公開的財報口徑為準。但基本上有這樣一個趨勢:AI算力現在更多以訓練為主,之后我們希望它進入推理階段。訓練的增速是可以期待的,2023年以GPU為主的算力云,就跟2013年以CPU為主的云一模一樣。2013-2017這幾年,所有云廠商都是100%的增長。

問:AI算力是一個很大的市場,但AI算力調度是否只是其中一小部分市場?

林源:我們看的是兩塊,第一塊AI算力調度本身,這有點像原來傳統(tǒng)交付模式的生意。第二塊是AI算力云,它既有產品的部分,也有服務的部分。這一部分未來十年的市場空間更大,我覺得是10倍、100倍的增長,而青云科技至少會比上一階段做到的規(guī)模更大。

問:青云現在的營收主力還是私有云,未來AI算力調度會成為營收的主力嗎?

林源:我覺得它一定會成為主要的營收,但是它需要點時間。過去青云最早做數字化、做信創(chuàng)業(yè)務,尤其過去兩年信創(chuàng)占私有云很大一部分,這不是青云決定的,而是市場決定的。之后所有的客戶都會往AI遷移,不管是傳統(tǒng)客戶還是互聯(lián)網客戶,生意模式與運營模式都會由AI驅動。如果不做AI,真的會落后。所以,它一定會成為主營的業(yè)務。

問:在AI算力服務這一塊,客戶需求比較旺盛的主要集中在哪幾個領域?

苗慧:主要就是訓練。現在大模型作為技術基礎,在上層面向不同的行業(yè)。只要能標準化的,都在大規(guī)模地做模型的訓練,然后生產出自己的小模型。在理解人類意圖的時候,意圖模型也隨之更新。所以,如果我要做一個行業(yè),大概要訓練3~5個小模型,為這個行業(yè)提供服務。

問:青云算力調度平臺是一個標準化平臺嗎?在行業(yè)的應用上有沒有差別?

林源:青云對算力調度平臺的定位就是“產品”,產品就是標準化的。在濟南超算這一客戶中,會有客制化的部分,但那是他要做的事情,不是青云要做的事情。青云的定位始終是一家軟件產品公司,而不是一家項目公司。

問:青云現階段更希望吸引什么樣的行業(yè),或者什么樣的行業(yè)有更大的意愿采用這一產品?

苗慧:青云AI算力調度平臺主要服務于超算中心、區(qū)域算力中心、區(qū)域電信、區(qū)域的一些合作伙伴,我們共同建設起那朵云,共同運營。

第二是青云公有云的AI算力云,主要服務于大模型的開發(fā)商。因為大模型開發(fā)商也在面向客戶提供一些像金融領域的模型、交通領域的模型,它需要大規(guī)模的機器進行訓練,青云還是面向于這種模型提供商比較多。

第三是青云計劃今年年底或者明年,大規(guī)模的推理就會上云,因為大規(guī)模的訓練研發(fā)工作會有一個階段性的成果,推理服務會是之后相對重點的工作。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 云計算
    +關注

    關注

    39

    文章

    8024

    瀏覽量

    144483
  • AI
    AI
    +關注

    關注

    91

    文章

    39911

    瀏覽量

    301543
  • 算力
    +關注

    關注

    2

    文章

    1540

    瀏覽量

    16758
  • 大模型
    +關注

    關注

    2

    文章

    3660

    瀏覽量

    5196

原文標題:AI算力調度平臺,大模型時代云計算的新生意|甲子光年

文章出處:【微信號:jazzyear,微信公眾號:甲子光年】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    “四合一”平臺,芯片國產化率超九成,兼容8種國產AI芯片

    調度平臺可支持每天上億次的調用,能調度全國1/6的
    的頭像 發(fā)表于 04-13 00:03 ?4033次閱讀

    邊緣AI臨界點:深度解析176TOPS香橙派AI Station的產業(yè)價值

    ” 。 隨著DeepSeek、LLaMA等開源模型的輕量化演進,以及具身智能、工業(yè)質檢對實時性的嚴苛要求,AI計算正在從數據中心擴散到離數據源頭最近的物理世界。在這一背景下,
    發(fā)表于 03-10 14:19

    GPU 利用率<30%?這款開源智平臺不浪費 1%

    一套 AI 服務要折騰幾天,環(huán)境配置、依賴處理耗盡心力;運維告警凌晨轟炸,集群故障診斷如同大海撈針,MTTR(平均修復時間)高得離譜…… AI 時代
    的頭像 發(fā)表于 01-26 14:20 ?195次閱讀

    什么是AI模組?

    未來,騰視科技將繼續(xù)深耕AI模組領域,全力推動AI邊緣計算行業(yè)的深度發(fā)展。隨著AI技術的不斷
    的頭像 發(fā)表于 09-19 15:26 ?1773次閱讀
    什么是<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>模組?

    什么是AI模組?

    未來,騰視科技將繼續(xù)深耕AI模組領域,全力推動AI邊緣計算行業(yè)的深度發(fā)展。隨著AI技術的不斷
    的頭像 發(fā)表于 09-19 15:25 ?843次閱讀
    什么是<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>模組?

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升還是智力

    持續(xù)發(fā)展體現在: 1、收益遞減 大模型的基礎的需要極大的,這首先源于昂貴的高性能AI芯片,然后是寶貴的電力、水等與環(huán)境相關的資源。 收益遞減體現在: ①
    發(fā)表于 09-14 14:04

    睿海光電領航AI光模塊:超快交付與全場景兼容賦能智時代——以創(chuàng)新實力助力全球客戶構建高效底座

    一、AI革命催生光模塊新需求,睿海光電以技術優(yōu)勢搶占制高點 人工智能、超大規(guī)模數據中心和計算的高速發(fā)展,對光模塊的傳輸效率、兼容性及交
    發(fā)表于 08-13 19:03

    科技上線赤兔推理引擎服務,創(chuàng)新解鎖FP8大模型

    模型輕量化部署方案。用戶通過遠程平臺預置的模型鏡像與AI工具,僅需50%的GPU
    的頭像 發(fā)表于 07-30 21:44 ?932次閱讀

    即國力,比克電池如何為AI時代“蓄能

    引擎》中明確提出,“是數字經濟時代的新質生產,更是國家競爭的重要指標。”隨著AI
    的頭像 發(fā)表于 06-04 14:22 ?1129次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,比克電池如何為<b class='flag-5'>AI</b><b class='flag-5'>時代</b>“蓄能

    梯度科技助力客戶破解調度難題

    在數字經濟與人工智能深度融合的新階段,已成為支撐人工智能發(fā)展的核心生產。梯度科技基于云原生技術架構研發(fā)的
    的頭像 發(fā)表于 04-27 16:32 ?1332次閱讀

    AI與云端生產結合應用場景及技術解析(2025)

    負載場景?。例如,基于“N+X”智中心布局的網智腦系統(tǒng),全網達28.6 EFlops,可動態(tài)調度資源滿足大
    的頭像 發(fā)表于 04-15 08:41 ?937次閱讀
    <b class='flag-5'>AI</b>與云端生產<b class='flag-5'>力</b>結合應用場景及技術解析(2025)

    智能最具潛力的行業(yè)領域

    ?; 數據治理與聯(lián)合創(chuàng)新?:民生銀行與華為、阿里等共建AI實驗室,通過“數據湖+模型體系”提升服務精準度?; 需求驅動?:金融大
    的頭像 發(fā)表于 04-11 08:20 ?1423次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業(yè)領域

    圖為科技與寶德計算達成戰(zhàn)略合作 共建AI新生態(tài)

    ,共同打造“邊端一體”的智能底座及行業(yè)大模型解決方案,為智能制造、智慧城市、智慧交通等領域提供高效、普惠的AI基礎設施支撐。 ? 強強
    的頭像 發(fā)表于 03-26 09:57 ?1467次閱讀
    圖為科技與寶德<b class='flag-5'>計算</b>達成戰(zhàn)略合作  共建<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>新生</b>態(tài)

    適用于數據中心和AI時代的800G網絡

    ,成為新一代AI數據中心的核心驅動力。 AI時代的兩大數據中心:AI工廠與AI
    發(fā)表于 03-25 17:35

    DeepSeek推動AI需求:800G光模塊的關鍵作用

    隨著人工智能技術的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對
    發(fā)表于 03-25 12:00