chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

甲骨文、微軟再次合作!討論共享AI服務(wù)器,應(yīng)對算力短缺!

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-05-12 01:23 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)日前消息,據(jù)相關(guān)人士透露,甲骨文(Oracle)和微軟(Microsoft)最近討論了一項不同尋常的協(xié)議,如果任何一家公司為使用大規(guī)模AI的云客戶提供的計算能力不足,雙方將相互租用服務(wù)器。

這筆交易將幫助這兩家互為競爭對手的云服務(wù)提供商滿足市場對可運(yùn)行AI軟件的服務(wù)器日益增長的需求,這種需求已導(dǎo)致服務(wù)器短缺。

微軟和甲骨文曾多次合作

微軟和甲骨文雖然互為競爭對手,但卻曾多次攜手合作。2013年6月,微軟與甲骨文宣布達(dá)成合作,將Java、甲骨文數(shù)據(jù)庫以及其他甲骨文軟件帶到微軟WindowsServerHyper-V和WindowsAzure云平臺,這種合作為開發(fā)人員提供了極大的便利。

消費者可以在WindowsServerHyper-V和WindowsAzure上部署甲骨文軟件,包括Java、甲骨文數(shù)據(jù)庫、甲骨文WebLogicServer,甲骨文將提供完整支持。

作為合作的一部分,甲骨文將認(rèn)證和支持自家軟件在微軟平臺上的運(yùn)行,并為WindowsAzure用戶提供OracleLinux,微軟也向WindowsAzure用戶提供上述甲骨文軟件。

甲骨文與微軟的強(qiáng)強(qiáng)聯(lián)合,Java開發(fā)人員和企業(yè)用戶獲益最大,甲骨文數(shù)據(jù)庫與微軟云計算平臺的整合,使得他們可以直接將桌面上的傳統(tǒng)軟件遷移至云計算系統(tǒng)。

2019年6月,微軟和甲骨文又宣布建立一個新的合作關(guān)系,兩家公司將通過網(wǎng)絡(luò)直連他們的云服務(wù),以便用戶可以在兩者之間無縫地遷移其工作負(fù)載和數(shù)據(jù)。

微軟和甲骨文發(fā)布的聯(lián)合聲明顯示,企業(yè)用戶將可以無縫地使用微軟Azure的分析和人工智能等服務(wù),以及甲骨文自主數(shù)據(jù)庫等云服務(wù)。整體來說,雙方為用戶提供了一站式的服務(wù),為用戶提供經(jīng)營整個企業(yè)的所有云服務(wù)和應(yīng)用程序。

據(jù)分析,微軟和甲骨文攜手合作是為了應(yīng)對共同的競爭壓力。隨著移動互聯(lián)網(wǎng)快速發(fā)展,云計算市場重要性日益凸顯。微軟的AZure始終無法趕上亞馬遜云服務(wù)AWS的步伐,甲骨文更是由于最初對云計算前景的估計失誤而處境尷尬。

根據(jù)Synergy Research Group數(shù)據(jù)顯示,亞馬遜云服務(wù)以超過30%的市場占有率,成為全球云計算市場上的領(lǐng)跑者。微軟Azure以大約15%的市場份額位列第二,緊隨其后的是IBM Cloud以及谷歌Cloud。甲骨文(Oracle)這樣的小型云計算服務(wù)商,更是在上述四大云計算巨頭加強(qiáng)市場控制的壓力下,業(yè)務(wù)增速有所放緩。兩者攜手合作對于雙方來說都很有必要。

AI服務(wù)器需求快速增長

ChatGPT的出現(xiàn)掀起了全球AI大模型研究熱潮,無論是訓(xùn)練還是推理,這都需要消耗大量的算力,尤其是訓(xùn)練階段。以ChatGPT為例,根據(jù)OpenAI在2020年發(fā)表的論文,訓(xùn)練階段算力需求與模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)集規(guī)模等有關(guān),且為兩者乘積的6倍:訓(xùn)練階段算力需求=6×模型參數(shù)數(shù)量×訓(xùn)練集規(guī)模。

GPT-3模型參數(shù)約1750億個,預(yù)訓(xùn)練數(shù)據(jù)量為45 TB,折合成訓(xùn)練集約為3000億tokens。即訓(xùn)練階段算力需求=6×1.75×1011×3×1011=3.15×1023 FLOPS=3.15×108 PFLOPS

依據(jù)谷歌論文,OpenAI公司訓(xùn)練GPT-3采用英偉達(dá)V100 GPU,有效算力比率為21.3%。GPT-3的實際算力需求應(yīng)為1.48×109 PFLOPS(17117 PFLOPS-day)。

假設(shè)應(yīng)用A100 640GB服務(wù)器進(jìn)行訓(xùn)練,該服務(wù)器AI算力性能為5 PFLOPS,最大功率為6.5 kw,則根據(jù)測算,訓(xùn)練階段需要服務(wù)器數(shù)量=訓(xùn)練階段算力需求÷服務(wù)器AI算力性能=2.96×108臺(同時工作1秒),即3423臺服務(wù)器工作1日。

在ChatGPT及各種AI大模型的推進(jìn)下,AI服務(wù)器市場需求呈現(xiàn)高速增長趨勢。美國服務(wù)器供應(yīng)商超微電腦在5月初的財報會議上表示,AI服務(wù)器業(yè)務(wù)正迎來創(chuàng)紀(jì)錄暴漲。公司向主要客戶交付新平臺的速度加快,2023財年有望迎來強(qiáng)勁收尾。

不過也因為需求強(qiáng)勁,AI服務(wù)器硬件資源也面臨短缺的問題,超微電腦就表示,AI服務(wù)器出貨量可能會受到供應(yīng)鏈瓶頸的限制。

事實上,今年3月微軟公司就已經(jīng)傳出面臨內(nèi)部AI服務(wù)器硬件短缺的窘境。為此,微軟不得不對硬件資源采取配額供應(yīng)的方式,限制其他內(nèi)部AI工具開發(fā)團(tuán)隊的使用量,從而確?;贕PT-4的新版必應(yīng)聊天機(jī)器人和即將發(fā)布的新款Office工具獲得足夠的資源。

小結(jié)

可以看到,隨著AI大模型的研究推進(jìn),算力需求與日俱增,AI服務(wù)器企業(yè)也迎來大幅增長。然而由于受到供應(yīng)鏈,比如高算力GPU芯片等限制,AI服務(wù)器硬件資源仍然面臨短缺。微軟和甲骨文的再次攜手合作,正是其應(yīng)對當(dāng)前困境的方式之一。




聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 微軟
    +關(guān)注

    關(guān)注

    4

    文章

    6705

    瀏覽量

    107029
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    37099

    瀏覽量

    290921
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    成都匯陽投資關(guān)于甲骨文云計算訂單超預(yù)期,全球投資持續(xù)高景氣

    甲骨文披露 4550 億美元訂單超預(yù)期 全球投資高景氣 , 甲骨文披露4550億美元訂單超預(yù)期 ,微軟與 Nebius 達(dá)成五年 174
    的頭像 發(fā)表于 10-17 10:05 ?114次閱讀

    天波科普:超過30T的邊緣計算服務(wù)器可以做什么?

    網(wǎng)關(guān)的能力邊界,也涉及到高低。那么,目前邊緣計算服務(wù)器到多少算高呢?以廣東天波AI邊緣
    的頭像 發(fā)表于 09-28 11:18 ?279次閱讀
    天波科普:<b class='flag-5'>算</b><b class='flag-5'>力</b>超過30T的邊緣計算<b class='flag-5'>服務(wù)器</b>可以做什么?

    多達(dá) 48 個計算節(jié)點!Firefly 推出 CSC2-N48 AI 服務(wù)器

    Firefly最新推出CSC2-N48服務(wù)器,內(nèi)置48個分布式計算節(jié)點,單節(jié)點可提供6TOPS-157TOPS,可選瑞芯微、
    的頭像 發(fā)表于 08-20 16:37 ?1108次閱讀
    多達(dá) 48 個計算節(jié)點!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>

    看懂AI集群

    最近這幾年,AI浪潮席卷全球,成為整個社會的關(guān)注焦點。大家在討論AI的時候,經(jīng)常會提到AI
    的頭像 發(fā)表于 07-23 12:18 ?566次閱讀
    一<b class='flag-5'>文</b>看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    看點:曝OpenAI與甲骨文加碼“星際之門” 富士康要求中國員工從印度撤離 微軟放慢AI芯片開發(fā):專注務(wù)實設(shè)計

    OpenAI將從甲骨文額外租用總計約4.5吉瓦的數(shù)據(jù)中心電力,這相當(dāng)于4.5座核反應(yīng)堆的發(fā)電量。 據(jù)悉,在得州阿比林甲骨文已經(jīng)建立了一個I大型數(shù)據(jù)中心;計劃將阿比林?jǐn)?shù)據(jù)中心的電力容量從目前的1.2吉瓦擴(kuò)展至約2吉瓦。 同時甲骨文
    的頭像 發(fā)表于 07-03 13:56 ?476次閱讀

    服務(wù)器多少錢一臺?價格因素與選購指南

    入門級服務(wù)器可能只需幾千元,而高性能計算(HPC)或AI訓(xùn)練專用服務(wù)器則可能高達(dá)數(shù)十萬元。一般來說,中小型企業(yè)常用的
    的頭像 發(fā)表于 06-17 09:45 ?1147次閱讀

    AI原生架構(gòu)升級:RAKsmart服務(wù)器在超大規(guī)模模型訓(xùn)練中的突破

    近年來,隨著千億級參數(shù)模型的崛起,AI訓(xùn)練對的需求呈現(xiàn)指數(shù)級增長。傳統(tǒng)服務(wù)器架構(gòu)在應(yīng)對分布式訓(xùn)練、高并發(fā)計算和顯存優(yōu)化等場景時逐漸顯露瓶
    的頭像 發(fā)表于 04-24 09:27 ?496次閱讀

    智能服務(wù)器應(yīng)用領(lǐng)域

    智能服務(wù)器應(yīng)用領(lǐng)域 一、?金融行業(yè)? 智能風(fēng)控與投顧?:通過集群支撐AI模型訓(xùn)練,實現(xiàn)風(fēng)
    的頭像 發(fā)表于 04-21 09:09 ?917次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>應(yīng)用領(lǐng)域

    RAKsmart服務(wù)器如何重塑AI高并發(fā)格局

    AI大模型參數(shù)量突破萬億級、實時推理需求激增的當(dāng)下,傳統(tǒng)服務(wù)器架構(gòu)的并發(fā)處理能力已逼近物理極限。RAKsmart通過“硬件重構(gòu)+軟件定義”的雙引擎創(chuàng)新,推出新一代AI服務(wù)器解決方案。
    的頭像 發(fā)表于 04-03 10:37 ?506次閱讀

    Firefly 服務(wù)器系列:覆蓋多個領(lǐng)域的高解決方案

    ?服務(wù)器覆蓋60~1570TOPS強(qiáng)勁,支持Transformer架構(gòu)下大語言模型的私有化部署,如Gemma-2B、ChatGLM3
    的頭像 發(fā)表于 02-19 16:34 ?1100次閱讀
    Firefly <b class='flag-5'>服務(wù)器</b>系列:覆蓋多個領(lǐng)域的高<b class='flag-5'>算</b><b class='flag-5'>力</b>解決方案

    TikTok遭下架,甲骨文將關(guān)閉其美國數(shù)據(jù)服務(wù)器

    ,TikTok美國業(yè)務(wù)的主要云計算供應(yīng)商甲骨文公司已向其員工發(fā)出通知,要求于美國東部時間1月18日21時關(guān)閉托管TikTok數(shù)據(jù)的服務(wù)器。這意味著,TikTok在美國的數(shù)據(jù)存儲和訪問將受到嚴(yán)重影響,可能導(dǎo)致該應(yīng)用在短時間內(nèi)無法恢復(fù)正常使用。 TikTok作為一款備受歡迎
    的頭像 發(fā)表于 01-20 14:48 ?790次閱讀

    Deno Land 請愿剝奪甲骨文 JavaScript 商標(biāo)所有權(quán)

    認(rèn)為,自甲骨文于2009年從 Sun Microsystems 收購 JavaScript 商標(biāo)以來,并未實際銷售任何與該商標(biāo)相關(guān)的商品或提供任何相關(guān)服務(wù)?;谶@一理由,Deno Land 主張甲骨文應(yīng)
    的頭像 發(fā)表于 01-15 15:37 ?554次閱讀

    西門子與甲骨文紅牛車隊二十載創(chuàng)新同行

    。 自2004年結(jié)緣以來,西門子與甲骨文紅牛車隊便緊密合作,致力于推動賽車技術(shù)的不斷革新。西門子Xcelerator工業(yè)軟件解決方案成為了甲骨文紅牛車隊構(gòu)建工程基礎(chǔ)設(shè)施的重要基石。憑借這一強(qiáng)大的技術(shù)支持,車隊成功
    的頭像 發(fā)表于 12-23 18:02 ?886次閱讀

    再躍升!億萬克發(fā)布新一代AI服務(wù)器——G882N7+!

    的特質(zhì),但告急。想要打破數(shù)智時代的瓶頸,異構(gòu)智成為有效方案。 近期,億萬克面向激增的AI
    的頭像 發(fā)表于 10-25 17:02 ?696次閱讀

    甲骨文:以AI為中心的基礎(chǔ)架構(gòu)賦能企業(yè)級生成式應(yīng)用開發(fā)

    在今年的甲骨文全球云大會上,甲骨文公司推出了一款面向企業(yè)的創(chuàng)新開發(fā)基礎(chǔ)設(shè)施——GenDev(Generative Development for Enterprise)。這款基礎(chǔ)設(shè)施旨在通過前沿
    的頭像 發(fā)表于 10-23 15:17 ?1216次閱讀