chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

數(shù)據(jù)中心短缺:人工智能未來的致命阻礙?

innswaiter ? 來源:van ? 作者:van ? 2023-10-20 10:32 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

影響人工智能未來的4個數(shù)據(jù)中心存儲挑戰(zhàn)

● 建設新數(shù)據(jù)中心的成本

● 建設新數(shù)據(jù)中心需要時間

● 現(xiàn)有數(shù)據(jù)中心空間不足

● 功率限制

訓練人工智能模型會產(chǎn)生巨大的資源消耗,需要大量的資本、時間、空間和電力來部署。最終,人工智能的進步可能歸結為解決數(shù)據(jù)中心短缺的問題。

為什么數(shù)據(jù)中心對人工智能很重要

數(shù)據(jù)中心在我們的日常生活中發(fā)揮著至關重要的作用,但它們常常被視為理所當然或完全被忽視。每當我們?yōu)g覽社交媒體、發(fā)送消息、在淘寶上訂購真空吸塵器或通過銀行匯款時,都需要依靠數(shù)據(jù)中心來處理每一項數(shù)字操作。它們是我們IT基礎設施的基石。

但隨著人工智能需求的爆炸式的激增,數(shù)據(jù)中心的容量正在減少,需求明顯超過供應。雖然關于人工智能的討論主要集中在芯片和ChatGPT上,以及人工智能產(chǎn)品將如何增加數(shù)十億美元的收入,但我們應該關注的是回答這樣一個問題,當對人工智能的需求超過我們現(xiàn)有基礎設施所能支持的水平時,會發(fā)生什么?

答案似乎很簡單,通過建設更多能力來克服能力不足。然而,在實踐中,這變得更加困難。

數(shù)據(jù)中心短缺的4大原因

隨著人工智能的發(fā)展,對計算能力的需求呈爆炸式增長,這需要密集、復雜的計算能力來訓練。

數(shù)據(jù)中心行業(yè)已經(jīng)面臨滿足現(xiàn)有企業(yè)數(shù)字化轉型和公共云使用需求的壓力。由于部署新構建的成本和時間都很高,因此數(shù)據(jù)中心通常是根據(jù)預測的需求即時交付來構建的。除了供應已經(jīng)緊張之外,人工智能的指數(shù)級采用還推動了前所未有的需求。

生成式人工智能需要的能力是傳統(tǒng)工作負載的五倍。據(jù)說ChatGPT-4的智力明顯更好,需要更多的力量來訓練。人工智能的發(fā)展競賽歸結為四個關鍵的供應限制:資金、時間、空間和權力。

1、資本

數(shù)據(jù)中心的建設成本高昂。一座25萬平方英尺的中型數(shù)據(jù)中心建筑,要花費近5億美元才能完全建成。

預計對人工智能的需求在數(shù)百兆瓦到千兆瓦之間,全部價格將達到數(shù)百億美元。這是一大筆資金。當利率高企,資金難以籌集時,數(shù)據(jù)中心的價格就會上漲,這使得籌集必要的資金和滿足需求變得更具挑戰(zhàn)性?;I集所需資金也需要更長的時間,這延長了建設時間,進一步拖慢了一切。

最近,許多傳統(tǒng)數(shù)據(jù)中心提供商因重組或破產(chǎn)而分心或陷入停滯,這進一步挑戰(zhàn)了容量的及時交付。數(shù)據(jù)中心運營商仍然可以利用這些資金來為新容量提供資金,只是不會像零利率時代那么容易。贏家將是那些擁有有效部署資本和有效運營記錄的人。

2.時間

建設一個數(shù)據(jù)中心需要24到36個月的時間。當然,提供商可以同時進行多個項目,但大多數(shù)項目仍需要數(shù)月至數(shù)年才能完成。在當前需求猛增之前,許多項目都是基于更為溫和的需求預測而建造的。

最重要的是,該行業(yè)仍在努力應對供應鏈挑戰(zhàn),以提供為現(xiàn)代數(shù)據(jù)中心供電和冷卻所需的機械電氣和冷卻系統(tǒng)。這些時間表已從兩年前的12至24周縮短至52至80周。

新容量上線需要時間,而且即使上線也可能不夠。然而,擁有數(shù)據(jù)中心下方的房地產(chǎn)并追求多設施園區(qū)戰(zhàn)略的運營商將最有能力通過控制土地使用和縮短上市時間來快速擴大規(guī)模。

3.空間

整個行業(yè)剩余的可用空間所剩無幾,特別是在擁有任何額外產(chǎn)能的優(yōu)先購買權(ROFR)的客戶看到需求增長快于供應的情況下,他們現(xiàn)在正在要求這些選擇。

目前,GPU驅動的高性能計算(HPC)集群正在被許多企業(yè)采用,以訓練人工智能應用,但它們并不是數(shù)據(jù)中心空間需求的唯一驅動因素。超大規(guī)模公共云和傳統(tǒng)企業(yè)技術部署的自然增長也將繼續(xù)強勁,這將在未來12到18個月內給供應帶來更大的壓力。如果我們繼續(xù)沿著這條道路前進,沒有任何出人意料的技術創(chuàng)新。

應對這一挑戰(zhàn)的解決方案是數(shù)據(jù)中心提供商設計新設施,以適應從傳統(tǒng)的高架地板、風冷企業(yè)應用到板式地板和水冷超大規(guī)模云或HPC工作負載的工作負載。這確保了無論上線的容量都可以快速適應市場最關鍵的瓶頸。

4.能源

一切都與電力有關。這些用于人工智能的高性能計算集群中使用的GPU使用的功率是傳統(tǒng)工作負載的五倍。

電力已經(jīng)供不應求,因為我們已經(jīng)看到主要的數(shù)據(jù)中心市場宣布限制提供已經(jīng)承諾的擴展電力。預計這一趨勢將持續(xù)下去,需求的增加會給電網(wǎng)帶來更大的壓力,而向可再生能源的過渡需要時間的調整和完善,將產(chǎn)生更多的瓶頸。

智能數(shù)據(jù)中心提供商通過提高效率,將多設施園區(qū)選址在發(fā)電源附近,甚至部署自己的分站,走在了前面。

數(shù)據(jù)中心短缺持續(xù)存在會發(fā)生什么?

在研究了這四個領域之后,仍然存在一個問題:“如果我們無法克服這些限制,會發(fā)生什么?”其影響既深遠又容易被忽視。

首先,它可能會阻礙人工智能應用開發(fā)人員部署GPU驅動的HPC集群的速度,這些集群需要訓練底層大型語言模型(llm),和/或最終的推理階段,在那里我們看到對基于這些llm構建應用的訪問需求。

它還可能會抑制數(shù)據(jù)中心容量滿足云提供商和正在增加現(xiàn)有工作負載企業(yè)的需求的能力。如今每個人都已經(jīng)依賴這些來為SaaS應用、社交媒體、視頻流、游戲、電子商務以及現(xiàn)代互聯(lián)世界的便利提供動力,更不用說未來由人工智能驅動的應用了。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5087

    瀏覽量

    134381
  • 數(shù)據(jù)中心

    關注

    16

    文章

    5502

    瀏覽量

    74620
  • 人工智能
    +關注

    關注

    1813

    文章

    49700

    瀏覽量

    261110
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    人工智能數(shù)據(jù)中心的光纖布線策略

    數(shù)據(jù)中心的光纖布線策略,包括布線規(guī)劃、光纖選型、架構設計、成本優(yōu)化以及未來趨勢等。 布線規(guī)劃的重要性 在人工智能數(shù)據(jù)中心中,光纖布線的規(guī)劃是確保系統(tǒng)高效運行的關鍵步驟。合理的布線規(guī)劃不
    的頭像 發(fā)表于 11-21 10:21 ?56次閱讀

    AI數(shù)據(jù)中心供電系統(tǒng)的發(fā)展現(xiàn)狀和未來趨勢

    AI數(shù)據(jù)中心作為數(shù)字時代的核心基礎設施,承擔著海量數(shù)據(jù)的存儲、處理和傳輸任務,而供電系統(tǒng)是其穩(wěn)定運行的“生命線”。隨著云計算、大數(shù)據(jù)、人工智能等技術的快速發(fā)展,
    的頭像 發(fā)表于 09-24 17:07 ?2804次閱讀
    AI<b class='flag-5'>數(shù)據(jù)中心</b>供電系統(tǒng)的發(fā)展現(xiàn)狀和<b class='flag-5'>未來</b>趨勢

    賦能人工智能未來:ADI宣布支持800 VDC數(shù)據(jù)中心架構

    , Inc. (ADI)推出創(chuàng)新解決方案,為數(shù)據(jù)中心下一代800 VDC架構提供有力支持。該系列解決方案包含高可靠性熱插拔與一級電源產(chǎn)品,旨在實現(xiàn)安全、高效且智能的配電,精準滿足現(xiàn)代AI工廠系統(tǒng)的供電需求。 賦能人工智能
    的頭像 發(fā)表于 08-28 21:18 ?846次閱讀
    賦能<b class='flag-5'>人工智能</b><b class='flag-5'>未來</b>:ADI宣布支持800 VDC<b class='flag-5'>數(shù)據(jù)中心</b>架構

    加速AI未來,睿海光電800G OSFP光模塊重構數(shù)據(jù)中心互聯(lián)標準

    人工智能算力需求呈指數(shù)級增長的2025年,數(shù)據(jù)傳輸效率已成為制約AI發(fā)展的關鍵瓶頸。作為全球AI光模塊領域的標桿企業(yè),深圳市睿海光電憑借技術領先的800G OSFP光模塊解決方案,正在重新
    發(fā)表于 08-13 16:38

    光纖為何是AI就緒型數(shù)據(jù)中心的基石?

    康普數(shù)據(jù)中心業(yè)務部大中國區(qū)銷售總監(jiān)?劉偉崗 隨著人工智能(AI)在各行各業(yè)加速落地應用,企業(yè)領導者也開始從根本上重新思考數(shù)據(jù)中心的建設和運營方式。同樣,AI在中國市場勢頭正猛,各行業(yè)正從“互聯(lián)網(wǎng)
    的頭像 發(fā)表于 06-13 17:07 ?827次閱讀

    人工智能正在改變世界

    它需要大量的處理能力,需求每一百天就會翻一番,這推動了人工智能基礎設施的投資熱潮。未來數(shù)據(jù)中心需要滿足和管理對計算資源前所未有的需求:既要能智能高效地提供支持,又要滿足相應的計算、內
    的頭像 發(fā)表于 06-13 10:19 ?658次閱讀

    如何有效地管理人工智能數(shù)據(jù)中心的電源

    作者:Kenton Williston 投稿人:DigiKey 北美編輯 人工智能 (AI) 和機器學習 (ML) 的興起提出了前所未有的電力需求。下一代數(shù)據(jù)中心在電源管理、效率和可靠性方面
    的頭像 發(fā)表于 05-25 11:30 ?649次閱讀
    如何有效地管理<b class='flag-5'>人工智能</b><b class='flag-5'>數(shù)據(jù)中心</b>的電源

    數(shù)據(jù)中心液冷技術和風冷技術的比較

    (Power Usage Effectiveness,電源利用效率)<1.2,而傳統(tǒng)的風冷制冷方式已經(jīng)無法滿足數(shù)據(jù)中心的散熱需求,更加高效的液冷方案應運而生。特別在人工智能領域,隨著智算需求的爆發(fā),液冷方案已經(jīng)成為數(shù)據(jù)中心的首選
    的頭像 發(fā)表于 05-09 09:41 ?2733次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>液冷技術和風冷技術的比較

    施耐德電氣發(fā)布數(shù)據(jù)中心高密度AI集群部署解決方案

    人工智能(AI)驅動的產(chǎn)業(yè)革命浪潮中,數(shù)據(jù)中心正迎來深刻變革。面對迅猛增長的人工智能算力需求,部署高密度AI集群已成為數(shù)據(jù)中心發(fā)展的必然選擇。
    的頭像 發(fā)表于 04-19 16:54 ?1214次閱讀
    施耐德電氣發(fā)布<b class='flag-5'>數(shù)據(jù)中心</b>高密度AI集群部署解決方案

    適用于數(shù)據(jù)中心和AI時代的800G網(wǎng)絡

    隨著人工智能(AI)技術的迅猛發(fā)展,數(shù)據(jù)中心面臨著前所未有的計算和網(wǎng)絡壓力。從大語言模型(LLM)訓練到生成式AI應用,海量數(shù)據(jù)處理需求推動了網(wǎng)絡帶寬的快速增長。在此背景下,800G網(wǎng)絡技術應運而生
    發(fā)表于 03-25 17:35

    Cadence顛覆AI數(shù)據(jù)中心設計

    日前舉辦的英偉達 GTC 2025 開發(fā)者大會匯聚了眾多行業(yè)精英,共同探討人工智能未來。而人工智能正在重塑全球數(shù)據(jù)中心的格局。據(jù)預測,未來
    的頭像 發(fā)表于 03-21 15:43 ?832次閱讀

    展望2025:人工智能將改變數(shù)據(jù)中心建設的方式

    康普企業(yè)網(wǎng)絡大中華區(qū)總經(jīng)理兼副總裁陳嵐 回望2024,人工智能(AI)對行業(yè)產(chǎn)生的影響顯露無疑。去年,數(shù)據(jù)中心對AI計算的需求呈指數(shù)級增長,這將促使行業(yè)采用更高效的流程,加快構建速度,并更具創(chuàng)造性地
    的頭像 發(fā)表于 02-24 16:27 ?1029次閱讀

    安科瑞:以綜合能效管理解決方案,賦能人工智能時代的數(shù)據(jù)中心可持續(xù)發(fā)展

    人工智能與可持續(xù)發(fā)展的雙重浪潮下,安科瑞憑借其綜合能效管理解決方案,不僅為數(shù)據(jù)中心行業(yè)提供了降本增效的實踐路徑,更推動了全球數(shù)字基礎設施向綠色低碳轉型。未來,隨著技術的持續(xù)迭代與生態(tài)合作的深化,安科瑞有望成為AI時代
    的頭像 發(fā)表于 02-21 15:37 ?792次閱讀
    安科瑞:以綜合能效管理解決方案,賦能<b class='flag-5'>人工智能</b>時代的<b class='flag-5'>數(shù)據(jù)中心</b>可持續(xù)發(fā)展

    構建未來數(shù)據(jù)中心 發(fā)揮人工智能AI的力量

    為了滿足性能需求,數(shù)據(jù)中心架構師必須擴展系統(tǒng)結構,通過 PAM4 調制方案支持 224 Gbps 數(shù)據(jù)傳輸速率。這給互連解決方案帶來了巨大的挑戰(zhàn),推動新的技術的運用,同時充分利用路由、空間效率和電源
    的頭像 發(fā)表于 02-08 15:35 ?807次閱讀
    構建<b class='flag-5'>未來</b><b class='flag-5'>數(shù)據(jù)中心</b> 發(fā)揮<b class='flag-5'>人工智能</b>AI的力量

    人工智能對數(shù)據(jù)中心基礎設施帶來了哪些挑戰(zhàn)

    (太瓦時),約占全球總用電量的 2%。在美國,擁有全球三分之一的數(shù)據(jù)中心,耗電量為 260 TWh,占總用電量的 6%。 ? 預測未來具有挑戰(zhàn)性,這取決于部署了多少非常耗電的圖形處理單元(GPU)來應對人工智能技術的需求,當然還
    發(fā)表于 12-31 13:48 ?630次閱讀
    <b class='flag-5'>人工智能對數(shù)據(jù)中心</b>基礎設施帶來了哪些挑戰(zhàn)