近期,市場研究機構(gòu)LightCounting (以下簡稱LC)發(fā)布了主題為“人工智能光學”的新報告。報告指出人工智能在眨眼之間就已嶄露頭角。LC 的首份《人工智能光學》報告強調(diào)了人工智能如何改變計算機架構(gòu)和網(wǎng)絡(luò),而光學在其中發(fā)揮著關(guān)鍵作用。LC的人工智能預(yù)測側(cè)重于光學。但是,該機構(gòu)稱如果再加上一條預(yù)測,那就是:光學不僅將在人工智能系統(tǒng)的發(fā)展中發(fā)揮重要作用,而且人工智能將越來越多地在晶體管、芯片和系統(tǒng)層面為這些系統(tǒng)的設(shè)計做出貢獻。
整個行業(yè)的創(chuàng)新速度各不相同。新應(yīng)用的開發(fā)速度很快。其中大多數(shù)會失敗,但也有一些會成功,似乎一夜之間就能改變世界。軟件和人工智能算法的創(chuàng)新速度之快超出了我們的想象。至少在外部觀察者看來是這樣,但專家們可能不這么認為。
硬件領(lǐng)域的創(chuàng)新則是一個更為漸進卻又無情的過程。光連接也不例外,對此有可靠的數(shù)據(jù)參考。硅光子技術(shù)的應(yīng)用花了十年時間,都在等待這項技術(shù)帶來真正顛覆性的解決方案,如可靠的協(xié)同封裝光學技術(shù)。毫無疑問,這種情況將在本十年末出現(xiàn),但本報告的預(yù)測重點是部署在人工智能集群中的可插拔光模塊--這是當前和未來五年光連接的主要解決方案。
目前,90% 以上部署在人工智能集群中的光模塊用于 InfiniBand 和以太網(wǎng)連接。如下圖所示,NVLink 連接到 GPU 所需的帶寬是以太網(wǎng)和 InfiniBand 的 4 倍。人工智能集群設(shè)計的另一個瓶頸是 GPU 可用的高帶寬內(nèi)存(HBM)有限,這也是帶寬提高 3 倍的另一個因素。

事實證明,光交換機可以用來擴展和重新配置其人工智能集群并以此提高集群性能,同時最大限度地降低成本和功耗。該研究機構(gòu)預(yù)計,在未來 3-5 年內(nèi),將有更多公司采用這項技術(shù)。
人工智能集群中應(yīng)用的光學需求規(guī)模是 2023 年的一個驚喜,同時ChatGTP 在 2022 年底成為頭條新聞的時機尤為重要。對即將到來的經(jīng)濟衰退的擔憂和收入增長下降的初步跡象迫使所有領(lǐng)先的云計算公司削減開支,包括對數(shù)據(jù)中心的投資和光模塊的采購。2024-2025 年的強勁增長毋庸置疑。
大型網(wǎng)絡(luò)設(shè)備制造商業(yè)務(wù)的增長是影響 2023-2025 年光模塊銷量的主要因素。人工智能集群的新設(shè)計需要更多的光模塊。以前的所有系統(tǒng)都只使用 InfiniBand 網(wǎng)絡(luò)進行光連接,而且這些系統(tǒng)大多是 AOC?;?NDR(400G)InfiniBand 的最新系統(tǒng)使用可插拔的 400/800G SR4/SR8 和 DR4/DR8 光模塊,而不是 AOC。該公司還于 2022 年 3 月發(fā)布了專為 800G 光連接設(shè)計的 NVLink 機箱交換機。該公司目前正在內(nèi)部測試光纖 NVLink,但這些解決方案應(yīng)在 2024 年底前提供給最終用戶。如果需要更長的時間,LC稱將不得不降低對 2025-2029 年的預(yù)測。

本報告首次對大型網(wǎng)絡(luò)設(shè)備制造商提供的光模塊進行了預(yù)測,并將其與 AI 集群中使用的其他光模塊進行了比較。該制造商設(shè)計的光模塊具有更嚴格的誤碼率規(guī)范,以最大限度地減少傳輸誤差。這并不妨礙客戶使用第三方光學器件,但不能保證系統(tǒng)性能。LC預(yù)計,終端用戶最終將過渡到使用第三方光學器件,以節(jié)省成本,但這將是一個逐步過渡的過程。
審核編輯 黃宇
-
人工智能
+關(guān)注
關(guān)注
1811文章
49498瀏覽量
258197 -
光模塊
+關(guān)注
關(guān)注
81文章
1545瀏覽量
61374 -
光學器件
+關(guān)注
關(guān)注
1文章
150瀏覽量
12337
發(fā)布評論請先 登錄
挖到寶了!人工智能綜合實驗箱,高校新工科的寶藏神器
挖到寶了!比鄰星人工智能綜合實驗箱,高校新工科的寶藏神器!
關(guān)于人工智能處理器的11個誤解

超小型Neuton機器學習模型, 在任何系統(tǒng)級芯片(SoC)上解鎖邊緣人工智能應(yīng)用.
人工智能在汽車行業(yè)中的應(yīng)用
最新人工智能硬件培訓AI 基礎(chǔ)入門學習課程參考2025版(大模型篇)
探究人工智能發(fā)展前沿:智能體的演進及其社會影響

北京將打造最大人工智能社區(qū)
【「具身智能機器人系統(tǒng)」閱讀體驗】+數(shù)據(jù)在具身人工智能中的價值
ASIC集成電路在人工智能中的應(yīng)用
編程語言在人工智能中的使用
嵌入式和人工智能究竟是什么關(guān)系?
soc在人工智能中的創(chuàng)新應(yīng)用
激光焊錫工藝在精密光學元器件中的應(yīng)用

評論