本文翻譯轉(zhuǎn)載于：Cadence Blog

作者：Reela Samuel

人工智能 (AI) 的快速演進(jìn)正在重塑技術(shù)格局，對(duì)計(jì)算基礎(chǔ)設(shè)施提出了前所未有的需求。在這場(chǎng)變革的核心，是知識(shí)產(chǎn)權(quán) (IP) 領(lǐng)域的創(chuàng)新，它們使構(gòu)建可擴(kuò)展、高效且性能驅(qū)動(dòng)的“AI 工廠”成為可能。這些技術(shù)進(jìn)步對(duì)于應(yīng)對(duì)現(xiàn)代 AI 工作負(fù)載的技術(shù)挑戰(zhàn)，并確保未來的適應(yīng)性至關(guān)重要。

AI 工廠是一種專門的計(jì)算基礎(chǔ)設(shè)施，旨在通過監(jiān)管包括數(shù)據(jù)攝取、訓(xùn)練、微調(diào)和大規(guī)模 AI 推理在內(nèi)的完整 AI 生命周期，從數(shù)據(jù)中產(chǎn)生價(jià)值。其核心輸出是“智能”，以“Token 吞吐量”衡量，為決策、自動(dòng)化和創(chuàng)新 AI 解決方案的開發(fā)提供動(dòng)力。今天，我們將探討這些 IP 創(chuàng)新將如何助力打造未來的 AI 驅(qū)動(dòng)計(jì)算系統(tǒng)。

AI 時(shí)代的計(jì)算轉(zhuǎn)型

傳統(tǒng)上，計(jì)算系統(tǒng)嚴(yán)重依賴于基于 x86 架構(gòu)的 CPU，并使用標(biāo)準(zhǔn)互聯(lián)網(wǎng)協(xié)議進(jìn)行連接以及傳統(tǒng)的 DDR 內(nèi)存模塊。然而，隨著 AI 工作負(fù)載的激增，我們正看到向異構(gòu)架構(gòu)的根本性轉(zhuǎn)變?，F(xiàn)代系統(tǒng)將 CPU 與 GPU、AI 處理器和數(shù)據(jù)處理單元 (DPU) 等加速器配對(duì)，并使用高帶寬內(nèi)存 (HBM) 或 GDDR 等先進(jìn)內(nèi)存技術(shù)以實(shí)現(xiàn)最佳性能。

這種硬件的多樣化要求連接標(biāo)準(zhǔn)不斷演進(jìn)，包括 NVLink、InfiniBand、CXL和 Ultra Ethernet，以滿足 AI 應(yīng)用的數(shù)據(jù)密集型需求。這些進(jìn)步標(biāo)志著計(jì)算范式已超越傳統(tǒng)模式，增加了性能優(yōu)化的連接和存儲(chǔ)層，專門處理 AI 特定工作負(fù)載。

AI 工廠的擴(kuò)展挑戰(zhàn)

擴(kuò)展 AI 工作負(fù)載帶來了獨(dú)特的計(jì)算障礙，例如“內(nèi)存墻”問題——即每個(gè) CPU 內(nèi)核的內(nèi)存帶寬無法隨著內(nèi)核數(shù)量的增加而按比例擴(kuò)展。這需要 HBM 等先進(jìn)內(nèi)存解決方案，使 AI 工廠能夠滿足高數(shù)據(jù)吞吐量需求。Cadence 在提供 HBM3、HBM4 以及 GDDR6 和 GDDR7 等尖端內(nèi)存解決方案方面一直處于領(lǐng)先地位，在解決功耗和性能限制的同時(shí)，實(shí)現(xiàn)了高效的數(shù)據(jù)傳輸。此外，解耦（Disaggregation）也是關(guān)鍵，UCIe 等標(biāo)準(zhǔn)促進(jìn)了模塊化設(shè)計(jì)，減少了大規(guī)模片上系統(tǒng) (SoC) 架構(gòu)中的瓶頸。

大規(guī)模 AI 系統(tǒng)的網(wǎng)絡(luò)創(chuàng)新

網(wǎng)絡(luò)可擴(kuò)展性在 AI 工廠中同樣至關(guān)重要。高速 SerDes 技術(shù)驅(qū)動(dòng)了 Ultra Ethernet、UALink和 PCI Express(PCIe) 7.0 等互連技術(shù)，這些技術(shù)對(duì)于 AI 系統(tǒng)內(nèi)部的高效縱向擴(kuò)展 (Scale-up) 和橫向擴(kuò)展 (Scale-out) 至關(guān)重要。這些 SerDes 解決方案的多功能性允許在同一硬件骨干上高效運(yùn)行多種協(xié)議，為不同的部署需求提供靈活性。Cadence 在提供 SerDes 和 PHY IP 方面取得了重大進(jìn)展，即使在最苛刻的操作條件和能效要求下也能提供卓越的系統(tǒng)性能，確保在極端環(huán)境下實(shí)現(xiàn)無差錯(cuò)運(yùn)行。這些突破是下一代 AI 工廠中加速器、CPU 和存儲(chǔ)實(shí)現(xiàn)無縫連接的基石。

以強(qiáng)大的 IP 組合賦能廣泛的 AI 應(yīng)用

從大型 AI 模型訓(xùn)練到小規(guī)模推理和排序，每種工作負(fù)載對(duì)計(jì)算、內(nèi)存和網(wǎng)絡(luò)維度都有獨(dú)特的需求。為了優(yōu)化這些多樣化的要求，Cadence 提供了全面的 IP 組合，包括先進(jìn)的 PHY、控制器和內(nèi)存解決方案，旨在支持整個(gè) AI 應(yīng)用光譜。這一強(qiáng)大的生態(tài)系統(tǒng)使客戶能夠?yàn)楦咝阅苡?jì)算 (HPC) 和 AI 環(huán)境構(gòu)建可擴(kuò)展的解決方案，不斷突破能力和效率的邊界。

塑造 AI 工廠的未來

助力當(dāng)今 AI 工廠的 IP 創(chuàng)新正在為 AI 和 HPC 的未來進(jìn)步奠定基礎(chǔ)。通過持續(xù)關(guān)注效率、可擴(kuò)展性和性能，這些發(fā)展正使系統(tǒng)設(shè)計(jì)師和工程師能夠應(yīng)對(duì)日益復(fù)雜的 AI 工作負(fù)載。通過利用先進(jìn)的內(nèi)存架構(gòu)、高性能互連和模塊化 SoC 設(shè)計(jì)，下一代 AI 工廠有望在從自動(dòng)駕駛系統(tǒng)到生成式 AI 應(yīng)用的各個(gè)領(lǐng)域推動(dòng)突破。

結(jié)語

AI 計(jì)算的演進(jìn)證明了 IP 創(chuàng)新在解決現(xiàn)代技術(shù)挑戰(zhàn)中的重要性。像 Cadence 這樣的機(jī)構(gòu)處于這場(chǎng)變革的前沿，提供的專業(yè)知識(shí)和解決方案使 AI 工廠能夠根據(jù)未來的需求進(jìn)行動(dòng)態(tài)擴(kuò)展。隨著我們不斷推向技術(shù)極限，設(shè)計(jì)、芯片和軟件之間的協(xié)作將始終是釋放 AI 全部潛力的關(guān)鍵。請(qǐng)繼續(xù)關(guān)注這些塑造智能計(jì)算未來的創(chuàng)新進(jìn)展。