半導(dǎo)體產(chǎn)業(yè)正經(jīng)歷一場(chǎng)由人工智能 (AI) 崛起以及傳統(tǒng)摩爾定律放緩所驅(qū)動(dòng)的關(guān)鍵轉(zhuǎn)型。在此背景下，Arm于近日發(fā)布了《芯片新思維：人工智能時(shí)代的新根基》行業(yè)報(bào)告。在報(bào)告中，來(lái)自 Arm 與業(yè)界的專家提供了多元化的視點(diǎn)，深度解讀了 AI 時(shí)代啟幕之際的行業(yè)現(xiàn)狀與趨勢(shì)，探討了行業(yè)應(yīng)如何在滿足 AI 帶來(lái)的算力需求同時(shí)，解決能效、安全性與可靠性等挑戰(zhàn)。

報(bào)告指出，為應(yīng)對(duì)AI的爆發(fā)式增長(zhǎng)所帶來(lái)的空前計(jì)算需求，芯片行業(yè)正持續(xù)發(fā)展演進(jìn)。產(chǎn)業(yè)正在積極采用定制芯片、計(jì)算子系統(tǒng) (CSS) 和芯粒等創(chuàng)新技術(shù)與方法，而這些技術(shù)與方法將定義未來(lái)十年的技術(shù)創(chuàng)新方向。

定制芯片在全行業(yè)的廣泛采用

如今，幾乎所有的半導(dǎo)體行業(yè)從業(yè)者都在探索和投資定制芯片，特別是全球四大超大規(guī)模云服務(wù)提供商，他們?cè)?024年全球云服務(wù)器采購(gòu)支出中占了近半數(shù)的份額。

Arm 解決方案工程部執(zhí)行副總裁Kevork Kechichian表示，傳統(tǒng)的 SoC 通常是通用芯片組，而定制芯片則是針對(duì)特定市場(chǎng)、應(yīng)用或客戶的需求而量身打造的芯片解決方案。

例如，AWS Graviton4 是基于 Arm 技術(shù)打造的定制芯片解決方案，專為加速數(shù)據(jù)中心和 AI 工作負(fù)載而設(shè)計(jì)，該解決方案實(shí)現(xiàn)了性能與能效的顯著提升。

此外，微軟在2023年發(fā)布了首款面向云端定制的芯片 Microsoft Azure Cobalt，該芯片選用了 Arm Neoverse 計(jì)算子系統(tǒng) (CSS) 進(jìn)行打造，旨在應(yīng)對(duì)復(fù)雜的計(jì)算基礎(chǔ)設(shè)施挑戰(zhàn)。去年，Google Cloud 也發(fā)布了基于 Arm Neoverse 平臺(tái)的 Axion 定制芯片，專為應(yīng)對(duì)數(shù)據(jù)中心復(fù)雜的服務(wù)器工作負(fù)載而設(shè)計(jì)。

Kevork 指出，并非僅限于超大型云服務(wù)提供商，許多中小企業(yè)也在積極研發(fā)專屬的定制芯片解決方案，以應(yīng)對(duì)日益復(fù)雜的計(jì)算需求。例如，在 Arm 技術(shù)和英特爾代工服務(wù) (IFS) 的支持下，芯片設(shè)計(jì)技術(shù)提供商智原科技正在開發(fā)面向數(shù)據(jù)中心和先進(jìn) 5G 網(wǎng)絡(luò)的 64 核定制 SoC。韓國(guó)的 AI 芯片公司 Rebellions 也宣布打造新的大規(guī)模 AI 芯片平臺(tái)，用以提升AI 工作負(fù)載的能效表現(xiàn)。

定制芯片被認(rèn)為是實(shí)現(xiàn)更高效 AI 計(jì)算的重要趨勢(shì)，但定制芯片在成本、研發(fā)周期以及生態(tài)構(gòu)建等方面存在的挑戰(zhàn)如何應(yīng)對(duì)？

Kevork表示，定制芯片的開發(fā)成本非常高，所需的資源也非常大，這既體現(xiàn)在投入開發(fā)的人力上，也體現(xiàn)在為開發(fā)定制芯片所需的大量計(jì)算資源上。為此，Arm 已探索出多種能夠有效降低開發(fā)投入的方法。

從加快產(chǎn)品上市的角度出發(fā)，Arm 的定制化解決方案能夠讓合作伙伴顯著縮短其產(chǎn)品上市周期。最基礎(chǔ)的方法是從平臺(tái)的角度出發(fā)，識(shí)別可復(fù)用的模塊與資源，并確保定制工作是在已有基礎(chǔ)上進(jìn)行，無(wú)需一切從零開始。同時(shí)還需要充分評(píng)估現(xiàn)有的資源，并在此基礎(chǔ)上構(gòu)建定制化產(chǎn)品。正是基于這種方式，Arm 與 SoC 及各類 IP 提供商密切合作，將解決方案交付給合作伙伴。

計(jì)算子系統(tǒng)（CSS）與芯粒技術(shù)的崛起

Arm Neoverse CSS 經(jīng)過驗(yàn)證的核心計(jì)算功能以及靈活的內(nèi)存與 I/O 接口配置，加快了產(chǎn)品上市進(jìn)程，帶來(lái)顯著的優(yōu)勢(shì)。它在確保軟件一致性的同時(shí)，為 SoC 設(shè)計(jì)人員提供了靈活性，使其能夠基于 CSS 周圍新增定制子系統(tǒng)，以打造差異化的解決方案。

先進(jìn)的封裝技術(shù)和工藝是近期芯片演進(jìn)的另一個(gè)重要方向，推動(dòng)了芯粒的發(fā)展。這些技術(shù)允許多個(gè)半導(dǎo)體晶粒的堆疊和互連，在提升性能和能效的同時(shí)，開創(chuàng)了現(xiàn)代芯片設(shè)計(jì)的可能性，如晶粒間接口以及新的 2.5D 和 3D 封裝解決方案。

理想情況下，芯片廠商無(wú)需重新設(shè)計(jì)一款芯片，只需添加更多芯粒以增加算力和性能，甚至可以升級(jí)現(xiàn)有芯粒，從而更快地將新產(chǎn)品推向市場(chǎng)。與此同時(shí)，生產(chǎn)更小的芯片還有助于提高良率，并減少制造過程中的浪費(fèi)。

作為致力于推動(dòng)芯粒發(fā)展的領(lǐng)先企業(yè)，Arm 已在整個(gè)技術(shù)生態(tài)系統(tǒng)內(nèi)展開合作，借助通用框架和行業(yè)標(biāo)準(zhǔn)來(lái)加速芯粒市場(chǎng)的發(fā)展。

在談及芯粒技術(shù)發(fā)展面臨的挑戰(zhàn)時(shí)，Kevork 表示，在我們當(dāng)前所處的技術(shù)范式中，最關(guān)鍵的是如何對(duì)芯粒 (chiplet) 的設(shè)計(jì)與接口方式進(jìn)行標(biāo)準(zhǔn)化。這涉及從封裝廠如何集成這些芯粒，一直到在系統(tǒng)中不同芯粒之間進(jìn)行通信的全過程。因此，與合作伙伴就標(biāo)準(zhǔn)化問題達(dá)成共識(shí)至關(guān)重要。

在此背景下，Arm 推出了芯粒系統(tǒng)架構(gòu) (Chiplet System Architecture, CSA)，致力于對(duì)各個(gè)芯粒之間及在整個(gè)系統(tǒng)內(nèi)的通信方式等多個(gè)方面實(shí)現(xiàn)標(biāo)準(zhǔn)化。此外，Arm 還攜手合作伙伴共同推動(dòng) AMBA CHI 芯片到芯片互連協(xié)議等倡議的落地實(shí)施，確保來(lái)自不同供應(yīng)商的不同芯粒通過一個(gè)統(tǒng)一的接口協(xié)議來(lái)確保芯粒之間的互操作性。

過去，標(biāo)準(zhǔn)化常被視為放棄自身的 IP 或競(jìng)爭(zhēng)優(yōu)勢(shì)。但如今，鑒于系統(tǒng)的高度復(fù)雜性以及合作模式的演變，標(biāo)準(zhǔn)化變得尤為重要——所有參與方都將從中獲得多重益處。

應(yīng)對(duì) AI時(shí)代的安全威脅

隨著 AI 驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊手段不斷演變，構(gòu)建更具彈性和適應(yīng)性的安全機(jī)制，確保芯片在復(fù)雜多變的網(wǎng)絡(luò)環(huán)境中的安全性成為必選項(xiàng)。

Kevork 認(rèn)為，當(dāng)前行業(yè)正在加速演進(jìn)，針對(duì) SoC 平臺(tái) IP 的攻擊手段日趨復(fù)雜。Arm 正在通過構(gòu)建多層級(jí)的軟硬件防護(hù)體系，提升防御能力。比如，Arm 在芯片中直接集成加密技術(shù)，并結(jié)合經(jīng) AI 強(qiáng)化的安全監(jiān)測(cè)系統(tǒng)，使現(xiàn)代 SoC 架構(gòu)能夠抵御傳統(tǒng)攻擊與新興的威脅。

此外，AI 本身也正日益成為抵御安全攻擊的有力助手。通過基于網(wǎng)絡(luò)的監(jiān)測(cè)與先進(jìn)的代碼分析，AI 驅(qū)動(dòng)的技術(shù)能夠以人類難以企及的速度和規(guī)模識(shí)別可疑行為，并發(fā)現(xiàn)潛在漏洞。Arm 正在最大限度地發(fā)揮這一優(yōu)勢(shì)。

隨著 AI 模型在日常計(jì)算中日益普及，保護(hù)其完整性變得尤為重要。這推動(dòng)了機(jī)密計(jì)算架構(gòu) (CCA)的崛起——即使處于潛在不可信的環(huán)境中，此類架構(gòu)也能為敏感的 AI 計(jì)算創(chuàng)建“安全飛地”。而針對(duì)長(zhǎng)期以來(lái)被攻擊者頻繁利用的內(nèi)存漏洞，行業(yè)也正在通過一系列創(chuàng)新手段加以解決，例如 Armv9 架構(gòu)中的內(nèi)存標(biāo)記擴(kuò)展 (MTE) 技術(shù)，能使惡意攻擊者更難針對(duì)內(nèi)存發(fā)起攻擊。

AI與芯片面臨的挑戰(zhàn)與機(jī)遇

AI 工作負(fù)載的計(jì)算需求極大，需要大量電力與能源資源來(lái)支持其運(yùn)行，且這種需求在未來(lái)將會(huì)持續(xù)增長(zhǎng)。Kevork 表示，從芯片設(shè)計(jì)的角度來(lái)看，最主要的能耗來(lái)源是計(jì)算和數(shù)據(jù)傳輸。此外，還需要對(duì)過程中所產(chǎn)生的熱量進(jìn)行冷卻處理。

首先，AI 依賴于大量的乘積累加運(yùn)算，這就要求芯片中集成高能效的計(jì)算結(jié)構(gòu)。與此同時(shí)，這些計(jì)算并非總在同一位置完成。多數(shù)情況下，某些 AI 的輸出必須在其他運(yùn)算或計(jì)算組件中進(jìn)一步處理，這就會(huì)產(chǎn)生數(shù)據(jù)傳輸，從而帶來(lái)額外的能源和電力的開銷。因此，要實(shí)現(xiàn)高能效的 AI 計(jì)算，優(yōu)化計(jì)算組件之間的通信至關(guān)重要，這些組件可能位于同一芯片內(nèi)，也可能位于另一個(gè)模塊或機(jī)架中。

此外，將計(jì)算單元和內(nèi)存單元緊密封裝，可以最小化延遲和電力損耗，但卻也帶來(lái)了散熱方面的挑戰(zhàn)。因此，高效的冷卻解決方案對(duì)于管理能源密度和確保硬件可靠性至關(guān)重要。

因此，為降低能源成本，芯片設(shè)計(jì)正在集成優(yōu)化的內(nèi)存層次結(jié)構(gòu)與協(xié)同設(shè)計(jì)的通信機(jī)制。這些解決方案既減少了數(shù)據(jù)的傳輸，還借助芯片堆疊、高帶寬內(nèi)存以及先進(jìn)的互連等技術(shù)，最大程度地降低剩余數(shù)據(jù)傳輸過程中的能耗。與此同時(shí)，AI 框架和算法也正日益針對(duì)每瓦性能和單位成本性能等指標(biāo)進(jìn)行微調(diào)，實(shí)現(xiàn)算力與經(jīng)濟(jì)可持續(xù)性之間的平衡。

隨著 AI 技術(shù)的不斷發(fā)展，更具能效的芯片設(shè)計(jì)與更小型、更高效的 AI 模型的研發(fā)正不斷取得進(jìn)展。這類模型尤其適合在小型設(shè)備上運(yùn)行生成式 AI 工作負(fù)載，具備資源占用更低、準(zhǔn)確性更高以及可移植性更強(qiáng)等優(yōu)勢(shì)。

此外，行業(yè)在數(shù)據(jù)類型優(yōu)化方面也在不斷進(jìn)步。例如，全行業(yè)推動(dòng)采用 FP4（4 位浮點(diǎn)數(shù)）靈活架構(gòu)并推出新指令集和功能，帶來(lái)了增量收益，并有助于實(shí)現(xiàn)更高效的 AI 計(jì)算。而芯片堆疊技術(shù)和 3D 封裝技術(shù)的發(fā)展，也催生了諸如芯粒等更高能效的芯片設(shè)計(jì)方案。

報(bào)告還指出，底層架構(gòu)的創(chuàng)新也至關(guān)重要，如新的指令集和功能的引入，能夠?yàn)?AI 帶來(lái)重大的創(chuàng)新機(jī)遇。例如，Arm 定期推出的新功能，如可伸縮矢量擴(kuò)展 (SVE2) 和可伸縮矩陣擴(kuò)展 (SME)，這些功能都集成于 Arm 架構(gòu)中，為生態(tài)系統(tǒng)增加了新的 AI 能力。值得注意的是，如今的硬件已經(jīng)具備訓(xùn)練 Transformer 模型的強(qiáng)大能力，而這類模型正是生成式 AI 的基礎(chǔ)。

在 Arm 看來(lái)，理想的情況是，AI 和芯片技術(shù)能夠?qū)崿F(xiàn)一種整體協(xié)同設(shè)計(jì)的方法，即硬件和算法同步開發(fā)，以實(shí)現(xiàn)最佳性能和效率。

小結(jié)

在 AI 時(shí)代，芯片設(shè)計(jì)方式將持續(xù)演進(jìn)，并重新聚焦于高能效計(jì)算，以應(yīng)對(duì)日益復(fù)雜的計(jì)算工作負(fù)載。這一趨勢(shì)體現(xiàn)在通過定制芯片、CSS 以及芯粒等創(chuàng)新方式打造的專用芯片組，從而優(yōu)化芯片設(shè)計(jì)中的功耗、性能與面積。

報(bào)告指出，芯片設(shè)計(jì)的成功將越來(lái)越依賴于以下幾點(diǎn)：IP 提供商、晶圓代工廠與系統(tǒng)集成商之間的緊密合作；計(jì)算、內(nèi)存與電源傳輸之間的系統(tǒng)級(jí)優(yōu)化；接口的標(biāo)準(zhǔn)化，以支持模塊化設(shè)計(jì)；針對(duì)特定工作負(fù)載的專用架構(gòu)以及能靈活應(yīng)對(duì)新興威脅的強(qiáng)大安全框架。

“若想取得成功，我們既要直面復(fù)雜性，又要找到高效管理復(fù)雜性的方法——這將依賴于全新的工具、方法論，以及生態(tài)系統(tǒng)內(nèi)前所未有的協(xié)作，”Kevork 總結(jié)道，“唯有通過整個(gè)生態(tài)系統(tǒng)的協(xié)作，我們方能構(gòu)建起必要的技術(shù)基石——既能釋放 AI 的變革潛力，又能有效管控其計(jì)算成本與復(fù)雜度?！?/p>

通過與半導(dǎo)體生態(tài)系統(tǒng)中的合作伙伴持續(xù)協(xié)作，Arm將持續(xù)致力于應(yīng)對(duì)能效、安全性和性能等根本性挑戰(zhàn)，定義計(jì)算的未來(lái)。