近日，Arm Tech Symposia 年度技術(shù)大會國內(nèi)首站落地深圳。作為Arm最重要、規(guī)模最盛大的技術(shù)活動之一，Arm Tech Symposia 年度技術(shù)大會以“Arm 正在構(gòu)建計算的未來”為主題，圍繞人工智能、機器學(xué)習(xí)、物聯(lián)網(wǎng)、基礎(chǔ)設(shè)施、汽車、終端、移動計算等行業(yè)熱點話題展開。在此次大會上，Arm傳遞出對于服務(wù)器市場的處理器技術(shù)以及合作生態(tài)的最新洞察，并介紹了所推出的相關(guān)技術(shù)產(chǎn)品以大力支持基礎(chǔ)設(shè)施的加速建設(shè)。

AI時代，定制化芯片改變服務(wù)器架構(gòu)

人工智能的大潮已經(jīng)涌現(xiàn)，基礎(chǔ)設(shè)施融入AI這一趨勢對于數(shù)據(jù)中心、服務(wù)器提出更高的算力和性能需求。Arm在服務(wù)器市場呈現(xiàn)快速發(fā)展的態(tài)勢，此外，Arm還幫助合作伙伴實現(xiàn)服務(wù)器架構(gòu)上的創(chuàng)新。

圖：Arm高級副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理 Mohamed Awad 在大會中與媒體進行訪談

Arm高級副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理 Mohamed Awad解析，在傳統(tǒng)的服務(wù)器系統(tǒng)架構(gòu)中，左邊是內(nèi)存，然后內(nèi)存連接到一個通用的現(xiàn)成CPU，這個 CPU 又負責(zé)管理多個加速器。這樣的傳統(tǒng)架構(gòu)是過去市場上唯一可用的架構(gòu)，但這個架構(gòu)的問題在于，這個通用的現(xiàn)成CPU 以及加速器之間的接口直接限制了產(chǎn)品最終的性能水平，因為所有的加速器都必須要通過一個 CPU 訪問額外的內(nèi)存，這樣就無法達到內(nèi)存的一致性，也就意味著加速器的性能無法被充分利用，也就無法很好地支持生成式 AI 時代的需求。

基礎(chǔ)設(shè)施領(lǐng)域的傳統(tǒng)系統(tǒng)架構(gòu)

在Arm展現(xiàn)的一例新架構(gòu)中，加入了CPU的數(shù)量并為整個系統(tǒng)架構(gòu)提供更高的性能。具體來看，這種現(xiàn)代的系統(tǒng)架構(gòu)中，CPU 是根據(jù)實際需求進行定制化設(shè)計，每一個定制化的CPU 都可以單獨和一個加速器相連，會有較強的內(nèi)存一致性?！霸谶@樣的架構(gòu)下，設(shè)計方根據(jù)用戶的實際場景和用例進行 CPU 設(shè)計，方能將加速器的使用效率提到最高?！盡ohamed Awad說道。新的架構(gòu)設(shè)計能夠更好地支持包括生成式 AI在內(nèi)的基礎(chǔ)設(shè)施的市場需求。

面向新的應(yīng)用需求，基礎(chǔ)設(shè)施領(lǐng)域出現(xiàn)了現(xiàn)代化的系統(tǒng)架構(gòu)

這個架構(gòu)的重點是強調(diào)了CPU的定制化，以及對于鏈路上數(shù)據(jù)傳輸性能的提升。

Mohamed Awad解析，在過去的架構(gòu)中，一個CPU 需要對應(yīng)多個加速器或者多個 GPU，但是這個 CPU本身不是一個定制化的CPU。這種CPU是通過 PCIe的接口和加速器連在一起的，其數(shù)據(jù)傳輸?shù)耐掏侣屎玩溌穾捠侵苯邮芟抻谟卸嗌贁?shù)據(jù)可以進入到加速器。如果鏈路不佳，只有少量的數(shù)據(jù)進入加速器，影響加速器的性能發(fā)揮。但在新架構(gòu)中，不僅是一個 CPU 對應(yīng)一個加速器，更重要的是該 CPU 是一個定制的 CPU，跟加速器實現(xiàn)一對一組合后，它的整體鏈路以及數(shù)據(jù)吞吐率會達到最高，以提高加速器本身的利用水平。

這個新架構(gòu)說來也不算新，因為這就是NVIDIA GH200 Grace Hopper 超級芯片所使用的架構(gòu)。

NVIDIA GH200 Grace Hopper 超級芯片采用 Arm Neoverse 搭配 NVIDIA GPU，滿足 AI 性能的需求

在這樣的架構(gòu)當(dāng)中，72 顆 Arm Neoverse 核心加上來自 NVIDIA 的 GPU的組合，其AI 性能較基于x86架構(gòu)的系統(tǒng)可提升 10 倍。

不過，未來的新架構(gòu)還會有很多可能。Mohamed Awad表示，現(xiàn)在判斷一個CPU對應(yīng)一個 GPU這樣的結(jié)構(gòu)是不是未來的趨勢，仍為時尚早。但鑒于我們正處于計算加速的時代，在未來的架構(gòu)當(dāng)中任何的通用 CPU 旁邊都一定會有一個加速器。也就是說，不管是通過緊密耦合、中度耦合或者是分散耦合的方式，都一定會存在一個加速器。但具體這個加速器是什么樣，采用什么樣的架構(gòu)，目前業(yè)界也還在不斷探索過程中。

從他的話語中可以判斷出CPU+加速器這種演進的方向是確定的。至于Arm將如何引領(lǐng)這樣的方向，相信會有更多新技術(shù)新產(chǎn)品的出現(xiàn)。

簡化定制芯片研發(fā)，Arm升級Neoverse計算子系統(tǒng)CSS

目前，Arm在服務(wù)器市場以Neoverse 平臺為主，為了簡化客戶基于這一IP設(shè)計服務(wù)器芯片，近期 Arm不僅推出Neoverse 計算子系統(tǒng)(CSS)，還推出一項全面設(shè)計(Arm Total Design) 生態(tài)項目，目標(biāo)是集行業(yè)生態(tài)之力，加速基于Neoverse 計算子系統(tǒng)(CSS) 的定制系統(tǒng)級芯片(SoC) 的開發(fā)與交付。

Arm Neoverse CSS預(yù)集成了 Arm Neoverse 平臺并完成驗證配置，可降低開發(fā)成本并加速產(chǎn)品上市進程?；?Arm Neoverse N2 平臺所開發(fā)的Arm Neoverse CSS N2 為Arm Neoverse CSS的第一代產(chǎn)品。據(jù)介紹，在一家合作伙伴的實現(xiàn)中，Arm NeoverseCSS 不但可降低SoC設(shè)計復(fù)雜性，并且節(jié)省了長達80人/年的工程師時間。

Arm 全面設(shè)計 (Arm Total Design) 生態(tài)項目助力合作伙伴加速基于 Neoverse CSS 的芯片開發(fā)

Arm 全面設(shè)計匯集了專用集成電路(ASIC) 設(shè)計公司、IP 供應(yīng)商、EDA 工具提供商、代工廠和固件開發(fā)者等行業(yè)領(lǐng)先企業(yè)，以加快并簡化基于Neoverse CSS 的系統(tǒng)開發(fā)。

例如，楷登電子(Cadence)、Rambus 和新思科技(Synopsys) 等合作伙伴的預(yù)集成、經(jīng)過驗證的IP 和EDA 工具；ADTechnology、Alphawave Semi、博通(Broadcom)、凱捷(Capgemini)、智原科技、Socionext 和Sondrel 等合作伙伴的設(shè)計服務(wù)；來自英特爾代工服務(wù)(IFS) 和臺積公司(TSMC) 等代工廠合作伙伴的技術(shù)，專為領(lǐng)先工藝節(jié)點和先進封裝技術(shù)進行優(yōu)化；來自AMI 等基礎(chǔ)設(shè)施固件提供商，針對Neoverse CSS 提供商業(yè)軟件和固件支持。

引入這么多合作伙伴到這個生態(tài)系統(tǒng)中來，這意味著Arm已經(jīng)為IC設(shè)計公司做好了前期大量的準(zhǔn)備工作，而IC設(shè)計公司只需要聚焦于本身的產(chǎn)品創(chuàng)新即可。

Mohamed Awad表示，Arm 全面設(shè)計也進一步提高了 Neoverse CSS生態(tài)系統(tǒng)中可供合作伙伴使用的可能性，不管是專用集成電路 (ASIC) 設(shè)計公司、IP 供應(yīng)商、EDA 工具提供商、代工廠和固件開發(fā)者，Arm 都能進一步支持和幫助他們的產(chǎn)品研發(fā)。

另外，Mohamed Awad強調(diào)，Arm 全面設(shè)計生態(tài)系統(tǒng)沒有排他性，歡迎更多的相關(guān)產(chǎn)業(yè)鏈伙伴加入其中。同時Neoverse CSS 還在不斷迭代發(fā)展，以支持新興的芯粒 (chiplet) 技術(shù)。

微軟 Azure Cobalt 100

近期，微軟發(fā)布的Cobalt 100 CPU，便是基于Neoverse CSS進行研發(fā)的。此外也有中國的合作伙伴正在基于 CSS 進行開發(fā)。很多合作伙伴將會在 2024 年將第一代CSS設(shè)計投入生產(chǎn)。

加強生態(tài)，與國內(nèi)廠商推進服務(wù)器芯片

現(xiàn)如今，所有主要的公有云都提供基于 Neoverse 的云實例，Arm Neoverse 平臺在整個市場中增速顯著。比較典型的合作伙伴包括超大規(guī)模云服務(wù)商亞馬遜云服務(wù) (AWS)、阿里巴巴，以及本土初創(chuàng)企業(yè)鴻鈞微電子、遇賢微電子與云豹智能等。

從超大規(guī)模云服務(wù)商到初創(chuàng)企業(yè)，在 Arm 平臺上賦能創(chuàng)新

據(jù)介紹，阿里巴巴的倚天 710 就是基于 Arm Neoverse 平臺打造的 CPU。另外鴻鈞微電子以及遇賢微電子，這兩家都是來自中國的本土初創(chuàng)企業(yè)，他們都基于 Arm 平臺打造服務(wù)器 SoC 解決方案。同時，中國本土的公司云豹智能，也借助 Arm Neoverse 平臺來創(chuàng)建云計算與數(shù)據(jù)中心的 DPU 解決方案。而聯(lián)想則更多地是將Arm架構(gòu)部署到 5G 領(lǐng)域。Mohamed Awad說，通過攜手中國本土的強有力的合作伙伴，我們將在中國進一步地推動 Neoverse 的發(fā)展。

Arm Neoverse 計算子系統(tǒng) (CSS)

Arm中國區(qū)業(yè)務(wù)全球副總裁鄒挺表示，在中國市場，Arm Neoverse 特別是在基礎(chǔ)設(shè)施領(lǐng)域擁有很多客戶。在過去的三、四年當(dāng)中，整個 Neoverse 在中國的發(fā)展非常強勁。同時，Arm 也積極參與數(shù)據(jù)中心、云計算等本土的生態(tài)、開源軟件社區(qū)，包括龍蜥社區(qū)等，幫助這些社區(qū)能更好地融入Arm全球生態(tài)系統(tǒng)中。


小結(jié)：

半導(dǎo)體的創(chuàng)新往往是從源頭開始的，Arm的IP以及生態(tài)往往引領(lǐng)著一個潮流的方向。在移動終端領(lǐng)域Arm是當(dāng)之無愧的霸主，在今年早前手機SoC廠商基于Armv9架構(gòu)推出全大核芯片，將高端手機推向新的高度。

對于這樣的集群配置，Arm 產(chǎn)品營銷副總裁 Ian Smythe表示，在目前的高端智能手機市場，我們往往可以看到許多不同的創(chuàng)意，各家手機廠商在選擇其 CPU 集群的配置時，是根據(jù)他們最終面向的目標(biāo)受眾的用戶場景，來選擇合適的 CPU 進行配置，這也正是 Arm CPU戰(zhàn)略的一部分，通過Arm IP的靈活配置帶來多元化與差異化。

而移動終端上，Arm通過為移動平臺提供的Arm全面計算解決方案，持續(xù)賦能移動設(shè)備上 AI 的實現(xiàn)。此外，在物聯(lián)網(wǎng)領(lǐng)域，Arm擁有種類豐富的邊緣 AI 產(chǎn)品組合。憑借 Arm Cortex-M55、Cortex-M85 以及新推出的 Cortex-M52，持續(xù)提供合作伙伴所需的各種性能，從而滿足 AI 時代人們對物聯(lián)網(wǎng)日漸增長的需求。

在AI時代，計算基礎(chǔ)設(shè)施也在迎來變革。在當(dāng)今 70% 的機器學(xué)習(xí)工作負載運行在 Arm 平臺之上。Mohamed Awad表示，AI的關(guān)鍵在于硬件和軟件的緊密集成，以及性能和計算能力的提升。未來AI 將存在于邊緣、網(wǎng)絡(luò)、數(shù)據(jù)端、存儲、服務(wù)器，它將融入每一個過程當(dāng)中。Arm 正在不斷地加速推動和賦能 AI 所帶來的變化和革新。