作者：Arm 架構(gòu)與技術(shù)部產(chǎn)品管理總監(jiān) Martin Weidmann

隨著人工智能 (AI) 的興起和安全威脅的加劇，計算需求不斷提高。全球各種設(shè)備所依賴的基礎(chǔ)計算架構(gòu)也必須持續(xù)向前推進。為此，我們的工程團隊不斷地在應用廣泛的 Arm 架構(gòu)中加入新的功能和技術(shù)，同時我們的軟件團隊也在努力讓軟件能夠順利地適配這些未來的功能和技術(shù)。

Arm 架構(gòu)是如何開發(fā)的

Arm 每年都會發(fā)布 Arm 指令集架構(gòu) (ISA) 的更新，這些更新是通過與 Arm 生態(tài)系統(tǒng)中的各類合作伙伴合作參與創(chuàng)建的。該流程涉及芯片合作伙伴、操作系統(tǒng)供應商、OEM 廠商，以及 Arm 內(nèi)部的工程團隊和多家標準組織。

經(jīng)過精心設(shè)計的 ISA 可確保軟件在未來數(shù)年內(nèi)持續(xù)兼容新舊硬件。Arm 與 Linaro 等眾多合作伙伴緊密協(xié)作，讓諸如 Linux 內(nèi)核和發(fā)行版等廣泛使用的軟件上游社區(qū)能支持 Arm ISA，以便建立龐大的開發(fā)者生態(tài)系統(tǒng)。

每年九月，我們都會發(fā)表一篇技術(shù)博客，分享該年度對 A-Profile 架構(gòu)所作的一些重要增添。同時，我們也會在 Arm 開發(fā)者網(wǎng)站上發(fā)布完整的指令集和系統(tǒng)寄存器文檔[1]。

完整的 Arm 架構(gòu)參考手冊[2] (Arm Architecture Reference Manual, Arm ARM) 也會每年更新一次。預計 2024 年初會發(fā)布包含 2023 年擴展內(nèi)容的更新版?！皩W習架構(gòu) (Learn the Architecture)”[3]頁面同樣會在 2023 年和 2024 年更新。

技術(shù)博客和文檔的發(fā)布只是部署新架構(gòu)的一小步。接下來我們還要同生態(tài)合作伙伴一起努力，確保一旦硬件準備就緒，開源軟件就能即刻支持新的架構(gòu)功能。

2023 年，Arm 推出新特性以加強對人工智能 (AI)、機器學習 (ML) 和安全性的支持。Arm 架構(gòu)的首要任務之一是讓安全的 AI 無處不在，而神經(jīng)網(wǎng)絡 (NN) 的訓練是 AI 不斷進步和發(fā)展的關(guān)鍵。因此，2023 年的架構(gòu)擴展增加了已在神經(jīng)網(wǎng)絡中廣泛使用的新八位浮點格式，名為 FP8。為了提高安全性，我們還增加了“經(jīng)檢查的指令運算 (Checked Pointer Arithmetic)”功能，該功能基于 Arm 內(nèi)存標記擴展 (MTE)[4] 的現(xiàn)有支持而打造，可以幫助開發(fā)者快速發(fā)現(xiàn)內(nèi)存安全違規(guī)，節(jié)省應用開發(fā)的成本和時間。

以下為今年新增的功能：

FP8

2022 年，Arm、Intel 和 Nvidia 宣布針對 FP8 展開合作。FP8 是一種交換格式，可以讓軟件生態(tài)系統(tǒng)輕松共享神經(jīng)網(wǎng)絡模型，并讓 AI 計算能力不斷提高。作為 2023 年擴展的一部分，SME2、SVE2 和 Advanced SIMD (Neon) 增加了對 FP8 的支持。

FP8 支持兩種數(shù)據(jù)格式：E5M2 和 E4M3。這兩種格式在精度和范圍上有不同的取舍。

使用哪種格式由 FPMR 寄存器中的字段選擇。對于一條指令的不同輸入，可以選擇不同的格式，從而有效地處理各種格式的數(shù)據(jù)集。我們堅信，圍繞八位浮點格式的行業(yè)共創(chuàng)將帶來一系列好處，同時可使開發(fā)者專注于真正重要的創(chuàng)新和差異化。我們非常高興看到 FP8 將推動未來 AI 的發(fā)展。

熱遷移

熱遷移是指將虛擬機 (VM) 從一臺主機移動到另一臺主機上，而不影響其可用性和狀態(tài)。能夠高效地進行熱遷移對于大規(guī)模數(shù)據(jù)中心管理而言非常重要。

為了實現(xiàn)熱遷移，虛擬機管理程序要在 VM 仍在舊主機上運行時，就把它所占用的頁面復制到新主機上。這個過程通常要反復進行幾次，因為 VM 可能會修改已經(jīng)復制的頁面。解決這個問題有不同的方法，但都要面對三項挑戰(zhàn)：

記錄：記錄 VM 修改過（污染過）的頁面。

調(diào)查：根據(jù)記錄判斷哪些頁面需要重新復制。

清理：每次迭代時重置記錄機制。

2023 年的擴展增加了幾項功能，可以幫助優(yōu)化上述的三項挑戰(zhàn)。

FEAT_HDBSS 讓我們可以記錄日志，記錄 Stage 2 已被污染的頁面或塊。該機制解決了“記錄”成本問題，因為內(nèi)存管理單元 (MMU) 可以在不中斷 VM 執(zhí)行的情況下高效創(chuàng)建日志。日志也解決了“調(diào)查”成本問題，因為生成的數(shù)據(jù)是虛擬機管理程序可以有效使用的格式。

為了解決“清理”成本問題，F(xiàn)EAT_HACDBS 增加了一個加速器來清理 Stage 2 轉(zhuǎn)換表中的污染狀態(tài)。引擎利用污染頁面日志來定位需要更新的 Stage 2 轉(zhuǎn)換表描述符。

這些功能結(jié)合起來可以大幅提高熱遷移的性能和效率。

經(jīng)檢查的指令運算

AArch64 支持多項功能，這些功能讓我們可以重新利用保存地址的寄存器高位。例如，Armv8.0-A 中引入的標記指針 (Tagged Pointer) 和 Armv8.5-A 中引入的 MTE。

軟件經(jīng)常需要操作指針，比如給一個基地址加上一個偏移量。這通常是用加法或減法等常規(guī)算術(shù)運算來完成的。如果地址計算出現(xiàn)溢出，就可能會破壞寄存器中非地址位的信息。例如，如果使用 MTE，地址操作則可能會改變指針中存儲的標記。損壞的標記可能會導致處理器無法檢測到內(nèi)存安全違規(guī)，如下所示：

2023 年的擴展引入了專門用于指針操作的新指令。這些指令包含多種針對指針的檢查，包括檢查 bits[63:56] 是否被修改并防止溢出。使用 尋址模式的內(nèi)存加載和存儲指令也可以配置為保留 bits[63:56]。

以前面的 MTE 為例，新功能讓處理器能夠檢測指針的前八位是否已被修改。這意味著，如果 MTE 標記損壞，則會向軟件發(fā)出報告。

其他功能

其他新引入的增強功能包括：

當生成或檢查指針驗證 (PAC) 碼時，支持組合使用程序計數(shù)器 (Program Counter, PC) 和當前選擇的堆棧指針 (Stack Pointer, SP) 作為修飾符。

支持啟用了機密領(lǐng)域管理擴展 (RME)[5] 的設(shè)計，可以在 Granule Protection Tables 中支持 non-secure only，也可以禁用某些物理地址空間 (PAS)。

EL3 配置寫入陷阱。

斷點支持地址范圍和 mismatch 觸發(fā)，而無需鏈接。

支持將 SError 從 EL3 高效委派給 EL2 或 EL1 處理。

在接下來的幾個月，Arm 將與合作伙伴一起努力，確保軟件生態(tài)系統(tǒng)能夠在未來處理器上市后盡快利用發(fā)揮這些功能的優(yōu)勢。

審核編輯：湯梓紅