計(jì)算的轉(zhuǎn)型在一定程度上是由于新型內(nèi)存架構(gòu)而成為可能的。

人工智能 (AI) 的快速發(fā)展正在影響著方方面面，從我們的駕駛方式到我們的業(yè)務(wù)決策和購物方式。在海量且不斷增長的大數(shù)據(jù)的推動(dòng)下，人工智能也導(dǎo)致計(jì)算需求激增。事實(shí)上，與上一代相比，最新的生成式 AI 模型需要將計(jì)算能力提高 10 至 100 倍來訓(xùn)練模型，即：反過來，總需求大約每六個(gè)月就會(huì)翻一番。?

正如您所期望的，這導(dǎo)致了計(jì)算轉(zhuǎn)型，而這種轉(zhuǎn)型在一定程度上是由于新型內(nèi)存架構(gòu)而成為可能的。這些先進(jìn)的圖形處理單元 (GPU) 架構(gòu)為設(shè)計(jì)人員開辟了全新的可能性。關(guān)鍵是為手頭的任務(wù)選擇正確的內(nèi)存架構(gòu)，并為該架構(gòu)部署正確的內(nèi)存。

可以肯定的是，有一系列更有效的新興存儲(chǔ)器可用于特定任務(wù)。它們包括內(nèi)存計(jì)算 SRAM (CIM)、STT-MRAM、SOT-MRAM、ReRAM、CB-RAM 和 PCM。雖然每個(gè)都有不同的屬性，但作為一個(gè)集體單元，它們可以增強(qiáng)計(jì)算能力，同時(shí)提高能源效率并降低成本。這些是開發(fā)經(jīng)濟(jì)且可持續(xù)的人工智能 SoC 必須考慮的關(guān)鍵因素。

許多考慮因素會(huì)影響設(shè)計(jì)人員根據(jù)任何給定應(yīng)用程序的優(yōu)先級(jí)選擇架構(gòu)。其中包括吞吐量、模塊化和可擴(kuò)展性、熱管理、速度、可靠性、與 CMOS 的處理兼容性、電力傳輸、成本以及模仿人類神經(jīng)元的模擬行為的需求。

讓我們來看看設(shè)計(jì)師目前可以使用的各種新興存儲(chǔ)的特征。

SRAM 和 ReRAM：內(nèi)存計(jì)算兩個(gè)極端之間的選擇

靜態(tài)隨機(jī)存取存儲(chǔ)器（Static Random-Access Memory，SRAM）是隨機(jī)存取存儲(chǔ)器的一種。所謂的“靜態(tài)”，是指這種存儲(chǔ)器只要保持通電，里面儲(chǔ)存的數(shù)據(jù)就可以恒常保持。相對之下，動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器里面所儲(chǔ)存的數(shù)據(jù)就需要周期性地更新。然而，當(dāng)電力供應(yīng)停止時(shí)，SRAM儲(chǔ)存的數(shù)據(jù)還是會(huì)消失（被稱為volatile memory），這與在斷電后還能儲(chǔ)存資料的ROM或閃存是不同的。

SRAM不需要刷新電路即能保存它內(nèi)部存儲(chǔ)的數(shù)據(jù)。而DRAM每隔一段時(shí)間，要刷新充電一次，否則內(nèi)部的數(shù)據(jù)即會(huì)消失，因此SRAM具有較高的性能，但是SRAM也有它的缺點(diǎn)，即它的集成度較低，功耗較DRAM大，相同容量的DRAM內(nèi)存可以設(shè)計(jì)為較小的體積，但是SRAM卻需要很大的體積。同樣面積的硅片可以做出更大容量的DRAM，因此SRAM顯得更貴。

ReRAM代表電阻式RAM，將DRAM的讀寫速度與SSD的非易失性結(jié)合于一身。換句話說，關(guān)閉電源后存儲(chǔ)器仍能記住數(shù)據(jù)。如果ReRAM有足夠大的空間，一臺(tái)配備ReRAM的PC將不需要載入時(shí)間。

對于高效的內(nèi)存計(jì)算芯片，設(shè)計(jì)人員必須選擇 SRAM 或 ReRAM，這兩者在功耗和可擴(kuò)展性方面是相反的。SRAM 建議用于小存儲(chǔ)塊和高速要求，但它也有一些缺點(diǎn)，例如面積大和功耗增加。對于內(nèi)存需求較高的項(xiàng)目，ReRAM 因其密度而具有優(yōu)勢。ReRAM 還可以在需要時(shí)提供模擬行為的額外優(yōu)勢。需要明確的是，大多數(shù)（如果不是全部）新興存儲(chǔ)器都可以部署用于內(nèi)存計(jì)算，但 SRAM 是性能的最佳選擇，而 ReRAM 是密度和能源效率的最佳選擇。

MRAM：低功耗革命

MRAM是一種非易失性的磁性隨機(jī)存儲(chǔ)器。它擁有靜態(tài)隨機(jī)存儲(chǔ)器的高速讀取寫入能力，以及動(dòng)態(tài)隨機(jī)存儲(chǔ)器的高集成度，而且基本上可以無限次地重復(fù)寫入。

MRAM（特別是 STT-MRAM 和 SOT-MRAM）是一種與 CMOS 處理完全兼容的非易失性超低功耗存儲(chǔ)器選項(xiàng)。MRAM 傳統(tǒng)上速度慢且難以擴(kuò)展，而 STT-MRAM 通過可變電流引發(fā)“自旋軌道扭矩”改變了游戲規(guī)則。STT-MRAM 提供低至 1ns 的快速寫入時(shí)間，廣泛應(yīng)用于物聯(lián)網(wǎng)應(yīng)用。SOT-MRAM 是一種變體，可以在相同的功能下實(shí)現(xiàn)更快的讀寫速度（盡管這是以更大面積為代價(jià)的）。

共同的特點(diǎn)包括低泄漏、可擴(kuò)展性、高保留時(shí)間和高耐用性，以及易于與 CMOS 集成。

PCM、ReRAM、CB-RAM：經(jīng)濟(jì)高效的存儲(chǔ)和連接

相變存儲(chǔ)器（Phase-Change Memory，PCM）是一種應(yīng)用相變材料作為儲(chǔ)存介質(zhì)的存儲(chǔ)器技術(shù)。相變材料在一個(gè)固相和一個(gè)液相之間轉(zhuǎn)換狀態(tài)。通過控制相變材料的固相和液相之間的相變過程，可以實(shí)現(xiàn)數(shù)據(jù)的存儲(chǔ)和讀取。PCM技術(shù)相比傳統(tǒng)硬盤，具有更快速度、更低功耗和更小的尺寸等優(yōu)勢，成為非易失性存儲(chǔ)技術(shù)領(lǐng)域的島嶼之一。

導(dǎo)電橋接隨機(jī)存取內(nèi)存(conductive-bridging RAM， CBRAM ）是一種低耗電、與CMOS兼容的內(nèi)存，可定制應(yīng)用在各類嵌入式市場和獨(dú)立存儲(chǔ)器市場。

這些存儲(chǔ)器類型屬于相變存儲(chǔ)器的類別。它們是非易失性的，具有兩種不同的低電阻和高電阻狀態(tài)，具體取決于形成存儲(chǔ)器的兩個(gè)電極之間施加的電流方向。PCM、ReRAM 和 CB-RAM 等非易失性存儲(chǔ)器非常適合存儲(chǔ)視頻、音頻和圖像等模擬數(shù)據(jù)，無需昂貴的數(shù)模轉(zhuǎn)換器。另一個(gè)好處是訓(xùn)練神經(jīng)網(wǎng)絡(luò)，因?yàn)橄嘧兇鎯?chǔ)器增強(qiáng)了突觸的連接性。所有這些都可以輕松地與 CMOS 和 3D 堆疊集成。ReRAM 交叉陣列最適合內(nèi)存計(jì)算。CB-RAM 非常適合實(shí)現(xiàn)內(nèi)存計(jì)算和神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)。

雖然沒有一種內(nèi)存類型是所有人工智能芯片的靈丹妙藥，但每種內(nèi)存類型在占用的空間、容量、保留時(shí)間、成本、堆疊能力、耐用性等方面都有其優(yōu)勢。每個(gè)內(nèi)存挑戰(zhàn)都可以通過多種方式解決，可以考慮使用不止一種合適的替代方案來滿足相同的目標(biāo)。設(shè)計(jì)人員需要權(quán)衡每種替代方案的利弊，包括對架構(gòu)決策的進(jìn)一步可擴(kuò)展性影響。

神經(jīng)形態(tài)計(jì)算與傳統(tǒng) SRAM

神經(jīng)形態(tài)計(jì)算是從人腦的結(jié)構(gòu)和動(dòng)力學(xué)中獲得靈感，從而創(chuàng)建了用于信息處理的節(jié)能硬件，使其能夠執(zhí)行高度復(fù)雜的任務(wù)。

神經(jīng)形態(tài)計(jì)算包括神經(jīng)網(wǎng)絡(luò)的產(chǎn)生和使用。它從人腦中汲取靈感，旨在設(shè)計(jì)能夠合并內(nèi)存和處理能力的計(jì)算機(jī)芯片。在人腦中，神經(jīng)突觸提供對處理信息的神經(jīng)元直接訪問記憶的能力。

幾十年來，電氣工程師一直對生物物理學(xué)，神經(jīng)計(jì)算以及對人工神經(jīng)網(wǎng)絡(luò)的實(shí)用混合信號(hào)電路的開發(fā)著迷。其中的挑戰(zhàn)在于跨越了從電子設(shè)備到算法的廣泛學(xué)科。神經(jīng)形態(tài)系統(tǒng)的實(shí)際用途將會(huì)應(yīng)用在我們的日常生活中，光是這一項(xiàng)就值得付出努力。

人工智能需要新的硬件，而不僅僅是新的算法。我們正處在一個(gè)轉(zhuǎn)折點(diǎn)，摩爾定律接近尾聲，導(dǎo)致我們的計(jì)算機(jī)性能停滯不前。與此同時(shí)，如今，我們正在生成越來越多的數(shù)據(jù)，它需要存儲(chǔ)和分類。

上面討論的新興非易失性存儲(chǔ)器代表了神經(jīng)形態(tài)計(jì)算的基礎(chǔ)，并適用于非馮諾依曼架構(gòu)。盡管經(jīng)典 SRAM 存儲(chǔ)器具有令人興奮的潛力，但它們?nèi)匀缓苤匾{借無與倫比的延遲，SRAM 仍然是神經(jīng)形態(tài)計(jì)算的人工智能和機(jī)器學(xué)習(xí) (ML) 架構(gòu)的支柱。多端口內(nèi)存可實(shí)現(xiàn)并行性以適應(yīng) CIM 和近內(nèi)存計(jì)算。

神經(jīng)形態(tài)計(jì)算通過依賴比當(dāng)前處理架構(gòu)更高效的新架構(gòu)和新內(nèi)存技術(shù)，正在推動(dòng)人工智能的發(fā)展，并刺激對更多計(jì)算能力的需求。特別是，內(nèi)存計(jì)算和近內(nèi)存計(jì)算對于這個(gè)新的人工智能時(shí)代至關(guān)重要，內(nèi)存產(chǎn)量、測試、可靠性和實(shí)施方面的專業(yè)知識(shí)也至關(guān)重要。毫不夸張地說，生態(tài)系統(tǒng)依賴于緊湊、非易失性、節(jié)能的存儲(chǔ)器。設(shè)計(jì)人員可以而且必須利用它們來解析大量數(shù)據(jù)和分布式內(nèi)存，并提供為我們的“智能一切”未來提供動(dòng)力所需的計(jì)算能力。

審核編輯：黃飛

?