之前的計算時代（大型機/小型機、PC/服務器和智能手機/平板電腦）都受益于摩爾定律的進步，即2D縮放同時伴隨著性能、功耗和面積/成本的提高（也被稱為“PPAC”）。

當人工智能應用蓬勃發(fā)展時，摩爾定律正在放緩；因此，該行業(yè)需要突破2D縮放，以新的方式驅動PPAC。具體來說，我們需要新的計算架構、新的材料、新的結構（尤其是節(jié)省面積的3D結構）以及先進的芯片堆疊和異構設計的封裝。

AI時代結構設計的變化影響了邏輯和存儲。機器學習算法大量使用了矩陣乘法運算，而這些運算在通用邏輯中十分繁瑣，這推動了加速器及存儲器的發(fā)展。AI計算包括兩個不同的內存任務：首先，存儲計算的中間結果；其次，存儲與訓練模型相關的權重。

性能和功耗在云計算和邊緣計算中都很重要，而存儲方面的創(chuàng)新可能會有所幫助。使用現(xiàn)有內存技術的一種方法是“近內存”，即大量的工作內存被壓縮后放置在接近邏輯的物理位置，并通過高速接口連接。在這些應用場景中，SRAM和DRAM作為“工作內存”的一個主要缺點是，它們是易失的，需要持續(xù)供電來保存數(shù)據(jù)（比如權重）。

為了降低云計算和邊緣計算的功耗，設計人員正在評估將高性能和非易失性結合在一起的新型存儲，以便只在讀寫操作期間需要耗電。三種主要的新存儲器候選是磁性隨機存取存儲器（MRAM）、相變存儲器（PCRAM）和電阻存儲器（ReRAM）。

這三種存儲器都采用了新的材料，可以被設計成高電阻率和低電阻率，而高電阻率和低電阻率又分別代表0和1。MRAM通過改變磁性方向來控制電阻率；PCRAM利用材料從無定形到結晶的排列變化；ReRAM在材料中創(chuàng)建了一個纖維。PCRAM和ReRAM都提供了電阻率中間階段的可能性，允許在每個單元中存儲多個比特。

讓我們來研究一下AI時代的計算應用場景，以及它們是如何推動路線圖中的創(chuàng)新的。

物聯(lián)網(wǎng)的邊緣計算應用可以分為低性能/低功耗應用和高性能/高功耗應用。

低性能/低功耗應用的例子是安全攝像頭，它可以在用戶端應用AI算法實現(xiàn)面部和語音識別。設計目標是在邊緣處理盡可能多的數(shù)據(jù)，只向云端傳輸重要的信息。性能要求低是因為采樣率低，包括備用電源在內的電力消耗是至關重要的，特別是在電池供電的設備中。

業(yè)界目前在邊緣計算設備中使用SRAM內存。SRAM并不理想，因為它每個存儲單元需要多達6個晶體管，而且工作室漏電可能很高。SRAM在存儲權重時并不節(jié)能，在低頻設計中尤其如此。作為一種替代方案，MRAM承諾將使晶體管密度提高數(shù)倍，從而實現(xiàn)更高的存儲密度或更小的芯片尺寸。MRAM的另一個關鍵特性是它可以被設計成嵌入式系統(tǒng)芯片產(chǎn)品的后端互連層。MRAM可用于存儲SOC的操作系統(tǒng)和應用程序，從而消除了為此目的而使用嵌入式閃存芯片的需要，從而降低了系統(tǒng)芯片總數(shù)和成本。

高性能的“近邊緣”應用場景，如缺陷檢測和醫(yī)學篩選，需要更高的性能。一種被稱為自旋軌道轉矩MRAM （SOT-MRAM）的MRAM變體可能被證明比自旋轉矩轉移MRAM （STT-MRAM）更快、更低功耗。

云計算需要盡可能高的計算性能，而訓練需要大量的數(shù)據(jù)來接近機器學習加速器，因此機器學習加速器有大量的片內SRAM緩存，并輔之以大量的片外DRAM陣列，這些DRAM陣列需要恒定的功耗。用電量對云服務提供商很重要，因為在人工智能時代，數(shù)據(jù)呈指數(shù)級增長，而電網(wǎng)電力有限且昂貴。PCRAM是云計算架構的一個主要候選者，因為它比DRAM提供更低的功耗和成本，并且比固態(tài)硬盤和硬盤驅動器具有更高的性能。

除了這些“二進制”邊緣、近邊緣和云應用之外，還有對存儲器內計算的研究。機器學習的頻繁矩陣乘法運算可以在一個存儲器陣列中執(zhí)行，設計人員正在探索偽交叉點架構，其中的權重存儲在每個內存節(jié)點上。PCRAM、ReRAM甚至是鐵電場效應晶體管（FeFETs）都是很好的選擇，因為它們都有實現(xiàn)每單元存儲多bit的潛力。目前，ReRAM似乎是這個應用場景最可行的內存，矩陣乘法可以利用歐姆定律和基爾霍夫定律在陣列內完成，而不需要將權重移進移出芯片。多層單元結構保證了新的內存密度級別，允許設計和使用更大的模型。要實現(xiàn)這些新的模擬存儲器，需要對新材料進行廣泛的開發(fā)和工程設計，而應用材料公司正在積極開拓一些領先的候選領域。

雖然摩爾定律的指數(shù)增長速度已經(jīng)放緩，但人工智能時代的數(shù)據(jù)仍將呈指數(shù)級增長。這種趨勢已經(jīng)推動了建筑、材料、3D結構和先進封裝技術的創(chuàng)新——用于芯片堆疊和異構集成。存儲越來越接近人工智能計算引擎，最終，存儲可能成為人工智能計算的引擎。隨著這些創(chuàng)新的展開，我們將看到性能、功耗和密度（面積/成本）方面的顯著改善——新興存儲優(yōu)化以滿足邊緣計算、近邊緣和云計算的需求。實現(xiàn)硬件方面的復興，才能充分挖掘人工智能時代的潛力。

責任編輯：ct