談到存內(nèi)計算，大部分人的第一印象就是超低功耗和大算力。存內(nèi)計算技術(shù)打破了馮諾依曼架構(gòu)的限制，沖破了內(nèi)存墻，為半導(dǎo)體產(chǎn)業(yè)帶來了新的創(chuàng)新。但你可能會問，存內(nèi)計算的應(yīng)用場景到底有哪些呢？

邊緣計算的下一步

邊緣計算可以說是眾多存內(nèi)計算技術(shù)與公司走的第一步，存內(nèi)計算憑借其低功耗的特性，可穿戴等端側(cè)設(shè)備可以說是為該技術(shù)量身定制的。在其架構(gòu)的優(yōu)越性之下，存內(nèi)計算又比一眾傳統(tǒng)邊緣AI芯片有著更加可觀的算力。所以，對于智能手表、智能眼鏡這類對功耗需求高，又有一定AI計算需求的應(yīng)用來說，存內(nèi)計算芯片無疑是不二之選。

不過如今的MCU已經(jīng)將功耗降到了極低的水準，部分也能完成一些簡單的AI運算，如果僅僅是在語音識別、事件檢測這些應(yīng)用上來競爭的話，即便這些存內(nèi)計算有優(yōu)勢，可能在實際使用過程中，除了續(xù)航之外，用戶的切身感知到的變化會比較小。

WTM2101存內(nèi)計算芯片 / 知存科技

但邊緣計算并不只局限于此，還有圖像處理這一老大難亟待解決，這一應(yīng)用相比上述那些又有著更高的算力要求。國內(nèi)領(lǐng)先的存內(nèi)計算公司知存科技近日透露，他們正在打造算力更強的下一代存內(nèi)計算芯片就是面向超清視頻處理的，根據(jù)其給出的演示所示，該芯片主要針對AI插幀、AI超分辨率、AI視頻降噪和AI高動態(tài)分辨率，這些在邊緣端感知更加明顯的AI應(yīng)用。

而以上這些AI應(yīng)用，也僅僅只是存內(nèi)計算往智能手機等消費級邊緣端走的下一步，邊緣AI芯片的終極目標都是自動駕駛。如若能做到更高的算力，存內(nèi)計算芯片就有機會沖進汽車市場，與自動駕駛芯片的玩家硬碰硬。

超越GPU的算力

既然存內(nèi)計算已經(jīng)證實了自己在邊緣端的算力優(yōu)勢，那有沒有機會與GPU這類算力猛禽一決高下呢？我們以波動仿真為例，波動仿真在許多應(yīng)用中都有普及，比如醫(yī)學(xué)影像、石油勘探、減輕地震災(zāi)害以及國防系統(tǒng)等。然而大部分應(yīng)用在使用波動仿真時，都要用到超級計算機對波動方程多重求解。雖然這類應(yīng)用不像可穿戴一樣，對于成本和體積要求不高，但對于速度和能耗還是比較重視的。

目前主導(dǎo)的波動仿真解決方案還是CPU和GPU，但由于本身的并行性缺失，即便是高端的CPU運行再小的問題，也需要大量時間才能完成計算。而GPU憑借其巨大的內(nèi)存帶寬優(yōu)勢，無疑擁有著更高的速度。即便如此，在實際應(yīng)用中，波動仿真是一個極端的數(shù)據(jù)移動過程，GPU依然會遇到瓶頸，即便幾百GB/s的內(nèi)存帶寬沒法免受影響，最終導(dǎo)致用于數(shù)據(jù)移動的功耗甚至高于計算的功耗。

而存內(nèi)計算可以減少處理器之間的數(shù)據(jù)移動，因為它消除了片外與片內(nèi)存儲之間的數(shù)據(jù)移動，但存內(nèi)之間的數(shù)據(jù)移動依然是一大問題。?？松梨诘难芯咳藛T就想出了Wave-PIM這種存內(nèi)計算方案，利用超大規(guī)模集成電路常用的H樹架構(gòu)，來減少內(nèi)存區(qū)塊之間數(shù)據(jù)移動的延遲。他們以900GB/s帶寬的16GB HBM2內(nèi)存進行模擬，得出了52.8TFLOPS(FP32)的成績，超過了Tesla V100 GPU。這證明了存內(nèi)計算芯片，即使是在服務(wù)器級和HPC級的應(yīng)用上，也有著獨到的優(yōu)勢。

UPMEM PIM / UPMEM

不過如今GPU內(nèi)存帶寬已經(jīng)隨著HBM3和英偉達的H100芯片做到了3TB/s，而業(yè)界目前在內(nèi)存帶寬上占優(yōu)的存內(nèi)計算方案，法國公司UPMEM的DDR4 PIM，也只做到了2.5TB/s。哪怕存內(nèi)計算有著功耗上的巨大優(yōu)勢，但性能上要想進一步超越GPU，還是需要更先進的內(nèi)存技術(shù)和更多的架構(gòu)創(chuàng)新。好在如今越來越多的公司開始走上存內(nèi)計算的商業(yè)化嘗試，存儲廠商們雖然還沒有確定走這一方向，但存內(nèi)計算與其發(fā)展技術(shù)并無沖突，而且從生產(chǎn)創(chuàng)新和投資方向來看，他們已經(jīng)開始布局這一技術(shù)了，未來高性能計算上很有可能出現(xiàn)存儲廠商與GPU廠商互卷的情況。