談到存內(nèi)計(jì)算，大部分人的第一印象就是超低功耗和大算力。存內(nèi)計(jì)算技術(shù)打破了馮諾依曼架構(gòu)的限制，沖破了內(nèi)存墻，為半導(dǎo)體產(chǎn)業(yè)帶來了新的創(chuàng)新。但你可能會(huì)問，存內(nèi)計(jì)算的應(yīng)用場景到底有哪些呢？

邊緣計(jì)算的下一步

邊緣計(jì)算可以說是眾多存內(nèi)計(jì)算技術(shù)與公司走的第一步，存內(nèi)計(jì)算憑借其低功耗的特性，可穿戴等端側(cè)設(shè)備可以說是為該技術(shù)量身定制的。在其架構(gòu)的優(yōu)越性之下，存內(nèi)計(jì)算又比一眾傳統(tǒng)邊緣AI芯片有著更加可觀的算力。所以，對于智能手表、智能眼鏡這類對功耗需求高，又有一定AI計(jì)算需求的應(yīng)用來說，存內(nèi)計(jì)算芯片無疑是不二之選。

不過如今的MCU已經(jīng)將功耗降到了極低的水準(zhǔn)，部分也能完成一些簡單的AI運(yùn)算，如果僅僅是在語音識(shí)別、事件檢測這些應(yīng)用上來競爭的話，即便這些存內(nèi)計(jì)算有優(yōu)勢，可能在實(shí)際使用過程中，除了續(xù)航之外，用戶的切身感知到的變化會(huì)比較小。

WTM2101存內(nèi)計(jì)算芯片 / 知存科技

但邊緣計(jì)算并不只局限于此，還有圖像處理這一老大難亟待解決，這一應(yīng)用相比上述那些又有著更高的算力要求。國內(nèi)領(lǐng)先的存內(nèi)計(jì)算公司知存科技近日透露，他們正在打造算力更強(qiáng)的下一代存內(nèi)計(jì)算芯片就是面向超清視頻處理的，根據(jù)其給出的演示所示，該芯片主要針對AI插幀、AI超分辨率、AI視頻降噪和AI高動(dòng)態(tài)分辨率，這些在邊緣端感知更加明顯的AI應(yīng)用。

而以上這些AI應(yīng)用，也僅僅只是存內(nèi)計(jì)算往智能手機(jī)等消費(fèi)級(jí)邊緣端走的下一步，邊緣AI芯片的終極目標(biāo)都是自動(dòng)駕駛。如若能做到更高的算力，存內(nèi)計(jì)算芯片就有機(jī)會(huì)沖進(jìn)汽車市場，與自動(dòng)駕駛芯片的玩家硬碰硬。

超越GPU的算力

既然存內(nèi)計(jì)算已經(jīng)證實(shí)了自己在邊緣端的算力優(yōu)勢，那有沒有機(jī)會(huì)與GPU這類算力猛禽一決高下呢？我們以波動(dòng)仿真為例，波動(dòng)仿真在許多應(yīng)用中都有普及，比如醫(yī)學(xué)影像、石油勘探、減輕地震災(zāi)害以及國防系統(tǒng)等。然而大部分應(yīng)用在使用波動(dòng)仿真時(shí)，都要用到超級(jí)計(jì)算機(jī)對波動(dòng)方程多重求解。雖然這類應(yīng)用不像可穿戴一樣，對于成本和體積要求不高，但對于速度和能耗還是比較重視的。

目前主導(dǎo)的波動(dòng)仿真解決方案還是CPU和GPU，但由于本身的并行性缺失，即便是高端的CPU運(yùn)行再小的問題，也需要大量時(shí)間才能完成計(jì)算。而GPU憑借其巨大的內(nèi)存帶寬優(yōu)勢，無疑擁有著更高的速度。即便如此，在實(shí)際應(yīng)用中，波動(dòng)仿真是一個(gè)極端的數(shù)據(jù)移動(dòng)過程，GPU依然會(huì)遇到瓶頸，即便幾百GB/s的內(nèi)存帶寬沒法免受影響，最終導(dǎo)致用于數(shù)據(jù)移動(dòng)的功耗甚至高于計(jì)算的功耗。

而存內(nèi)計(jì)算可以減少處理器之間的數(shù)據(jù)移動(dòng)，因?yàn)樗似馀c片內(nèi)存儲(chǔ)之間的數(shù)據(jù)移動(dòng)，但存內(nèi)之間的數(shù)據(jù)移動(dòng)依然是一大問題。?？松梨诘难芯咳藛T就想出了Wave-PIM這種存內(nèi)計(jì)算方案，利用超大規(guī)模集成電路常用的H樹架構(gòu)，來減少內(nèi)存區(qū)塊之間數(shù)據(jù)移動(dòng)的延遲。他們以900GB/s帶寬的16GB HBM2內(nèi)存進(jìn)行模擬，得出了52.8TFLOPS(FP32)的成績，超過了Tesla V100 GPU。這證明了存內(nèi)計(jì)算芯片，即使是在服務(wù)器級(jí)和HPC級(jí)的應(yīng)用上，也有著獨(dú)到的優(yōu)勢。

UPMEM PIM / UPMEM

不過如今GPU內(nèi)存帶寬已經(jīng)隨著HBM3和英偉達(dá)的H100芯片做到了3TB/s，而業(yè)界目前在內(nèi)存帶寬上占優(yōu)的存內(nèi)計(jì)算方案，法國公司UPMEM的DDR4 PIM，也只做到了2.5TB/s。哪怕存內(nèi)計(jì)算有著功耗上的巨大優(yōu)勢，但性能上要想進(jìn)一步超越GPU，還是需要更先進(jìn)的內(nèi)存技術(shù)和更多的架構(gòu)創(chuàng)新。好在如今越來越多的公司開始走上存內(nèi)計(jì)算的商業(yè)化嘗試，存儲(chǔ)廠商們雖然還沒有確定走這一方向，但存內(nèi)計(jì)算與其發(fā)展技術(shù)并無沖突，而且從生產(chǎn)創(chuàng)新和投資方向來看，他們已經(jīng)開始布局這一技術(shù)了，未來高性能計(jì)算上很有可能出現(xiàn)存儲(chǔ)廠商與GPU廠商互卷的情況。