業(yè)界開(kāi)始重新審視十年前開(kāi)發(fā)的處理器架構(gòu),看好速度較GPU快1萬(wàn)倍的所謂「存儲(chǔ)器式運(yùn)算」(In-Memory Computing;IMC),將有助于新一代AI加速器發(fā)展。
新創(chuàng)公司、企業(yè)巨擘和學(xué)術(shù)界開(kāi)始重新審視十年前開(kāi)發(fā)的處理器架構(gòu),看好它或許剛好就是機(jī)器學(xué)習(xí)(machine learning)的理想選擇。他們認(rèn)為,「存儲(chǔ)器式運(yùn)算」(In-Memory Computing;IMC)架構(gòu)可望推動(dòng)新型的人工智能(AI)加速器進(jìn)展,使其速度較現(xiàn)行的GPU更快1萬(wàn)倍。
這些處理器承諾可在CMOS微縮速度放緩之際擴(kuò)展芯片性能,而要求密集乘法累積陣列的深度學(xué)習(xí)演算法也正逐漸獲得動(dòng)能。這些芯片雖然距離商用化上市還有一年多的時(shí)間,但也可能成為推動(dòng)新興非揮發(fā)性存儲(chǔ)器成長(zhǎng)的引擎。
例如,新創(chuàng)公司Mythic瞄準(zhǔn)在快閃存儲(chǔ)器(flash)陣列內(nèi)部進(jìn)行神經(jīng)網(wǎng)路運(yùn)算任務(wù),致力于從模擬領(lǐng)域降低功耗。該公司的目標(biāo)是在2019年底量產(chǎn)芯片,成為率先推出這一類新芯片的公司之一。
美國(guó)圣母大學(xué)(Notre Dame)電子工程系系主任Suman Datta說(shuō):「在我們學(xué)術(shù)界大多數(shù)的人認(rèn)為,新興存儲(chǔ)器將成為實(shí)現(xiàn)存儲(chǔ)器處理器(processor-in-memory;PIM)的技術(shù)之一。采用新的非揮發(fā)性存儲(chǔ)器將意味著創(chuàng)造新的使用模式,而存儲(chǔ)器式運(yùn)算架構(gòu)將是關(guān)鍵之一?!?/p>
Datta指出,在1990年代,有幾位學(xué)者試圖打造這樣的處理器。諸如EXECUBE、IRAM和FlexRAM之類的設(shè)計(jì)都「失敗了,而今,隨著相變存儲(chǔ)器(PCM)、電阻式RAM (RRAM)和STT MRAM等新興存儲(chǔ)器出現(xiàn),以及業(yè)界對(duì)于機(jī)器學(xué)習(xí)硬體加速器的興趣濃厚,開(kāi)始振興這個(gè)領(lǐng)域的研究。不過(guò),據(jù)我所知,大部份的展示都還是在元件或元件陣列層級(jí)進(jìn)行,而不是一個(gè)完整的加速器。」
其中一家競(jìng)爭(zhēng)對(duì)手來(lái)自IBM于2016年首次披露的「電阻處理器」(Resistive Processing Unit;RPU)。這是一款4,096 x 4,096交叉陣列的模擬元件。
IBM研究員Vijay Narayanan認(rèn)為,「其挑戰(zhàn)在于找出正確的模擬存儲(chǔ)器元素是什么——我們正在評(píng)估相變、RRAM和鐵電?!筕ijay Narayanan同時(shí)也是一位材料科學(xué)家,他主要的研究領(lǐng)域是在高K金屬閘極。
在2015年,美國(guó)史丹佛大學(xué)(Stanford University)也曾經(jīng)發(fā)布在這一領(lǐng)域的研究。中國(guó)和韓國(guó)的研究人員也在追求這一理念。
為了實(shí)現(xiàn)成功,研究人員需要找到相容于CMOS晶圓廠的存儲(chǔ)器元件所需材料。此外,Narayanan說(shuō),「真正的挑戰(zhàn)」就在于必須在施加電壓時(shí)展現(xiàn)對(duì)稱的電導(dǎo)或電阻。
IBM Research的材料科學(xué)家Vijay Narayanan表示,大多數(shù)用于AI的存儲(chǔ)器處理器仍處于研究階段,距離可上市的時(shí)間約三至五年
關(guān)于未來(lái)電晶體的幾點(diǎn)思考
IBM至今已經(jīng)制造出一些離散式元件和陣列,但并不是一款具有4Kx4K陣列的完整測(cè)試芯片,也尚未采用目前所認(rèn)為的理想材料。Narayanan表示,IBM的Geoff Burr在500 x 661陣列上采用相變材料進(jìn)行深度神經(jīng)網(wǎng)路(DNN)訓(xùn)練,而其結(jié)果顯示「合理的精確度和加速度」。
「我們正穩(wěn)步前進(jìn),但了解還必須改善現(xiàn)有的材料,而且也在評(píng)估新材料。」
IBM希望使用模擬元件,以便能夠定義多個(gè)電導(dǎo)狀態(tài),從而較數(shù)位元件更有助于為低功耗操作開(kāi)啟大門。該公司還看好大型陣列可望成為平行執(zhí)行多項(xiàng)AI操作的大好機(jī)會(huì)。
Narayanan樂(lè)觀地認(rèn)為,IBM可以利用其于高k金屬閘極方面累積的多年經(jīng)驗(yàn),找到調(diào)整AI加速器電阻的材料。他花了十幾年的時(shí)間,才將IBM在該領(lǐng)域的專業(yè)知識(shí)從研究轉(zhuǎn)向商業(yè)產(chǎn)品,并與格芯(Globalfoundries)和三星(Samsung)等業(yè)界伙伴合作。
展望未來(lái),IBM將致力于開(kāi)發(fā)閘極全環(huán)(GAA)電晶體,將納米片用于7nm節(jié)點(diǎn)以外的應(yīng)用。他認(rèn)為這一類的設(shè)計(jì)并不存在根本的障礙,而只是實(shí)施的問(wèn)題。
除了納米片之外,研究人員正在探索負(fù)電容場(chǎng)效電晶體(FET),這些FET可在電壓變化很小的情況下提供較大的電流變化。從研究人員發(fā)現(xiàn)這種摻雜氧化鉿是鐵電材料,而且可能相容于CMOS后,過(guò)去這五年來(lái),這種想法越來(lái)越受到關(guān)注。
但Narayanan也說(shuō),「目前還有很多反對(duì)者以及同時(shí)支持二者的人?!?/p>
「我們的研究顯示,負(fù)電容是一種短暫的效應(yīng),」Notre Dame的Datta說(shuō),「因此,當(dāng)極化開(kāi)關(guān)切換時(shí),通道電荷得以暫時(shí)啟動(dòng),而一旦暫態(tài)穩(wěn)定后就不會(huì)再取得任何結(jié)果?!?/p>
美國(guó)加州大學(xué)柏克萊分校(UC Berkeley)的研究人員則「相信這是一種重要的『新?tīng)顟B(tài)』。因此,故事仍在繼續(xù)發(fā)展中,可以說(shuō)大部份的公司都在內(nèi)部進(jìn)行評(píng)估中。 」
-
IBM
+關(guān)注
關(guān)注
3文章
1848瀏覽量
76633 -
存儲(chǔ)器
+關(guān)注
關(guān)注
39文章
7698瀏覽量
170322 -
人工智能
+關(guān)注
關(guān)注
1812文章
49536瀏覽量
259180
原文標(biāo)題:人工智能重振存儲(chǔ)器式運(yùn)算架構(gòu)
文章出處:【微信號(hào):eetop-1,微信公眾號(hào):EETOP】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
Andes晶心科技推出新一代深度學(xué)習(xí)加速器
Microchip推出Adaptec? SmartRAID 4300 系列加速器 提供安全的可擴(kuò)展 NVMe? RAID 存儲(chǔ)解決方案
粒子加速器?——?科技前沿的核心裝置
谷歌新一代生成式AI媒體模型登陸Vertex AI平臺(tái)
嵌入式AI加速器DRP-AI 詳細(xì)介紹
廣和通發(fā)布新一代5G模組及解決方案
消息稱AMD Instinct MI400 AI加速器將配備8個(gè)計(jì)算芯片
閃速存儲(chǔ)器屬于RAM還是ROM,閃速存儲(chǔ)器一般用來(lái)做什么的
蘋果加入U(xiǎn)ALink聯(lián)盟,共推AI加速器新標(biāo)準(zhǔn)
意法半導(dǎo)體發(fā)布新一代微控制器,集成NPU加速器推動(dòng)邊緣AI

存儲(chǔ)器式運(yùn)算將有助于新一代AI加速器發(fā)展
評(píng)論