預(yù)測編碼理論認(rèn)為,大腦的感知、運(yùn)動控制、記憶及其他高級功能,取決于真實經(jīng)歷和大腦對未來的預(yù)測之間的差異。DeepMind新推出的“生成查詢網(wǎng)絡(luò)”模仿了大腦的預(yù)測編碼機(jī)制,明顯提升了預(yù)測系統(tǒng)的智能化水平。
上個月,人工智能公司DeepMind推出了一款新軟件,可以在虛擬房間內(nèi)拍攝一些物體的單個圖像,并且能夠在沒有真人指導(dǎo)的情況下,從全新的有利視角推斷出三維場景的樣貌。這一系統(tǒng)名為生成查詢網(wǎng)絡(luò)(GQN),它可以成功模擬簡單的視頻游戲式迷宮的布局。
GQN有很典型的技術(shù)上的應(yīng)用,不過它同樣引發(fā)了神經(jīng)科學(xué)家的關(guān)注,他們對用于學(xué)習(xí)如何執(zhí)行任務(wù)的訓(xùn)練算法特別感興趣。GQN能夠由給定的圖像生成關(guān)于場景樣貌的預(yù)測,比如定位目標(biāo)的位置,陰影在平面上的投射樣式,在某些視角下,哪些區(qū)域是應(yīng)該可見還是隱藏,并利用預(yù)測結(jié)果與真實觀察結(jié)果之間的差異,來提高其未來預(yù)測的準(zhǔn)確性?!罢乾F(xiàn)實與預(yù)測之間的差異,使得模型能夠不斷更新?!痹擁椖控?fù)責(zé)人之一Ali Eslami說。
Eslami在該研究上的合作者、也是他在DeepMind的同事Danilo Rezende表示,“算法會改變預(yù)測模型的參數(shù),所以下次遇到相同的情況時,它就不會顯得那么驚訝了?!?/p>
長期以來,神經(jīng)科學(xué)家一直懷疑大腦的運(yùn)行方式也遵循與此類似的機(jī)制。(這些推測確實是啟發(fā)GQN團(tuán)隊探尋這種方法的一部分原因。)根據(jù)這種“預(yù)測編碼”(predictive coding)理論,在認(rèn)知過程的每個層面,大腦都會產(chǎn)生一些關(guān)于應(yīng)該自其下面的層級接收到哪些信息的模型和觀點。這些觀點被轉(zhuǎn)化為關(guān)于在特定情況下的經(jīng)歷的預(yù)測,提供令這些經(jīng)歷說得通的最佳解釋。然后將預(yù)測結(jié)果作為反饋發(fā)送到大腦的較低級的感覺區(qū)域。大腦將自己的預(yù)測結(jié)果與收到的實際感官輸入內(nèi)容進(jìn)行比較,并“搪塞掉”任何差異或預(yù)測錯誤,并可以通過使用其內(nèi)部模型來確定出現(xiàn)這種差異的可能的原因。(例如,我們可能根據(jù)某個內(nèi)部模型將一張桌子視為一個由四條腿支撐的平面,但即使桌子被其他東西遮住了一半,我們?nèi)匀豢梢哉J(rèn)得出這是一張桌子。)
對于給定的一張色塊樣式的二維圖像(左),GQN人工智能能夠推斷出色塊在空間中的三維排列(右)。該系統(tǒng)依賴于作為預(yù)測編碼的神經(jīng)科學(xué)理論的一些基本見解。圖/DeepMind
無法解釋的預(yù)測誤差會通過更高級別的連接(作為“前饋”信號,而不是反饋)傳遞,這里,預(yù)測誤差被認(rèn)為是值得注意的現(xiàn)象,系統(tǒng)需要注意并做出相應(yīng)處理。倫敦大學(xué)學(xué)院的Karl Friston說:“現(xiàn)在的關(guān)注點在于內(nèi)部模型的調(diào)節(jié),關(guān)注大腦動力學(xué),來抑制預(yù)測中的錯誤?!?Friston是著名神經(jīng)科學(xué)家,也是預(yù)測編碼假設(shè)的先驅(qū)之一。
在過去的十年中,認(rèn)知科學(xué)家、哲學(xué)家和心理學(xué)家將預(yù)測編碼作為一個令人信服的想法,尤其是用于描述感知的運(yùn)行機(jī)制,而且將其作為一個關(guān)于整個大腦運(yùn)行機(jī)制的更具雄心、包羅萬象的理論。直到最近才有實驗工具開始直接測試這一假設(shè)的具體機(jī)制,過去兩年內(nèi)發(fā)表的一些論文為該理論提供了驚人的證據(jù)。盡管如此,該理論仍然存在爭議,最近,關(guān)于一些具有里程碑意義的實驗結(jié)果是否可重復(fù)的爭論,可能該理論存在爭議的最好的證明。
咖啡、奶油與狗
“我喝咖啡喜歡加奶油和____?!边@個句子用“糖”來填空似乎是很自然的。這也是加州大學(xué)圣迭戈分校的認(rèn)知科學(xué)家Marta Kutas和Steven Hillyard的本意,他們在1980年進(jìn)行了一系列的實驗,他們在實驗中將這句話逐詞放到大屏幕上給人看,并記錄下觀眾的大腦活動。只不過,出現(xiàn)的最后一個詞并不是“糖”,而是“狗”。整個句子變成了:“我喝咖啡喜歡加奶油和狗?!?/p>
研究人員注意到,當(dāng)研究對象看到“狗”這個出乎意料的詞時,會出現(xiàn)更激烈的大腦反應(yīng),這些反應(yīng)的具體特點為“特定模式的電活動”,稱為“N400效應(yīng)”(N400 effect),在“狗”一詞出現(xiàn)大約400毫秒后達(dá)到峰值。但研究人員仍不清楚應(yīng)如何解釋這一現(xiàn)象。大腦作出反應(yīng),是因為這個詞的意思在本句背景下是不合常理的?還是因為大腦沒預(yù)料到這個詞的出現(xiàn),它違背了大腦對預(yù)期出現(xiàn)內(nèi)容的預(yù)測?
2005年,Kutas和她的團(tuán)隊進(jìn)行了另一項研究,表明后一種假設(shè)是對的。實驗對象再次要求讀屏幕上逐詞出現(xiàn)的一句話:“這天微風(fēng)陣陣,所以男孩子們出去放____?!币驗椤帮L(fēng)箏”(a kite)似乎是最有可能用來補(bǔ)完句子的詞,所以接下來實驗對象的期望是冠詞“a”,它沒有內(nèi)在意義,但表示接下來還會有一個詞。而當(dāng)參與者看到接下來的詞是“an”時,他們就經(jīng)歷了N400效應(yīng),這似乎是因為大腦必須處理其期望與現(xiàn)實之間的不符。顯然,這一效應(yīng)與該詞的含義以及處理出現(xiàn)的刺激本身的困難程度無關(guān)。
2005年的這一發(fā)現(xiàn)似乎非常適合預(yù)測編碼框架理論。但今年4月,eLife發(fā)表的一篇論文稱,有幾個實驗室無法重復(fù)這一實驗結(jié)果?,F(xiàn)在,也有研究人員開始做出回應(yīng),一些人聲稱重復(fù)實驗的微妙結(jié)果仍然有利于基于預(yù)測的解釋。
這種搖擺不定反映出關(guān)于預(yù)測編碼理論的大部分爭論。像Kusta這樣的實驗可以有許多種解釋。比如可以通過除預(yù)測編碼之外的模型來解釋,并且這些實驗缺乏足以證明假設(shè)的確實證據(jù),因為它們沒有深入研究實際的機(jī)制。雖然大腦會不斷做出推論(并將這些推論與現(xiàn)實進(jìn)行比較)的想法已構(gòu)建得相當(dāng)完善,但預(yù)測編碼的支持者一直在設(shè)法證明,他們所主張的理論才是正確的,而且可以延伸到所有的認(rèn)知領(lǐng)域。
貝葉斯大腦與高效計算
大腦一直建立和評估自己對持續(xù)的實際經(jīng)歷的預(yù)測,這一基本觀點并不總是被視為理所當(dāng)然的。20世紀(jì)的主流神經(jīng)科學(xué)觀點將大腦的功能描述為一個特征探測器:大腦記錄刺激的存在,對其加以處理,然后發(fā)送信號來產(chǎn)生行為反應(yīng)。通過特定細(xì)胞的活動來反映真實世界中刺激是否存在。例如,視覺皮層中的一些神經(jīng)元會對視野中物體的邊緣作出反應(yīng),還有的神經(jīng)元的放電則會指示物體的方向、著色或陰影。
但事實證明,這個過程遠(yuǎn)非看上去那么簡單。進(jìn)一步的試驗發(fā)現(xiàn),比如,當(dāng)大腦感知到一條越來越長的線時,即使線沒有消失,針對線的探測神經(jīng)元也會停止放電。事實上,有如此多的信息似乎通過神秘的自上而下的反饋連接來傳遞的,這表明實際上還有其他機(jī)制在發(fā)揮作用。
“如果大腦是一個推理機(jī)器、一個統(tǒng)計機(jī)構(gòu),那么,大腦也會犯下和統(tǒng)計學(xué)家同樣的錯誤?!?/p>
倫敦大學(xué)學(xué)院 Karl Friston
這就是“貝葉斯大腦”(Bayesian brain)發(fā)揮作用的地方了,其總體框架可追溯到19世紀(jì)60年代。該理論提出,大腦會基于內(nèi)部模型對現(xiàn)實世界進(jìn)行概率性推斷,主要是計算關(guān)于如何解釋其感知的“最佳猜測”(這個說法符合貝葉斯統(tǒng)計規(guī)則,該規(guī)則對基于先驗信息得出的事件概率進(jìn)行了量化)。大腦并不是等待感官信息來推動認(rèn)知,而是始終積極地構(gòu)建關(guān)于世界運(yùn)行方式的假設(shè),并用這些假設(shè)來解釋經(jīng)驗并填補(bǔ)缺失的數(shù)據(jù)。根據(jù)一些專家的說法,這就是為什么我們可能會認(rèn)為感知是一種“受控制的幻覺”。
沿著這個理論,貝葉斯大腦也解釋了為什么視幻覺會起作用:例如,兩個點在屏幕上快速交替閃爍,看起來就像一個點來回移動,所以我們的大腦無意識地開始像對待一個目標(biāo)一樣對待它們。理解對象如何移動是一種更高層次的知識,但它從根本上影響了我們的感知方式。大腦只是填補(bǔ)某些信息的空白,來繪制一幅不完全準(zhǔn)確的圖片。在本例中,就是關(guān)于運(yùn)動的信息,
圖示為一個著名的視幻覺,棋盤上的格子A看上去比格子B暗得多。但是,其實二者的灰度是完全相同的。大腦會根據(jù)附近格子的顏色和圓柱體投下的陰影位置,對棋盤的顏色做出推測。在本例中,這種推測會產(chǎn)生格子A和B的顏色不同的觀點,而實際上,二者的顏色是完全相同的。(參考右圖,將A和B連在一起即可,若將圓柱體隱藏,看上去還會更明顯。)
但是,盡管生成模型和期望在大腦功能中發(fā)揮了明確的作用,科學(xué)家還沒有確切地確定這些機(jī)制在神經(jīng)回路級別上是如何發(fā)揮作用的。蘇格蘭愛丁堡大學(xué)的心理哲學(xué)教授Mark Sprevak說:“貝葉斯大腦理論對于根本性的機(jī)制是相對不可知的?!?/p>
輸入預(yù)測編碼理論提供了大腦如何成為“貝葉斯大腦”的特定公式?!邦A(yù)測編碼”這個名字源于一種更有效地傳輸電信信號的技術(shù):由于視頻文件從當(dāng)前幀到下一幀的過程中包含大量冗余,因此在壓縮數(shù)據(jù)時,對每個圖像中的每個像素進(jìn)行編碼是效率低下的。反之,對相鄰幀之間的差異進(jìn)行編碼,然后進(jìn)行反向處理來解釋整個視頻,這樣就更合理。
1982年,科學(xué)家發(fā)現(xiàn)這一理念在神經(jīng)科學(xué)中有一個很好的應(yīng)用,因為它似乎可以解釋視網(wǎng)膜中的神經(jīng)元如何編碼關(guān)于視覺刺激的信息,并將這些信息沿著視神經(jīng)進(jìn)行傳播。該理論也被作為解釋大腦獎勵系統(tǒng)運(yùn)作方式的原理:即多巴胺神經(jīng)元會對預(yù)期獎勵與實際獎勵之間的不匹配度進(jìn)行編碼。研究人員表示,這些預(yù)測錯誤可以幫助動物對未來期望進(jìn)行修正,并推動其決策過程。
盡管如此,科學(xué)家們大多仍將預(yù)測編碼視為特定網(wǎng)絡(luò)的特定過程。不過,功能磁共振成像測試和其他類型的實驗已經(jīng)開始改變這一觀點。
通用框架
預(yù)測編碼假設(shè)如此引人注目,部分原因在于它具備令人難以置信的解釋力?!拔矣X得令人信服的是,在這個理論框架中,有不少事情都得到了解釋,”愛丁堡大學(xué)邏輯和形而上學(xué)教授兼理論專家Andy Clark說。
首先,該框架在單一計算過程中統(tǒng)一了感知和運(yùn)動控制。這兩者基本上相當(dāng)于同一枚硬幣的兩面:無論是感知還是運(yùn)動控制,大腦都以不同的方式將預(yù)測誤差降到了最低。對于感知來說,就是校正了內(nèi)部模型。對于運(yùn)動控制來說,就是實際的環(huán)境。(對于后者,可以想象一下,比如你現(xiàn)在想要舉手,如果這時你的手還沒有舉起來,那么這種差異就會產(chǎn)生很大的預(yù)測錯誤。而你只要把手移動一下,就把預(yù)測錯誤降到了最低。)
迄今為止,在感知和運(yùn)動控制方面的實驗為預(yù)測編碼理論提供了最有力的證據(jù)。例如,在上個月出版的《神經(jīng)科學(xué)期刊》上發(fā)表的一篇論文中,實驗者讓受試者在屏幕上讀“kick”這個詞,然后再讓他們聽失真的錄音朗讀“pick”。許多人將后者聽成了“kick”,功能性核磁共振掃描顯示,大腦對最初的“k”或“p”音表現(xiàn)出最強(qiáng)烈的反應(yīng) ,而這是與預(yù)測錯誤相關(guān)的音。如果大腦只是表現(xiàn)出其感知體驗,那么最強(qiáng)的信號應(yīng)該與“ick”相對應(yīng)(因為它在屏幕上和音頻中都有出現(xiàn))。
不過,有很多人在努力擴(kuò)大預(yù)測編碼的應(yīng)用范圍,將其擴(kuò)展至感知和動作領(lǐng)域之外,視為大腦中正在發(fā)生的一切的統(tǒng)一衡量標(biāo)準(zhǔn)。“這就像擁有可以構(gòu)建不同策略的構(gòu)建模塊一樣,”Clark說。不同的大腦區(qū)域只是對不同類型的預(yù)測進(jìn)行交易。
Friston等人聲稱,這個理論也適用于更高級的認(rèn)知過程,包括注意力和決策。最近關(guān)于前額皮質(zhì)的計算工作表明,工作記憶和目標(biāo)導(dǎo)向行為中也存在預(yù)測編碼機(jī)制。一些研究人員推測,情感和情緒也可以用預(yù)測編碼的術(shù)語來表達(dá):情緒可能是大腦所表現(xiàn)出的用以實現(xiàn)內(nèi)部信號(如體溫,心率或血壓)的預(yù)測誤差最小化的狀態(tài)。比如,如果大腦認(rèn)識到自身的情緒激動,那么也就知道了所有這些因素都在上升。也許這也就是“自我”的概念得以出現(xiàn)的原因。
幾十年來,倫敦大學(xué)學(xué)院的神經(jīng)科學(xué)家Karl Friston一直在完善預(yù)測編碼假設(shè)的關(guān)鍵原則。他認(rèn)為,理論不僅可以解釋感知,還可以解釋更高層次的認(rèn)知過程。
以這種思路取得的大部分成果都集中在預(yù)測編碼對神經(jīng)精神系統(tǒng)和發(fā)育障礙的解釋上。Friston說:“我認(rèn)為,如果大腦是一臺推理機(jī)器,一個統(tǒng)計機(jī)構(gòu)的話,那么它就會犯下和統(tǒng)計學(xué)家們相同的錯誤?!币簿褪钦f,大腦也可能會因為過于重視或過于輕視預(yù)測和預(yù)測錯誤,導(dǎo)致得出錯誤的推論。
比如自閉癥的特征可能就是,無法忽略與大腦的最低處理層級上的感覺信號相關(guān)的預(yù)測誤差。這可能導(dǎo)致對感覺的關(guān)注,對重復(fù)和可預(yù)測性的需求,對某些幻想的敏感以及其他諸多影響。而對于與精神分裂癥等幻覺相關(guān)的疾病來說,情況可能正好相反:大腦可能會過多關(guān)注自身對正在發(fā)生的事情的預(yù)測,而對與這些預(yù)測相矛盾的感官信息關(guān)注不足。(專家們很快就要提醒你,自閉癥和精神分裂癥太復(fù)雜了,不能簡化為一種解釋或機(jī)制。)
耶魯大學(xué)醫(yī)學(xué)院的臨床神經(jīng)科學(xué)家Philip Corlett說:“其中最重要的部分是向我們展示了我們的心理功能是多么脆弱?!?Corlett實驗室的實驗在健康受試者中建立了新的“信念”,鼓勵他們對之前經(jīng)歷的刺激產(chǎn)生幻覺。 (例如,在一項實驗中,科學(xué)家們讓參與者將某個聲音與某個視覺圖像聯(lián)系起來。當(dāng)他們看到圖像時,即使實際上根本沒有聲音,受試者也會繼續(xù)聽到聲音。)研究人員正試圖解開這些看法是如何轉(zhuǎn)化為感知的。通過這些研究,“我們認(rèn)為有證據(jù)表明感知和認(rèn)知并不是那么涇渭分明,”Corlett說。 “新的看法可以通過教學(xué)獲得,可以改變你原來的看法?!?/p>
但當(dāng)時的證據(jù)還沒能證明他的結(jié)論,而現(xiàn)在可以了。
放大細(xì)節(jié) 仔細(xì)觀察
“實驗結(jié)果經(jīng)常表明某個特定結(jié)果與預(yù)測處理理論兼容,但該理論并不是對結(jié)果的最佳解釋,”Sprevak說。預(yù)測處理理論在認(rèn)知科學(xué)中被廣泛接受,但“在系統(tǒng)神經(jīng)科學(xué)領(lǐng)域,它仍然是個弱者?!比鹗扛ダ锏吕锵!み~瑟生物醫(yī)學(xué)研究所的神經(jīng)科學(xué)家Georg Keller說。他的實驗室正試圖用更確鑿的證據(jù)改變這一現(xiàn)狀。
弗里德里?!っ仔獱柹镝t(yī)學(xué)研究所的神經(jīng)科學(xué)家Georg Keller一直致力于揭示預(yù)測編碼假設(shè)的機(jī)制性證據(jù)。
在去年在《神經(jīng)元》期刊上發(fā)表的一項研究中,Keller和他的同事觀察到小鼠視覺系統(tǒng)中神經(jīng)元隨著時間的推移會變得具有預(yù)測性。這個發(fā)現(xiàn)始于一場意外,當(dāng)時他們在視頻游戲中訓(xùn)練老鼠,卻發(fā)現(xiàn)在虛擬世界的方向已經(jīng)亂了。通常在實驗時, 老鼠左轉(zhuǎn)時的視野都會向右側(cè)移動,反之亦然。但有人無意中顛倒了研究人員在研究中使用的虛擬世界的方向,左和右翻轉(zhuǎn)過來了,因此小鼠左轉(zhuǎn)時的視野也向左移動了。研究人員意識到他們可以利用這次事故。他們監(jiān)測了表現(xiàn)出這種視覺流動的大腦信號,結(jié)果發(fā)現(xiàn)隨著小鼠學(xué)習(xí)倒置環(huán)境的規(guī)則,大腦信號也慢慢出現(xiàn)了變化。Keller說:“這些信號看起來像是對向左方向視覺流的預(yù)測?!?/p>
如果信號只是小鼠視覺體驗的感官表現(xiàn),那么這些信號就會立即在虛擬世界中出現(xiàn)翻轉(zhuǎn)。而如果是運(yùn)動信號,則根本不會翻轉(zhuǎn)?!皩嶋H上是識別預(yù)測,” Keller說。 “是對給定運(yùn)動下視覺流的預(yù)測。”
“這項研究提供了一種以前未發(fā)現(xiàn)的證據(jù),”克拉克說。 “這是一個非常局部的,逐單元、逐層的演示,說明預(yù)測編碼模型是目前最合適的模型?!?/p>
“在該系統(tǒng)中發(fā)現(xiàn)預(yù)測錯誤,并找到預(yù)測的具體內(nèi)容是很令人興奮的,”該論文的第一作者、德國哥廷根歐洲神經(jīng)科學(xué)研究所的神經(jīng)科學(xué)家Caspar Schwiedrzik說。
德國馬普經(jīng)驗美學(xué)研究所的研究員Lucia Melloni表示,她的團(tuán)隊逐步發(fā)現(xiàn),這類實驗結(jié)果與目前從人類收集的神經(jīng)元數(shù)據(jù)中的預(yù)測誤差的解釋一致。
尋找更多預(yù)測機(jī)器的競賽
不是每個人都認(rèn)為大腦預(yù)測編碼的理論正越來越強(qiáng)大。一些科學(xué)家同意這個理論可以解釋認(rèn)知的某些方面,但不同意用它來解釋一切想法。也有人甚至連前者都不同意。對于紐約大學(xué)心理學(xué)教授David Heeger來說,重要的是要區(qū)分“預(yù)測編碼”和“預(yù)測處理”,他認(rèn)為前者關(guān)乎信息傳輸?shù)男?,他將后者定義為隨時間的推移而做出的預(yù)測。他說:“目前的文獻(xiàn)中存在很多混淆之處,因為這些東西都被認(rèn)為是同一種湯的一部分。其實并不一定如此,現(xiàn)在的方式也不一定是最佳研究方式?!北热?,其他類型的貝葉斯模型可能在某些情況下可以提供更準(zhǔn)確的大腦功能描述。
然而,該領(lǐng)域的許多專家都認(rèn)為,這項研究有可能激發(fā)機(jī)器學(xué)習(xí)的應(yīng)用。目前,絕大多數(shù)人工智能研究都不涉及預(yù)測編碼,而是關(guān)注其他類型的算法。
但弗里斯頓認(rèn)為,在深度學(xué)習(xí)環(huán)境中制定預(yù)測編碼架構(gòu)可以使機(jī)器更接近智能。
DeepMind的GQN就是發(fā)揮這種潛力的一個很好的例子。去年,蘇塞克斯大學(xué)的研究人員甚至使用虛擬現(xiàn)實和人工智能技術(shù)(其中包括預(yù)測編碼特征),打造了一臺所謂的“幻覺機(jī)器”,這種工具能夠模仿通常由迷幻藥物導(dǎo)致的幻覺狀態(tài)。
通過比較預(yù)測編碼模型與其他技術(shù)的表現(xiàn),機(jī)器學(xué)習(xí)的進(jìn)步可用于提供關(guān)于大腦中發(fā)生的事情的新見解。至少,將預(yù)測編碼引入人工智能系統(tǒng)可以明顯提高這些機(jī)器的智能水平。
但在此之前,我們還有很多工作要做??茖W(xué)家需要繼續(xù)進(jìn)行像Keller、Schwiedrzik等人正在進(jìn)行的研究,格拉斯哥大學(xué)的神經(jīng)生理學(xué)家Lars Muckli表示,預(yù)測性編碼“對于神經(jīng)科學(xué)來說就像是進(jìn)化對生物學(xué)一樣重要”,他對完善該理論做了大量工作。但就目前而言,Sprevak指出,“現(xiàn)有證據(jù)仍然不足以讓我們下定論?!?/p>
-
編碼
+關(guān)注
關(guān)注
6文章
1039瀏覽量
57000 -
人工智能
+關(guān)注
關(guān)注
1817文章
50115瀏覽量
265588
原文標(biāo)題:DeepMind用深度學(xué)習(xí)模仿大腦推理,預(yù)測編碼智能推進(jìn)一大步!
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
基于全局預(yù)測歷史的gshare分支預(yù)測器的實現(xiàn)細(xì)節(jié)
嵌入式處理器動態(tài)分支預(yù)測機(jī)制研究與設(shè)計
人類首創(chuàng)能生成神經(jīng)細(xì)胞的“迷你大腦”,更精確模擬神經(jīng)網(wǎng)絡(luò)!
未來的AI 深挖谷歌 DeepMind 和它背后的技術(shù)
神經(jīng)形態(tài)芯片越來越多地模擬大腦可塑性
BP神經(jīng)網(wǎng)絡(luò)的電路最優(yōu)測試集的生成設(shè)計
網(wǎng)絡(luò)編碼的無線網(wǎng)絡(luò)分布式協(xié)作通信機(jī)制
基于深度自編碼網(wǎng)絡(luò)的安全態(tài)勢要素獲取機(jī)制
基于循環(huán)神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫查詢開銷預(yù)測
鏈路預(yù)測和網(wǎng)絡(luò)編碼的MAC機(jī)制
如何使用注意力機(jī)制進(jìn)行行人軌跡預(yù)測生成模型的詳細(xì)資料說明
DeepMind新推出的“生成查詢網(wǎng)絡(luò)”模仿了大腦的預(yù)測編碼機(jī)制
評論