深度學(xué)習(xí)是一個(gè)很大的領(lǐng)域，其核心是一個(gè)神經(jīng)網(wǎng)絡(luò)的算法，神經(jīng)網(wǎng)絡(luò)的尺寸由數(shù)百萬(wàn)甚至數(shù)十億個(gè)不斷改變的參數(shù)決定。似乎每隔幾天就有大量的新方法提出。

然而，一般來(lái)說(shuō)，現(xiàn)在的深度學(xué)習(xí)算法可以分為三個(gè)基礎(chǔ)的學(xué)習(xí)范式。每一種學(xué)習(xí)方法和信念都為提高當(dāng)前深度學(xué)習(xí)的能力和范圍提供了巨大的潛力和興趣。

混合學(xué)習(xí)-現(xiàn)代深度學(xué)習(xí)方法如何跨越有監(jiān)督和無(wú)監(jiān)督學(xué)習(xí)的界限，以適應(yīng)大量未使用的未標(biāo)記數(shù)據(jù)？

成分學(xué)習(xí)-如何采用一種創(chuàng)新的方法將不同的組件鏈接起來(lái)生成一個(gè)混合的模型，這個(gè)模型的效果比各個(gè)部分簡(jiǎn)單的加和效果要好？

簡(jiǎn)化學(xué)習(xí)-如何在保持相同或規(guī)模的預(yù)測(cè)能力的同時(shí)，減少模型的大小和信息流，以達(dá)到性能和部署的目的？

深度學(xué)習(xí)的未來(lái)主要在于這三種學(xué)習(xí)范式，每一種都緊密鏈接。

近日，由英、意，瑞三國(guó)聯(lián)合創(chuàng)建的一個(gè)混合神經(jīng)網(wǎng)絡(luò)誕生了，其特殊之處在于使用互聯(lián)網(wǎng)將信號(hào)從生物神經(jīng)元傳輸?shù)饺斯ど窠?jīng)元。這可謂是神經(jīng)電子連接技術(shù)研究上的一重大突破，未來(lái)有望在我們的大腦與互聯(lián)網(wǎng)之間建立起連接，實(shí)現(xiàn)大腦可以與數(shù)據(jù)實(shí)時(shí)交互。當(dāng)然，這一概念從科學(xué)研究到實(shí)踐運(yùn)用還需要長(zhǎng)時(shí)間的探索，不如先從本周英國(guó)南安普敦大學(xué)發(fā)表的科學(xué)研究來(lái)一窺混合神經(jīng)網(wǎng)絡(luò)背后的原理。

該研究是從老鼠身上培養(yǎng)的生物神經(jīng)元，并可以通過(guò)一種類(lèi)似生物突觸的元件將信息傳遞給人工神經(jīng)元，反之亦然。這項(xiàng)研究的所有三個(gè)要素：人工神經(jīng)元、生物神經(jīng)元和突觸部分位于世界的不同地方，通過(guò)互聯(lián)網(wǎng)連接起來(lái)。

在自然界，大腦通過(guò)一個(gè)龐大的神經(jīng)元網(wǎng)絡(luò)來(lái)運(yùn)作，神經(jīng)元通過(guò)電信號(hào)將信息發(fā)送到其他神經(jīng)元，這些信號(hào)被單獨(dú)稱(chēng)為“動(dòng)作電位”（action potential）。神經(jīng)元之間相接觸的部位（這種信號(hào)在上面?zhèn)鬏敚┟麨橥挥|。神經(jīng)元只能沿一個(gè)方向發(fā)送信息。信號(hào)將通過(guò)一個(gè)神經(jīng)元傳送到輸出端。信息通過(guò)突觸傳輸，刺激接收端的下一個(gè)神經(jīng)元，依此類(lèi)推。

生物神經(jīng)元是從大鼠身上培養(yǎng)的，精心組織后植入到了蘇黎世大學(xué)和蘇黎世聯(lián)邦理工學(xué)院的一個(gè)電極陣列上。借助精巧完善的實(shí)驗(yàn)室技術(shù)，可以發(fā)送來(lái)自這些神經(jīng)元的電信號(hào)，并接收捕獲的信號(hào)。

人工神經(jīng)元是在意大利帕多瓦大學(xué)研發(fā)的，被排列在硅微芯片上。就像生物神經(jīng)元一樣，人工神經(jīng)元能夠發(fā)送并接收可以讀取和測(cè)量的信號(hào)。在南安普敦大學(xué)，科學(xué)家們使用了憶阻器（能夠傳遞電荷的微型電路部件）來(lái)制造物理器件，這種器件的作用是將信息從生物神經(jīng)元傳遞到人工神經(jīng)元，反之亦然。因而得到的人工突觸被稱(chēng)為synpator。由于神經(jīng)元之間輸入和輸出的差異，構(gòu)造了兩個(gè)單獨(dú)的人工突觸來(lái)完成電路，一個(gè)代表大腦到硅片，另一個(gè)代表硅片到大腦。這兩個(gè)人工突觸中使用的尖端納米技術(shù)方面的細(xì)微差異導(dǎo)致了一條單向電路。從這個(gè)意義上說(shuō)，該系統(tǒng)模仿大腦，信息只能沿一個(gè)方向通過(guò)其各自的系統(tǒng)來(lái)傳輸。

創(chuàng)建混合神經(jīng)網(wǎng)絡(luò)的未來(lái)

由于需要揭露人類(lèi)思維的奧秘，因此我的哲學(xué)基礎(chǔ)促使我在技術(shù)，技術(shù)之前接受了心理分析，心理學(xué)和神經(jīng)科學(xué)方面的培訓(xùn)。我致力于研究人類(lèi)的思想，而沒(méi)有忽視作為硬件和計(jì)算開(kāi)發(fā)人員多年的技術(shù)技能。

對(duì)我來(lái)說(shuō)，人類(lèi)是如此強(qiáng)大，以至于他從一開(kāi)始就具有克服自己的能力和利用技術(shù)的優(yōu)勢(shì)?；鸬陌l(fā)現(xiàn)，砂輪，用于制造工具的材料的處理是技術(shù)進(jìn)步，與我們今天開(kāi)發(fā)的技術(shù)一樣重要。顯然，我們必須將每個(gè)人都定位在他的時(shí)代，但是全人類(lèi)的進(jìn)步和成功故事的規(guī)模是毋庸置疑的。

這些進(jìn)步之一已經(jīng)在科學(xué)環(huán)境中應(yīng)用了不到一年，并且涉及到混合神經(jīng)網(wǎng)絡(luò)的創(chuàng)建。

我們認(rèn)為腦功能是可能的，因?yàn)樯窠?jīng)元回路是通過(guò)微觀但高度復(fù)雜的連接（稱(chēng)為突觸）發(fā)生的。

在這個(gè)新概念中，科學(xué)家能夠創(chuàng)建一個(gè)混合神經(jīng)網(wǎng)絡(luò)，位于世界各地的生物和人工神經(jīng)元可以通過(guò)Internet相互通信。使用尖端的納米技術(shù)開(kāi)發(fā)出人工突觸的核心之后，這種交流才成為可能。

這個(gè)復(fù)雜的項(xiàng)目是在不同的歐洲國(guó)家開(kāi)發(fā)的，每個(gè)項(xiàng)目分別負(fù)責(zé)該項(xiàng)目的不同部分。

該研究分為幾個(gè)部分。意大利是負(fù)責(zé)培養(yǎng)嚙齒動(dòng)物神經(jīng)元的國(guó)家，而瑞士則負(fù)責(zé)創(chuàng)建人工神經(jīng)元。另一方面，在英國(guó)，正在開(kāi)發(fā)它們之間進(jìn)行通信的過(guò)程，通過(guò)對(duì)發(fā)達(dá)的納米電子突觸進(jìn)行精細(xì)控制的配置來(lái)構(gòu)成虛擬實(shí)驗(yàn)室。

盡管這是一個(gè)初期且簡(jiǎn)化的過(guò)程，但對(duì)于科學(xué)來(lái)說(shuō)是巨大的進(jìn)步。在這個(gè)項(xiàng)目中，有可能通過(guò)互聯(lián)網(wǎng)將信息從生物神經(jīng)元傳輸?shù)饺斯ど窠?jīng)元，也可以反向傳輸。

這些第一步是神經(jīng)電子互聯(lián)網(wǎng)發(fā)展的關(guān)鍵?，F(xiàn)在，研究人員預(yù)計(jì)，他們的方法將激發(fā)人們對(duì)一系列科學(xué)學(xué)科的興趣，并加快神經(jīng)接口研究領(lǐng)域的創(chuàng)新和科學(xué)進(jìn)步的步伐。尤其是，無(wú)縫鏈接全球不同技術(shù)的能力是邁向這些技術(shù)民主化的一步，從而消除了協(xié)作的重要障礙。

另一方面，它為更復(fù)雜的混合網(wǎng)絡(luò)的研究打開(kāi)了大門(mén)，該網(wǎng)絡(luò)可用于人類(lèi)，以彌補(bǔ)某些缺陷，即為交換大腦和計(jì)算機(jī)之間的相互作用創(chuàng)造平臺(tái)。腦部功能失調(diào)。由AI芯片生成復(fù)雜的混合神經(jīng)網(wǎng)絡(luò)。顯然，鑒于研究的現(xiàn)狀，這將是一個(gè)有點(diǎn)未來(lái)主義的全景圖，但是到目前為止所取得的成就開(kāi)辟了一系列可能性。

（雷鋒網(wǎng)，上海市大數(shù)據(jù)股份，互聯(lián)網(wǎng)分析沙龍網(wǎng)綜合整理）

責(zé)任編輯：lq