深度學習是一個很大的領(lǐng)域，其核心是一個神經(jīng)網(wǎng)絡(luò)的算法，神經(jīng)網(wǎng)絡(luò)的尺寸由數(shù)百萬甚至數(shù)十億個不斷改變的參數(shù)決定。似乎每隔幾天就有大量的新方法提出。

然而，一般來說，現(xiàn)在的深度學習算法可以分為三個基礎(chǔ)的學習范式。每一種學習方法和信念都為提高當前深度學習的能力和范圍提供了巨大的潛力和興趣。

混合學習-現(xiàn)代深度學習方法如何跨越有監(jiān)督和無監(jiān)督學習的界限，以適應(yīng)大量未使用的未標記數(shù)據(jù)？

成分學習-如何采用一種創(chuàng)新的方法將不同的組件鏈接起來生成一個混合的模型，這個模型的效果比各個部分簡單的加和效果要好？

簡化學習-如何在保持相同或規(guī)模的預(yù)測能力的同時，減少模型的大小和信息流，以達到性能和部署的目的？

深度學習的未來主要在于這三種學習范式，每一種都緊密鏈接。

近日，由英、意，瑞三國聯(lián)合創(chuàng)建的一個混合神經(jīng)網(wǎng)絡(luò)誕生了，其特殊之處在于使用互聯(lián)網(wǎng)將信號從生物神經(jīng)元傳輸?shù)饺斯ど窠?jīng)元。這可謂是神經(jīng)電子連接技術(shù)研究上的一重大突破，未來有望在我們的大腦與互聯(lián)網(wǎng)之間建立起連接，實現(xiàn)大腦可以與數(shù)據(jù)實時交互。當然，這一概念從科學研究到實踐運用還需要長時間的探索，不如先從本周英國南安普敦大學發(fā)表的科學研究來一窺混合神經(jīng)網(wǎng)絡(luò)背后的原理。

該研究是從老鼠身上培養(yǎng)的生物神經(jīng)元，并可以通過一種類似生物突觸的元件將信息傳遞給人工神經(jīng)元，反之亦然。這項研究的所有三個要素：人工神經(jīng)元、生物神經(jīng)元和突觸部分位于世界的不同地方，通過互聯(lián)網(wǎng)連接起來。

在自然界，大腦通過一個龐大的神經(jīng)元網(wǎng)絡(luò)來運作，神經(jīng)元通過電信號將信息發(fā)送到其他神經(jīng)元，這些信號被單獨稱為“動作電位”（action potential）。神經(jīng)元之間相接觸的部位（這種信號在上面?zhèn)鬏敚┟麨橥挥|。神經(jīng)元只能沿一個方向發(fā)送信息。信號將通過一個神經(jīng)元傳送到輸出端。信息通過突觸傳輸，刺激接收端的下一個神經(jīng)元，依此類推。

生物神經(jīng)元是從大鼠身上培養(yǎng)的，精心組織后植入到了蘇黎世大學和蘇黎世聯(lián)邦理工學院的一個電極陣列上。借助精巧完善的實驗室技術(shù)，可以發(fā)送來自這些神經(jīng)元的電信號，并接收捕獲的信號。

人工神經(jīng)元是在意大利帕多瓦大學研發(fā)的，被排列在硅微芯片上。就像生物神經(jīng)元一樣，人工神經(jīng)元能夠發(fā)送并接收可以讀取和測量的信號。在南安普敦大學，科學家們使用了憶阻器（能夠傳遞電荷的微型電路部件）來制造物理器件，這種器件的作用是將信息從生物神經(jīng)元傳遞到人工神經(jīng)元，反之亦然。因而得到的人工突觸被稱為synpator。由于神經(jīng)元之間輸入和輸出的差異，構(gòu)造了兩個單獨的人工突觸來完成電路，一個代表大腦到硅片，另一個代表硅片到大腦。這兩個人工突觸中使用的尖端納米技術(shù)方面的細微差異導(dǎo)致了一條單向電路。從這個意義上說，該系統(tǒng)模仿大腦，信息只能沿一個方向通過其各自的系統(tǒng)來傳輸。

創(chuàng)建混合神經(jīng)網(wǎng)絡(luò)的未來

由于需要揭露人類思維的奧秘，因此我的哲學基礎(chǔ)促使我在技術(shù)，技術(shù)之前接受了心理分析，心理學和神經(jīng)科學方面的培訓。我致力于研究人類的思想，而沒有忽視作為硬件和計算開發(fā)人員多年的技術(shù)技能。

對我來說，人類是如此強大，以至于他從一開始就具有克服自己的能力和利用技術(shù)的優(yōu)勢。火的發(fā)現(xiàn)，砂輪，用于制造工具的材料的處理是技術(shù)進步，與我們今天開發(fā)的技術(shù)一樣重要。顯然，我們必須將每個人都定位在他的時代，但是全人類的進步和成功故事的規(guī)模是毋庸置疑的。

這些進步之一已經(jīng)在科學環(huán)境中應(yīng)用了不到一年，并且涉及到混合神經(jīng)網(wǎng)絡(luò)的創(chuàng)建。

我們認為腦功能是可能的，因為神經(jīng)元回路是通過微觀但高度復(fù)雜的連接（稱為突觸）發(fā)生的。

在這個新概念中，科學家能夠創(chuàng)建一個混合神經(jīng)網(wǎng)絡(luò)，位于世界各地的生物和人工神經(jīng)元可以通過Internet相互通信。使用尖端的納米技術(shù)開發(fā)出人工突觸的核心之后，這種交流才成為可能。

這個復(fù)雜的項目是在不同的歐洲國家開發(fā)的，每個項目分別負責該項目的不同部分。

該研究分為幾個部分。意大利是負責培養(yǎng)嚙齒動物神經(jīng)元的國家，而瑞士則負責創(chuàng)建人工神經(jīng)元。另一方面，在英國，正在開發(fā)它們之間進行通信的過程，通過對發(fā)達的納米電子突觸進行精細控制的配置來構(gòu)成虛擬實驗室。

盡管這是一個初期且簡化的過程，但對于科學來說是巨大的進步。在這個項目中，有可能通過互聯(lián)網(wǎng)將信息從生物神經(jīng)元傳輸?shù)饺斯ど窠?jīng)元，也可以反向傳輸。

這些第一步是神經(jīng)電子互聯(lián)網(wǎng)發(fā)展的關(guān)鍵?，F(xiàn)在，研究人員預(yù)計，他們的方法將激發(fā)人們對一系列科學學科的興趣，并加快神經(jīng)接口研究領(lǐng)域的創(chuàng)新和科學進步的步伐。尤其是，無縫鏈接全球不同技術(shù)的能力是邁向這些技術(shù)民主化的一步，從而消除了協(xié)作的重要障礙。

另一方面，它為更復(fù)雜的混合網(wǎng)絡(luò)的研究打開了大門，該網(wǎng)絡(luò)可用于人類，以彌補某些缺陷，即為交換大腦和計算機之間的相互作用創(chuàng)造平臺。腦部功能失調(diào)。由AI芯片生成復(fù)雜的混合神經(jīng)網(wǎng)絡(luò)。顯然，鑒于研究的現(xiàn)狀，這將是一個有點未來主義的全景圖，但是到目前為止所取得的成就開辟了一系列可能性。

（雷鋒網(wǎng)，上海市大數(shù)據(jù)股份，互聯(lián)網(wǎng)分析沙龍網(wǎng)綜合整理）

責任編輯：lq