chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

單個(gè)神經(jīng)元不可靠!新研究推翻以往認(rèn)知

mK5P_AItists ? 來(lái)源:YXQ ? 2019-07-09 17:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

一項(xiàng)關(guān)于神經(jīng)元的研究,讓眾人看嗨了。這項(xiàng)研究通過(guò)在小鼠身上做實(shí)驗(yàn),先展示了神經(jīng)元“不靠譜”的一面:單個(gè)神經(jīng)元兩次對(duì)相同視覺(jué)刺激的反應(yīng),竟然是不一樣的。

對(duì)于神經(jīng)元的“不靠譜”性,此前的解釋一直集中在噪音這個(gè)點(diǎn)。

而這項(xiàng)研究卻實(shí)實(shí)在在推翻了此前觀點(diǎn),作者通過(guò)實(shí)驗(yàn)證明了:即使有噪音,神經(jīng)元還是有能力獲取高精度的視覺(jué)編碼。

主導(dǎo)這項(xiàng)研究的小姐姐認(rèn)為,小鼠感知能力的限制不由視覺(jué)皮層的神經(jīng)噪音決定,而是受神經(jīng)解碼過(guò)程的限制。

在這項(xiàng)推特轉(zhuǎn)發(fā)超過(guò)600,點(diǎn)贊超過(guò)2000的研究下,神經(jīng)科學(xué)家和AI科學(xué)家一起興奮,“Pretty Cool”“Awesome”“Great story”等贊美聲此起彼伏。

雖然不是AI界日常討論的人工神經(jīng)網(wǎng)絡(luò),而是自然界中動(dòng)物們身上存在的生物神經(jīng)網(wǎng)絡(luò),兩者并不完全一樣,但動(dòng)物們自身的特征,卻往往是啟發(fā)科學(xué)家們的關(guān)鍵。

高通深度學(xué)習(xí)研究工程師Jakub Tomczak想到,它和AI中的Dropout十分類(lèi)似,像是近似貝葉斯平均。

Dropout,正是指的Geoffrey Hinton等人在2014年提出的防止人工神經(jīng)網(wǎng)絡(luò)過(guò)擬合的正則化技術(shù),現(xiàn)在已經(jīng)成為了谷歌手中的專(zhuān)利。

AI工程師@AIexLaurence表示,就像AI一樣,單個(gè)神經(jīng)元(或者節(jié)點(diǎn))并不表示特定的概念,是由神經(jīng)網(wǎng)絡(luò)中特定的激活模式?jīng)Q定的。

AIexLaurence還認(rèn)為,這項(xiàng)生物學(xué)研究可能會(huì)對(duì)神經(jīng)網(wǎng)絡(luò)權(quán)重的研究有啟發(fā)。

還有人認(rèn)為,在神經(jīng)元自帶不確定性的前提下,大腦依賴(lài)投票/閾值機(jī)制產(chǎn)生的反饋信號(hào)來(lái)判定輸入的感知信息。另外,除了神經(jīng)的原因之外,也可能是動(dòng)物眼睛的微觀結(jié)構(gòu)決定。

能讓搞生物的和搞計(jì)算機(jī)的有同樣的high點(diǎn),這具體是項(xiàng)怎樣的研究?

“不靠譜”的神經(jīng)元

事情,還要從神經(jīng)元說(shuō)起。

對(duì),就是中學(xué)生物里構(gòu)成神經(jīng)網(wǎng)絡(luò)的那個(gè)長(zhǎng)長(zhǎng)的細(xì)胞。

可能不少AI領(lǐng)域的同學(xué)還不知道,在神經(jīng)科學(xué)領(lǐng)域,神經(jīng)元和AI界的擁有不確定性的神經(jīng)網(wǎng)絡(luò)一樣,都是不靠譜的存在。

神經(jīng)元,就像一個(gè)腦洞清奇的少年,即使是同樣的信息呈現(xiàn)在他面前,他每次都會(huì)給出不一樣的反應(yīng)。

究其原因,在于噪聲頻發(fā),影響神經(jīng)編碼。

神經(jīng)編碼,跟計(jì)算機(jī)的編碼不是一回事。由于感覺(jué)信息與其它信息,都是由腦中的生物神經(jīng)網(wǎng)絡(luò)來(lái)承載與呈現(xiàn)的,所以人們認(rèn)為,神經(jīng)元有某種編碼能力,處理你身體感知到的光線、聲音、味道等信息。

也就是說(shuō),神經(jīng)編碼過(guò)程是試圖建立從刺激到反應(yīng)的映射,著眼于理解神經(jīng)元如何對(duì)不同的刺激作出反應(yīng),建立模型來(lái)預(yù)測(cè)神經(jīng)元對(duì)特定刺激的反應(yīng)。

而與之對(duì)應(yīng)的神經(jīng)解碼過(guò)程,研究的是相反方向的映射,也就是從已知的反應(yīng)來(lái)推算外界刺激重建特征。

在這個(gè)過(guò)程中,是一個(gè)“多變”的過(guò)程,但總是被冠以“不靠譜”的評(píng)價(jià)。舉個(gè)例子:

假如你問(wèn)一個(gè)神經(jīng)元這個(gè)直角屏幕的角度是多少,它一開(kāi)始說(shuō)是75度,五分鐘后說(shuō)是10度,每一次你再問(wèn)的時(shí)候都是一個(gè)接近90度的隨機(jī)數(shù)。

再舉個(gè)例子,你在計(jì)算器上輸入3+7,它每次都給出的是不同的答案……

是不是有種熟悉的感覺(jué)?

沒(méi)錯(cuò),什么人工不人工的智能都差不多。

可是,正經(jīng)的計(jì)算設(shè)備不應(yīng)該是這樣的。

這就是讓神經(jīng)科學(xué)家很為難的地方,單個(gè)神經(jīng)元得出的結(jié)論是不可靠的(灰色的點(diǎn)),需要多次測(cè)量來(lái)平均噪聲(圖中黑線)。

那么,一個(gè)神經(jīng)元都這么不靠譜了,一群不靠譜的神經(jīng)元竟然能把動(dòng)物們的神經(jīng)系統(tǒng)構(gòu)建的這么精準(zhǔn),真是個(gè)奇跡。

那么,神經(jīng)元們是怎么做到的呢?

這涉及到信噪比的問(wèn)題。信號(hào)強(qiáng)度和疊加次數(shù)成正比,噪聲強(qiáng)度和疊加次數(shù)的平方根成正比,因此疊加次數(shù)越多,信噪比越高。

有人猜測(cè),也許在我們的大腦中,它的運(yùn)算機(jī)制就是數(shù)百萬(wàn)個(gè)嘈雜神經(jīng)元結(jié)論的平均值,通過(guò)這種方法來(lái)判斷看到的是什么。

可以從幾何的角度解釋這個(gè)問(wèn)題,當(dāng)噪聲與刺激驅(qū)動(dòng)的相同神經(jīng)子空間對(duì)齊時(shí),噪聲只能影響受到刺激部分的編碼。至少,一些神經(jīng)噪聲與刺激子空間正交,所以不會(huì)有什么壞的影響。

但是,這些只是理論猜想,如果真的想靠實(shí)踐算出噪聲對(duì)神經(jīng)編碼的影響,這很難,畢竟只有少量信息限制的噪聲也會(huì)對(duì)神經(jīng)編碼有很大影響。

所以,基于以上推測(cè),我們就大致為這種“明明個(gè)體不靠譜,群體卻很靠譜”的行為歸納出原因:

把每個(gè)神經(jīng)元得出的結(jié)論“神奇組合”一下,得出的平均值,就是最終那個(gè)靠譜的結(jié)果。

現(xiàn)在,做個(gè)實(shí)驗(yàn),解個(gè)碼證明一下吧!

小鼠視力實(shí)驗(yàn)

此前有人做過(guò)對(duì)猴子的解碼,證明拿一小撮神經(jīng)元做實(shí)驗(yàn)和用上所有神經(jīng)元差不多。

在這個(gè)背景下,我們的主角出場(chǎng)了。

一位神經(jīng)科學(xué)家小姐姐Carsen Stringer用小鼠做實(shí)驗(yàn),探究小鼠的感知與單個(gè)神經(jīng)元的關(guān)系。

在這次實(shí)驗(yàn)里,小姐姐和她的團(tuán)隊(duì)沒(méi)有對(duì)猴子下手,而是換了一種動(dòng)物,盯上了小鼠。

研究人員的目標(biāo)是,通過(guò)記錄小鼠20000個(gè)神經(jīng)元的數(shù)量,測(cè)量視覺(jué)刺激定向解碼誤差的下限。

這項(xiàng)實(shí)驗(yàn)的大前提是:如果限制信息噪聲的確有影響,解碼錯(cuò)誤必須漸近于某個(gè)非零值。

具體的給小鼠設(shè)定的挑戰(zhàn)是:

讓小鼠看角度。

基于我們前面已知的“不靠譜”這個(gè)特性,可以預(yù)知,給予小鼠相同的視覺(jué)刺激,神經(jīng)元的每次反應(yīng)完全不同。

研究人員用顯微鏡同時(shí)記錄了約20000個(gè)神經(jīng)元的活動(dòng)。這是一個(gè)部分的隨機(jī)顏色:

然后,使用線性回歸找到每個(gè)神經(jīng)元的權(quán)重,將它們的活動(dòng)組合成“超級(jí)神經(jīng)元”,對(duì)它們的判斷進(jìn)行平均。

這些超級(jí)神經(jīng)元比單個(gè)神經(jīng)元的噪聲要小很多。其實(shí),在95%的實(shí)驗(yàn)中,超級(jí)神經(jīng)元能夠分辨45度和46度之間的微小差異。

一度之差,人類(lèi)都判斷不出來(lái)吧。想象一下,讓一只老鼠分辨出這么微小的差異……另一位研究人員@BenucciLa真的嘗試了,老鼠只能分辨出超過(guò)29度的差異,比神經(jīng)元差100倍。

最終,雖然研究人員們把解碼的誤差做到很低了,但是并沒(méi)有出現(xiàn)期待中漸近的狀況。

也就是說(shuō),視覺(jué)皮層對(duì)老鼠的視覺(jué)特征進(jìn)行了高精確度的編碼,但老鼠依然在辨別方向任務(wù)中完成得很差。

鍋在解碼過(guò)程

于是,研究人員得出結(jié)論,老鼠能接受到的信息,比人類(lèi)大腦能接受的差1000倍。

雖然老鼠不能將這些信息傳遞給人類(lèi),但他們也是可以利用這些信息的。比如,這些信息可以作為一種計(jì)算的第一步。

這也進(jìn)一步說(shuō)明,神經(jīng)信號(hào)和行為之間的差異不能用刺激的類(lèi)型來(lái)解釋?zhuān)瑹o(wú)論是通過(guò)行為狀態(tài)還是反復(fù)試驗(yàn)感知直覺(jué)測(cè)試。

得出結(jié)論,小鼠感官知覺(jué)的局限性不是由感覺(jué)皮層的神經(jīng)噪聲決定的,而是由神經(jīng)元下游的解碼過(guò)程限制。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1817

    文章

    50106

    瀏覽量

    265561
  • 神經(jīng)元
    +關(guān)注

    關(guān)注

    1

    文章

    369

    瀏覽量

    19175

原文標(biāo)題:?jiǎn)蝹€(gè)神經(jīng)元不可靠!這項(xiàng)新研究推翻以往認(rèn)知,感知的最大限制在于解碼過(guò)程

文章出處:【微信號(hào):AItists,微信公眾號(hào):人工智能學(xué)家】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    高速鈣成像

    ,主要致力于研究神經(jīng)遞質(zhì)釋放的調(diào)控機(jī)制,這是大腦中神經(jīng)元之間通訊的基礎(chǔ)。 正如沃爾林斯基教授所解釋的:“神經(jīng)元之間的突觸是健康和疾病中調(diào)制和可塑性的關(guān)鍵位點(diǎn)。因此,詳細(xì)了解在
    的頭像 發(fā)表于 02-25 09:22 ?57次閱讀
    高速鈣成像

    應(yīng)用案例 | 40倍鏡下解析小鼠腦部神經(jīng)元:深視智能sCMOS相機(jī)賦能膜片鉗實(shí)驗(yàn)高效開(kāi)展

    01實(shí)驗(yàn)背景小鼠腦部神經(jīng)元膜片鉗實(shí)驗(yàn)是神經(jīng)科學(xué)領(lǐng)域的關(guān)鍵技術(shù),廣泛應(yīng)用于神經(jīng)系統(tǒng)疾病機(jī)制研究、藥物篩選及神經(jīng)環(huán)路解析等核心方向。該實(shí)驗(yàn)的兩大
    的頭像 發(fā)表于 02-02 08:17 ?293次閱讀
    應(yīng)用案例 | 40倍鏡下解析小鼠腦部<b class='flag-5'>神經(jīng)元</b>:深視智能sCMOS相機(jī)賦能膜片鉗實(shí)驗(yàn)高效開(kāi)展

    神經(jīng)元設(shè)備和腦機(jī)接口有何淵源?

    HUIYING神經(jīng)元設(shè)備的發(fā)展歷程概述神經(jīng)元設(shè)備的發(fā)展經(jīng)歷了從基礎(chǔ)信號(hào)檢測(cè)到多功能智能集成的演進(jìn)過(guò)程。自1920年代腦電圖(EEG)信號(hào)首次被發(fā)現(xiàn)以來(lái),神經(jīng)電極技術(shù)逐步發(fā)展,如1957年出現(xiàn)的鎢微絲
    的頭像 發(fā)表于 11-03 18:03 ?1471次閱讀
    <b class='flag-5'>神經(jīng)元</b>設(shè)備和腦機(jī)接口有何淵源?

    激活函數(shù)ReLU的理解與總結(jié)

    具有很強(qiáng)的處理線性不可分機(jī)制。那么在深度網(wǎng)絡(luò)中,對(duì)非線性的依賴(lài)程度就可以縮一縮。一旦神經(jīng)元神經(jīng)元之間改為線性激活,網(wǎng)絡(luò)的非線性部分僅僅來(lái)自于神經(jīng)元部分選擇性激活。 對(duì)比大腦工作的9
    發(fā)表于 10-31 06:16

    構(gòu)建CNN網(wǎng)絡(luò)模型并優(yōu)化的一般化建議

    ,從而得到對(duì)我們有價(jià)值的識(shí)別信息。但這種迭代性并不是十分必要的,因?yàn)閺膶?shí)踐來(lái)看,即使只有單層網(wǎng)絡(luò)的模型,只要擁有充分?jǐn)?shù)量的神經(jīng)元,也可以獲得較高的準(zhǔn)確率。不過(guò)該種方式的一個(gè)重要缺點(diǎn)就是參數(shù)重多,導(dǎo)致
    發(fā)表于 10-28 08:02

    脈沖神經(jīng)元模型的硬件實(shí)現(xiàn)

    如圖所示展示了LIF神經(jīng)元的膜電勢(shì)Vmem隨時(shí)間戳timestamp動(dòng)態(tài)變化的過(guò)程,當(dāng)接收到輸入脈沖后,LIF神經(jīng)元的膜電勢(shì)值Vmem便會(huì)升高,直至達(dá)到閾值電壓Vthersh,此時(shí)神經(jīng)元產(chǎn)生輸出脈沖
    發(fā)表于 10-24 08:27

    SNN加速器內(nèi)部神經(jīng)元數(shù)據(jù)連接方式

    所謂地址事件表達(dá)(Address Event Representation,AER),是指通過(guò)地址的方式將事件進(jìn)行表達(dá),然后按時(shí)間順序復(fù)用到總線上。已知生物神經(jīng)元產(chǎn)生脈沖的頻率比數(shù)字電路要低很多
    發(fā)表于 10-24 07:34

    液態(tài)神經(jīng)網(wǎng)絡(luò)(LNN):時(shí)間連續(xù)性與動(dòng)態(tài)適應(yīng)性的神經(jīng)網(wǎng)絡(luò)

    神經(jīng)元,但卻能產(chǎn)生復(fù)雜的行為。受此啟發(fā),與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)相比,LNN旨在通過(guò)模擬大腦中神經(jīng)元之間的動(dòng)態(tài)連接來(lái)處理信息,這種網(wǎng)絡(luò)能夠順序處理數(shù)據(jù),并且保留了對(duì)過(guò)去輸
    的頭像 發(fā)表于 09-28 10:03 ?1252次閱讀
    液態(tài)<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)(LNN):時(shí)間連續(xù)性與動(dòng)態(tài)適應(yīng)性的<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+神經(jīng)形態(tài)計(jì)算、類(lèi)腦芯片

    幾年神經(jīng)元計(jì)算及類(lèi)腦芯片的重大進(jìn)展。 一、云端使用的神經(jīng)形態(tài)計(jì)算與類(lèi)腦芯片 神經(jīng)形態(tài)計(jì)算旨在設(shè)計(jì)和構(gòu)建包括硬件和軟件在內(nèi)的計(jì)算機(jī)系統(tǒng),通過(guò)模擬大腦神經(jīng)元和突觸的工作方式,更高效的執(zhí)行
    發(fā)表于 09-17 16:43

    絕對(duì)值光柵編碼器:工業(yè)精密控制的“數(shù)字神經(jīng)元

    的“數(shù)字神經(jīng)元”,正以毫米級(jí)甚至微米級(jí)的定位能力,重新定義精密制造的邊界。 突破傳統(tǒng):從“相對(duì)計(jì)數(shù)”到“絕對(duì)定位”的革命 傳統(tǒng)增量式編碼器通過(guò)脈沖計(jì)數(shù)實(shí)現(xiàn)位置反饋,但存在致命缺陷:斷電后需重新校準(zhǔn)零點(diǎn),抗干擾能力
    的頭像 發(fā)表于 08-19 08:41 ?638次閱讀
    絕對(duì)值光柵編碼器:工業(yè)精密控制的“數(shù)字<b class='flag-5'>神經(jīng)元</b>”

    新一代神經(jīng)擬態(tài)類(lèi)腦計(jì)算機(jī)“悟空”發(fā)布,神經(jīng)元數(shù)量超20億

    電子發(fā)燒友網(wǎng)綜合報(bào)道 8月2日,浙江大學(xué)腦機(jī)智能全國(guó)重點(diǎn)實(shí)驗(yàn)室發(fā)布新一代神經(jīng)擬態(tài)類(lèi)腦計(jì)算機(jī)——Darwin Monkey(中文名“悟空”)。 ? “悟空”堪稱(chēng)國(guó)際首臺(tái)神經(jīng)元規(guī)模超20億、基于專(zhuān)用神經(jīng)
    的頭像 發(fā)表于 08-06 07:57 ?7639次閱讀
    新一代<b class='flag-5'>神經(jīng)</b>擬態(tài)類(lèi)腦計(jì)算機(jī)“悟空”發(fā)布,<b class='flag-5'>神經(jīng)元</b>數(shù)量超20億

    電解電容真的不可靠嗎?

    電容的高故障率是電力電子系統(tǒng)可靠性問(wèn)題的一大來(lái)源,其中電解電容短壽命的特點(diǎn)尤為突出。然而,追求可靠性的本質(zhì)是追求產(chǎn)品全壽命周期成本的最優(yōu),從這一角度出發(fā),可靠性不高的電解電容也許在某些應(yīng)用中更加“
    的頭像 發(fā)表于 07-26 09:14 ?797次閱讀
    電解電容真的<b class='flag-5'>不可靠</b>嗎?

    無(wú)刷直流電機(jī)單神經(jīng)元自適應(yīng)智能控制系統(tǒng)

    摘要:針對(duì)無(wú)刷直流電機(jī)(BLDCM)設(shè)計(jì)了一種可在線學(xué)習(xí)的單神經(jīng)元自適應(yīng)比例-積分-微分(PID)智能控制器,通過(guò)有監(jiān)督的 Hebb學(xué)習(xí)規(guī)則調(diào)整權(quán)值,每次采樣根據(jù)反饋誤差對(duì)神經(jīng)元權(quán)值進(jìn)行調(diào)整,以實(shí)現(xiàn)
    發(fā)表于 06-26 13:36

    無(wú)刷直流電機(jī)單神經(jīng)元PI控制器的設(shè)計(jì)

    摘要:研究了一種基于專(zhuān)家系統(tǒng)的單神經(jīng)元PI控制器,并將其應(yīng)用于無(wú)刷直流電機(jī)調(diào)速系統(tǒng)中。控制器實(shí)現(xiàn)了PI參數(shù)的在線調(diào)整,在具有PID控制器良好動(dòng)態(tài)性能的同時(shí),減少微分項(xiàng)對(duì)系統(tǒng)穩(wěn)態(tài)運(yùn)行時(shí)的影響,并較好
    發(fā)表于 06-26 13:34

    神經(jīng)網(wǎng)絡(luò)RAS在異步電機(jī)轉(zhuǎn)速估計(jì)中的仿真研究

    可靠性,因此無(wú)傳感器矢量控制系統(tǒng)的研究被廣泛重視。眾多學(xué)者對(duì)無(wú)速度傳感器的電動(dòng)機(jī)轉(zhuǎn)速辨識(shí)進(jìn)行了研究,出現(xiàn)了很多方法,模型參考自適應(yīng)系統(tǒng)(Model Reference Adaptive System)在
    發(fā)表于 06-16 21:54