近日,多倫多大學(xué)的教員、谷歌大腦(Google Brain)研究員杰弗里·辛頓(Geoffrey Hinton)發(fā)表了爐邊談話。他討論了神經(jīng)網(wǎng)絡(luò)的起源,以及人工智能有朝一日可能像人類一樣推理的可行性和意義。
辛頓被一些人稱為“人工智能教父”,他在過去30年里一直致力于解決人工智能面臨的一些最大挑戰(zhàn)。除了在機(jī)器學(xué)習(xí)方面的開創(chuàng)性工作以外,他還撰寫以及與他人合作撰寫了200多篇經(jīng)過同行評議的論文,其中包括1986年發(fā)表的一篇關(guān)于機(jī)器學(xué)習(xí)技術(shù)(被稱為反向傳播學(xué)習(xí)算法)的論文。
他普及了深度神經(jīng)網(wǎng)絡(luò)的概念,即包含上述功能的人工智能模型,它們被安排在相互連接的層中,傳輸“信號”并調(diào)整連接的突觸強(qiáng)度(權(quán)重)。通過這種方式,人工智能模型從輸入數(shù)據(jù)中提取特征,并學(xué)習(xí)做出預(yù)測。
辛頓坦言,創(chuàng)新的速度甚至讓他自己都感到驚訝。“在2012年,我沒想到5年以后,我們就能夠使用相同的技術(shù)來在多種語言之間進(jìn)行翻譯?!?/p>
盡管如此,辛頓認(rèn)為目前的人工智能和機(jī)器學(xué)習(xí)方法都有其局限性。他指出,大多數(shù)的計算機(jī)視覺模型都沒有反饋機(jī)制,也就是說,它們不會試圖從更高層級的表征重建數(shù)據(jù)。相反,它們試圖通過改變權(quán)重來有區(qū)別地學(xué)習(xí)特征?!八鼈儾]有在每一層的特征探測器上檢查是否能夠重建下面的數(shù)據(jù)?!毙令D說道。
他和同事們最近轉(zhuǎn)向人類視覺皮層來尋找靈感。
辛頓說,人類的視覺采用了一種重建的方法來學(xué)習(xí),事實證明,計算機(jī)視覺系統(tǒng)中的重建技術(shù)增強(qiáng)了它們對對抗攻擊的抵抗力。
“大腦科學(xué)家都同意這樣的觀點,如果你的大腦皮層有兩個區(qū)域處于感知通路中,并且相互連接,那么總有一個反向通路?!毙令D表示。
需要說明的是,辛頓認(rèn)為,神經(jīng)科學(xué)家需要向人工智能研究人員學(xué)習(xí)很多東西。事實上,他覺得未來的人工智能系統(tǒng)將主要是非監(jiān)督式的。他說,非監(jiān)督式學(xué)習(xí)——機(jī)器學(xué)習(xí)的一個分支,從未標(biāo)記、無法歸類和未分類的測試數(shù)據(jù)中收集知識——在學(xué)習(xí)共性和對潛在的共性做出反應(yīng)的能力方面,幾乎就像人類一般。
“如果你用一個有數(shù)十億個參量的系統(tǒng),在某個目標(biāo)函數(shù)中實施梯度下降,它的效果會比你想象的好得多……規(guī)模越大,效果越好?!彼f,“相比于讓大腦計算某個目標(biāo)函數(shù)的梯度,并根據(jù)梯度更新突觸的強(qiáng)度,這要更加合理。我們只需要弄清楚它是如何得到梯度的以及目標(biāo)函數(shù)是什么?!?/p>
這甚至可能會解開夢的奧秘。“為什么我們根本不記得我們的夢呢?”辛頓反問道。他認(rèn)為這可能與“反學(xué)習(xí)”有關(guān)。
辛頓說,“做夢的意義可能在于,你把整個學(xué)習(xí)過程顛倒過來?!?/p>
在他看來,這些知識可能會完全改變一些領(lǐng)域,比如教育。例如,他預(yù)計,未來的課程將更加個性化,有更強(qiáng)的針對性,將把人類生物化學(xué)過程考慮進(jìn)來。
“你可能會認(rèn)為,如果我們真正了解大腦的運(yùn)轉(zhuǎn)機(jī)制,我們應(yīng)該能夠改善教育等方面的狀況,我認(rèn)為我們會做到的?!毙令D稱,“如果你能最終了解大腦發(fā)生了什么,它是如何學(xué)習(xí)的,而不是沒有去進(jìn)行調(diào)整適應(yīng),取得更好的學(xué)習(xí)效果,那會令人費(fèi)解?!?/p>
他警告說,實現(xiàn)這一點尚需時日。就近期而言,辛頓設(shè)想了智能助手的未來——比如谷歌的Google Assistant或亞馬遜的Alexa——它們可以與用戶互動,并在日常生活中給他們提供各種指導(dǎo)。
“未來幾年,我不確定我們能否從智能助手那里學(xué)到很多東西。但如果你仔細(xì)觀察,你會發(fā)現(xiàn)現(xiàn)在的智能助手相當(dāng)聰明,一旦它們真的能聽懂對話,它們就能和孩子們交談,并對他們進(jìn)行教育?!毙令D總結(jié)道。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4820瀏覽量
106348 -
AI
+關(guān)注
關(guān)注
88文章
37215瀏覽量
292026
原文標(biāo)題:AI教父杰弗里辛頓:AI反學(xué)習(xí)可能揭開人類夢境的奧秘
文章出處:【微信號:smartman163,微信公眾號:網(wǎng)易智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
AI賦能6G與衛(wèi)星通信:開啟智能天網(wǎng)新時代
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學(xué)應(yīng)用
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升算力還是智力
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件
【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》
最新人工智能硬件培訓(xùn)AI基礎(chǔ)入門學(xué)習(xí)課程參考2025版(離線AI語音視覺識別篇)
AI時代:不可替代的“人類+”職業(yè)技能
【「零基礎(chǔ)開發(fā)AI Agent」閱讀體驗】+ 入門篇學(xué)習(xí)
海思SD3403邊緣計算AI數(shù)據(jù)訓(xùn)練概述
《AI Agent 應(yīng)用與項目實戰(zhàn)》----- 學(xué)習(xí)如何開發(fā)視頻應(yīng)用
AI時代 | 未來淘汰你的不是 AI 而是比你更會用 AI 的人
人工智能和機(jī)器學(xué)習(xí)以及Edge AI的概念與應(yīng)用

AI反學(xué)習(xí)或?qū)⒔议_人類夢境的奧秘
評論