【導(dǎo)讀】看起來(lái)，繼Gary Marcus之后，LeCun的「一生之?dāng)场箍赡苡忠嗌弦粋€(gè)了！

最近，LSTM之父Jürgen Schmidhuber一言不合又跟LeCun干上了！ 其實(shí)之前稍微熟悉這位暴脾氣大爺?shù)耐瑢W(xué)都知道，特立獨(dú)行的Jürgen Schmidhuber和機(jī)器學(xué)習(xí)社區(qū)的幾位大佬級(jí)人物之間都有過(guò)不愉快。 尤其是當(dāng)「那三個(gè)人」一起拿了個(gè)圖靈獎(jiǎng)，而Schmidhuber卻沒(méi)有之后，這位老爺子就更氣了……

說(shuō)到底Schmidhuber一直認(rèn)為，現(xiàn)在這幾個(gè)ML領(lǐng)軍人物，什么Bengio、Hinton、LeCun，包括「GAN」之父Goodfellow等人，他們的很多所謂「開(kāi)創(chuàng)性成果」都是自己先提出來(lái)的，而這些人在論文中根本就沒(méi)提過(guò)他。

為此，Schmidhuber曾經(jīng)專(zhuān)門(mén)撰文把Bengio、Hinton、LeCun于2015年發(fā)在Nature上的綜述性文章「Deep Learning」一文拿出來(lái)批判過(guò)一番。

主要是說(shuō)這篇文章里的成果，哪些東西是他先提的，哪些東西是別的前輩先提的，反正不是這仨作者先提的。 怎么又吵起來(lái)了？

回到這次事件起因，實(shí)際上是LeCun在9月份發(fā)的一條推文。 內(nèi)容是對(duì)David Chalmers教授提問(wèn)的回答：「在過(guò)去十年中，AI最重要的智力突破（新想法）是什么？」

10月4日，Schmidhuber在他的博客上撰文怒斥：這5個(gè)「best idea」大部分都來(lái)自于我的實(shí)驗(yàn)室，而且提出的時(shí)間要遠(yuǎn)遠(yuǎn)早于「10年」這個(gè)時(shí)間節(jié)點(diǎn)。 文中Schmidhuber詳細(xì)列舉了六大證據(jù)來(lái)支撐自己的論述。

但估計(jì)是因?yàn)榭吹降娜颂?，Schmidhuber又在11月22日發(fā)推，重新把這個(gè)「冷飯」炒了一遍。 然而，相比于上一次還算激烈的爭(zhēng)辯，這回LeCun連理都沒(méi)理……

LSTM之父擺出「六大證據(jù)」

1. 通過(guò)神經(jīng)網(wǎng)絡(luò)（NN）自動(dòng)生成標(biāo)注的「自監(jiān)督學(xué)習(xí)」：至少可以追溯到我1990-91年的工作。 （I） 通過(guò)預(yù)測(cè)編碼在一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）中進(jìn)行自監(jiān)督的目標(biāo)生成，來(lái)學(xué)習(xí)在多個(gè)時(shí)間尺度和抽象層次上壓縮數(shù)據(jù)序列。

在這里，一個(gè)「自動(dòng)機(jī)」RNN學(xué)會(huì)了「預(yù)測(cè)下一個(gè)輸入」的前置任務(wù)，并將傳入數(shù)據(jù)流中的意外觀察作為目標(biāo)發(fā)送給「分塊機(jī)」RNN，后者學(xué)習(xí)更高層次的規(guī)律性，隨后通過(guò)適當(dāng)?shù)挠?xùn)練目標(biāo)將其獲得的預(yù)測(cè)知識(shí)提煉回自動(dòng)機(jī)中。 這大大促進(jìn)了以前無(wú)法解決的序列分類(lèi)的下游深度學(xué)習(xí)任務(wù)。

（II） 通過(guò)GAN類(lèi)型的內(nèi)在動(dòng)機(jī)進(jìn)行自監(jiān)督的標(biāo)注生成，其中一個(gè)世界模型NN學(xué)習(xí)預(yù)測(cè)對(duì)抗性的、標(biāo)注生成的、實(shí)驗(yàn)發(fā)明的控制器NN的行為后果。

此外，我于1990年發(fā)表的論文標(biāo)題中，就已經(jīng)出現(xiàn)了「自監(jiān)督」的說(shuō)法。

但是吧，在更早期（1978年）的論文中，也用到了這個(gè)詞……

2. 「ResNets」：實(shí)際上就是我早期提出的Highway Nets。但LeCun卻認(rèn)為ResNets的智力「不深」，這讓我非常傷心。 在我提出Highway Nets之前，前饋網(wǎng)絡(luò)最多只有幾十層（20-30層），而Highway Nets是第一個(gè)真正的深度前饋神經(jīng)網(wǎng)絡(luò)，有數(shù)百層。

在1990年代，我的LSTM給有監(jiān)督的遞歸NN帶來(lái)了基本無(wú)限的深度。在2000年代，LSTM啟發(fā)的Highway Nets給前饋NN帶來(lái)了深度。 由此帶來(lái)的是，LSTM已經(jīng)成為20世紀(jì)被引用最多的NN，而Highway Nets（ResNet）是21世紀(jì)被引用最多的NN。 可以說(shuō)，它們代表了深度學(xué)習(xí)的精髓，而深度學(xué)習(xí)就是關(guān)于NN的深度。

3. 「門(mén)控-》注意力-》動(dòng)態(tài)連通圖」：至少可以追溯到我的Fast Weight Programmers和1991-93年的Key-Value Memory Networks（其中的「Key-Value」被稱(chēng)為「FROM-TO」）。 1993年，我引入了現(xiàn)在使用的術(shù)語(yǔ)「注意力」。

不過(guò)值得注意的是，NN中的第一個(gè)乘法門(mén)可以追溯到1965年Ivakhnenko & Lapa的深度學(xué)習(xí)機(jī)。 4. 「Differentiable memory」：同樣可以追溯到我的Fast Weight Programmers或1991年的Key-Value Memory Networks。 像傳統(tǒng)計(jì)算機(jī)中那樣分離存儲(chǔ)和控制，但以端到端差分、自適應(yīng)、完全神經(jīng)的方式（而不是以混合方式）。

5. 「置換等變模塊，例如多頭自注意力-》Transformer」：我在1991年發(fā)表了帶有線性化自注意的Transformer。相應(yīng)的「注意力」術(shù)語(yǔ)（internal spotlights of attention）可以追溯到1993年。

6. 「GAN是過(guò)去10年中最好的機(jī)器學(xué)習(xí)理念」 你提到的這個(gè)GAN（2014年）的原理，實(shí)際上是我在1990年以人工智能好奇心的名義提出的。

上一次，還是在幾個(gè)月之前

其實(shí)這已經(jīng)不是Schmidhuber和LeCun之間今年第一次發(fā)生爭(zhēng)執(zhí)了。 在六七月間，兩人就關(guān)于LeCun發(fā)表的一篇「自主機(jī)器智能未來(lái)方向」的展望報(bào)告有來(lái)有回地吵了一番。 6月27日，Yann LeCun發(fā)表了自己積蓄幾年的論文「A Path Towards Autonomous Machine Intelligence」，并稱(chēng)其為「指明AI未來(lái)發(fā)展方向之作」。

這篇論文系統(tǒng)講述了關(guān)于「機(jī)器如何能像動(dòng)物和人類(lèi)一樣學(xué)習(xí)」的問(wèn)題，長(zhǎng)達(dá)60多頁(yè)。 LeCun表示，此文不僅是自己關(guān)于未來(lái)5-10年內(nèi)關(guān)于AI發(fā)展大方向的思考，也是自己未來(lái)幾年打算研究的內(nèi)容，并希望能夠啟發(fā)AI界的更多人來(lái)一起研究。

而Schmidhuber大概提前十幾天就得知這個(gè)消息，并拿到了這篇論文，當(dāng)即就寫(xiě)了一篇文章反駁。 按照Schmidhuber自己在博客上文章的說(shuō)法，當(dāng)時(shí)事情是這樣的： 2022年6月14日，一家科學(xué)媒體發(fā)布消息，說(shuō)LeCun在6月27日要發(fā)布一篇報(bào)告，給我發(fā)了一份報(bào)告的草稿（當(dāng)時(shí)還在保密期），并要求我發(fā)表評(píng)論。 我寫(xiě)了一篇評(píng)論，告訴他們這基本上是我們以前工作的翻版，而LeCun的文章中并沒(méi)有提到。 然而，我的意見(jiàn)被置若罔聞。

實(shí)際上，早在他這篇東西發(fā)表以前，我們就提出了LeCun在這篇文中所謂的「主要原創(chuàng)貢獻(xiàn)」的大部分內(nèi)容，主要有： （1） 「認(rèn)知架構(gòu)，其中所有模塊都是可分的，而且許多模塊是可訓(xùn)練的」（我們?cè)?990年提出）。 （2） 「預(yù)測(cè)世界模型的分層結(jié)構(gòu)，在多個(gè)抽象層次和多個(gè)時(shí)間尺度上學(xué)習(xí)表征」 （我們?cè)?991年提出）。 （3） 「自我監(jiān)督的學(xué)習(xí)范式，產(chǎn)生同時(shí)具有信息性和可預(yù)測(cè)性的表征」（我們的模型自1997年起就用于強(qiáng)化學(xué)習(xí)和世界建模了） （4） 「用于不確定性下的分層規(guī)劃」的預(yù)測(cè)模型，包括基于梯度的神經(jīng)子目標(biāo)生成器（1990年）、抽象概念空間的推理（1997年）、「主要通過(guò)觀察學(xué)習(xí)行動(dòng)」的神經(jīng)網(wǎng)絡(luò)（2015年），以及學(xué)習(xí)思考（2015年），都是我們先提出的。 7月14日，Yann LeCun回應(yīng)，說(shuō)討論要有建設(shè)性，他是這么說(shuō)的：

我不想陷入一場(chǎng)關(guān)于「某個(gè)概念是誰(shuí)發(fā)明的」這種無(wú)謂爭(zhēng)論中，也不想在你的回應(yīng)文章中列出的160個(gè)參考文獻(xiàn)中深究。我認(rèn)為更有建設(shè)性的做法是，指出你認(rèn)為可能包含我列出的4項(xiàng)貢獻(xiàn)中的觀點(diǎn)和方法的4篇出版物。 正如我在論文的開(kāi)頭所說(shuō)，有許多概念已經(jīng)存在了很長(zhǎng)時(shí)間，你和我都不是這些概念的發(fā)明人：比如，可微調(diào)世界模型的概念，可以追溯到早期的優(yōu)化控制工作。 訓(xùn)練世界模型利用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)世界模型的系統(tǒng)識(shí)別，這個(gè)想法可以追溯到80年代末，由Michael Jordan， Bernie Widrow， Robinson & Fallside， Kumpathi Narendra， Paul Werbos進(jìn)行的工作，都比你的工作早。

在我看來(lái)，這個(gè)稻草人式的回答似乎是LeCun在轉(zhuǎn)移話題，對(duì)他的所謂「主要原創(chuàng)貢獻(xiàn)」中貪他人之功的問(wèn)題避而不談。 我在7月14日回復(fù)： 關(guān)于你說(shuō)的「你我都沒(méi)有發(fā)明的東西」：你的論文聲稱(chēng)，用神經(jīng)網(wǎng)絡(luò)進(jìn)行系統(tǒng)識(shí)別可以追溯到20世紀(jì)90年代初。然而，在你的之前的回應(yīng)中，你似乎同意我的觀點(diǎn)：這方面的第一篇論文出現(xiàn)在1980年代。 至于你的「主要原創(chuàng)貢獻(xiàn)」，實(shí)際上都用了我早年間的工作成果。 （一） 關(guān)于你提出的「認(rèn)知架構(gòu)，其中所有模塊都是可分化的，且許多模塊都是可訓(xùn)練的」，「通過(guò)內(nèi)在動(dòng)機(jī)驅(qū)動(dòng)行為」： 我在1990年就提出了用于在線學(xué)習(xí)和規(guī)劃的可分化架構(gòu)，這是第一個(gè)具有 「內(nèi)在動(dòng)機(jī)」的控制器，用以改善世界模型，它既是生成性的，也是對(duì)抗性的；你文中引用的2014年的GAN是這個(gè)模型的一個(gè)衍生版本。 （二）關(guān)于你提出的 「在多個(gè)抽象層次和時(shí)間尺度上學(xué)習(xí)表征的預(yù)測(cè)性世界模型的分層結(jié)構(gòu)」： 這是由我1991年的神經(jīng)歷史壓縮機(jī)實(shí)現(xiàn)的。它使用預(yù)測(cè)編碼，以自監(jiān)督的方式學(xué)習(xí)長(zhǎng)序列數(shù)據(jù)的分層內(nèi)部表征，大大促進(jìn)了下游的學(xué)習(xí)。使用我1991年的神經(jīng)網(wǎng)絡(luò)提煉程序，這些表征可以被折疊成一個(gè)單一的循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）。 （三）關(guān)于你在控制方面的「自監(jiān)督學(xué)習(xí)范式，產(chǎn)生同時(shí)具有信息性和可預(yù)測(cè)性的表征」： 這一點(diǎn)我在1997年提出構(gòu)建的系統(tǒng)中已經(jīng)提出。它不是預(yù)測(cè)未來(lái)輸入的所有細(xì)節(jié)，而是可以提出任意的抽象問(wèn)題，并在你所說(shuō)的「表征空間」中給出可計(jì)算的答案。在這個(gè)系統(tǒng)中，兩個(gè)名為「左腦」和「右腦」的學(xué)習(xí)模型，選擇獎(jiǎng)勵(lì)最大化的對(duì)手進(jìn)行零和博弈，偶爾還會(huì)在這種計(jì)算實(shí)驗(yàn)的結(jié)果上打賭。 （四）關(guān)于你的可用于不確定情況下的分層規(guī)劃預(yù)測(cè)性可微分模型，你的文章里是這么寫(xiě)的： 「一個(gè)尚未回答的問(wèn)題是，配置器如何學(xué)習(xí)將一個(gè)復(fù)雜的任務(wù)分解為一連串可以由智能體單獨(dú)完成的子目標(biāo)。我將把這個(gè)問(wèn)題留給未來(lái)的調(diào)查?！?就別說(shuō)什么未來(lái)了，實(shí)際上我在30多年前就發(fā)表過(guò)這樣的文章： 一個(gè)控制器神經(jīng)網(wǎng)絡(luò)負(fù)責(zé)獲得額外的命令輸入，其形式為（開(kāi)始，目標(biāo)）。一個(gè)評(píng)估器神經(jīng)網(wǎng)絡(luò)負(fù)責(zé)學(xué)習(xí)預(yù)測(cè)從開(kāi)始到目標(biāo)的預(yù)期成本。一個(gè)基于可微調(diào)循環(huán)神經(jīng)網(wǎng)絡(luò)的子目標(biāo)生成器看到了這個(gè)（開(kāi)始，目標(biāo)）的輸入，并使用評(píng)估器神經(jīng)網(wǎng)絡(luò)，通過(guò)梯度下降學(xué)習(xí)一系列成本最小的中間子目標(biāo)。 （五）你還強(qiáng)調(diào)了 「主要通過(guò)觀察來(lái)學(xué)習(xí)行為」的神經(jīng)網(wǎng)絡(luò)。實(shí)際上我們很早就解決了這個(gè)問(wèn)題，比2015年這篇文章，討論了部分可觀察環(huán)境中強(qiáng)化學(xué)習(xí)（RL）的一般問(wèn)題。

世界模型M可能擅長(zhǎng)預(yù)測(cè)一些事情，但對(duì)其他事情不確定?？刂破鰿通過(guò)學(xué)習(xí)通過(guò)自我發(fā)明的問(wèn)題序列（激活模式）來(lái)查詢并解釋答案（更多的激活模式）來(lái)最大化其目標(biāo)函數(shù)。 C可以從學(xué)習(xí)從M中提取任何類(lèi)型的算法信息中獲益，比如用于分層規(guī)劃和推理，利用M中編碼的被動(dòng)觀察等等。

審核編輯 ：李倩