本文專訪了著名機(jī)器人專家 Hod Lipson，討論如何定義機(jī)器人的自我意識(shí)，為什么機(jī)器人的自我意識(shí)很重要，以及它可能帶來什么。你認(rèn)為 AI 會(huì)有意識(shí)嗎？擁有自我意識(shí)的機(jī)器人離我們還有多遠(yuǎn)？

“我想在有生之年見到一個(gè)外星人，”哥倫比亞大學(xué)創(chuàng)意機(jī)器實(shí)驗(yàn)室的機(jī)器人專家霍德·利普森(Hod Lipson)說：“我想認(rèn)識(shí)一些非人類的智慧生物?！?/p>

但是，Lipson并不是坐等這些外星生物的到來，而是想親自打造它們——以具有自我意識(shí)的機(jī)器的形式。

為了達(dá)到這個(gè)目的，Lipson公開地面對(duì)一個(gè)棘手的概念——意識(shí)——這在他的同事中常常被視為禁忌。他說：“在機(jī)器人和人工智能領(lǐng)域，我們?cè)?jīng)視意識(shí)為禁忌，我們不允許觸及這個(gè)話題?！薄暗谖铱磥?，意識(shí)可以說是一個(gè)懸而未決的大問題，與生命起源和宇宙起源一樣。什么是感知，什么是創(chuàng)造力？什么是情感？我們想知道人之所以為人的意義，我們也想知道如何人為地創(chuàng)造出這些東西。是時(shí)候直面這些問題了。”

根據(jù)Lipson的觀點(diǎn)，感知或自我意識(shí)的基本構(gòu)建塊之一是“自我模擬”(self-simulation)：建立一個(gè)人的身體及其在物理空間中如何運(yùn)動(dòng)的內(nèi)在表征，然后使用該模型來指導(dǎo)行為。早在2006年，Lipson就開始研究人工自模擬(artificial self-simulation)，他設(shè)計(jì)了一個(gè)海星形狀的機(jī)器人，利用進(jìn)化算法(以及一些預(yù)先加載的“物理學(xué)提示”)自學(xué)如何在桌面上向前翻轉(zhuǎn)。但他表示，2012年現(xiàn)代人工智能技術(shù)的興起(包括卷積神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí))“給整個(gè)研究領(lǐng)域帶來了新的活力”。

Lipson團(tuán)隊(duì)開發(fā)的“仿生物細(xì)胞群體機(jī)器人”

參考閱讀：中國(guó)籍博士一作登Nature封面：仿生群體機(jī)器人問世，工程學(xué)重大突破！

在2019年初，Lipson的實(shí)驗(yàn)室開發(fā)了一個(gè)機(jī)器人手臂，它利用深度學(xué)習(xí)完全從零開始生成自己的內(nèi)部自我模型——Lipson形容這個(gè)過程“就像一個(gè)咿呀學(xué)語的嬰兒觀察自己的手”。機(jī)器人的自我模型可以讓它準(zhǔn)確地執(zhí)行兩項(xiàng)不同的任務(wù)——撿起小球并把它們放進(jìn)杯子里，以及用記號(hào)筆寫字——而不需要對(duì)其中任何一項(xiàng)進(jìn)行專門的訓(xùn)練。此外，當(dāng)研究人員通過添加一個(gè)變形部件來模擬機(jī)器人身體受到的損傷時(shí)，機(jī)器人能檢測(cè)到這種變化，并相應(yīng)地更新其自我模型(self-model)，從而能夠恢復(fù)其任務(wù)。

Lipson實(shí)驗(yàn)室開發(fā)的機(jī)器人手臂

這與有深層思考的機(jī)器人相去甚遠(yuǎn)。但Lipson斷言，這種差異只是程度上的一種差異?！爱?dāng)談到自我意識(shí)時(shí)，人們認(rèn)為機(jī)器人會(huì)突然醒來，說，‘你好，我為什么在這里?’”Lipson說?！暗晕乙庾R(shí)并不是黑白分明的。它是從一些非?，嵥榈氖虑殚_始的，比如，‘我的手要往哪里移動(dòng)?’這是同一個(gè)問題，只是時(shí)間跨度更短?！?/p>

Quanta與Lipson討論了如何定義機(jī)器人的自我意識(shí)，為什么機(jī)器人的自我意識(shí)很重要，以及它可能帶來什么。

自我意識(shí)就是自我模擬嗎？

你顯然對(duì)意識(shí)本質(zhì)這個(gè)大問題很感興趣，但你為什么要通過研究機(jī)器人來研究這個(gè)問題？為什么你不當(dāng)哲學(xué)家或神經(jīng)科學(xué)家?

對(duì)我來說，機(jī)器人的好處在于它會(huì)迫使你把你的理解轉(zhuǎn)化為算法和機(jī)械裝置。你不能拐彎抹角，你不能說空話，不能說諸如“現(xiàn)實(shí)的畫布”這類的東西，它們對(duì)不同的人來說有不同的含義，因?yàn)樗鼈兲：耍瑹o法翻譯給機(jī)器。機(jī)器人迫使你關(guān)注具體的東西。

Lipson在哥倫比亞大學(xué)的辦公室

我想做一個(gè)這樣的東西。我不想只是說說而已。哲學(xué)家們，恕我直言，在這個(gè)問題上已經(jīng)有一千年沒有取得什么進(jìn)展了。不是因?yàn)槿狈εd趣，也不是因?yàn)槿狈β斆鞯娜恕陨隙碌匮芯恳庾R(shí)這個(gè)問題太難了。神經(jīng)科學(xué)家已經(jīng)用一種更為定量的方法來研究這個(gè)問題。不過，我認(rèn)為，他們采取的仍然是自上而下的方式，這阻礙了他們?nèi)〉眠M(jìn)展。

如果你想了解意識(shí)，為什么要從最復(fù)雜的意識(shí)開始——為什么要從人類開始？這就像走上坡路，這是最困難的開始方式。讓我們來看看可能更容易理解的更簡(jiǎn)單的系統(tǒng)。這就是我們要做的事情：我們觀察了一些非常瑣碎的東西，一個(gè)有四個(gè)自由度的機(jī)器人，并試圖回答，“我們能讓這個(gè)東西自我模擬嗎?”

自我模擬和自我意識(shí)是一回事嗎?

一個(gè)能夠自我模擬的系統(tǒng)在某種程度上是具有自我意識(shí)的。它能在多大程度上模擬自己——模擬的逼真程度，模擬的時(shí)間范圍——所有這些不同的因素都影響到它有多少自我意識(shí)。這是一個(gè)基本假設(shè)。

所以，你把“自我意識(shí)”這個(gè)術(shù)語簡(jiǎn)化為一個(gè)關(guān)于自我模擬的更為技術(shù)性的定義——在空間中為自己的身體構(gòu)建一個(gè)虛擬模型的能力？

是的，我們有不同的定義，我們使用的定義是非常具體的。這個(gè)定義是數(shù)學(xué)的，你可以測(cè)量它，你也可以量化它，可以計(jì)算誤差的程度。哲學(xué)家可能會(huì)說，“這不是我們看待自我意識(shí)的方式。”然后他們的討論通常會(huì)變得非常模糊。你可以說我們的定義并不是真正的自我意識(shí)。但是我們有一些非?；A(chǔ)的東西，而且很容易量化，我們有一個(gè)基準(zhǔn)(benchmark)?；鶞?zhǔn)是工程師為機(jī)器人提供的傳統(tǒng)手工編碼的自我模型。通過我們的機(jī)器人，我們想看看AI算法能否學(xué)習(xí)一個(gè)與傳統(tǒng)手工編碼模型相同或更好的自我模型。

單個(gè)機(jī)器人(左)只能伸展和收縮，但它們可以作為團(tuán)隊(duì)一起移動(dòng)并完成任務(wù)。這個(gè)機(jī)器人的設(shè)計(jì)旨在探索自我復(fù)制(右)，并可以變形成多種形狀。

為什么需要物理機(jī)器人?為什么不在一個(gè)非實(shí)體系統(tǒng)中研究自我意識(shí)呢?

我們?cè)趯ふ乙粋€(gè)可以模擬自身的封閉系統(tǒng)——要做到這一點(diǎn)，它需要有輸入和輸出，但也必須有一個(gè)邊界，一個(gè)你描繪“自我”的地方。機(jī)器人是符合這些條件的一個(gè)非常自然的存在。它有動(dòng)作，有感覺，并且有邊界，所以可以有事情發(fā)生在它身上，有東西可以讓它模擬。我是機(jī)器人專家，這是我的第一選擇。

這個(gè)機(jī)器人是在完全空白的石板上創(chuàng)建自己的模型嗎?

只是一個(gè)原則問題，我們是從一無所有開始的，我們想看看我們能走多遠(yuǎn)。在之前的例子中(海星形狀的機(jī)器人)，我們?nèi)狈τ?jì)算力。我們必須告訴它，“你不知道你是什么，但讓我告訴你F = ma，以及其他我們知道的正確的物理規(guī)則，你直接拿走這些?！?/p>

人工智能如何對(duì)機(jī)器人的自我意識(shí)起作用？

人工智能是如何發(fā)揮作用的呢?

出于某種原因，我們很高興讓機(jī)器人(使用AI)了解外部世界，但當(dāng)涉及到它們自己時(shí)，出于一些奇怪的原因，我們堅(jiān)持手工編碼模型。所以我們所做的實(shí)際上是相當(dāng)瑣碎的：我們說，“讓我們把人類建造的所有基礎(chǔ)設(shè)施都拿來幫助機(jī)器人了解世界，我們要讓它關(guān)注自己內(nèi)部。”用一句話來說，這就是我們所做的全部。

機(jī)器人進(jìn)行了1000次隨機(jī)移動(dòng)來收集數(shù)據(jù)，為深度學(xué)習(xí)算法創(chuàng)建自我模擬。這就是你所描述的人類嬰兒咿呀學(xué)語的過程嗎?

正是這樣。機(jī)器人四處揮動(dòng)手臂，觀察它的指尖在哪里。想象一下，你自己揮動(dòng)你的手臂，看著你的指尖。這就是你的輸入和輸出。這個(gè)機(jī)器人在那里移動(dòng)了30多個(gè)小時(shí)，一旦我們收集到所有數(shù)據(jù)，我們就可以回家了。從那以后，這就純粹是一個(gè)計(jì)算上的挑戰(zhàn)(學(xué)習(xí)自我模型)。

我們所做的是打破機(jī)器人(通過添加一個(gè)變形的部分)，然后再做一次。我們看到壞掉的機(jī)器人是如何從完整的模型開始并修正它的。第二次學(xué)習(xí)時(shí)，它不需要從頭開始學(xué)習(xí)。有一個(gè)重新開始的時(shí)期，但比最初需要的要少得多——只需原來的10%。

但在它重新開始之前，它需要知道出了什么問題。這是一個(gè)非常強(qiáng)大的東西。它怎么知道？假如你有一個(gè)自我模型，出了問題，你馬上就會(huì)知道，因?yàn)槿绻惚犻_眼睛，你會(huì)發(fā)現(xiàn)你的手不在它應(yīng)該在的地方了。你想要的點(diǎn)本來在4厘米內(nèi)，但是它突然變成了16厘米遠(yuǎn)。你會(huì)立即得到反饋。所以機(jī)器人馬上就知道出了問題。然后需要一段時(shí)間來弄清楚如何修補(bǔ)，但我認(rèn)為，即使僅是知道出現(xiàn)問題了，也是非常重要的。

這些畫是由一個(gè)機(jī)器人創(chuàng)作的，它被訓(xùn)練使用人工智能來畫畫。

機(jī)器人為什么應(yīng)該擁有自我意識(shí)？

這種自我模型是否類似于人類大腦的一部分，類似于身體的內(nèi)部地圖?

我想就是這樣。這就是為什么它如此粗糙，并且如此簡(jiǎn)單。事實(shí)上，我們的機(jī)器人只有一個(gè)四個(gè)自由度的手臂。如果它是一個(gè)擁有800個(gè)自由度的人形機(jī)器人，對(duì)于我們今天所擁有的人工智能而言，可能太過復(fù)雜了。

如果這真的是一種自我意識(shí)的形式，那么機(jī)器人為什么應(yīng)該擁有它？它有什么用?

它使機(jī)器人最終更具彈性。你可以手動(dòng)建模一個(gè)機(jī)器人，就像我們今天所做的一樣，但那是非常費(fèi)力的，而且很慢。當(dāng)現(xiàn)實(shí)世界中的機(jī)器人變形或損壞時(shí)，比如輪子掉下來或馬達(dá)減速了，那么模型就會(huì)突然出錯(cuò)。比如考慮一下無人駕駛汽車，你會(huì)發(fā)現(xiàn)我們已經(jīng)可以把我們的生活托付給自動(dòng)機(jī)器人了。這是很嚴(yán)肅的事情。你會(huì)想讓這些機(jī)器人能夠檢測(cè)到出了什么問題，并且能夠可靠地做到這一點(diǎn)。

另一個(gè)原因是靈活性。假設(shè)機(jī)器人執(zhí)行一項(xiàng)任務(wù)，當(dāng)它做這個(gè)任務(wù)時(shí)，它會(huì)不斷地更新它的自我模型?，F(xiàn)在，如果它需要做一項(xiàng)新的任務(wù)——比如它需要把一個(gè)螺絲放到不同的地方，或者它需要噴涂而不是擰入螺絲——它可以使用相同的自我模型來學(xué)習(xí)和規(guī)劃如何去做這項(xiàng)新任務(wù)。從外部看，它就像我們所說的“zero-shot learning”，這似乎就是人類做事的方式。假如你看到一棵你從未爬過的樹，你也可以毫無障礙地爬上這棵樹。當(dāng)機(jī)器人可以自我建模時(shí)，它可以像人類那樣在內(nèi)部學(xué)習(xí)：你看不到它已經(jīng)在自己的內(nèi)部模擬中訓(xùn)練了多少個(gè)小時(shí)。你所能看到的只是它完成了一項(xiàng)任務(wù)，然后它在那里呆了一會(huì)兒，突然間它可以不用嘗試就能執(zhí)行一項(xiàng)新的任務(wù)了。

一個(gè)能夠自我模擬自己的身體的機(jī)器人和一個(gè)能夠擁有內(nèi)部“思想”(聽起來更像是“自我意識(shí)”的非正式含義)的機(jī)器人之間，有什么聯(lián)系?

我們正在做的其他一些項(xiàng)目與自我建模有關(guān)，但模擬的不是身體，而是認(rèn)知過程。我們正在朝著這兩個(gè)方向邁出一小步。相信這最終會(huì)達(dá)到人類層面的認(rèn)知水平，甚至更高，這完全是一種信念的飛躍。

所以你假設(shè)這兩條路徑——自我模擬身體，和自我模擬大腦——會(huì)交匯在一起?

完全正確。我認(rèn)為這都是一回事。這就是我們的假設(shè)，讓我們來看看我們將能夠推進(jìn)到多遠(yuǎn)。