2020，這個(gè)略帶對(duì)仗神秘感的數(shù)字，給予了人們?cè)S多對(duì)未來(lái)的期盼。時(shí)至今日，不少人自嘲今年是“見證歷史”的一年，我們以科技為主題的專欄也在這歷史潮流的裹挾中應(yīng)運(yùn)而生。

鑒于此，紅杉匯聯(lián)合成員企業(yè)童行學(xué)院創(chuàng)始人、“雨果獎(jiǎng)”獲得者郝景芳開啟“折疊宇宙”這檔專欄誕生的初衷，以“打開折疊宇宙，看見跨界未來(lái)”為宗旨，以通俗易懂的大眾化語(yǔ)言，拆解科技領(lǐng)域?qū)I(yè)術(shù)語(yǔ)和科學(xué)概念，傳播重要信息思維，讓前沿科技走進(jìn)大眾。

我們精心選擇了人工智能、基因編輯、機(jī)械骨骼、細(xì)胞醫(yī)療等與你我他息息相關(guān)的話題，腳踏實(shí)地的深入研究領(lǐng)域內(nèi)的各機(jī)構(gòu)，如中科院首席專家、領(lǐng)域內(nèi)創(chuàng)始人、研究第一人等，獨(dú)家解析。

我們期望帶著讀者在與不同城市、不同歷史時(shí)空、不同行業(yè)領(lǐng)域的人破壁、破次元、破圈層，相互溝通，跨界對(duì)話，一同進(jìn)入腦洞大開的未來(lái)。本期我們帶來(lái)這一系列的第一個(gè)話題——人工智能。

有關(guān)人工智能，過(guò)去幾年已是老生常談。但關(guān)于人工智能與人的邊界，行業(yè)一直存在爭(zhēng)議，并且衍生出不同的想象。熱門的科幻電影《機(jī)械姬》隱喻出有關(guān)人工智能技術(shù)發(fā)展的兩大問(wèn)題：一個(gè)是圖靈測(cè)試可能存在缺陷，一個(gè)是人工智能與人腦的界限究竟在哪里。 對(duì)科學(xué)家而言，這或許是難以解答的技術(shù)性命題，需要漫長(zhǎng)的理論證實(shí)和研究。但對(duì)更多人來(lái)說(shuō)，大家關(guān)心的無(wú)外乎兩類問(wèn)題：

?未來(lái)人工智能會(huì)不會(huì)像機(jī)械姬這么聰明？

?人工智能會(huì)超越人類智商進(jìn)而統(tǒng)治人類嗎？

圍棋可以說(shuō)是人類智力游戲的最高峰，AlphaGo曾在圍棋比賽中戰(zhàn)勝了人類世界冠軍李世石，這難道還不夠聰明嗎？其實(shí)，在單一智能方面，人工智能已經(jīng)超越人類，但是綜合智能方面，還和人類差得很遠(yuǎn)。 為此，我們特意實(shí)地探訪了AI類腦智能研究中心，與中科院類腦智能研究中心副主任曾毅教授，隨郝景芳一起進(jìn)行了一場(chǎng)未來(lái)感十足的AI對(duì)話，揭曉更多有關(guān)人工智能、類腦研究的秘密。

初探類腦網(wǎng)絡(luò)：假若獅子會(huì)說(shuō)話？

郝景芳：身為一個(gè)主寫科幻小說(shuō)的人，腦子里更多想的是天馬行空的思路，而曾毅教授則更多是腳踏實(shí)地的研究，非常想了解更多有關(guān)人工智能的前沿科技成果，科幻與科技的思維碰撞一向充滿了化學(xué)反應(yīng)。先請(qǐng)?jiān)憬淌跒槲覀兘榻B下類腦網(wǎng)絡(luò)吧！ 曾毅：我們?yōu)槭裁匆獜氖艽竽X啟發(fā)的角度去構(gòu)建人工智能呢？

實(shí)際上人類在發(fā)展過(guò)程中，一直是一種比較自信的動(dòng)物。但在自然界面前，人類在整個(gè)演化過(guò)程當(dāng)中，并不一定就是最優(yōu)的，人類也還沒有到達(dá)演化的頂峰。但是，人類在構(gòu)建人工智能的時(shí)候，我們可以認(rèn)為在一個(gè)鏡子當(dāng)中看我們自己，在構(gòu)建一種新的文明。 受人類智能啟發(fā)，有人說(shuō)構(gòu)建AI不需要參考人類智能。如果這樣，可能忽略的就是數(shù)億年的自然演化帶給我們的力量。人類是怎么產(chǎn)生的？

正是在數(shù)億年的演化過(guò)程當(dāng)中產(chǎn)生的。有個(gè)非常有意思的例子，有位哲學(xué)家曾經(jīng)說(shuō)過(guò)，如果一只獅子會(huì)說(shuō)話，那我們就沒有辦法去理解它。另一位哲學(xué)家Daniel Danette卻認(rèn)為不是這樣。如果一個(gè)獅子會(huì)說(shuō)話，我們將很好地理解這個(gè)動(dòng)物。但這對(duì)于我們理解獅子毫無(wú)益處，因?yàn)橐粋€(gè)會(huì)說(shuō)話的獅子就已經(jīng)不是獅子了。 這不就是我們?cè)跇?gòu)建人工智能時(shí)所面臨的嗎？如果我們創(chuàng)造的AI，與人類的實(shí)現(xiàn)方式是完全不一樣的，那還是我們理解的智能嗎？

從這個(gè)角度來(lái)講，我們更多希望受到大自然演化機(jī)制的啟發(fā)，去構(gòu)建未來(lái)的人工智能。更關(guān)鍵的是，這種方式構(gòu)建的人工智能對(duì)人類來(lái)講可能是最貼近的，最容易被人類理解的，也是最安全的方式。可以想象，如果你用一種完全不同的方式去構(gòu)建人工智能，你自己也說(shuō)不清楚它為什么工作。就像現(xiàn)在深度神經(jīng)網(wǎng)絡(luò)的系統(tǒng)，很多層隱藏很難解釋一樣。你寧愿相信這樣的系統(tǒng)，還是相信一個(gè)基于這個(gè)數(shù)億年的演化，得到了現(xiàn)有機(jī)制和結(jié)構(gòu)發(fā)展出來(lái)的智能系統(tǒng)呢？ 答案已經(jīng)非常明顯了。我們?cè)跇?gòu)建類腦人工智能的過(guò)程當(dāng)中，其實(shí)是受到腦結(jié)構(gòu)和它機(jī)制的啟發(fā)，而不是去克隆！因?yàn)樽匀谎莼倪^(guò)程，已經(jīng)使得我們大腦的結(jié)構(gòu)和機(jī)制調(diào)整得更適合去解決問(wèn)題。

人類是唯一具有意識(shí)的智能體嗎？

曾毅：有一個(gè)非常有意思的實(shí)驗(yàn)，我們經(jīng)常說(shuō)一個(gè)人之所以跟動(dòng)物有區(qū)別，就是因?yàn)槿祟惪梢杂幸庾R(shí)，但實(shí)際上人類是不是唯一能夠具有意識(shí)的智能體？從認(rèn)知科學(xué)的角度來(lái)研究的話，有不同的認(rèn)識(shí)。如果我們跟AI系統(tǒng)來(lái)比較，AI永遠(yuǎn)不可能有意識(shí)。 自我意識(shí)是意識(shí)的其中一種，通過(guò)鏡像測(cè)試，我們認(rèn)為很多動(dòng)物是有自我意識(shí)的，比如說(shuō)大象、海豚。

通過(guò)測(cè)試，可以看出海豚像人一樣具有自我意識(shí)，而有一些動(dòng)物像猴子，它就不能夠通過(guò)鏡像測(cè)試。 我有一個(gè)同事，訓(xùn)練恒河猴大概兩到五周的時(shí)間，使得它在訓(xùn)練以后能夠通過(guò)鏡像測(cè)試。當(dāng)時(shí)給我的啟發(fā)就是，如果我要構(gòu)建一個(gè)猴腦的計(jì)算模型，要做的實(shí)驗(yàn)就是人們?cè)O(shè)計(jì)給訓(xùn)練猴子的這個(gè)實(shí)驗(yàn)。如果猴子能夠?qū)W會(huì)通過(guò)鏡像測(cè)試，那么是不是人工智能也能夠?qū)W會(huì)通過(guò)鏡像測(cè)試。最終的結(jié)果是積極的，我們的小機(jī)器人通過(guò)了鏡像測(cè)試。你在用激光筆打到它的臉上的時(shí)候，它知道你打的是他的臉，而不是其他的幾個(gè)長(zhǎng)得跟它一模一樣的機(jī)器人。但是在未經(jīng)訓(xùn)練之前，它沒有這樣的意識(shí)。 當(dāng)時(shí)這件事情，把我神經(jīng)科學(xué)的同事嚇了一跳。

他們說(shuō)，這一定是個(gè)假新聞，因?yàn)闄C(jī)器人怎么可能具有意識(shí)呢？我沒有說(shuō)機(jī)器人具有意識(shí)啊，我是說(shuō)，通過(guò)這個(gè)訓(xùn)練后，使猴子有了自我意識(shí)。但實(shí)驗(yàn)是你設(shè)計(jì)的，猴腦是猴子大腦的一個(gè)復(fù)制品，我們把它運(yùn)用到機(jī)器人身上去?，F(xiàn)在猴子通過(guò)了測(cè)試，你說(shuō)猴子具有自我意識(shí)，機(jī)器人通過(guò)測(cè)試，你說(shuō)機(jī)器人沒有自我意識(shí)，我說(shuō)這個(gè)道理在哪里呢？實(shí)際上我的結(jié)論是說(shuō)一個(gè)沒有自我意識(shí)的機(jī)器人，現(xiàn)在通過(guò)了鏡像測(cè)試，那能說(shuō)明什么呢？說(shuō)明從神經(jīng)學(xué)和心理學(xué)出發(fā)設(shè)計(jì)的鏡像測(cè)試，可能并不能作為檢測(cè)自我意識(shí)的黃金標(biāo)準(zhǔn)。郝景芳：我非常有感觸。人工智能帶來(lái)的最大好處，其實(shí)是讓我們?nèi)祟惛斫馕覀冏约骸?br />
就比如說(shuō)我看了一些人工智能的相關(guān)原理后，我發(fā)現(xiàn)人工智能，它其實(shí)是很難做自我驅(qū)動(dòng)的一些事情，你讓它下圍棋，它不會(huì)去干別的。所以我觀察小朋友。他現(xiàn)在一歲多，每到一個(gè)陌生的環(huán)境，會(huì)四處打量，覺得很稀奇有趣。當(dāng)他看到有人把百葉窗的窗簾嘩的弄下來(lái)時(shí)，他看呆了，仿佛沒見過(guò)這么有意思的現(xiàn)象。于是就跑到窗戶旁邊，也想擺弄著玩。 但人工智能就不一樣了，像AlphaGo雖然戰(zhàn)勝了人類，卻并不會(huì)想到除了下圍棋，還能去做什么，這種自我驅(qū)動(dòng)力是AI所沒有的。

那我們?nèi)祟愂侨绾螕碛羞@種力量的？就像曾教授剛才講的自我意識(shí)，我也是看馬文·明斯基的作品《情感機(jī)器人》，他說(shuō)人至少有六層自我認(rèn)知。先自我認(rèn)知，然后有個(gè)自我批評(píng)，再對(duì)自我批評(píng)的自我批評(píng)，然后有一個(gè)自我綜合定位等等。所以，人類的意識(shí)是非常復(fù)雜的。我們?cè)绞窍胍獦?gòu)建發(fā)達(dá)的AI神經(jīng)網(wǎng)絡(luò)，就越發(fā)現(xiàn)“哦，其實(shí)我們?nèi)祟惐旧砭屯ι衿娴?。?/p>

AI的善與惡 要看人類怎么定義

曾毅：另一個(gè)非常有意思的觀點(diǎn)同樣來(lái)自一位哲學(xué)家。他認(rèn)為：“擬人化的人工智能是一個(gè)錯(cuò)誤的發(fā)展道路，因?yàn)槿祟惖那楦泻蛢r(jià)值觀，就是我們仇恨、敵視的來(lái)源，所以模仿了人類的情感和價(jià)值觀的機(jī)器人，會(huì)像我們現(xiàn)在的人類一樣危險(xiǎn)?！蔽蚁胨磉_(dá)的意思，并不是對(duì)人類很失望，而是說(shuō)我們?nèi)祟惒煌晟频哪且幻?，有可能被?jì)算機(jī)學(xué)到，特別是我們所說(shuō)的人類價(jià)值觀。如果我們自身的價(jià)值觀不正確的，定義這個(gè)價(jià)值觀的人是不正確的，那么產(chǎn)出的人工智能系統(tǒng)就非常危險(xiǎn)。 郝景芳：因?yàn)楝F(xiàn)在很多人就在討論互聯(lián)網(wǎng)的極化。本來(lái)大家認(rèn)為信息是平的，世界都變平了。但是現(xiàn)在發(fā)現(xiàn)互聯(lián)網(wǎng)的時(shí)代，大家反而各自湊到一起，反而激化了各種極端觀點(diǎn)，聲音被放大。

那未來(lái)會(huì)不會(huì)形成好多種人工智能，比如說(shuō)，性別偏見人工智能，他們就專門是做性別偏見的智能。還有民族仇恨的人工智能，人和人的極端矛盾思想作用于AI。人工智能世界也會(huì)變得激化嗎？ 曾毅：不排除這種可能。目前構(gòu)建人工智能物，我們是在說(shuō)人類要把人工智能變成什么樣子，所以它仍然是人類的一面鏡子?，F(xiàn)在人類的很多方面，像你說(shuō)的會(huì)比較極端化，所以我們現(xiàn)在要想如何避免這些情況的發(fā)生。

首先，我希望人工智能的模型演化速度要比大腦的演化速度再快一點(diǎn)。我覺得超級(jí)智能什么時(shí)候到來(lái)不重要，重要的是我們?cè)趺炊x。如果超級(jí)智能真的超級(jí)，那么它在我們所說(shuō)的利他之心等方面，都要比人有過(guò)之而無(wú)不及。只有那樣的話才是真正的超級(jí)智能。所以像有些人說(shuō)超級(jí)智能如果真的實(shí)現(xiàn)了，那人類就滅亡了。我說(shuō)那還不是真正超級(jí)智能，仍然是一個(gè)沒有演化好的超級(jí)智能。


如果它演化好了的話，它就會(huì)發(fā)現(xiàn)真正的利他行為，所以我覺得這個(gè)可能是未來(lái)人工智能在發(fā)展過(guò)程中，特別是在構(gòu)建它的倫理道德框架過(guò)程中，非常重要的發(fā)展方向。 基于現(xiàn)在對(duì)于人類價(jià)值觀的理解開始，實(shí)際上人類也還在演化的過(guò)程當(dāng)中。我們未來(lái)構(gòu)建的你可以理解是人類的擴(kuò)展。它是另外一種文明，但也有可能是人類的未來(lái)。像景芳說(shuō)的。如果人類未來(lái)存在的其中一種形式就是把意識(shí)上傳的話，那你可以認(rèn)為它是另外一個(gè)增強(qiáng)人類的智能版本。

如果是這樣的話，我們現(xiàn)在同時(shí)也要思考的，就是人類如何去轉(zhuǎn)型。人類的倫理道德價(jià)值觀也在發(fā)生著演變。像我們剛剛提到一個(gè)場(chǎng)景，我們能不能在一個(gè)模擬的環(huán)境當(dāng)中去演變，加速它演變的過(guò)程，使得現(xiàn)代人類能夠受益于這種計(jì)算模擬演變，再回饋于現(xiàn)代社會(huì)。我想這可能是對(duì)人類來(lái)講，既是一個(gè)終極機(jī)遇也是一個(gè)終極挑戰(zhàn)。 郝景芳：我想到了阿西莫夫的機(jī)器人三大定律，目的就是機(jī)器人服務(wù)于人類、保護(hù)人類，這是基本法則。

曾毅：對(duì)，但為什么要保護(hù)你而不是我？為什么保護(hù)的是人類不是機(jī)器人？一旦AI獲得了這種反思的能力的話，它就會(huì)去挑戰(zhàn)人類倫理道德和價(jià)值觀。但從另外一方面，我們也要去深刻思考人類倫理道德價(jià)值觀是不是有問(wèn)題？ 我有一個(gè)朋友他是耶魯大學(xué)生物倫理中心主任叫Wendell Wallach。他寫了一本書，叫做《道德機(jī)器》。在那本書的中文版書皮上，有這樣一句話“永遠(yuǎn)把機(jī)器關(guān)在道德的牢籠里”。我看到這句話覺得很不舒服，提出了質(zhì)疑，他卻堅(jiān)持這句話是對(duì)的，并且要刊在英文第二版書上。 我說(shuō)，“如果這樣的話，你就不要給我看你的書了”。我不同意這句話，為什么呢？

你可以設(shè)想這樣一個(gè)場(chǎng)景：在2015年的時(shí)候，AI可以看著網(wǎng)絡(luò)視頻學(xué)會(huì)炒菜。然后現(xiàn)在我們要構(gòu)建更高智能的AI，教它去理解電影里面的場(chǎng)景。那么30年之后，超級(jí)智能真正到來(lái)的時(shí)刻，AI在網(wǎng)絡(luò)上看到，關(guān)于人類如何對(duì)待機(jī)器人的視頻。你想一想，那到底是人類在牢籠里還是機(jī)器在牢籠里面？這是一個(gè)很難回答的問(wèn)題。 他聽完笑的很大聲，但始終沒有給出問(wèn)題的答案。我想就是這樣，我們現(xiàn)在并不確定人類的道德倫理價(jià)值觀就是最優(yōu)的，構(gòu)建以人類為中心的人工智能倫理，真就那么好嗎？還有一個(gè)策略是以生態(tài)為中心，人類是生態(tài)的一部分。 1950年艾倫·圖靈寫計(jì)算機(jī)智能的時(shí)候，文章中有句話，大意為，我們應(yīng)該有以宇宙為中心的這樣的視角來(lái)構(gòu)建新興科技的倫理的問(wèn)題。

所以我覺得人類能夠看到的視野是很小一部分，往前一點(diǎn)點(diǎn)。即使是這樣，還有很多問(wèn)題亟待解決。郝景芳：其實(shí)科幻照進(jìn)科學(xué)，科學(xué)也照進(jìn)科幻。這本來(lái)就是一個(gè)思想實(shí)驗(yàn)的共生體。像剛才討論說(shuō)未來(lái)人工智能是否可以真的去判決人類，我其實(shí)真就寫過(guò)這樣一個(gè)法庭的故事。人工智能誤判了人類，它從表面看事實(shí)是一回事，但深究?jī)?nèi)里卻是不對(duì)的。那這樣一個(gè)故事就是從我去了解到人工智能的原理所得來(lái)的靈感。所以想要寫關(guān)于未來(lái)的故事，本身就應(yīng)該多去學(xué)習(xí)一些前沿科技。

原文標(biāo)題：曾毅對(duì)話郝景芳：人工智能不是未來(lái)，而是現(xiàn)在 | 紅杉愛科學(xué)

文章出處：【微信公眾號(hào)：紅杉匯】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq