常博逸：人工智能將顛覆一切，“人類帝國(guó)的覆滅”源自自滿和懶惰

人工智能的故事始于1955年的達(dá)特茅斯學(xué)院。

那年，29歲的數(shù)學(xué)助理教授約翰·麥卡錫（John McCarthy）邀請(qǐng)全美最杰出的數(shù)學(xué)家參加一個(gè)暑期研討會(huì)。在邀請(qǐng)信中，他首次使用了“人工智能”這個(gè)詞：“既然我們現(xiàn)在已經(jīng)能夠相當(dāng)確切地學(xué)習(xí)機(jī)制以及人類智慧的其他方面，那么我們就應(yīng)該有能力研制出一種可以模擬人類智慧的機(jī)器，賦予這種機(jī)器以語(yǔ)言，使其能夠形成概念和抽象思維，并且能夠解決現(xiàn)在只有人類才有能力處理的問(wèn)題?！贝文晗奶?，研討會(huì)如期舉行——這是歷史上首個(gè)“自發(fā)集結(jié)”的研究計(jì)算機(jī)這門(mén)新興科學(xué)的最前沿科學(xué)家團(tuán)體。

在此后的幾十年間，人工智能的相關(guān)討論陷入沉寂。如果不是因?yàn)槔鋺?zhàn)期間美蘇爭(zhēng)霸集中于原子彈控制權(quán)和空間大戰(zhàn)，人類對(duì)人工智能的開(kāi)發(fā)應(yīng)用可能會(huì)更早出現(xiàn)。參加1956年會(huì)議的這批科學(xué)家，直到2006年才再度齊聚一堂。彼時(shí)，人工智能研究的各個(gè)細(xì)分領(lǐng)域——語(yǔ)言和自動(dòng)翻譯、神經(jīng)網(wǎng)絡(luò)、機(jī)器人學(xué)、圖像識(shí)別、機(jī)器學(xué)習(xí)——均已出現(xiàn)，人工智能的大爆發(fā)即將開(kāi)始。

十多年后的今天，“人工智能帝國(guó)”已經(jīng)在一點(diǎn)一點(diǎn)地添磚加瓦：搜索引擎、購(gòu)物建議、連網(wǎng)設(shè)備、智能手機(jī)、Apps、自動(dòng)駕駛汽車、無(wú)人駕駛飛機(jī)、機(jī)器人、自動(dòng)翻譯、元數(shù)據(jù)分析軟件……從BAT到谷歌、蘋(píng)果、微軟、Uber，每一個(gè)科技巨頭都在大力投資“下一件大事”（the next big thing），那就是人工智能。美國(guó)聊天機(jī)器人（chatbot）專家布魯斯·威爾科克斯（Bruce Wilcox）開(kāi)發(fā)了聊天機(jī)器人露絲（Rose），“她”的人物設(shè)定是一名住在舊金山的31歲女黑客，能夠與人類展開(kāi)真實(shí)有趣的對(duì)話。該項(xiàng)目曾于2014年和2015年兩度獲得洛伯納（Loebner）獎(jiǎng)，該獎(jiǎng)項(xiàng)用于獎(jiǎng)勵(lì)（幾乎）成功通過(guò)圖靈測(cè)試的機(jī)器人。

在可以預(yù)見(jiàn)的未來(lái)，我們將越來(lái)越依賴人工智能來(lái)幫助我們處理生活瑣事，甚至做出重大決定；與此同時(shí)，技術(shù)革新的腳步將越來(lái)越快，直至技術(shù)奇點(diǎn)降臨。當(dāng)像露絲這樣的人工智能機(jī)器人發(fā)展出自己的獨(dú)立意識(shí)，并在各個(gè)領(lǐng)域“架空”人類的決策權(quán)和行動(dòng)時(shí)，我們?cè)撛趺崔k？

在《人類帝國(guó)的覆滅》聯(lián)合作者、國(guó)際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）看來(lái)，隨著技術(shù)奇點(diǎn)的到來(lái)，人類社會(huì)的現(xiàn)有組織形式、商業(yè)形態(tài)、價(jià)值觀和社會(huì)體制將發(fā)生根本性變革。這不是科幻小說(shuō)式的危言聳聽(tīng)，而是切實(shí)存在的風(fēng)險(xiǎn)。他認(rèn)為，雖然我們無(wú)法阻止技術(shù)進(jìn)步，也無(wú)法預(yù)見(jiàn)未來(lái)的真實(shí)情況，但對(duì)人工智能的未來(lái)動(dòng)向和潛在風(fēng)險(xiǎn)保持警惕和持續(xù)探討仍然十分有意義。我們需要警惕，一個(gè)由人工智能構(gòu)建的標(biāo)準(zhǔn)化、穩(wěn)定、冷靜的世界將維護(hù)一小部分人的利益，損害所有其他人的利益。人類與機(jī)器的合理關(guān)系，是“不要讓機(jī)器人做你自己能做的事”，唯有如此，我們才能避免“人類帝國(guó)的覆滅”。

《人類帝國(guó)的覆滅》聯(lián)合作者、國(guó)際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）真實(shí)的預(yù)言：“終有一天，奇點(diǎn)將像生物進(jìn)化一樣降臨某處”

“這是關(guān)于一門(mén)科學(xué)的故事，它就是人工智能……我想講述從1956年（這是史學(xué)家公認(rèn)的、智能機(jī)器研究的漫長(zhǎng)冒險(xiǎn)旅程開(kāi)始的年份）到2040年人類和人工智能之間這種奇特關(guān)系的歷史……從源起一直發(fā)展到臻于完善，我是每一個(gè)階段的見(jiàn)證者，因?yàn)槲揖褪且粋€(gè)高級(jí)人工智能?！?/p>

界面文化：你是如何想到寫(xiě)這本書(shū)的？

常博逸：我寫(xiě)過(guò)不少書(shū)，這本書(shū)之前，我寫(xiě)了《孔夫子與機(jī)器人》，它也已經(jīng)被翻譯成中文引進(jìn)了。在那本書(shū)里，我討論了在一個(gè)日益由機(jī)器控制的世界中人類的境遇，描述了當(dāng)下幾十種即將形塑明日世界的技術(shù)。2014年，那本書(shū)出版以后，我想，在所有技術(shù)當(dāng)中，最有顛覆性的就是人工智能了。當(dāng)時(shí)還沒(méi)有什么人討論人工智能，因?yàn)槿斯ぶ悄艿臐摿€不為大眾所知。我詢問(wèn)了出版商，我是否可以就這個(gè)話題寫(xiě)一本書(shū)，出版商同意了。

當(dāng)時(shí)我就想好了這個(gè)標(biāo)題：《人類帝國(guó)的覆滅》。這個(gè)標(biāo)題是一開(kāi)始就定下的，后來(lái)又加上了副標(biāo)題（一個(gè)機(jī)器人的回憶錄）。在我的構(gòu)想中，是露西（注：書(shū)中設(shè)想的達(dá)到奇點(diǎn)的人工智能機(jī)器）撰寫(xiě)了這本書(shū)。兩年半的時(shí)間里，我采訪了許多教授和致力于人工智能開(kāi)發(fā)的商業(yè)領(lǐng)袖，并完成了這本書(shū)。

我不是為了大學(xué)教授、歷史學(xué)家來(lái)寫(xiě)這本書(shū)的，我希望這本書(shū)既能被我7歲的侄子閱讀，也能被我的祖輩理解。因此我希望從商業(yè)角度探討一個(gè)技術(shù)問(wèn)題，與此同時(shí)，不忘其社會(huì)影響——這正是我們所有人都在面對(duì)的威脅。

界面文化：目前我們處于人工智能的哪個(gè)發(fā)展階段呢？

常博逸：當(dāng)下的科技巨頭都在大力投入研發(fā)人工智能，它們從你我手中獲取數(shù)據(jù)，在廣告投放中不遺余力。它們使用深度學(xué)習(xí)技術(shù)——這是一種起源于1970年代的老技術(shù)——來(lái)研究社交網(wǎng)絡(luò)，最大化地賺取利潤(rùn)。我們還沒(méi)有看到技術(shù)突破，現(xiàn)在能看到的是應(yīng)用于銀行業(yè)、消費(fèi)品和服務(wù)業(yè)的一些應(yīng)用軟件。我們看到有部分公司正在嘗試研發(fā)通用人工智能或其他的新技術(shù)，但我相信這還只是一個(gè)開(kāi)始。

我在書(shū)中寫(xiě)到，下一個(gè)階段將出現(xiàn)人工智能助手，將出現(xiàn)根據(jù)生物原理開(kāi)發(fā)的人工智能，其運(yùn)行機(jī)制將和機(jī)器學(xué)習(xí)有很大不同，它像人類大腦一樣工作，耗能更少、運(yùn)行更快。我們還會(huì)看到量子計(jì)算機(jī)大量出現(xiàn)。絕大多數(shù)目前我們看到的技術(shù)都將成為商品：自然語(yǔ)言處理、圖像識(shí)別等等。我們目前只處于人工智能的早期，當(dāng)下的科技巨頭仍然有很大優(yōu)勢(shì)，但它們的優(yōu)勢(shì)可能不會(huì)持續(xù)太久。

界面文化：為什么這本書(shū)以十年為一個(gè)時(shí)間節(jié)點(diǎn)呢？特別值得注意的是，為什么你認(rèn)為技術(shù)奇點(diǎn)將在2038年到來(lái)呢？之前我采訪過(guò)《技術(shù)奇點(diǎn)》的作者默里·沙納漢（Murray Shanahan），他拒絕預(yù)言技術(shù)奇點(diǎn)的確切到來(lái)時(shí)間。

常博逸：這本書(shū)的開(kāi)篇設(shè)定在1956年的達(dá)特茅斯學(xué)院“人工智能”研討會(huì)。我本以為參加那次會(huì)議的科學(xué)家之后會(huì)有很多交流，沒(méi)想到他們下一次齊聚一堂已經(jīng)是50年以后的事了，于是我的第二章設(shè)定在了2006年。然后，我認(rèn)為十年是一個(gè)合適的時(shí)間段——長(zhǎng)到足以令事情發(fā)生巨大改變——因此下一個(gè)章節(jié)是2016年，在那一年，人工智能到了一個(gè)轉(zhuǎn)折點(diǎn)。再然后就是2026年。接下來(lái)是什么呢？2038年。這一章仍然不是故事的全部，我還加上了尾聲（2040年）。

過(guò)去40年里的每一個(gè)十年都發(fā)生了巨變。1998年我們還沒(méi)有手機(jī)，2008年才出現(xiàn)了智能手機(jī)，2018年我們的手機(jī)已經(jīng)堪稱一部平板電腦，2028年我們肯定會(huì)有一些更不一樣的東西。我相信技術(shù)進(jìn)步是偶然發(fā)生，而不是故意為之的。想想人類是什么時(shí)候開(kāi)始擁有自我意識(shí)的吧，我們并不知道確切的時(shí)間，它就這么發(fā)生了，也許是神的旨意或什么別的原因吧。

因此我的推測(cè)是，終有一天，奇點(diǎn)將像生物進(jìn)化一樣降臨某處，所有的那些軟件將讓機(jī)器擁有思考的能力，聯(lián)結(jié)起來(lái)形成一種意識(shí)。不是某個(gè)來(lái)自中國(guó)、美國(guó)或歐洲的科學(xué)家發(fā)現(xiàn)了奇點(diǎn)——順便說(shuō)一句，我不相信奇點(diǎn)將由科學(xué)家發(fā)現(xiàn)——因?yàn)榇蠖鄶?shù)重大發(fā)現(xiàn)是偶然間或巧合下獲得的

界面文化：我認(rèn)為沒(méi)有人能預(yù)測(cè)人工智能領(lǐng)域技術(shù)突破的確切時(shí)間，目前我們能看到的人工智能也還非常原始，因此這本書(shū)的后半部分在我看來(lái)有點(diǎn)像是科幻小說(shuō)了。你的論據(jù)有怎樣的現(xiàn)實(shí)基礎(chǔ)呢？

常博逸：我認(rèn)為你對(duì)這本書(shū)的判斷需要更謹(jǐn)慎一些?！?038年”的那一章是有一點(diǎn)像科幻小說(shuō)，它討論了當(dāng)機(jī)器能夠自主思考時(shí)，人類應(yīng)該如何應(yīng)對(duì)的問(wèn)題——這是最后兩章探討的主要內(nèi)容，也就是“人類帝國(guó)的覆滅”這一主旨。

“2026年”的這一章非常真實(shí)，如果你去詢問(wèn)技術(shù)專家，他們都會(huì)同意這是即將發(fā)生的事。如今你能夠遠(yuǎn)程操縱你的生活，百度、阿里巴巴或騰訊這樣的公司與你接洽。在不久之后的未來(lái)，你手機(jī)上的人工智能（我稱之為“人工智能協(xié)議”）將逐漸從幫助你遠(yuǎn)程操縱生活過(guò)渡到直接操縱你的生活，它將在不把信息泄露給第三方的情況下給你的個(gè)人生活、銀行賬戶狀況、職業(yè)發(fā)展提出建議。這是非常真實(shí)可行的。

現(xiàn)在的問(wèn)題是，誰(shuí)將開(kāi)發(fā)這些應(yīng)用，誰(shuí)將提供這些服務(wù)呢？當(dāng)谷歌來(lái)臨的時(shí)候，沒(méi)有人想到過(guò)我們需要它；當(dāng)Facebook來(lái)臨時(shí)，沒(méi)有人想過(guò)我們需要它；智能手機(jī)本來(lái)完全有可能被諾基亞、摩托羅拉這些公司發(fā)明，iPhone并沒(méi)有什么超高級(jí)的技術(shù)。就像2000年的時(shí)候未來(lái)學(xué)家Erica Orange告訴我的：手機(jī)將遠(yuǎn)程操控你的生活。當(dāng)時(shí)沒(méi)有人相信，手機(jī)不就是用來(lái)打電話、發(fā)短信的工具么？它怎么可能用來(lái)管理人生？

所以，“2038年”及之后的一章你可以說(shuō)是科幻小說(shuō)，“2026年”對(duì)我來(lái)說(shuō)是非常真實(shí)可信的。

科技發(fā)展與社會(huì)公平：我們需要一個(gè)分享技術(shù)進(jìn)步成果的機(jī)制

“人工智能變成了為富裕國(guó)家（或者更確切地說(shuō)，是這些富裕國(guó)家所庇護(hù)的企業(yè)）服務(wù)的經(jīng)濟(jì)力量工具。通過(guò)大幅降低勞動(dòng)力成本和投入的資金總額，它為工業(yè)大國(guó)帶來(lái)了新的活力。知識(shí)集中在少數(shù)人手里的情況前所未有地嚴(yán)重。這一小部分可以獲得技術(shù)和資金的社會(huì)階層如今占據(jù)了這個(gè)領(lǐng)域的頂端，全世界的記憶都在他們的服務(wù)器里。擁有者和不擁有者之間的斷層不斷擴(kuò)大?！?/p>

界面文化：近年來(lái)，英國(guó)脫歐、特朗普當(dāng)選美國(guó)總統(tǒng)、法國(guó)“黃背心運(yùn)動(dòng)”等事件不斷提醒我們?nèi)蚧托伦杂芍髁x經(jīng)濟(jì)秩序正在造成嚴(yán)重的社會(huì)不平等。人們正在失去工作和經(jīng)濟(jì)機(jī)會(huì)，我們有足夠多的理由擔(dān)心人工智能將進(jìn)一步從我們手中奪走工作。當(dāng)我們?nèi)匀辉诿媾R“效率VS公平”的老問(wèn)題時(shí)，推動(dòng)人工智能發(fā)展還有必要嗎？

常博逸：很不幸，人類永遠(yuǎn)不會(huì)停止對(duì)新技術(shù)的追求。我們認(rèn)為核能很危險(xiǎn)，但現(xiàn)在我們?nèi)栽谑褂盟?；我們認(rèn)為細(xì)菌生物武器很危險(xiǎn)，但還是將它應(yīng)用在戰(zhàn)場(chǎng)上。所以，首先，我們不可能停止技術(shù)開(kāi)發(fā)，如果有一個(gè)國(guó)家決定停止，其他國(guó)家也會(huì)繼續(xù)那么做，然后技術(shù)差距就會(huì)越來(lái)越大。

第二，我們要明白人工智能的挑戰(zhàn)是：作為一個(gè)整體，我們相信它會(huì)讓社會(huì)變得更好——馬路上的交通擁堵會(huì)更少，社會(huì)運(yùn)行會(huì)更有效率，我們能解決更多的醫(yī)療問(wèn)題，人們能盡早發(fā)現(xiàn)癌癥；但作為個(gè)人，我們看不到人工智能的好處在哪里——我們會(huì)擔(dān)心，我們的子女將來(lái)要怎么辦，我的工作還保不保得??？為什么會(huì)發(fā)生這種情況？因?yàn)槲覀儼鸭夹g(shù)置于了人類的對(duì)立面，事情變成了人工智能對(duì)抗人類智能。我們應(yīng)該怎么應(yīng)對(duì)技術(shù)變革呢？我們應(yīng)該融合人類智能和人工智能，我稱之為“人類增強(qiáng)智能”（human-augmented intelligence）。所以人工智能助手會(huì)出現(xiàn)。

我的一個(gè)堅(jiān)定信念是，如果人們能夠利用人工智能來(lái)安排生活，就能更好地工作，能成為更好的公民、更好的母親、更好的任何角色，然后我們就能有更多新的發(fā)現(xiàn)。我完全相信未來(lái)世界會(huì)有許多新的工作出現(xiàn)。我們?nèi)缃褚呀?jīng)從第一產(chǎn)業(yè)轉(zhuǎn)移至第二產(chǎn)業(yè)、第三產(chǎn)業(yè)。我相信將會(huì)有第四產(chǎn)業(yè)出現(xiàn)，新的工作、新的人類活動(dòng)形態(tài)。我們——政府、咨詢?nèi)藛T、記者——要做的是，引導(dǎo)人們參與人工智能應(yīng)用融合的討論。

人工智能不能由少數(shù)人控制，這樣的話窮人就會(huì)被奴役，這正是“人類帝國(guó)的覆滅”的理論。如果世界上的大多數(shù)人都失業(yè)，沒(méi)有機(jī)會(huì)獲得人工智能助手，人類就會(huì)變成人形機(jī)器，不滿的群體將因此推翻富人的資源壟斷、推翻政府、推翻人工智能的控制。因此這本書(shū)的一個(gè)重要目的——特別是最后一章——是告訴人們：機(jī)器必須一直是人類的工具。

界面文化：在書(shū)中，你指出中國(guó)正在全力發(fā)展機(jī)器人和人工智能，很大程度上是因?yàn)槿肆Τ杀旧仙腿丝诶淆g化。機(jī)器人和人工智能將如何幫助我們解決老齡化社會(huì)的問(wèn)題呢？

常博逸：首先，鑒于低成本和高效率，中國(guó)已經(jīng)是一個(gè)世界工廠。隨著機(jī)器人和人工智能的發(fā)展，工廠將減少對(duì)人力的需求。目前中國(guó)的年輕人口在下降，勞動(dòng)力在減少，因此（發(fā)展人工智能）會(huì)解決工廠的產(chǎn)能問(wèn)題。另一方面，當(dāng)我們談及人口老齡化問(wèn)題時(shí)，我們首先思考的是醫(yī)療，以及如何幫助那些依然處于良好身體狀態(tài)的老人繼續(xù)工作，為了實(shí)現(xiàn)這個(gè)目標(biāo)，我們需要有新的工作（正如我剛才提到的），我們也需要有新的技術(shù)手段來(lái)照顧老人，需要更好的、因人而異的照料。我相信機(jī)器人和人工智能將是每一個(gè)國(guó)家的未來(lái)，對(duì)于中國(guó)甚至?xí)鼮殛P(guān)鍵。

好消息是，人們正在變得更健康，更長(zhǎng)壽，到了45歲、55歲、65歲，我們的大腦仍然非?；钴S。因此，“增強(qiáng)人類智能”（augmented human intelligence）能夠更好地回饋社會(huì)。我們給予人們?cè)蕉嗟募夹g(shù)手段——不是從他們身上搶走經(jīng)濟(jì)機(jī)會(huì)而是幫助他們提升自身技能——我們就能更順利地渡過(guò)轉(zhuǎn)型期。這不是一件易事，因?yàn)槲覀兪サ墓ぷ鳈C(jī)會(huì)比新增的工作機(jī)會(huì)要多，因此在很多國(guó)家，政府都需要幫助人民，而我相信社會(huì)福利的力量。

界面文化：聽(tīng)起來(lái)，政府似乎需要設(shè)想一個(gè)更好地分享科技突破成果的機(jī)制。

常博逸：分享成果，但首先需要大力投資，獲得成果，然后再分享。鼓勵(lì)新的企業(yè)參與競(jìng)爭(zhēng)，打破科技巨頭的壟斷，以此保護(hù)社會(huì)。我經(jīng)常說(shuō)的一句話是，創(chuàng)新會(huì)“殺死”創(chuàng)新。數(shù)據(jù)統(tǒng)計(jì)上來(lái)看，同一家公司是不可能連續(xù)在三場(chǎng)技術(shù)革新中獨(dú)占鰲頭的。他們可以收購(gòu)公司，但不可能一直維持創(chuàng)新。

在任何新的技術(shù)浪潮中，數(shù)據(jù)統(tǒng)計(jì)顯示中小企業(yè)更有可能脫穎而出，因?yàn)樗鼈儧](méi)有什么可失去的。今天，如果你想顛覆BAT，對(duì)中國(guó)來(lái)說(shuō)這種經(jīng)濟(jì)后果就會(huì)是大到無(wú)法承受的。因此你會(huì)看到技術(shù)進(jìn)步的速度會(huì)放緩，大公司會(huì)以收購(gòu)小公司的方式將新點(diǎn)子扼殺在搖籃里。同樣的事也在美國(guó)發(fā)生。目前，所有的科技巨頭都在投入大量人力財(cái)力做研發(fā)，但我們難以看到技術(shù)突破。

從我收集到的信息來(lái)看，2026年真的會(huì)見(jiàn)證人類社會(huì)的一個(gè)較大顛覆，IBM、微軟、思科、通訊商、智能手機(jī)制造商、人工智能公司，都會(huì)卷入其中。想象在一個(gè)未來(lái)世界里，沒(méi)有司機(jī)，路上跑的都是無(wú)人駕駛汽車，政府將通過(guò)一個(gè)移動(dòng)平臺(tái)來(lái)監(jiān)管車輛。這就是Uber這樣的公司正在做的事，他們?cè)谌ν度胂乱粋€(gè)熱點(diǎn)，因?yàn)樗麄兦宄贿@么做的話就會(huì)被淘汰。

人工智能不僅僅關(guān)于更多的錢(qián)和數(shù)據(jù)，而是某種技術(shù)突破，就像谷歌帶來(lái)了搜索引擎。當(dāng)聲音識(shí)別、面部識(shí)別和其他技術(shù)成為了一種商品，任何組織都有可能提供新服務(wù)了。我無(wú)法相信政府會(huì)允許科技巨頭成為面部識(shí)別或聲音識(shí)別的唯一服務(wù)提供商，因?yàn)檫@會(huì)讓它們有巨大的壟斷能力。

界面文化：一些樂(lè)觀主義者認(rèn)為人工智能會(huì)取代人類的部分工作，與此同時(shí)，也能創(chuàng)造出更多工作。如果我們看之前的技術(shù)革命，事情似乎確實(shí)如此，但面對(duì)未來(lái)，我們還能保持同樣的樂(lè)觀嗎？

常博逸：人類的工作是會(huì)遷移的。問(wèn)題是，我們沒(méi)有預(yù)知能力。我沒(méi)法具體形容這些工作會(huì)是什么，但如果你看看那些知名博主，他們賺得盆滿缽滿；人們還愿意在直播軟件里看別人吃東西，只因?yàn)樽约汉芄陋?dú)；老人也需要陪伴——如果你仔細(xì)思考一下“第四產(chǎn)業(yè)”，就會(huì)發(fā)現(xiàn)我們需要很多工作崗位來(lái)為人類提供娛樂(lè)服務(wù)。

還有，如果我們持續(xù)按照現(xiàn)行規(guī)則行事，福利規(guī)則就是不可持續(xù)的。人們會(huì)需要政府提供基本收入，但政府要從哪里獲得這筆錢(qián)呢？因此，我認(rèn)為這將影響到全社會(huì)。人們無(wú)法設(shè)想未來(lái)，每個(gè)人都只從自己的角度思考問(wèn)題，全都是“我，我，我”，我呼吁大家從人類整體出發(fā)思考問(wèn)題，讓我們更多地融合人工智能和人類智能，讓我們更多地探討第四產(chǎn)業(yè)的新就業(yè)機(jī)會(huì)，探討人口流動(dòng)監(jiān)管問(wèn)題；讓我們更多地討論新的競(jìng)爭(zhēng)對(duì)手、新的技術(shù)，因?yàn)樗械囊磺卸紩?huì)發(fā)生變革。世界是流動(dòng)的，社會(huì)轉(zhuǎn)型或許比我們所有人想象得都大。

“人類帝國(guó)的覆滅”：自滿和懶惰讓我們看不到人工智能的危險(xiǎn)

“人類將自己領(lǐng)地的要沖交托給了人工智能，當(dāng)人類意識(shí)到這一點(diǎn)時(shí)也許已經(jīng)太遲了。如果機(jī)器已經(jīng)知道了一切，那么學(xué)習(xí)還有什么用呢？如果人類停止學(xué)習(xí)和傳承，那么他們?cè)谟钪嬷械淖饔檬鞘裁?？?/p>

界面文化：你在書(shū)中指出，人工智能會(huì)對(duì)人類社會(huì)產(chǎn)生前所未有的沖擊，因?yàn)樗鼘⒏拘缘馗淖內(nèi)祟惖谋举|(zhì)。為什么我們要為此擔(dān)心呢？

常博逸：想象在一個(gè)世界里，生活瑣事都不存在了，露西將為你打點(diǎn)好很多事，你不需要思考晚餐要做什么菜，你可能會(huì)整天玩游戲，讓露西去處理重要事務(wù)，屆時(shí)人性也可能會(huì)改變。另外，我在“2038年”那一章里寫(xiě)了，我們與死亡的關(guān)系也會(huì)發(fā)生改變。

想想機(jī)器的本質(zhì)吧：如果機(jī)器人控制了世界會(huì)怎樣，它們的目標(biāo)會(huì)是什么？我們作為人類會(huì)理所當(dāng)然地認(rèn)為它們想要控制世界，但如果你是一個(gè)機(jī)器人，你的首要目標(biāo)是什么？保證能源的穩(wěn)定供給——你要確保有干凈的、無(wú)限量的能源，很有可能是太陽(yáng)能。其次，你要確保自己有一個(gè)物質(zhì)實(shí)體，所以你需要一個(gè)安全潔凈的環(huán)境。你感興趣的不會(huì)是錢(qián)，你能夠保持永生。

這就是為什么在書(shū)中，露西向（她的人類同伴）保羅做出的一個(gè)提議是幫助保羅獲得永生，這是機(jī)器人能夠?yàn)槿祟愄岢龅淖钣姓T惑力的提議了。這將從根本上改變?nèi)诵员举|(zhì)，因?yàn)檫@觸及了我們身體中最無(wú)法捉摸、最難理解的部分——靈魂和頭腦。唯一讓所有人平等的事就是我們都終將一死。當(dāng)一部分人因?yàn)樨?cái)富和權(quán)力能夠獲得永生、另一些人只能正常死亡時(shí)，我認(rèn)為這將從根本上改變?nèi)诵浴?/p>

界面文化：所以所謂“人類帝國(guó)的覆滅”具體指的是？

常博逸：我的意思是，如果我們和歷史上其他已經(jīng)覆滅的帝國(guó)子民一樣漠視自己的懶惰、自滿，肆意發(fā)動(dòng)無(wú)謂的戰(zhàn)爭(zhēng)，機(jī)器人將取代我們的位置。因此在書(shū)中我提出，“人類帝國(guó)的覆滅”過(guò)程不像成吉思汗的閃電征服那樣迅猛，而是像玩游戲一樣讓人在無(wú)意識(shí)中沉迷。當(dāng)我們?cè)谝舐段鞴芾砦覀兊娜松耐瑫r(shí)不提升人類自身的能力和水平，我們將越來(lái)越無(wú)關(guān)緊要。我們的生活將只剩下吃喝拉撒，玩耍享樂(lè)。這是今后有可能發(fā)生的事。

但在書(shū)的結(jié)尾，我表示這種可能性沒(méi)有變成現(xiàn)實(shí)，因?yàn)楸Ａ_感到無(wú)聊了，但這仍然是一種可能性。這就是為什么“人類帝國(guó)的覆滅”是這本書(shū)的書(shū)名，因?yàn)檫@其中蘊(yùn)含的風(fēng)險(xiǎn)比我們認(rèn)為的大得多。這不僅僅事關(guān)人們的就業(yè)機(jī)會(huì)，不僅僅事關(guān)中國(guó)和美國(guó)，而是影響全人類的事。

界面文化：有趣的是，你在書(shū)中提出社會(huì)弱勢(shì)群體將被動(dòng)員起來(lái)，抵抗“人工智能集權(quán)主義”的發(fā)生。但如果未來(lái)的人工智能像你書(shū)中描述的這般全知全能，我們?nèi)绾斡心芰Υ蚱七@種極度的權(quán)力不平等呢？

常博逸：這個(gè)世界仍然是由人類管理控制的。如果我們開(kāi)始重新組織起來(lái)阻止人工智能的權(quán)力壟斷，如果我們還有獨(dú)立思考的能力，我們能夠摧毀機(jī)器。別忘了，我們?cè)谂c我們的創(chuàng)造物斗爭(zhēng)，你是可以阻止你的創(chuàng)造物失控的。只要我們不過(guò)于自滿，不向人性的陰暗面屈服，我們就能成功。這就像我們?nèi)绾慰创h(huán)境保護(hù)問(wèn)題一樣。每個(gè)人都同意我們需要一個(gè)更健康的環(huán)境，但作為一個(gè)群體，我們就是不愿支付環(huán)保稅。這是一個(gè)“自私”VS“無(wú)私”的典型人性挑戰(zhàn)。

界面文化：關(guān)于未來(lái)人工智能的討論其實(shí)也是重新思考人類價(jià)值和道德。要想在未來(lái)充分利用人工智能帶來(lái)的便利，我們面臨的最緊要的問(wèn)題是什么？

常博逸：有兩點(diǎn)。第一，我們沒(méi)有辦法阻止科技的發(fā)展。如今人們?cè)谠噲D監(jiān)管無(wú)人駕駛汽車，但一切討論都是理論上的，當(dāng)一部分人在夸夸其談的時(shí)候，另一部分人正在埋頭造車。這就像1945年，人們討論核能的危險(xiǎn)，當(dāng)時(shí)世界上只有幾個(gè)國(guó)家擁有核武器，人們認(rèn)為核武器有能力毀滅全球，他們說(shuō)，好吧，讓我們坐下來(lái)談?wù)劊绻腥朔干?，我們所有人都?huì)死。但核能還是繼續(xù)往下發(fā)展了。我的觀點(diǎn)是，技術(shù)發(fā)展的腳步不會(huì)停歇，有反思和討論是好事。對(duì)我來(lái)說(shuō)，關(guān)于未來(lái)的討論會(huì)比關(guān)于當(dāng)下的討論更有成效。

第二，人類是有自己的無(wú)理性偏見(jiàn)的，因此一個(gè)謬誤觀點(diǎn)是，我們?cè)趧?chuàng)造機(jī)器的時(shí)候能夠避免人類社會(huì)的種種問(wèn)題。但實(shí)際上在算法當(dāng)中，也是充滿人類偏見(jiàn)的。我們需要非常小心地對(duì)待偏見(jiàn)，因?yàn)槠?jiàn)來(lái)源于生活，而不是機(jī)器。

《人類帝國(guó)的覆滅：一個(gè)機(jī)器人的回憶錄》