人工智能的研究是當(dāng)前科技領(lǐng)域的一大熱點(diǎn)，任何有關(guān)機(jī)器學(xué)習(xí)的新聞都能夠吸引人們足夠的關(guān)注。但人工智能領(lǐng)域一位科技先驅(qū)和資深專(zhuān)家Judea Pearl卻對(duì)這一領(lǐng)域的進(jìn)步提出了尖銳的批評(píng)。Judea Pearl在上世紀(jì)曾幫助人工智能習(xí)得了概率，使其能夠做出關(guān)聯(lián)性判斷，但遺憾的是，如今人工智能仍然無(wú)法計(jì)算因果關(guān)系。訪談中，Judea Pearl還就人工智能未來(lái)的發(fā)展、如何判定其具有自由意志等問(wèn)題做出了回應(yīng)。本文作者KEVIN HARTNETT，原文題目How a Pioneer of Machine Learning Became One of Its Sharpest Critics。

Judea Pearl對(duì)人工智能的發(fā)展貢獻(xiàn)良多。在20世紀(jì)80年代，在他的努力之下，機(jī)器掌握了依據(jù)概率進(jìn)行推理的能力。現(xiàn)在他是該領(lǐng)域最尖銳的批評(píng)者之一。在他的新書(shū)《The Book of Why: The New Science of Cause and Effect》中，他認(rèn)為人工智能由于不完全理解智力的本質(zhì)而陷入瓶頸。

三十年前，人工智能研究面臨的一個(gè)主要挑戰(zhàn)就是編程機(jī)器如何將潛在的原因與一系列可觀察的條件聯(lián)系起來(lái)。Pearl想出了一種名為Bayesian網(wǎng)絡(luò)的方法。Bayesian網(wǎng)絡(luò)使機(jī)器更學(xué)習(xí)有了實(shí)踐性意義，比如說(shuō)有一個(gè)病人剛從非洲回來(lái)，發(fā)燒而且全身疼痛，那機(jī)器可能會(huì)得出他患有瘧疾。2011年，Pearl獲得了計(jì)算機(jī)科學(xué)領(lǐng)域的最高榮譽(yù)——圖靈獎(jiǎng)，主要在于表彰他這項(xiàng)工作的成就。

人工智能發(fā)展道路上的瓶頸

但正如Pearl所見(jiàn)，人工智能領(lǐng)域目前陷入了概率關(guān)聯(lián)的瓶頸之中。如今，新聞吹噓著機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的最新突破，我們讀到的文章也是關(guān)于電腦掌握圍棋和學(xué)會(huì)駕駛汽車(chē)的。Pearl對(duì)此則頗為淡定，他認(rèn)為如今的人工智能技術(shù)只是在前一代人成果的基礎(chǔ)上進(jìn)行的微微升級(jí)——在一組大數(shù)據(jù)中發(fā)現(xiàn)隱藏的規(guī)律——罷了。他最近說(shuō)：“深度學(xué)習(xí)領(lǐng)域所有令人印象深刻的成就都只是曲線擬合而已?！?/p>

現(xiàn)年81歲的Pearl在他的新書(shū)中闡述了智能機(jī)器如何思考的愿景。他認(rèn)為，關(guān)鍵在于用因果推理來(lái)取代關(guān)聯(lián)推理。機(jī)器需要的是瘧疾引起發(fā)燒的原因，而不是僅僅將發(fā)燒和瘧疾聯(lián)系起來(lái)的能力。一旦這種因果關(guān)系框架確立下來(lái)，機(jī)器就有可能提出反事實(shí)的問(wèn)題——在某種外界干涉條件下因果關(guān)系會(huì)如何變化——Pearl認(rèn)為這是科學(xué)思想的基石。Pearl還提出了一種正式的語(yǔ)言，讓這種想法成為可能——這是21世紀(jì)版本的Bayesian框架，允許機(jī)器在概率的基礎(chǔ)上進(jìn)行思考。

Pearl認(rèn)為，因果推理可以使機(jī)器擁有人類(lèi)水平的智力。他解釋說(shuō)，它們能夠更有效地與人類(lèi)交流，甚至可以成為具有自由意志和做惡能力的道德實(shí)體。最近，在San Diego的一次會(huì)議上，《Quanta Magazine》對(duì)Pearl通過(guò)電話進(jìn)行了訪談。以下是經(jīng)過(guò)編輯和精簡(jiǎn)的對(duì)話。

Kevin Hartnett：為什么給你的新書(shū)起這么一個(gè)名字？

Judea Pearl：它總結(jié)了我在過(guò)去25年里一直在做的關(guān)于因果關(guān)系的工作，它是我們?nèi)绾螒?yīng)對(duì)那些內(nèi)在原因問(wèn)題的答案。奇怪的是，這些問(wèn)題已經(jīng)被科學(xué)拋棄了。所以我這么做是為了彌補(bǔ)那些忽視的。

Hartnett：科學(xué)已經(jīng)拋棄了因果關(guān)系，聽(tīng)起來(lái)非常搞笑，這難道不是科學(xué)研究的全部?jī)?nèi)容嗎？

Pearl：當(dāng)然，但是你儼然已經(jīng)無(wú)法在那些方程式中看到它了。代數(shù)的語(yǔ)言是對(duì)稱(chēng)的，如果x告訴了我們y，那么y也會(huì)告訴我們x，我講的是確定性關(guān)系。例如，風(fēng)暴即將來(lái)臨，氣壓計(jì)一定是下降的。

Hartnett：幾十年前，你在人工智能領(lǐng)域取得了成功。你不如說(shuō)一說(shuō)當(dāng)時(shí)人工智能發(fā)展和研究的情況？

Pearl：20世紀(jì)80年代初我們遇到的問(wèn)題屬于預(yù)測(cè)性或診斷性問(wèn)題。醫(yī)生會(huì)從病人身上觀察一系列癥狀，并希望得出病人患瘧疾或其他疾病的可能性。我們想要弄出一套自動(dòng)化系統(tǒng)以代替專(zhuān)業(yè)人員——無(wú)論是醫(yī)生，礦產(chǎn)資源管理人員，還是其他一些付費(fèi)專(zhuān)家。所以在這一點(diǎn)上，我想到了一個(gè)在概率上可行的方法。

不過(guò)，麻煩的一點(diǎn)在于，計(jì)算標(biāo)準(zhǔn)概率需要指數(shù)空間和指數(shù)時(shí)間，所以我只好想出了一個(gè)叫Bayesian網(wǎng)絡(luò)的方案。

Hartnett：然而，在你的新書(shū)中，你把自己描述為當(dāng)今人工智能社區(qū)的一個(gè)“反叛者”，這又是什么情況呢？

Pearl：這么說(shuō)吧，當(dāng)我們開(kāi)發(fā)出的工具使機(jī)器能夠以不確定性為基礎(chǔ)進(jìn)行推理時(shí)，我就轉(zhuǎn)而去追尋另一項(xiàng)更具挑戰(zhàn)性的任務(wù)了——因果推理。我的許多同事仍然在研究不確定性推理。有一些研究小組繼續(xù)研究診斷性問(wèn)題，而不擔(dān)心問(wèn)題的因果關(guān)系。他們想要的只是預(yù)測(cè)和診斷準(zhǔn)確。

我可以舉個(gè)例子——我們今天看到的所有機(jī)器學(xué)習(xí)的工作都是在診斷模型中進(jìn)行的，比如把物體標(biāo)記為“貓”或“老虎”。“他們不關(guān)心外部情況變化，他們只是想要識(shí)別出一個(gè)物體并預(yù)測(cè)它將如何隨著時(shí)間的推移而變化。

當(dāng)我開(kāi)發(fā)出了強(qiáng)大的預(yù)測(cè)工具后，我覺(jué)得這只是人類(lèi)智慧的冰山一角。如果我們想讓機(jī)器有著更高級(jí)別的認(rèn)識(shí)能力，我們就必須加入因果模型，關(guān)聯(lián)模型還不夠。

Hartnett：大家都對(duì)人工智能抱有興奮感，但你沒(méi)有。

Pearl：就像我研究深度學(xué)習(xí)所做的一樣，我發(fā)現(xiàn)它們都只停留在關(guān)聯(lián)的層次上?？梢哉f(shuō)，所有令人印象深刻的深刻學(xué)習(xí)成就都只是因?yàn)榍€擬合，雖然這么說(shuō)有點(diǎn)褻瀆的意味。從數(shù)學(xué)層次的角度來(lái)看，無(wú)論你如何巧妙地操作數(shù)據(jù)，以及在操作的過(guò)程中讀到了什么數(shù)據(jù)，哪怕再?gòu)?fù)雜，也仍然是只是曲線擬合的練習(xí)。

曲線擬合和因果關(guān)系

Hartnett：看樣子你對(duì)機(jī)器學(xué)習(xí)并不怎么感冒。

Pearl：不，事實(shí)恰恰相反，我相當(dāng)感冒，因?yàn)槲覀儧](méi)有預(yù)料到有那么多問(wèn)題可以通過(guò)純曲線擬合來(lái)解決。事實(shí)證明它們確實(shí)可以通過(guò)擬合來(lái)解決。但你要明白，我所談及的是未來(lái)——接下來(lái)會(huì)發(fā)生什么？你需要看看有哪個(gè)機(jī)器人科學(xué)家正在計(jì)劃某項(xiàng)實(shí)驗(yàn)，并為懸而未決的科學(xué)問(wèn)題找到新的答案。這是下一步。我們還想跟一個(gè)有意義的機(jī)器——有意義的機(jī)器是說(shuō)它能夠跟我們的直覺(jué)相匹配——進(jìn)行一些交流。如果你剝奪了機(jī)器人對(duì)因果的直覺(jué)，你就永遠(yuǎn)不會(huì)獲得什么有意義的交流。這樣一來(lái)機(jī)器人也不可能像你或我一樣，說(shuō)“我本該做得更好的”。因此，我們其實(shí)是失去了一個(gè)重要的溝通渠道。

Hartnett：讓機(jī)器能夠跟我們一樣有著因果推論能力，這一研究成果未來(lái)的前景如何？

Pearl：我們必須給機(jī)器匹配一個(gè)環(huán)境模型，即讓它們將周?chē)h(huán)境納入考量范圍。如果一臺(tái)機(jī)器無(wú)法去識(shí)別和依托現(xiàn)實(shí)，你就不能指望機(jī)器在實(shí)際應(yīng)用中有任何智能的行為。所以人們必須可以將現(xiàn)實(shí)的模型進(jìn)行編程并嵌入機(jī)器，這一步大約會(huì)在十年之內(nèi)實(shí)現(xiàn)。

下一步將是機(jī)器自行假設(shè)這些模型，并根據(jù)經(jīng)驗(yàn)證據(jù)來(lái)驗(yàn)證和完善它們。這一過(guò)程有點(diǎn)兒像科學(xué)認(rèn)識(shí)進(jìn)步的軌跡——我們從地心說(shuō)開(kāi)始，從行星軌道是遠(yuǎn)行開(kāi)始，到最后認(rèn)識(shí)到日心說(shuō)和行星軌道是橢圓的。

然后機(jī)器人們也會(huì)相互交流，并將這個(gè)假想的世界，這個(gè)狂野的世界“轉(zhuǎn)譯”為隱喻的模型。

Hartnett：對(duì)你你的這種設(shè)想，如今的人工智能從業(yè)者有什么反饋嗎？

Pearl：人工智能界目前四分五裂著。首先，有一些人正陶醉在機(jī)器學(xué)習(xí)和深度學(xué)習(xí)以及神經(jīng)網(wǎng)絡(luò)的成功之中，以為實(shí)現(xiàn)了天大的成就。他們不明白我在說(shuō)什么。他們還想繼續(xù)沿著曲線擬合的路子走下去。但是，當(dāng)你和那些除了統(tǒng)計(jì)學(xué)習(xí)以外的人工智能領(lǐng)域從業(yè)者交談時(shí)，他們立刻就能明白問(wèn)題之所在。在過(guò)去的兩個(gè)月里，我看了好幾篇關(guān)于機(jī)器學(xué)習(xí)的局限性的文章。

Hartnett：你是說(shuō)機(jī)器學(xué)習(xí)領(lǐng)域其實(shí)是有偏離如今進(jìn)展的新的發(fā)展趨勢(shì)了嗎？

Pearl：不不不，不能說(shuō)是什么趨勢(shì)，應(yīng)該說(shuō)是一種反省吧，一種人真的自我反省，我們需要捫心自問(wèn)——我們?cè)谕翁幦?？我們下一步該怎么走?/p>

Hartnett：沒(méi)錯(cuò)，這正是我最不想問(wèn)你的事。

自由意志和作惡能力

Pearl：你知道嗎，我倒是很高興你沒(méi)問(wèn)我關(guān)于自由意志的的事兒。

Hartnett：在這種情況下，你認(rèn)為自由意志是什么？

Pearl：未來(lái)有自由意志的機(jī)器人一定會(huì)出現(xiàn)的，這一點(diǎn)毋庸置疑。我們必須了解如何對(duì)它們進(jìn)行編程，以及從它們那里獲得什么。出于某種原因，在進(jìn)化過(guò)程中，這種自由意志被發(fā)覺(jué)在計(jì)算科學(xué)層面上是可取的。

Hartnett：哦？這怎么說(shuō)？

Pearl：這么說(shuō)吧，你本人是有自由意志的，我們也是在進(jìn)化中有了使這種感覺(jué)的。顯然，這種感覺(jué)提供了一些計(jì)算功能。

Hartnett：當(dāng)機(jī)器人有自由意志的時(shí)候，我們能不能立即辨別出來(lái)？或者說(shuō)，它們的自主意愿會(huì)不會(huì)表現(xiàn)的非常明顯？

Pearl：如果說(shuō)機(jī)器人們開(kāi)始互相交流，并表示說(shuō)“你本可以做得更好的”，那么這就是自由意志的一個(gè)典型例證。如果一組運(yùn)動(dòng)機(jī)器人——比如說(shuō)機(jī)器人足球隊(duì)——它們之間開(kāi)始用這種語(yǔ)言進(jìn)行交流的時(shí)候，我們就會(huì)知道他們已經(jīng)有屬于自己的意志存在了，比如說(shuō)什么，“你當(dāng)時(shí)應(yīng)該把球傳給我的，我都等了你好久了，結(jié)果你并沒(méi)有這么做！”“你本該”這種措辭表明了不管情況多么緊急，你都能掌握住局面，但是實(shí)際上你卻沒(méi)有。所以第一個(gè)證據(jù)是交流用語(yǔ)，第二個(gè)證據(jù)是一場(chǎng)踢得蠻出色的足球賽。

Hartnett：那既然你都說(shuō)到了自由意志的問(wèn)題了，那我還是覺(jué)得得問(wèn)問(wèn)你關(guān)于人工智能有“作惡能力”的問(wèn)題，我們通常認(rèn)為這是取決于你做出選擇的能力。所以，什么是邪惡？

Pearl：邪惡是一種信念，我們一般認(rèn)為這個(gè)時(shí)候你的貪婪或者說(shuō)不滿已經(jīng)取代了社會(huì)的所有行為及道德規(guī)范。比如說(shuō)一個(gè)人的思維里可能會(huì)有一個(gè)小人在耳邊說(shuō)，“你餓了，所以你可以做任何事，只要能填飽肚子就行”，但你的思維里還會(huì)有其他的小人，它們?cè)谀愕亩叢粩嗟靥嵝涯?，引?dǎo)你遵循社會(huì)的道德及行為規(guī)范，其中的一個(gè)小人名叫“同情”。所以，當(dāng)你把你的貪婪或不滿提升到社會(huì)標(biāo)準(zhǔn)之上時(shí)，那就是邪惡了。

Hartnett：那么，當(dāng)人工智能有能力去作惡時(shí)，我們?cè)撛趺粗滥兀?/p>

Pearl：有一些軟件程序——這些程序是我們?cè)谶^(guò)去學(xué)習(xí)的基礎(chǔ)上編制的、用來(lái)規(guī)范或者期望機(jī)器人的行為的——如果我們發(fā)現(xiàn)機(jī)器人一而再、再而三地忽略或者違反它們時(shí)，恐怕就可以判定它們擁有作惡的能力了。