人工智能（AI）在即將過(guò)去的 2018 年進(jìn)展神速，取得了很多令人矚目的成就，比如預(yù)測(cè)用戶感興趣的音樂(lè)、判斷腫瘤的轉(zhuǎn)移、生成腦瘤的核磁共振成像、自動(dòng)根據(jù)視頻生成模型、面部識(shí)別、在象棋和 Dota 2 比賽中擊敗人類選手以及全自動(dòng)駕駛汽車(chē)。麥肯錫全球研究院的研究人員預(yù)測(cè)如果照這個(gè)勢(shì)頭發(fā)展下去，未來(lái) 12 年 AI 將占據(jù)美國(guó)純經(jīng)濟(jì)效益的 20% 至 25%（全球純經(jīng)濟(jì)效益總額約為 13 萬(wàn)億美元）。

以上這些成就跟科研人員對(duì)深度神經(jīng)網(wǎng)絡(luò)（DNN）的研究進(jìn)展分不開(kāi)。DNN 的主要思想是用數(shù)學(xué)方程來(lái)模擬人腦的神經(jīng)元以及神經(jīng)元之間用來(lái)傳遞信號(hào)的突觸，用它再組成深度網(wǎng)絡(luò)的人工神經(jīng)元。人工神經(jīng)元在深度網(wǎng)絡(luò)中分成多層，輸入數(shù)據(jù)則在層與層之間進(jìn)行傳遞。這樣的結(jié)構(gòu)使得人工神經(jīng)元連接之間的權(quán)重能通過(guò)長(zhǎng)期的訓(xùn)練逐步得到調(diào)整，成千上萬(wàn)次的訓(xùn)練讓深度網(wǎng)絡(luò)從輸入數(shù)據(jù)中提取出特征，識(shí)別出數(shù)據(jù)樣本中的趨勢(shì)，并進(jìn)行預(yù)測(cè)。

雖然距離 David Rumelhart 、Geoffrey Hinton 和 Ronald Williams 在他們的經(jīng)典論文“ Learning Representations by Back-propagating Errors ”中提出用于調(diào)整人工神經(jīng)元之間權(quán)重的反向傳播算法僅僅過(guò)去了三十年，但借助日益廉價(jià)而強(qiáng)大的硬件，反向傳播算法還是讓 DNN 在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、機(jī)器翻譯、藥物分子設(shè)計(jì)和產(chǎn)品質(zhì)量監(jiān)測(cè)領(lǐng)域取得了飛速的發(fā)展。有些情況下 DNN 的表現(xiàn)甚至超越了人類專家。

通用人工智能（AGI）面臨的挑戰(zhàn)

那么，DNN 是否會(huì)是超級(jí)智能機(jī)器人成為現(xiàn)實(shí)的預(yù)兆嗎？ 2010 年創(chuàng)立 DeepMind 的 Demis Hassabis 可不這么覺(jué)得，而且他有自己的依據(jù)。DeepMind 有一個(gè)使命就是將神經(jīng)科學(xué)與計(jì)算機(jī)科學(xué)的研究成果結(jié)合起來(lái)，并創(chuàng)造出能在任何任務(wù)中都超過(guò)人類的通用人工智能。

12 月初，他在蒙特利爾舉辦的 NeurIPS 2018 大會(huì)上表示，要實(shí)現(xiàn)通用人工智能恐怕要走的路還很長(zhǎng)。“棋類游戲和電子游戲的狀態(tài)變換有規(guī)則可循，而且很容易學(xué)習(xí)，所以某種程度上說(shuō)棋類游戲和電子游戲很簡(jiǎn)單。但現(xiàn)實(shí) 3D 環(huán)境和現(xiàn)實(shí)世界本身都復(fù)雜得多……”

Hassabis 是國(guó)際象棋神童。他畢業(yè)于劍橋大學(xué)，也曾在倫敦大學(xué)學(xué)院、麻省理工大學(xué)和哈佛大學(xué)學(xué)習(xí)神經(jīng)科學(xué)研究自傳體記憶和情景記憶。他畢業(yè)之后也曾作為程序員參與過(guò)游戲《主題公園》和《黑與白》的開(kāi)發(fā)。Hassabis 于 2010 年成立了 DeepMind ，僅三年之后就發(fā)布了能不借助額外信息通關(guān)“雅達(dá)利游戲”的 AI 系統(tǒng)。

2016 年，AlphaGo 擊敗圍棋頂尖高手李世石，讓這家被谷歌斥資 4 億英鎊收購(gòu)的 DeepMind 聲名鵲起。目前，DeepMind 下屬的 DeepMind Health 與倫敦大學(xué)學(xué)院醫(yī)院合作開(kāi)發(fā)的 CT 圖像分割模型表現(xiàn)也已經(jīng)與人類醫(yī)生接近。DeepMind 所開(kāi)發(fā)的 AlphaFold 更是在第 13 屆蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)比賽中勇奪桂冠，預(yù)測(cè)出了 43 種蛋白質(zhì)之中 25 種的精細(xì)結(jié)構(gòu)。本月，DeepMind 還在自然雜志上發(fā)表了論文介紹它所開(kāi)發(fā)的 AlphaZero，據(jù)稱 AlphaZero 能在國(guó)際象棋、圍棋和日本將棋比賽中擊敗所有人類高手。

雖然 DeepMind 所開(kāi)發(fā)的系統(tǒng)看似已經(jīng)非常強(qiáng)大， Hassabis 卻說(shuō)談通用人工智能的實(shí)現(xiàn)還為時(shí)過(guò)早。人類與人工智能的區(qū)別在于，人類能夠從身邊的環(huán)境中獲取知識(shí)用于自己行動(dòng)的規(guī)劃和預(yù)測(cè)。所以即便與棋類游戲的新手相比， AlphaGo 和 AlphaZero 所能獲取的信息也不算多。

Hassabis 表示：“對(duì)機(jī)器來(lái)說(shuō)想學(xué)會(huì)打游戲得先學(xué)會(huì)看見(jiàn)東西，所以機(jī)器學(xué)起東西來(lái)比人慢很多。人打游戲時(shí)很快就能判斷歸納出碰到什么東西應(yīng)該做出什么樣的動(dòng)作。”

讓 AlphaZero 擊敗人類需要將其訓(xùn)練約 70 萬(wàn)次，每一次訓(xùn)練則包括 4096 種不同的棋局。即便訓(xùn)練 AlphaZero 的系統(tǒng)裝備了幾千個(gè)谷歌為機(jī)器學(xué)習(xí)專門(mén)優(yōu)化過(guò)的芯片，訓(xùn)練時(shí)間仍長(zhǎng)達(dá)數(shù)小時(shí)乃至數(shù)天（國(guó)際象棋需要約 9 小時(shí)，日本將棋要訓(xùn)練約 12 小時(shí)，圍棋則需要 13 天）。

今年夏天，Elon Musk 、 Reid Hoffman 和 Peter Thiel 成立的 OpenAI 所開(kāi)發(fā)的 OpenAI Five 在 Dota 2 比賽中必?cái)×擞晌迕麑I(yè)選手所組成的隊(duì)伍。OpenAI 在博客中表示，訓(xùn)練 OpenAI Five 使用了谷歌云平臺(tái)上 256 塊 Nvidia Tesla P100 顯卡和 12 萬(wàn) 8000 個(gè)處理器。每天的訓(xùn)練量都相當(dāng)于玩了 180 年的游戲 （ 80 % 的時(shí)間和自己對(duì)戰(zhàn)， 20 % 的時(shí)間和舊版 OpenAI Five 對(duì)戰(zhàn)）。然而即便經(jīng)過(guò)如此漫長(zhǎng)的訓(xùn)練，OpenAI Five 所學(xué)到的技巧也很難應(yīng)用于別的任務(wù)。

Hassabis 還說(shuō)：“我們目前所開(kāi)發(fā)的系統(tǒng)很難將一個(gè)領(lǐng)域里所習(xí)得的知識(shí)應(yīng)用于其他領(lǐng)域。我認(rèn)為，要實(shí)現(xiàn)知識(shí)的轉(zhuǎn)移，模型必須有理解抽象概念或提取知識(shí)的能力。訓(xùn)練機(jī)器一步一步玩游戲很容易，但我們的目標(biāo)是讓系統(tǒng)擁有生成模型的能力，這樣才能有在其他領(lǐng)域里規(guī)劃行動(dòng)的能力?！?/p>

除了任務(wù)過(guò)于單一，多數(shù)的 AI 系統(tǒng)的可擴(kuò)展性也較差。AlphaZero、AlphaGo 和OpenAI Five 都使用了強(qiáng)化學(xué)習(xí)的編程范式，讓 AI 能在棋盤(pán)或 MOBA 中規(guī)劃自己的行動(dòng)以獲取最大化獎(jiǎng)勵(lì)。強(qiáng)化學(xué)習(xí)的思想有點(diǎn)類似于操作條件反射實(shí)驗(yàn)中所使用的“斯金納箱”——當(dāng)箱子中的動(dòng)物對(duì)外界的聲光等刺激做出反應(yīng)時(shí)，比如按下了操縱桿，它就能獲得食物或者水作為獎(jiǎng)勵(lì)。

Geoffrey Hinton 曾被人稱為“深度學(xué)習(xí)教父”，他已經(jīng)在 AI 領(lǐng)域深耕了 30 年。現(xiàn)在他同時(shí)在多倫多大學(xué)和谷歌的深度學(xué)習(xí)研究團(tuán)隊(duì)里工作。除了在 DNN 方面的貢獻(xiàn)，他也在機(jī)器學(xué)習(xí)、感知、記憶和符號(hào)處理領(lǐng)域發(fā)表超過(guò) 200 篇論文。最近他把注意力轉(zhuǎn)向了旨在提升神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)穩(wěn)定性的膠囊神經(jīng)網(wǎng)絡(luò)。

Hinton 表示強(qiáng)化學(xué)習(xí)的獎(jiǎng)勵(lì)信號(hào)往往是“微弱”的，這導(dǎo)致代理有時(shí)難以在隨機(jī)數(shù)據(jù)中找到合適的模式，這就是所謂“嘈雜電視問(wèn)題”。他說(shuō)：AI 所擁有的信息非常有限，所獲得的反饋也非常少，但卻要用這些有限的信息來(lái)調(diào)整幾百萬(wàn)甚至幾十億個(gè)參數(shù)，那你只能可勁訓(xùn)練了?，F(xiàn)在這些深度學(xué)習(xí)應(yīng)用看起來(lái)效果都不錯(cuò)，但都是建立在大量訓(xùn)練的基礎(chǔ)上，不過(guò)我覺(jué)得這條路不太對(duì)?！?/p>

憑借自己幾十年的研究經(jīng)驗(yàn)，Hinton 認(rèn)為要解決強(qiáng)化學(xué)習(xí)的擴(kuò)展性問(wèn)題，主要在于通過(guò)分層結(jié)構(gòu)來(lái)實(shí)現(xiàn)對(duì)反饋信號(hào)的增強(qiáng)?！氨热缯f(shuō)有一家很大的企業(yè)，這個(gè)企業(yè)的反饋信號(hào)由職位最高的 CEO 來(lái)接收，雖然信號(hào)很強(qiáng)但是每一個(gè)季度才有一個(gè)信號(hào)進(jìn)來(lái)，這對(duì)于調(diào)動(dòng)整個(gè)企業(yè)所有人員的積極性很不利。不過(guò)如果 CEO 有幾個(gè)副手他就能給這些副手設(shè)定一些小目標(biāo)來(lái)最大化自己的獎(jiǎng)勵(lì)，這樣企業(yè)有更多利潤(rùn)，副手也獲得了獎(jiǎng)勵(lì)?！?/p>

這種架構(gòu)下，即使暫時(shí)沒(méi)有獲得獎(jiǎng)勵(lì)（也許是 CEO 傳遞給了副手一個(gè)錯(cuò)誤信號(hào)），這種信號(hào)反饋也會(huì)持續(xù)循環(huán)。而副手們總是能學(xué)到一些東西，只是這些學(xué)習(xí)到的未來(lái)可能會(huì)用得上。

“把目標(biāo)細(xì)分成子目標(biāo)或者小目標(biāo)相當(dāng)于創(chuàng)造了很多的反饋信號(hào)，這樣就可以實(shí)現(xiàn)反饋信號(hào)的增強(qiáng)。”細(xì)想起來(lái)這一過(guò)程非常復(fù)雜， CEO 的副手們需要向自己的下級(jí)傳達(dá)這些小目標(biāo)，而員工們也需要能夠判斷自己的行動(dòng)是否正確，因?yàn)橹挥羞@樣他們才能理解自己受獎(jiǎng)勵(lì)的原因。要實(shí)現(xiàn)這些溝通，上下級(jí)之間需要一種語(yǔ)言系統(tǒng)。

Hinton 說(shuō)：“簡(jiǎn)言之，在這一套系統(tǒng)中，模塊可以為其他模塊設(shè)立子目標(biāo)。我可以把它想象成牧羊人和牧羊犬的關(guān)系，雖然牧羊犬不會(huì)說(shuō)話，但訓(xùn)練有素的牧羊犬可以和牧羊人實(shí)現(xiàn)高效溝通。但如果牧羊犬自己還有下級(jí)牧羊犬，那么它就必須能夠向下級(jí)牧羊犬傳達(dá)來(lái)自牧羊人的指示?！?/p>

最近出現(xiàn)的 Transformer 模型可能就是解決這一問(wèn)題的關(guān)鍵。谷歌的研究人員去年發(fā)表了名為“ Attention Is All You Need ”的論文來(lái)介紹名為 Transformer 的新型網(wǎng)絡(luò)架構(gòu)，新架構(gòu)在機(jī)器翻譯上的表現(xiàn)超越了目前出現(xiàn)的所有模型，而且訓(xùn)練模型所需的時(shí)間較短。

今年 11 月，谷歌又在 Transformer 模型的基礎(chǔ)上發(fā)布了開(kāi)源的 BERT 模型。BERT 的核心思想是通過(guò)對(duì)語(yǔ)料集中可能出現(xiàn)的任務(wù)進(jìn)行預(yù)訓(xùn)練來(lái)學(xué)習(xí)不同語(yǔ)言句子之間的關(guān)系。使用 BERT 模型只需要一個(gè) TPU，訓(xùn)練 30 分鐘就能生成一個(gè)表現(xiàn)不輸其他算法的自然語(yǔ)言處理模型。使用一個(gè)普通顯卡也只需要訓(xùn)練個(gè)把小時(shí)。

Hinton 解釋道：“目前的神經(jīng)網(wǎng)絡(luò)調(diào)整權(quán)重的速度與數(shù)據(jù)的變化速度比起來(lái)太慢了。從生物學(xué)研究中我們知道，神經(jīng)元之間突觸的傳遞可以有不同的速度，這樣才能實(shí)現(xiàn)記憶和對(duì)記憶的提取。Transformer 模型則相當(dāng)于在神經(jīng)網(wǎng)絡(luò)中實(shí)現(xiàn)了路由功能：神經(jīng)元不只是把信息簡(jiǎn)單地傳遞給所有與之相連的神經(jīng)元，而是只傳遞給可能知道如何處理這些信息的神經(jīng)元?！?/p>

Hinton 還指出 Transformer 模型的思想其實(shí)早已經(jīng)有人提出來(lái)了。上世紀(jì)七十年代的模型都著重于通過(guò)調(diào)整權(quán)重增加模型的記憶功能來(lái)避免反復(fù)從存儲(chǔ)介質(zhì)中讀取數(shù)據(jù)。他說(shuō)：“其實(shí)信息并沒(méi)有真的存儲(chǔ)在模型中，而是模型具有根據(jù)所獲取的部分信息來(lái)恢復(fù)所有信息的能力，就好像用幾塊骨骼化石就能復(fù)原出整個(gè)恐龍的樣子。我們之前只在長(zhǎng)期記憶中使用了這種方法，而我認(rèn)為如果能在短期記憶也使用這種恢復(fù)信息的方法，那么一切問(wèn)題都能迎刃而解。”

AI 與偏見(jiàn)

Hinton 認(rèn)為 AI 照著模擬人腦這個(gè)路子發(fā)展下去的話，那么未來(lái)一定是無(wú)監(jiān)督學(xué)習(xí)的天下。無(wú)監(jiān)督學(xué)習(xí)是機(jī)器學(xué)習(xí)的一類方法，它之所以被稱為無(wú)監(jiān)督學(xué)習(xí)是因?yàn)樗斎氲臄?shù)據(jù)既沒(méi)有標(biāo)記也沒(méi)有分類，這與人類學(xué)習(xí)歸納特征和識(shí)別特征的途徑是一致的。他說(shuō)：“我們?nèi)祟悓W(xué)習(xí)的時(shí)候數(shù)據(jù)從來(lái)沒(méi)有被標(biāo)記，當(dāng)人類遇到一個(gè)情景的時(shí)候可沒(méi)人往你腦子里插個(gè)電極給你發(fā)信號(hào)。我認(rèn)為這是一種跟符合生物學(xué)意義的學(xué)習(xí)方式……這是大腦正在做的事情?！?/p>

Hassabis 也對(duì) Hinton 的看法表示同意。他說(shuō)：“我們?cè)?DeepMind 正試圖理解實(shí)現(xiàn)通用人工智能都需要哪些認(rèn)知能力，比如說(shuō)知識(shí)的轉(zhuǎn)移、抽象知識(shí)的理解、創(chuàng)造性、想象力、反事實(shí)思維、對(duì)未來(lái)的規(guī)劃、語(yǔ)言的運(yùn)用和符號(hào)推理這些人類做起來(lái)毫不費(fèi)力的工作?！?/p>

隨著 AI 日趨強(qiáng)大，有科技專家和倫理學(xué)家憂慮 AI 可能會(huì)吸收現(xiàn)有訓(xùn)練數(shù)據(jù)中存在的偏見(jiàn)并反映在預(yù)測(cè)結(jié)果中。這并不是杞人憂天，因?yàn)槠鋵?shí)有些偏見(jiàn)已經(jīng)顯現(xiàn)出來(lái)了。

谷歌的 AI 研究人員日前發(fā)布了一個(gè)用免費(fèi)開(kāi)源數(shù)據(jù)集訓(xùn)練過(guò)的照片標(biāo)記模型。輸入一張穿著婚紗的西人女子照片，模型輸出的標(biāo)記是“婚紗”、“女士”、“婚禮”和“新娘”這類詞。輸入身著傳統(tǒng)服飾的東方新娘照片輸出的則是“衣物”、“活動(dòng)”和“表演”這類詞，模型甚至根本沒(méi)注意到照片里的人。

華盛頓郵報(bào)今年 7 月發(fā)起的一項(xiàng)研究顯示，亞馬遜和谷歌推出的智能音箱在語(yǔ)音識(shí)別準(zhǔn)確率上，對(duì)英語(yǔ)母語(yǔ)的人的口音識(shí)別正確率比非英語(yǔ)母語(yǔ)的人要高 30%。IBM 和微軟等公司使用 Switchboard 語(yǔ)料庫(kù)來(lái)衡量語(yǔ)音模型的錯(cuò)誤率，該語(yǔ)料庫(kù)已經(jīng)被證實(shí)偏向于美國(guó)某些特定的地區(qū)。

與語(yǔ)音識(shí)別相比，計(jì)算機(jī)視覺(jué)算法在偏見(jiàn)上的表現(xiàn)也好不到哪去。一項(xiàng) 2012 年發(fā)布的研究顯示，Cognitec 推出的面部識(shí)別算法識(shí)別黑人的準(zhǔn)確率要比識(shí)別白人的準(zhǔn)確率低 5 % 至 10 %?，F(xiàn)在倫敦警方所使用的面部識(shí)別每次竟多達(dá) 49 個(gè)錯(cuò)誤匹配。在今年夏天的亞馬遜 Rekognition 面部識(shí)別測(cè)試中，使用來(lái)自“公共資源”的25000 張照片進(jìn)行訓(xùn)練后，竟然在美國(guó)國(guó)會(huì)議員的照片測(cè)試中“識(shí)別”出了 28 名罪犯。

盡管有很多負(fù)面報(bào)道，Hinton 對(duì) AI 的發(fā)展依然很樂(lè)觀。他認(rèn)為 AI 有一項(xiàng)優(yōu)勢(shì)就是它的靈活性，因此對(duì)數(shù)據(jù)中的偏見(jiàn)進(jìn)行建模，并消除結(jié)果中的偏見(jiàn)并不是很困難的任務(wù)。他說(shuō)：“數(shù)據(jù)中存在偏見(jiàn)的話，模型學(xué)到偏見(jiàn)也很正常。不過(guò)我們有多種方式來(lái)對(duì)數(shù)據(jù)中的偏見(jiàn)進(jìn)行建模，之后從模型中去除偏見(jiàn)就易如反掌了。要去除人心中的偏見(jiàn)可沒(méi)這么容易，偏見(jiàn)哪是說(shuō)說(shuō)就能消失的，在這一點(diǎn)上機(jī)器學(xué)習(xí)系統(tǒng)確實(shí)比人類優(yōu)越得多?！?/p>

目前也確實(shí)出現(xiàn)了一些消除算法中偏見(jiàn)確保 AI 公平公正的努力。今年 5 月 Facebook 發(fā)布了能夠探測(cè) AI 算法中人種、性別和年齡的偏見(jiàn)。埃森哲也發(fā)布了類似的工具來(lái)幫助開(kāi)發(fā)人員探測(cè)和避免 AI 算法中存在的偏見(jiàn)。微軟和谷歌年中也都發(fā)布了自家的偏見(jiàn)探測(cè)解決方案。IBM 今年秋季也發(fā)布了全自動(dòng)的算法監(jiān)測(cè)工具 AI Fairness 360 。這款云平臺(tái)上的工具能夠幫助開(kāi)發(fā)人員判斷 AI 預(yù)測(cè)的依據(jù)并推薦改正算法中偏見(jiàn)的措施，比如調(diào)整算法或增加數(shù)據(jù)。IBM Watson 和 IBM 云計(jì)算平臺(tái)最近也有一些糾正面部識(shí)別中偏見(jiàn)的措施。

Hinton 說(shuō)：“強(qiáng)大的電腦硬件可以讓我們不用為了效率犧牲算法的可讀性。相比運(yùn)算效率上的犧牲，代碼的簡(jiǎn)潔可能更重要，犧牲一些效率讓我們能夠完成消除算法中的偏見(jiàn)，那么效率上的犧牲也是值得的?！?/p>

AI 與就業(yè)

關(guān)于 AI 對(duì)就業(yè)問(wèn)題的影響，Hinton 也表示非常樂(lè)觀。

“通用人工智能這個(gè)詞聽(tīng)起來(lái)好像機(jī)器比人強(qiáng)了，但其實(shí)并不是這么回事。我認(rèn)為谷歌助手這樣的 AI 系統(tǒng)只是幫我們?nèi)祟悂?lái)完成一些日常工作?！?/p>

研究機(jī)構(gòu) Forrester 的研究員認(rèn)為，工作流程自動(dòng)化和 AI 將會(huì)創(chuàng)造出能夠代替人類工作的數(shù)碼工人軟件，而明年美國(guó) 40 % 的企業(yè)都會(huì)開(kāi)始使用數(shù)碼工人，美國(guó) 10 % 的工作崗位將會(huì)被自動(dòng)化的軟件所取代。世界經(jīng)濟(jì)論壇、普華永道和高德納咨詢公司甚至預(yù)測(cè) 2025 年全球?qū)⒂?7500 萬(wàn)工作崗位被 AI 取代。

Hinton 則對(duì)此持不同看法。他認(rèn)為通用人工智能對(duì)世界的認(rèn)知遠(yuǎn)不足以讓它能夠取代人類，而且這種情況短期內(nèi)都不會(huì)有什么改觀。 AI 只會(huì)成為提高人類生活水平的一種手段。他說(shuō)：“未來(lái)的 AI 可能對(duì)你想做的事情和你個(gè)人的偏好都有相當(dāng)?shù)牧私?，而且它能夠幫助你完成一些事情，但這絕不等同于將你取而代之。你讓一個(gè)非常擅長(zhǎng)自動(dòng)駕駛的系統(tǒng)去替你去約會(huì)的話，后果可想而知?！辈贿^(guò)他也表示，讓 AI 代替完成一些可能威脅到人類安全的工作是完全正確的。