摘要： 談?wù)?a target='_blank' class='arckwlink_none'>機(jī)器人消滅人類(lèi)，甚至談到機(jī)器人的‘意識(shí)’仍然是遙不可及的事。然而，來(lái)自人工智能的一項(xiàng)更為嚴(yán)重的威脅正在逼近，并可能產(chǎn)生嚴(yán)重的影響。 當(dāng)人們問(wèn)我是干什么的，我常常對(duì)回答的深度感到困惑。說(shuō)“人工智能”我很滿(mǎn)意，但太寬泛，而說(shuō)“圖像處理”可能又太具體。然而，一聽(tīng)到接下的來(lái)的毫不相干的問(wèn)題我總是氣不打一處來(lái)。 “人工智能要主宰世界嗎？” 做為一位研究機(jī)器智能的人來(lái)說(shuō)，這個(gè)問(wèn)題的確讓我失望。我不能責(zé)怪這些懷疑者——人們大都認(rèn)為人工智能是某種未知而神秘的東西，密謀著最終要?dú)⒐馕覀兯腥?，因?yàn)樗茴A(yù)測(cè)下一場(chǎng)我們想看的電影是香腸派對(duì)，此前我們看了一整夜的埃文·戈登伯格的片子。 許多人沒(méi)想到的是，不管我們認(rèn)為自己多么奇特，我們的選擇和基本智能都遵循著普遍的模式，對(duì)于這種模式計(jì)算機(jī)只要看多了就很容易識(shí)別出來(lái)。 這就使得 預(yù)測(cè)你所喜歡的音樂(lè), 或建議我們?cè)诜奖銜r(shí)所用的正確手機(jī)應(yīng)用 等方面對(duì)于機(jī)器來(lái)說(shuō)是小菜一碟。我并不是說(shuō)所有的 預(yù)測(cè)工作都具有同樣的性質(zhì)和難度，但指望該研究領(lǐng)域之外的人理解它是有難度。 理解我們目前的人工智能技術(shù)所擅長(zhǎng)之處的關(guān)鍵是知道計(jì)算機(jī)在兩種基本環(huán)境中學(xué)習(xí)得特別好——i)受控環(huán)境，和ii)監(jiān)督之下。 我們看到谷歌的人工圍棋機(jī)器最近擊敗了最佳人類(lèi)棋手。戰(zhàn)勝?lài)?guó)際象棋的事早在我們還是孩童時(shí)就實(shí)現(xiàn)了。最近所看到的 許多有關(guān)擊敗人類(lèi)的論文都提到Doom。其實(shí)在游戲中，你知道可能的結(jié)局、戰(zhàn)斗環(huán)境和你能采取的行動(dòng)，這使得建模問(wèn)題容易得多。一旦我們能對(duì)游戲所處的世界進(jìn)行建模，從模擬中學(xué)習(xí)則是下一部分——我們?cè)谟布蠈?shí)現(xiàn)了飛躍，大規(guī)模學(xué)習(xí)能力讓 AlphaGo 能 在最近實(shí)現(xiàn)突破。 （其理論一直存在）。 游戲是一種在受監(jiān)督、 受控環(huán)境下的最佳實(shí)例。在這種環(huán)境中，你能估計(jì)每次所采取行動(dòng)所得到的懲罰，因此能有效地從錯(cuò)誤中進(jìn)行學(xué)習(xí)。督控環(huán)境的另一個(gè)例子是我們正在談?wù)摰碾娪邦A(yù)測(cè)。由于有記錄大批用戶(hù)和電影的表存在，加上用戶(hù)選擇模式，我們就有了預(yù)測(cè)下一部電影所需要的東西。 在督控環(huán)境中，我們知道要獲取哪種信息，因此能用同樣的方式處理類(lèi)似的信息位。我們創(chuàng)建對(duì)象組，這有助于我們最終在需要做出預(yù)測(cè)時(shí)確定實(shí)現(xiàn)的算法。這是類(lèi)似人類(lèi)的智能人一般性學(xué)習(xí)的非常窄的子集。 人類(lèi)在與環(huán)境作用中不僅發(fā)育了邏輯還有直觀，而且基本上是在沒(méi)有監(jiān)督的情況下實(shí)現(xiàn)的。象識(shí)別物體和理解物理原理的過(guò)程每一秒都在發(fā)生，總體來(lái)說(shuō)，我們通過(guò)與它交互而學(xué)到更多有關(guān)的新信息。而在這方面，現(xiàn)在的計(jì)算機(jī)做得一塌糊涂。 圖像分類(lèi)程序（Image Classifier）示意圖 (image courtesy: wildML.com) 今天，如果你想要機(jī)器能在照片中認(rèn)出你的車(chē)，你得告訴它要看什么（你的照片）以及你的車(chē)像什么。只要你提供大量有關(guān)你車(chē)的圖像, 那么它肯定能認(rèn)出它。亦即監(jiān)督中的學(xué)習(xí), 監(jiān)督是說(shuō)你指出你的車(chē)在圖像中的樣子，然后它就懂得要找什么。今天計(jì)算機(jī)科學(xué)家正努力理解有沒(méi)有監(jiān)督或很少監(jiān)督下的學(xué)習(xí)——無(wú)監(jiān)督學(xué)習(xí)。我們最終要讓機(jī)器自己能明白什么是物體什么是場(chǎng)景而不用我們?nèi)ッ魇尽? 不用監(jiān)督或很少監(jiān)督的學(xué)習(xí)是個(gè)難點(diǎn)，人工智能研究大多集中在處理這個(gè)問(wèn)題。我們的機(jī)器智能越來(lái)越高，但大數(shù)是在監(jiān)控的環(huán)境中。我們首先需要懂得如何讓機(jī)器人在無(wú)監(jiān)控下學(xué)習(xí), 從而讓系統(tǒng)有接近人類(lèi)的智能。 所以說(shuō)，談?wù)摍C(jī)器人消滅人類(lèi)，甚至談到機(jī)器人的‘意識(shí)’仍然是遙不可及的事。然而，來(lái)自人工智能的一項(xiàng)更為嚴(yán)重的威脅正在逼近，并可能產(chǎn)生嚴(yán)重的影響。 就在本次會(huì)議剛剛開(kāi)始時(shí)，我從前的顧問(wèn)就第一次提到某種讓我質(zhì)疑人工智能應(yīng)用的事。 在早期人工智能技術(shù)中, 我們能輕易地理解算法為什么要那樣做。例如，我們想制造一臺(tái)能僅通過(guò)測(cè)量人的身高和體重而告訴他是否超重的機(jī)器。為此，我們只要計(jì)算該人的身體質(zhì)量指數(shù)（BMI）就行了，如果他過(guò)了某和臨界值就說(shuō)他超重了。 這是非常原始的人工智能代理。實(shí)際上它只做邏輯判斷。 早期名為決策樹(shù)的算法通過(guò)檢查具體特征而將數(shù)據(jù)切分。 [Image courtesy : Wikipedia] 于今所使用的機(jī)器顯然沒(méi)那么簡(jiǎn)單。它們采用復(fù)雜的海量輸入（如高清圖像） 并且需要對(duì)其內(nèi)容進(jìn)行細(xì)微的預(yù)測(cè)。象臨界值或決策樹(shù)在這里不起作用。系統(tǒng)越來(lái)越多地使用一套被統(tǒng)稱(chēng)為 深度學(xué)習(xí)的算法, 這種計(jì)算密集技術(shù)能象人一樣運(yùn)用大量數(shù)據(jù)識(shí)別和學(xué)習(xí)具體模式。 一種典型的深度學(xué)習(xí)技術(shù)包含數(shù)個(gè)神經(jīng)元（圈），它們象人腦一樣互相連接，傳遞信息。 [Image courtesy neuralnetworksanddeeplearning.com] 這些系統(tǒng)雖然因需要大量數(shù)據(jù)進(jìn)行學(xué)習(xí)而學(xué)得慢，但對(duì)于它們的工作干得非常出色。 但會(huì)有陷阱——一旦它們得出結(jié)論，盡然結(jié)論正確，但我們大多無(wú)法準(zhǔn)確得知它是如何得出的。 這聽(tīng)起來(lái)并不值得大驚小怪。在機(jī)器學(xué)習(xí)系統(tǒng)中，我們有兩類(lèi)數(shù)據(jù)——特征和標(biāo)注。特征是系統(tǒng)所觀察到的變量，而標(biāo)注是我們要預(yù)測(cè)的量。例如在前面肥胖探測(cè)器的例子中，特征是一個(gè)人的體重和身高，而標(biāo)注是超重或健康。對(duì)于從圖片上探測(cè)癌細(xì)胞來(lái)說(shuō)，特征是幾個(gè)器官的圖像，而標(biāo)注是上述圖像是否有癌細(xì)胞。 這些是癌細(xì)胞算法必須完成的工作。[Image Courtesy: CNN] 機(jī)器學(xué)習(xí)算法解決問(wèn)題的辦法通常是對(duì)每個(gè)特征賦上“加權(quán)值”，求它們的和并最終基于該和的值做出決定。例如，如果叫你預(yù)測(cè)蘋(píng)果是否變質(zhì)，你可能會(huì)去聞蘋(píng)果的氣味、看它的顏色，最后去摸它，心理上對(duì)每種特征賦上加權(quán)值。 如果蘋(píng)果真的腐爛，只看顏色就夠了 計(jì)算機(jī)遵循著類(lèi)似的高級(jí)意識(shí)，只不過(guò)那些“權(quán)值”是通過(guò)使用不同的優(yōu)化技術(shù)通過(guò)計(jì)算獲得的。但在深度學(xué)習(xí)中, 我們并不能確定我們想看哪種特征，更別提賦值了。那我們?cè)蹀k？我們讓計(jì)算機(jī)自己學(xué)習(xí)最佳特征，然后以最佳方式將其進(jìn)行組合來(lái)做出預(yù)測(cè)，在某種程度上類(lèi)似人腦的工作方式。 這種思想產(chǎn)生了令人震驚的結(jié)果，特別是在計(jì)算機(jī)視覺(jué)（即研究讓計(jì)算機(jī)理解視覺(jué)數(shù)據(jù)），高性能GPU的出現(xiàn)和新穎的結(jié)構(gòu)讓學(xué)習(xí)圖像一級(jí)的概念輕而易舉。但要說(shuō)明一點(diǎn)——我們所說(shuō)的這些特征，亦即這些算法所學(xué)到的特征 不太直觀，與我們傳統(tǒng)技術(shù)很不一樣。 這些是計(jì)算機(jī)尋找圖像的實(shí)例——從視覺(jué)上看它們似乎是在探測(cè)形狀，但對(duì)于非視覺(jué)數(shù)據(jù)來(lái)說(shuō)，情況就不那么直接[Image Courtesy?—?Yann LeCun’s ICML 2013 tutorial] 一般人并不把它當(dāng)回事——那時(shí)在技術(shù)上也不是大不了的問(wèn)題，用人工智能所做的工作都很具體，如在圖像中識(shí)別人和物體, 跟蹤人臉以及生成地址抽樣。于是我們有了一個(gè)很妙的主意來(lái)表達(dá)算法所學(xué)的內(nèi)容 (事實(shí)上, 這個(gè)演示是這方面最近發(fā)展情況，相當(dāng)酷)。但當(dāng)我們開(kāi)始針對(duì)有預(yù)測(cè)風(fēng)險(xiǎn)的任務(wù)運(yùn)用深度學(xué)習(xí)時(shí)，每次預(yù)測(cè)都必須站得住腳。 比喻說(shuō)你是家銀行，你有所有客戶(hù)的交易和信用的歷史記錄。你用復(fù)雜的深度學(xué)習(xí)算法弄清貸款不還者。既然你有龐大的用戶(hù)行為模式的數(shù)據(jù)庫(kù)，你的算法可能讓你準(zhǔn)確地寫(xiě)成這項(xiàng)工作，但有種情況除外：一旦你真的懷疑一位未來(lái)欠款人，你弄不清到底是什么導(dǎo)致懷疑，從而讓這種預(yù)測(cè)判斷更加困難。 大多深度學(xué)習(xí)系統(tǒng)并沒(méi)有良好的技術(shù)理解其決策能力，這是目前活躍的研究領(lǐng)域。對(duì)于某些特定任務(wù)的深度網(wǎng)絡(luò)，尤其是計(jì)算機(jī)視覺(jué)，我們?cè)诶斫膺@些系統(tǒng)上有所進(jìn)步——相當(dāng)程度地確定促使算法那樣做的位點(diǎn)。但總的來(lái)看，需要做的工作還不少。 機(jī)器學(xué)習(xí)系統(tǒng)有個(gè)嚴(yán)重的障礙——需要手動(dòng)輸入來(lái)讓它們正確地區(qū)分信號(hào)與噪音。或者從技術(shù)術(shù)語(yǔ)說(shuō), 過(guò)度擬合。這個(gè)技術(shù)行話的意思是說(shuō)，當(dāng)一個(gè)模型必須適合于某個(gè)集合的數(shù)據(jù)時(shí)，要對(duì)更新的未知數(shù)據(jù)做出預(yù)測(cè)，它會(huì)在學(xué)習(xí)中 過(guò)于順從它已經(jīng)收集到的數(shù)據(jù)。結(jié)果在現(xiàn)實(shí)世界中應(yīng)用時(shí)不會(huì)有良好的表現(xiàn)。 這意味著模型一般會(huì)開(kāi)始搜索存用于算法訓(xùn)練的數(shù)據(jù)而并不存在于現(xiàn)實(shí)世界的模式。有多種方式理解過(guò)度擬合，現(xiàn)實(shí)生活中存在一些過(guò)度擬合的事例，簡(jiǎn)單一例是在你當(dāng)?shù)叵奶鞎r(shí)你把手提箱塞滿(mǎn)了夏天穿的衣服，而在阿姆斯特丹是11度，在那里你會(huì)瑟瑟發(fā)抖。 這就是過(guò)度擬合的樣子，最后一條曲線發(fā)出噪音。 [Image courtesy?—?StackExchange] 就過(guò)度擬合說(shuō)些題外話是為了強(qiáng)調(diào)機(jī)器學(xué)習(xí)系統(tǒng)責(zé)任的重要性。如果我們無(wú)法理解并弄清這些算法在學(xué)什么，我們就無(wú)法說(shuō)出它們是不是過(guò)度擬合。這種不良影響的事例還有，比如機(jī)器根據(jù)瀏覽歷史中預(yù)測(cè)可疑行為，由于它所看到的大多用戶(hù)都是——比方說(shuō)——來(lái)自美國(guó)的十九歲的人，于是它的側(cè)重不在來(lái)自美國(guó)的十九歲的用戶(hù)，盡管他們搜索歷史大多有 PewDiePie 視頻。 當(dāng)深度學(xué)習(xí)越來(lái)越多地應(yīng)用于艱深的推導(dǎo)工作時(shí)，這種影響會(huì)呈指數(shù)增加。例如，我們看到許多研究進(jìn)入到醫(yī)學(xué)圖像預(yù)測(cè)，這種應(yīng)用需要承擔(dān)更大責(zé)任。另外，一旦這種預(yù)測(cè)規(guī)模大到無(wú)法進(jìn)行人工檢驗(yàn)時(shí)，我們需要系統(tǒng)讓我們理解并調(diào)整這些算法所考慮的內(nèi)容。 這種威脅正在來(lái)臨，但也成了研究對(duì)象，投入的時(shí)間越多，更好的解決方案就更有可能出現(xiàn)。但我們必須認(rèn)識(shí)到模型責(zé)任的重要性，尤其是當(dāng)我們開(kāi)發(fā)讓生活變得更為輕松的新系統(tǒng)時(shí)。我們用一個(gè)例子來(lái)結(jié)束談話—— 如果一個(gè)人撞了車(chē)，我們會(huì)讓他擔(dān)責(zé)并理解事故為什么發(fā)生，可能是酒駕或在給人發(fā)短信。 但如果自動(dòng)駕駛車(chē)撞上另一輛并讓一位乘客致死，誰(shuí)會(huì)擔(dān)責(zé)呢，原因如何？你如何確保下次不會(huì)發(fā)生呢？ 這種事故最近已經(jīng)發(fā)生了好幾起 , 隨著更多的系統(tǒng)使用人工智能，會(huì)出現(xiàn)更多失誤。要進(jìn)行糾正，我們需要知道錯(cuò)在哪——這是人工智能今天所面臨的主要挑戰(zhàn)。 本文譯者為：kundogma 原文來(lái)自：bullshit (mbbeetchina)