5.道德：弗蘭肯斯坦的回形針

　　技術(shù)專家不相信人工智能會(huì)失去控制，但還是會(huì)有道德上的憂慮

　　隨著《末日侵襲》這部電影情節(jié)的發(fā)展，它看起來也沒有那么可怕。所謂的「回形針最多化」（paperclip maximiser）是牛津大學(xué)哲學(xué)家 Nick Bostrom 提出的一個(gè)思維實(shí)驗(yàn)。這個(gè)實(shí)驗(yàn)假設(shè)一個(gè)人工智能能夠希望能收集盡可能多的回形針。它會(huì)想盡一切辦法來收集回形針，并且會(huì)通過自我升級來找到收集回形針的新方法，它還會(huì)反抗一切阻止它做這件事情的企圖。最后它“把整個(gè)地球和一部分宇宙空間都變成了一個(gè)回形針制造工廠”。這種明顯非常愚蠢的試圖想表達(dá)一個(gè)非常嚴(yán)肅的觀點(diǎn)：人工智能不需要人類一樣的行為和心理動(dòng)機(jī)。它們可能不會(huì)出現(xiàn)人類常會(huì)犯的錯(cuò)誤和偏差，但是會(huì)犯別的錯(cuò)誤，例如執(zhí)著于回形針。它們的目標(biāo)已開始可能看起來是無害的，但如果人工智能能夠自我復(fù)制并升級自己的性能就會(huì)非常危險(xiǎn)了。即使是一個(gè)運(yùn)行在一臺(tái)不聯(lián)網(wǎng)的計(jì)算機(jī)上的「被束縛的超級人工智能」也會(huì)竭盡全力地勸說它的主人讓他獲得自由。先進(jìn)的人工智能不僅僅是一門新技術(shù)，而是一個(gè)對人類的威脅，Bostrom 說。

　　機(jī)器能夠自己獨(dú)立運(yùn)行并不是一個(gè)新鮮想法，英國作家瑪麗·雪萊在 1818 年就在她的小說《弗蘭肯斯坦》中提出過這個(gè)想法。但直到 1965 年，人們才提出這種能夠不斷自我升級的人工智能概念。但最近人們在人工智能方面取得的進(jìn)展又引起了新的擔(dān)憂，Bostrom 就是一個(gè)人工智能威脅論的知名倡導(dǎo)者，他更喜歡把人工智能叫做「超級智能」，這也是他的新書的書名。

　　一些人工智能研究者給出了幾個(gè)理由來證明為什么人們沒必要恐懼人工智能，最起碼是在當(dāng)前階段。第一，吳恩達(dá)曾說過智能和感性能力以及意識(shí)是不同的。在 IBM 的人工智能道德小組工作的 Farancesca Rossi 也說過，人工智能「總有一天會(huì)覺醒并獲得自己的思想」的想法并不現(xiàn)實(shí)。

　　第二，所謂的「智能爆發(fā)」也是不可能出現(xiàn)的，因?yàn)檫@需要一個(gè)人工智能在比它的前一個(gè)版本的智能升級更短的時(shí)間內(nèi)升級出新的版本。但是大多數(shù)計(jì)算問題，即使是比人工智能簡單得多的，在規(guī)?；牡臅r(shí)候也需要花很長的時(shí)間。

　　第三，即使機(jī)器能夠從經(jīng)驗(yàn)和環(huán)境中學(xué)習(xí)，它們也不會(huì)總在學(xué)習(xí)。例如一輛自動(dòng)駕駛汽車并不是在每次駕駛的時(shí)候都在進(jìn)行訓(xùn)練。相反地，深度學(xué)習(xí)系統(tǒng)在神經(jīng)網(wǎng)絡(luò)中建立一個(gè)執(zhí)行特定任務(wù)的計(jì)算模型也需要花上好幾天時(shí)間。這個(gè)模型可以被應(yīng)用到一個(gè)執(zhí)行機(jī)器中，例如汽車、無人機(jī)、app或者其他的地方。但是這些汽車和無人機(jī)并不能在實(shí)際工作時(shí)學(xué)習(xí)，相反地，他們在實(shí)際工作中得到的數(shù)據(jù)會(huì)被傳回后方來改進(jìn)模型，然后模型又會(huì)被再次應(yīng)用。因此一個(gè)單一的系統(tǒng)不會(huì)在環(huán)境中學(xué)到「壞行為」，因?yàn)樗诃h(huán)境中并沒有學(xué)習(xí)。

　　6.結(jié)論：機(jī)械問題的答案

　　人工智能未來一瞥

　　之前看起來非常緊要的、亟待解決的原始的機(jī)器問題，最終將自我解決。盡管 David Ricardo 以及其他人都表達(dá)過「機(jī)器取代人類勞力可能致使人口冗余」這樣的恐懼，機(jī)械化的總體影響將會(huì)是創(chuàng)造史無前例規(guī)模的職位。機(jī)器讓個(gè)人工作者能生產(chǎn)更多產(chǎn)品，降低大量商品的價(jià)格，擴(kuò)大需求并且將需要更多工人。全新的工作職位將被創(chuàng)造出來，對機(jī)器進(jìn)行監(jiān)督。隨著公司變得更大，他們將會(huì)需要更多經(jīng)理、會(huì)計(jì)和其他職位。而且隨著鐵路、電信、電氣的到來，全新的、前所未有的、我們難以想象的產(chǎn)業(yè)將會(huì)涌現(xiàn)。

　　誠然，所有這些都將花費(fèi)一段時(shí)間。當(dāng)一些工作消失的時(shí)候，工業(yè)化會(huì)造成普遍的勞力市場聚變，其他改變難以知曉，而全新的職位將會(huì)出現(xiàn)。工廠內(nèi)的情況曾經(jīng)非常糟糕，從顯著的工人收入變化上反映出經(jīng)濟(jì)的增長需要幾十年的時(shí)間，這種現(xiàn)象也就是我們所熟知的「恩格斯停頓」。

　　在人工智能發(fā)展緩慢而備受挫折的數(shù)年之后，現(xiàn)在很多人卻認(rèn)為它前進(jìn)過快，這是一件非常諷刺的事。然而，一份冷靜的評估表明我們應(yīng)該歡迎人工智能，而不是害怕人工智能。在 19 世紀(jì) 40 年代，John Stuart Mill 寫道，「將來我們會(huì)看到，機(jī)械發(fā)明對勞工的最終好處是毋庸置疑的。」未來可能會(huì)有一位經(jīng)濟(jì)學(xué)家同樣如此描述人工智能的好處，并不只是對勞工而言，而是對每一個(gè)人而言。

　　翻譯： 機(jī)器之心

　　編輯：JAMES