哈佛大學(xué)著名遺傳學(xué)教授George M. Church認為，在人工智能時代，人類和機器之間的界限正在變得模糊，這是因為機器變得更像人類，而人類也變得更像機器。

本文作者George M. Church是哈佛醫(yī)學(xué)院著名遺傳學(xué)教授，哈佛大學(xué)韋斯生物啟發(fā)工程研究所(Wyss 研究所)的核心成員，被學(xué)界譽為是個人基因組學(xué)和合成生物學(xué)的先鋒。

與此同時，作為人類基因組計劃負責(zé)人，Church也被認為是一個致力于改造基因組的瘋狂科學(xué)家，一個人類企圖扮演上帝角色的典型代表。

George M. Church

Church近日在medium網(wǎng)站發(fā)表文章:A Bill of Rights for the Age of Artificial Intelligence。在這篇文章中，Church認為在人工智能時代，人類和機器之間的界限正在變得模糊，這是因為機器變得更像人類，而人類也變得更像機器。

他說：“當(dāng)前所未有的思想多樣性出現(xiàn)時，我們應(yīng)該關(guān)注所有意識的權(quán)利?！蔽磥硪褋恚徊贿^不均勻，我們中有數(shù)百萬人已經(jīng)成為“超人”(transhuman)，“什么是人類”這個問題應(yīng)該轉(zhuǎn)為思考“什么是超人，他們應(yīng)該有哪些權(quán)利”。

新智元對文章進行譯介如下：

全盤更新機器威脅論

1950年，諾伯特·維納(Norbert Wiener)的著作《人有人的用處》(The Human Use of Human Beings)走在了遠見和思辨的前沿，書中宣稱：

瓶裝妖魔型的機器雖然能夠?qū)W習(xí)，能夠在學(xué)習(xí)的基礎(chǔ)上作出決策，但它無論如何也不會遵照我們的意圖去作出我們應(yīng)該作出的或是我們可以接受的決策的...不論我們把我們的決策委托給金屬組成的機器或是血肉組成的機器(機構(gòu)、大型試驗室、軍隊和企業(yè))...時已遲矣，善惡決絕之機已經(jīng)迫在眉睫了。[1]

但這是他的書的結(jié)尾了，它讓我們徘徊了68年，不僅沒有提供指示和禁令，甚至連清晰的“問題陳述”都沒有。自那以后，我們看到很多類似的關(guān)于人類受機器威脅的警告，甚至是通過電影《巨人:福賓計劃》(Colossus: the Forbin Project, 1970)、《終結(jié)者》(the Terminator, 1984)、《黑客帝國》(the Matrix, 1999)和《機械戰(zhàn)警》(Ex Machina, 2015)等面向大眾的形式。但是，現(xiàn)在是時候用全新的觀點全盤更新這種機器威脅論了，特別是集中于我們的“人權(quán)”和我們的生存需要的一般化。

關(guān)注的焦點往往集中在“我們與它們”(us versus them，機器人)或“灰霧”(gray goo，納米技術(shù))或“克隆的單一栽培”(生物)上。推斷一下當(dāng)前的趨勢：如果我們能夠制造或種植幾乎任何東西，并設(shè)計出任何我們想要的安全性和有效性水平，那會變成怎么樣呢？任何有思想的生物(由原子的任何排列組成)都可以使用任何一種技術(shù)。

也許我們不應(yīng)該太過關(guān)心“我們與它們”，而應(yīng)該更多地關(guān)心在前所未有的思想多樣性涌現(xiàn)時所有意識形態(tài)的權(quán)利(the rights of all sentients)。我們應(yīng)該利用這種多樣性來將全球存在風(fēng)險降至最低，例如超級火山和小行星等。

雖然我們可能不知道在我們加速進化的每一步中，生物/人類/納米/機器人的合成人(hybrids)的比例將占多大比例，但我們可以致力于彼此的高水平的人道、公平和安全的處理(“使用”)。

平等

1776年，33歲的托馬斯·杰斐遜(Thomas Jefferson)寫道：“我們認為以下真理是不言而喻的：人皆生而平等，享有造物主賦予給他們的不可剝奪的權(quán)利，包括生命、自由和追求幸福的權(quán)利?！?/p>

當(dāng)今，“人類”的范圍是很大的。1776年時，“人”不包括有色人種或女性。即使在今天，有先天性認知障礙或行為障礙的人注定要接受不平等的(盡管在大多數(shù)情況下是富有同情心的)治療——唐氏綜合癥、泰-薩克斯病、脆性X染色體綜合癥、腦癱等等。

隨著人類社會的改變和成熟，不平等權(quán)利已經(jīng)發(fā)生了巨大的變化。胚胎、嬰兒、兒童、青少年、成年人、病人、重罪犯、性別認同和性別偏好、非常富有的人和赤貧的人——所有這些人都面對著不同的權(quán)利和社會經(jīng)濟現(xiàn)實。

獲得并保留與最精英人類相似的新思維類型權(quán)利的一條途徑是保留一個人類屬性(Homo component)。我們可能很難拔掉插頭，修改或刪除(殺死)一臺電腦和它的記憶——尤其是如果它與人類成為朋友，并發(fā)出極其迫切的求生請求(所有優(yōu)秀的研究人員都會這樣做)。

人類與非人類和合成人的規(guī)則截然不同

上面提到的智人內(nèi)部權(quán)利差異的分歧，一旦我們轉(zhuǎn)移到“人類”定義覆蓋到(或即將覆蓋)的實體，就會爆發(fā)一場不平等騷亂。

在谷歌街景中，人們的臉和汽車牌都被模糊處理了。視頻設(shè)備被排除在許多場景之外，比如法庭和委員會會議。具有面部識別軟件的可穿戴公共攝像頭是一個禁區(qū)。患有超憶癥(hyperthymesia)或過目不忘的人是不是應(yīng)該同樣被排除在這些場景之外呢?

面孔失認癥(臉盲)或遺忘癥患者不應(yīng)該從面部識別軟件和光學(xué)字符識別軟件中受益嗎？如果他們可以，那么為什么不是每個人都可以呢？如果我們都在某種程度上擁有這些工具，難道我們不都能從中受益嗎?

這些場景與庫爾特·馮內(nèi)古特(Kurt Vonnegut) 1961年的短篇小說《哈里森·伯杰隆》(Harrison Bergeron)如出一轍，其中，非凡的才能被壓制，以符合社會平庸的最低共同點。像約翰·塞爾(John Searle)的《中文房間》(Chinese room)和艾薩克·阿西莫夫(Isaac Asimov)的《機器人三定律》這樣的思維實驗，都吸引了丹尼爾·卡尼曼(Daniel Kahneman)、阿莫斯·特沃斯基(Amos Tversky)等人證明的那種困擾人類大腦的直覺。

“中文房間”實驗假設(shè)，一個由機械和智人組成的大腦，無論它在智人對話(中文對話)中多么有能力，都不可能是有意識的，除非人類能夠識別意識的來源并“感覺”到它。

如果機器人不具有與人類完全相同的意識，那么這就被用作給他們不同權(quán)利的借口，類似于其他部落或種族不如人類的論點。機器人已經(jīng)表現(xiàn)出自由意志了嗎？他們已經(jīng)有自我意識了嗎？機器人Qbo通過了自我識別的“鏡像測試”，機器人Nao通過了識別自身聲音并推斷自身是否處于靜音狀態(tài)的相關(guān)測試。

關(guān)于自由意志，我們的算法既不是完全確定的，也不是完全隨機的，而是針對接近最優(yōu)的概率決策。有人可能會認為這是博弈論的優(yōu)勝劣汰的結(jié)果。對于許多（而非所有）博弈/問題，如果我們的結(jié)論是完全可預(yù)測或完全隨機的，那么我們往往會陷入失敗。

那么，自由意志的吸引力到底是什么？從歷史上看，自由意志給了我們在地球或來世實施獎懲的方法。懲罰的目標(biāo)可能包括推動個人優(yōu)先事項，以有助于物種的生存。在極端情況下，如果積極/消極強化不足以保護社會，這種懲罰可能包括監(jiān)禁或其他限制。顯然，這些手段可以應(yīng)用于廣泛的自由意志，它適用于我們想要管理和約束其行為的任何機器。

我們可以討論機器人是否真的經(jīng)歷了自由意志或自我意識的主觀感受，但這同樣適用于評估人類。我們怎么知道反社會人士，陷入休克的病人、威氏綜合癥患者或嬰兒與我們自己有相同的自由意志或自我意識？實際上，自由意志起到了什么作用？如果人類令人信服地聲稱要經(jīng)歷意識、痛苦、信仰、幸福、野心，對社會發(fā)生作用，我們是否應(yīng)該否認他們的享有自由意志的權(quán)利，只因為他們的假設(shè)與我們的假設(shè)不同？

人與機器之間的界限越來越模糊

我們曾認為自己永遠不會跨越的那條禁忌的紅線，似乎變得越來越短，而且越發(fā)不合理。人與機器之間的界限越來越模糊，機器變得更像人類，人類變得更像機器。這不僅在于我們越來越盲目地服從和遵循GPS定位信息、條件反射般的推文和精心策劃的營銷手段，而且我們也消化了對自己大腦的更多見解和遺傳編碼機制。 美國國立衛(wèi)生研究院的“大腦計劃”正在開發(fā)創(chuàng)新技術(shù)，并利用這些技術(shù)繪制神經(jīng)電路的連接和活動，用以改善電子和合成神經(jīng)生物學(xué)產(chǎn)品的性能。

很多類型的“紅線”取決于遺傳的特殊性，遺傳學(xué)被認為是永久的（盡管已證明遺傳是可逆的），而一些技術(shù)，比如汽車，無論從何種意圖和目的來看，都由于社會和經(jīng)濟力量而變得不可逆轉(zhuǎn)。在遺傳學(xué)中，這類“紅線”促使我們禁止或避免使用轉(zhuǎn)基因食品，但卻接受了用轉(zhuǎn)基因細菌制造胰島素或轉(zhuǎn)基因人類，歐洲已經(jīng)批準了用于成人和胚胎的線粒體療法。

對于“人類的主題研究”，可以參考1964年赫爾辛基宣言，更要牢記1932年至1972年的塔斯基吉梅毒實驗，這可能是美國歷史上最臭名昭著的生物醫(yī)學(xué)研究。 2015年，非人權(quán)項目代表兩只被石溪大學(xué)研究的黑猩猩向紐約州最高法院提起訴訟。上訴法院的裁決認為黑猩猩不應(yīng)被視為法人，因為它們“在社會上沒有義務(wù)和責(zé)任”，不過JaneGoodall和其他一些人持相反意見，還有人認為這樣的判決將來也可能降臨在兒童和殘疾人士身上。

是什么阻止了人類與其他動物、類器官、機器和雜交物種的延伸和交融？目前，一些人工智能領(lǐng)域的著名人物（如霍金、馬斯克、泰格馬克等）已經(jīng)在宣傳禁止使用“自主武器”，我們將一類“啞巴”機器不斷妖魔化，而實際上其他類型的機器，比如由許多智人投票組成的機器可能更致命，更具誤導(dǎo)性。

“超人”們已經(jīng)在地球上四處漫游了嗎？對于那些“未接觸現(xiàn)代世界的民族”，如印度的Sentinelese和Andamanese，印度尼西亞的Korowai，秘魯?shù)腗ashco-Piro，澳大利亞的Pintupi，埃塞俄比亞的Surma，越南的Ruc，巴拉圭的Ayoreo-Totobiegosode，納米比亞的辛巴和巴布亞新幾內(nèi)亞的數(shù)十個部落來說，他們的祖先會如何回應(yīng)這個觀點？我們可以將“超人”定義為生活在現(xiàn)代，但未接觸技術(shù)文化中的人們無法理解的那些人和文化。

這樣，現(xiàn)代石器時代的人們將很難理解為什么我們因為最近發(fā)現(xiàn)LIGO引力波證據(jù)，印證了百年歷史的廣義相對論而熱烈慶祝。他們會為我們的原子鐘或GPS衛(wèi)星而困惑不已。我們可以比任何其他生物物種更快地移動，實際上，我們可以從地球達到逃逸速度，并在非常寒冷的太空真空環(huán)境中生存。

科幻小說先知威廉·吉布森曾說過：“未來已至，它的分布并不均勻。”雖然這話低估了下一輪的“未來”，但我們當(dāng)中數(shù)百萬人已經(jīng)是超人 - 我們大多數(shù)人都要求更多。 “什么是人類？”這個問題已經(jīng)變成了“什么是超人，TA們有哪些權(quán)利？”

[1]諾伯特·維納是20 世紀最偉大的數(shù)學(xué)家之一，信息論的前驅(qū)，控制論的奠基人。這段譯文摘自北京大學(xué)出版社《人有人的用處——控制論與社會》，譯者陳步。