人工智能不僅學(xué)習(xí)人類的語言、下棋方式和圖像識別模式，也學(xué)會了人類的歧視和偏見。人工智能“女王”李飛飛指出，AI 的決策已經(jīng)開始影響人類社會，我們必須盡快對人工智能進(jìn)行修正。這也將成為李飛飛離開谷歌之后的工作重點。

人工智能的“偏見”危機(jī)

今年 6 月 26 日，李飛飛走進(jìn)美國眾議院科學(xué)、空間與技術(shù)委員會（the US House Committee on Science, Space, and Technology）的會議室，出席一場聽證會，主題為“人工智能——力量與責(zé)任并存（Artificial Intelligence—With Great Power Comes Great Responsibility）”。她演講的內(nèi)容是人工智能帶來的危機(jī)。

李飛飛是桌邊唯一的女性。她參與構(gòu)建的ImageNet數(shù)據(jù)庫能夠幫助計算機(jī)識別圖像。有了這樣的人工智能軟件，計算機(jī)可以學(xué)會做某個特定的任務(wù)，用時要比人工短得多。而且，隨著人工智能的復(fù)雜化，它可以代表人類對數(shù)據(jù)進(jìn)行過濾、分類和分析，最后做出影響社會乃至全球的決策?，F(xiàn)如今，人工智能可以判斷該對病人處以何種治療、誰能獲得人壽保險、犯人的監(jiān)禁時間要判處多長、哪些求職者能進(jìn)入面試等等。

當(dāng)然，如果操作不當(dāng)，這些力量也可能是危險的。亞馬遜的人工智能招聘軟件學(xué)會了剔除那些含有“女性”字眼的簡歷，因此強(qiáng)制被停用；2015 年谷歌的照片識別軟件錯把黑人當(dāng)成大猩猩，這一事件成為廣為人知的事故；微軟的社交聊天機(jī)器人發(fā)出的推文帶有種族歧視，為大家所唾棄。如今我們還能找出問題出在哪，從而進(jìn)行修正，但李飛飛認(rèn)為，隨著人工智能技術(shù)被廣泛、快速納入應(yīng)用，我們在不久的將來就會到達(dá)一個時間點，無法進(jìn)行自我修正。

這個領(lǐng)域當(dāng)中絕大多數(shù)有權(quán)威的杰出男性領(lǐng)導(dǎo)者不止一次發(fā)出警告，認(rèn)為人工智能驅(qū)動的技術(shù)有朝一日會對人來產(chǎn)生威脅。但李飛飛認(rèn)為大家還不必對這些擔(dān)憂太過重視。她所關(guān)心的問題沒有那么宏大，卻更為重要：人工智能會對人們的工作、生活方式產(chǎn)生怎樣的影響。這項技術(shù)肯定會改變?nèi)祟惖纳铙w驗，然而并不一定是向更好的方向。

李飛飛堅信人工智能領(lǐng)域需要一次“校正”，她說：“我們還有時間，但行動要趁早。”如果我們對人工智能的編程方式和背后的程序員進(jìn)行根本上的改變，這項技術(shù)就可以極大地提高我們的生活質(zhì)量。若非如此，我們中的大部分都跟不上變革的腳步。

李飛飛在聽證會上最后一個發(fā)言?！叭斯ぶ悄懿⒉弧斯ぁ?，”她的聲音越來越洪亮，“它受到人類的啟發(fā)，由人類所創(chuàng)造，而且最重要的是人類會受其影響。它是一種強(qiáng)大的工具，我們對它的理解還處在初始階段，掌握它是我們深遠(yuǎn)的責(zé)任。”與會者們聽得聚精會神。

“不可能”的數(shù)據(jù)庫

李飛飛在成都長大，這是中國南方的一座工業(yè)化城市。她不愛說話，頭腦聰明，還很喜歡讀書。她的家庭也有點不同尋常：當(dāng)時很少有人養(yǎng)寵物，她爸爸卻給她買了只小狗。媽媽出身書香門第，鼓勵她閱讀《簡·愛》。

李飛飛 12 歲的時候，爸爸移民到了新澤西州的帕西帕尼（Parsippany），16 歲時她和母親也一起移民。李飛飛只用了兩年時間就掌握了英語，在學(xué)校的表現(xiàn)也很好，1995 年拿到了普林斯頓大學(xué)的獎學(xué)金。大學(xué)期間她興趣十分廣泛，主修物理，輔修了計算器科學(xué)與工程。2000年，她到在位于帕薩迪納（Pasadena）的加州理工學(xué)院攻讀博士學(xué)位，研究神經(jīng)科學(xué)和計算機(jī)科學(xué)的交叉學(xué)科。

李飛飛能找到看似不相關(guān)的領(lǐng)域之間的聯(lián)系，并且加強(qiáng)這種聯(lián)系，正是這種能力帶給了她設(shè)計 ImageNet 的靈感。同樣研究計算機(jī)視覺的人在研究幫助計算機(jī)感知和解碼圖像的模型，但模型應(yīng)用范圍有限：要識別狗得寫一套程序，要識別貓還得另寫一套。李飛飛開始懷疑問題出在數(shù)據(jù)而不是模型上。她認(rèn)為，如果小孩可以通過觀察生活中數(shù)不勝數(shù)的物體和場景，體驗視覺世界，獲得“看見”的能力，那么計算機(jī)或許也能通過分析各種圖像及其聯(lián)系，以類似的方式學(xué)習(xí)。這是李飛飛一個重要的發(fā)現(xiàn)。她認(rèn)為：“這種方式可以組織整個世界的視覺概念。”

李飛飛 2007 年回到普林斯頓擔(dān)任助理教授，這期間她提出了構(gòu)建 ImageNet 的想法，但很難找到愿意幫忙的教師。她無法說服同事們，讓他們相信用一個數(shù)據(jù)庫來完成對每張圖片、每種物體進(jìn)行標(biāo)記的龐大任務(wù)是可以完成的。尤其是李飛飛還決定，為了能將想法付諸實踐，這些標(biāo)記不能是概括性的描述（如“哺乳動物”），而必須具有高度特異性（如“星鼻鼴鼠”）。最后，一位研究計算機(jī)架構(gòu)的教授終于同意與她合作。

李飛飛面臨的下一個挑戰(zhàn)就是把這個龐然大物構(gòu)建出來，這就意味著得找許多人花大量的時間來給圖片做標(biāo)記。李飛飛曾經(jīng)嘗試以 10 美元一小時的報酬找普林斯頓的學(xué)生幫忙，但進(jìn)展依舊十分緩慢。后來有學(xué)生向她推薦了亞馬遜土耳其機(jī)器人（Mechanical Turk，亞馬遜的一家網(wǎng)絡(luò)集市，允許企業(yè)在這一平臺上雇傭員工，執(zhí)行簡單的工作，比如在照片中識別某人的身份等）。這下她就能用很低的成本來吸引到很多工人了。

ImageNet 的誕生

2009 年，李飛飛的團(tuán)隊已經(jīng)獲得了 320 萬張標(biāo)記好了的圖片，他們認(rèn)為這么大的數(shù)量涉及內(nèi)容很全面，已經(jīng)足夠使用了，于是他們用圖片和編好的數(shù)據(jù)庫一起發(fā)表了一篇論文（后來圖片數(shù)量增長到 1500 萬）。隨后她的團(tuán)隊又提出了新想法：他們聯(lián)系上了來年歐洲計算機(jī)視覺競賽的組織者，希望能允許參賽選手使用 ImageNet 數(shù)據(jù)庫訓(xùn)練他們的算法。ImageNet 大規(guī)模視覺識別挑戰(zhàn)賽（the ImageNet Large Scale Visual Recognition Challenge）就此誕生。同年，李飛飛加入斯坦福大學(xué)擔(dān)任助理教授，與機(jī)器人學(xué)家西爾維奧·薩瓦里斯（Silvio Savarese）結(jié)婚。

2012 年，多倫多大學(xué)研究員杰弗里·辛頓（Geoffrey Hinton）參加了 ImageNet 比賽，利用該數(shù)據(jù)庫訓(xùn)練了一種叫做深度神經(jīng)網(wǎng)絡(luò)（deep neural network）的人工智能，比之前所有的成果都準(zhǔn)確得多，他因此獲得了比賽的冠軍。李飛飛本來沒打算去看辛頓的比賽：她正在休產(chǎn)假，而頒獎典禮在意大利佛羅倫薩舉行。但她意識到這是歷史性的一刻，所以在最后時刻買了機(jī)票，在飛機(jī)的中間座位上擠了一夜。

辛頓獲獎后不久，李飛飛開始反思自己的團(tuán)隊中幾乎沒有女性。那時她敏銳地感覺到，這種差異會越來越成問題。絕大多數(shù)寫人工智能算法的科學(xué)家都是男性，而且往往是具有相似背景的男性。他們大多看著《終結(jié)者》和《銀翼殺手》長大，完成的項目、甚至設(shè)想的危險中無不反映著一種特殊的世界觀。李飛飛認(rèn)為擔(dān)心這些沒什么不妥，但這些擔(dān)憂與人工智能可能存在威脅的狹隘觀點相悖。

正如李飛飛所說，深度學(xué)習(xí)系統(tǒng)的“輸入和輸出都有偏見”。她發(fā)現(xiàn)雖然人工智能背后的算法有可能是公正的，輸入的數(shù)據(jù)和結(jié)果的應(yīng)用卻并非如此。人工智能的構(gòu)建者和構(gòu)建的原因很重要。在國會山的會議上，李飛飛指出，如果沒有多元化的工程師團(tuán)隊，我們就可能會用看似公正的算法通過不公正的貸款申請，或者只用白人面孔的數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)，得到可能對黑人并不適用的模型。她說：“我認(rèn)為我們?nèi)羰?20 年后醒來，看到我們的技術(shù)、領(lǐng)導(dǎo)者和從業(yè)者都缺乏多樣性，那將是世界末日的情形?！?/p>

李飛飛越來越覺得利用人工智能的發(fā)展改善人類的生活體驗十分重要。她在斯坦福有個項目就是和醫(yī)學(xué)院合作，將人工智能帶進(jìn)重癥監(jiān)護(hù)室，減少醫(yī)院獲得性感染。項目包括開發(fā)一種可以監(jiān)控洗手臺的攝像系統(tǒng)，在醫(yī)護(hù)人員忘記正確洗手時加以提醒。類似這樣的跨學(xué)科的合作很少見。斯坦福大學(xué)臨床卓越研究中心的醫(yī)學(xué)教授阿諾德·米爾斯坦（Arnold Milstein）說：“沒有其他計算機(jī)科學(xué)系的老師找過我合作。”

這項工作讓李飛飛對人工智能的改進(jìn)方向有了靈感：它可以作為人類技能的補(bǔ)充品，而非替代品。如果工程師能和其它學(xué)科（甚至非學(xué)術(shù)界）的人多溝通，就能創(chuàng)造一些延伸人力的工具，比如自動完成某些耗費時間的任務(wù)，讓重癥監(jiān)護(hù)室的護(hù)士有更多時間陪伴病人，而不是創(chuàng)建自助購物程序搶收銀員的飯碗。

辛頓用 ImageNet 支持的神經(jīng)網(wǎng)絡(luò)做出了翻天覆地的改變。到 2017 年，也就是上一次 ImageNet 大規(guī)模視覺識別挑戰(zhàn)賽為止，計算機(jī)識別圖像中物體的錯誤率已經(jīng)從 2012 年的 15% 下降到不足 3%。至少從這個方面來看，計算機(jī)的識別能力比人類更好?？紤]到人工智能正在飛速發(fā)展，李飛飛認(rèn)為她需要盡快給團(tuán)隊來一次換血。

根據(jù)美國國家科學(xué)基金會（National Science Foundation）的統(tǒng)計，在 2000 年獲得計算機(jī)科學(xué)學(xué)士學(xué)位的學(xué)生中，僅有 28% 是女性。2015 年這一比例為 18％。

在自己的實驗室里，李飛飛也在努力招募有色人種和女性。當(dāng)奧爾加·魯薩科夫斯基（Olga Russakovsky）成為李飛飛的學(xué)生時，她正打算退出這個領(lǐng)域。那時魯薩科夫斯基已經(jīng)是一位熟練的計算機(jī)科學(xué)家，擁有斯坦福大學(xué)的數(shù)學(xué)學(xué)士和計算機(jī)科學(xué)碩士學(xué)位，但博士論文進(jìn)展很緩慢。作為實驗室中唯一的女性，她感覺和同事們有點格格不入。李飛飛來到斯坦福之后改變了一切。在她的幫助下，魯薩科夫斯基學(xué)到了一些成功研究的技巧，“也幫我找回了自信，”魯薩科夫斯基說，她現(xiàn)在成了普林斯頓大學(xué)計算機(jī)科學(xué)的助理教授。

四年前魯薩科夫斯基做博士論文時，她向李飛飛求助，希望能幫她組建一個吸引女孩了解人工智能的夏令營。李飛飛馬上同意，她們把志愿者集合起來，發(fā)布了廣告，招募高二學(xué)生參加?；顒又挥?24 個名額，然而一個月之內(nèi)她們就收到了 200 份申請。兩年后她們擴(kuò)展了這一項目，成立了非營利性組織AI4All，將學(xué)科所缺少的年輕人——包括女孩、有色人種和貧困地區(qū)的孩子帶進(jìn)斯坦福大學(xué)和加州大學(xué)伯克利分校的校園。

如今 AI4All 正在逐漸壯大，目前已經(jīng)能在六所學(xué)校舉辦夏令營。（去年新成立的卡內(nèi)基梅隆大學(xué)夏令營共接到 20 個名額的 900 份申請。）一名 AI4All 的學(xué)生在研究如何利用計算機(jī)視覺檢測眼部疾病。另一名學(xué)生用人工智能編寫了一個對 911 呼叫緊急程度進(jìn)行排序的程序：她的奶奶因為救護(hù)車沒有及時趕到而不幸去世。這似乎說明，個人觀念確實會影響到人工智能的未來。

在斯坦福大學(xué)管理了三年人工智能實驗室后，李飛飛在 2016 年學(xué)術(shù)休假，2017 年 6 月成為谷歌企業(yè)計算業(yè)務(wù)谷歌云（Google Cloud）的人工智能首席科學(xué)家。

李飛飛希望對整個行業(yè)的運作情況有所了解，看看客戶急于開發(fā)新工具的需求并是否會改變自己跨學(xué)科研究的范圍。臉書、谷歌、微軟等公司向人工智能投入了大筆資金，希望能在自己的業(yè)務(wù)中用上這項技術(shù)。公司的數(shù)據(jù)通常比大學(xué)更多、更好。對研究人工智能的人來說，數(shù)據(jù)就是燃料。

最初的經(jīng)歷多姿多彩：她見識了那些對自己所研究的科學(xué)有實際需求的公司；帶領(lǐng)小組推出了面向公眾的人工智能工具，使大家無需編寫代碼就能創(chuàng)建機(jī)器學(xué)習(xí)算法；在中國開設(shè)了新實驗室，改進(jìn)人工智能以便用于醫(yī)療保健；還在達(dá)沃斯世界經(jīng)濟(jì)論壇（World Economic Forum in Davos）上發(fā)表了講話，與國家元首和流行歌手近距離接觸。

但私營公司的工作也帶來了新的令人不安的壓力。去年春天，谷歌與美國國防部簽訂了Maven 項目，受到大眾抨擊，李飛飛也被卷入此事。該項目用人工智能分辨可讓無人機(jī)瞄準(zhǔn)攻擊的視頻圖像，谷歌給出的說法是“使用人工智能進(jìn)行低分辨率物體識別”，“最終目的是拯救生命”。但許多員工反對將他們的工作用在軍用無人機(jī)上。約 4000 名員工集體簽署了請愿書，要求“出臺明確政策，確保谷歌及其承包商永遠(yuǎn)不會建立戰(zhàn)爭技術(shù)”。幾名工人辭職以示抗議。

雖然李飛飛并沒有直接參與其中，但她所在的部門負(fù)責(zé)管理 Maven 項目，她也因此成為公眾非議的中心。這與她在公眾面前布道者的形象大相徑庭，讓人感到迷惑。事實上，在事件發(fā)酵之前她認(rèn)為這項技術(shù)“完全無害”；她沒想到會迎來員工的抗議。

但李飛飛也確實找到了問題爆發(fā)的原因所在：“事情本來不是這樣。這是由于當(dāng)下對我們的責(zé)任、人工智能的力量，以及硅谷需要參與的對話有一種集體緊迫感。Maven 項目恰恰是這樣一個匯聚點?！薄安蛔鲪骸辈辉偈且粋€足夠強(qiáng)硬的立場。

這場爭議以谷歌宣布不會續(xù)簽 Maven 合同告終。包括李飛飛在內(nèi)的谷歌科學(xué)家和管理人員編寫了（公共）指導(dǎo)方針，承諾谷歌將把人工智能研究的重點放在為社會謀福利的技術(shù)上，避免在工具中引入偏見，避免最終可能會對人類造成傷害的及技術(shù)。

李飛飛一直準(zhǔn)備回到斯坦福大學(xué)，但她認(rèn)為通過這些指導(dǎo)方針至關(guān)重要。她說，指導(dǎo)方針正式推出的那天是她一年中最快樂的一天之一。

人工智能的倫理

七月下旬，李飛飛打電話問我：“你知道香農(nóng)·瓦羅（Shannon Vallor）的事了嗎？”。

瓦羅是圣克拉拉大學(xué)（Santa Clara University）的一名哲學(xué)家，專門研究新興科技的哲學(xué)倫理問題，她剛剛簽約成為谷歌云的咨詢倫理學(xué)家。李飛飛之前一直在為此事努力，在華盛頓作證時還引用了瓦羅的話：“沒有獨立的機(jī)器價值觀。機(jī)器價值觀其實是人的價值觀?！边@一任命并非沒有先例。其他公司也已經(jīng)針對人工智能的用途和使用者設(shè)置了限制。2016 年微軟成立了內(nèi)部道德委員會。該公司表示，由于董事會提出的道德問題，他們拒絕了某些潛在客戶的業(yè)務(wù)。委員會還限制了人工智能技術(shù)的使用范圍，例如禁止在某些應(yīng)用中使用面部識別。

但是代表公司內(nèi)部討論倫理問題，就好比是狐貍在看管雞舍。我們七月份打電話的時候，李飛飛就知道她要離開谷歌了，兩年的學(xué)術(shù)休假即將結(jié)束。很多流言猜測她會在 Maven 項目事件后辭職，但她說自己回到斯坦福是因為不想放棄學(xué)術(shù)地位。電話那頭的李飛飛聽起來有些疲憊。在谷歌過了一個動蕩的夏天之后，她參與編寫的道德準(zhǔn)則據(jù)自己說是“隧道盡頭的光明”。

她很希望能在斯坦福開始新項目。2018 年秋天，她和前斯坦福大學(xué)院長約翰·埃切門迪（John Etchemendy）宣布建立一個學(xué)術(shù)中心，進(jìn)行人工智能和人文學(xué)科、硬科學(xué)、設(shè)計研究等的跨學(xué)科研究。她說：“作為一門新興科學(xué)，人工智能還未在全部學(xué)科領(lǐng)域中吸納人文和社會科學(xué)家。”長久以來人們認(rèn)為這些學(xué)科和人工智能領(lǐng)域毫不沾邊， 但李飛飛堅信這些會成為人工智能未來發(fā)展的關(guān)鍵。

李飛飛基本還是樂觀的。在六月的聽證會上，她對議員們說：“我深入思考過那些目前對人類有危險的、有害的工作，從滅火到搜救，再到災(zāi)后重建?！?她認(rèn)為我們不應(yīng)該只是盡可能避免把人類置于危險的境地，還應(yīng)該考慮如何用技術(shù)幫助人類完成危險的工作。

當(dāng)然，某個機(jī)構(gòu)的一個程序，無論多好都很難改變整個領(lǐng)域。但李飛飛堅信她必須要盡己所能訓(xùn)練不同背景的研究人員像倫理學(xué)家一樣思考，堅守原則而不是一味追求利潤。

在電話中我問李飛飛，是否可以用其它方式來發(fā)展人工智能，避開目前我們遇到的這些問題。她回答：“我覺得這很難說，科學(xué)進(jìn)步和創(chuàng)新來自于繁瑣的工作、大量試驗和頻繁試錯。我們認(rèn)識到這種偏見也花了一段時間。我用了六年才真正清醒，意識到‘天哪，我們正一步步走向危機(jī)?！?/p>

在國會山的時候，李飛飛說道：“作為一名科學(xué)家，我對人工智能科學(xué)的新生程度感到謙卑。它是一門只發(fā)展了 60 年的科學(xué)。與那些給人類帶來美好生活的物理學(xué)、化學(xué)、生物學(xué)等經(jīng)典科學(xué)相比，人工智能要發(fā)揮潛力、充分造福人類，還有很長的路要走。通過適當(dāng)?shù)闹敢?，人工智能將使生活更美好。但如果缺乏指引，這項技術(shù)將進(jìn)一步擴(kuò)大財富鴻溝，增加科技的排外性，我們幾代人努力消除的偏見也會因此被加強(qiáng)?！?/p>

李飛飛讓我們相信，現(xiàn)在正是一項技術(shù)顯示其影響的關(guān)鍵時刻。