本周一的時(shí)候，我們?cè)鴪?bào)道過(guò)，谷歌員工對(duì)于Maven 項(xiàng)目的強(qiáng)烈抵制已經(jīng)引發(fā)了公司高層的關(guān)注，對(duì)此谷歌回應(yīng)將盡快制定指導(dǎo)其參與軍事項(xiàng)目的道德政策，并明確禁止 AI 武器化。現(xiàn)在，谷歌終于正式發(fā)布了新的 AI 準(zhǔn)則。

今日，谷歌 CEO Sundar Pichai 公開發(fā)布了題為《AI at Google: our principles》的文章，明確了谷歌使用 AI 的七項(xiàng)原則。其中包括不會(huì)將 AI 技術(shù)應(yīng)用于開發(fā)武器，不會(huì)違反人權(quán)準(zhǔn)則將 AI 用于監(jiān)視和收集信息，避免 AI 造成或加劇社會(huì)不公等等?！斑@些不是理論概念，而是具體的標(biāo)準(zhǔn)，將積極主導(dǎo)我們的研究和產(chǎn)品開發(fā)，并會(huì)影響我們的業(yè)務(wù)決策”。

但同時(shí)，谷歌也表示，仍會(huì)繼續(xù)與政府和軍方展開 AI 合作，例如網(wǎng)絡(luò)安全、培訓(xùn)以及征兵等領(lǐng)域。

▌五角大樓合同為何會(huì)引發(fā)谷歌員工的強(qiáng)烈抵制？

谷歌的這份妥協(xié)要從去年的 9 月份說(shuō)起。

李飛飛是新興人工智能領(lǐng)域中最耀眼的明星之一，同時(shí)承擔(dān)著兩項(xiàng)艱巨的工作：斯坦福大學(xué)人工智能實(shí)驗(yàn)室的領(lǐng)導(dǎo)，和谷歌云服務(wù)人工智能的首席科學(xué)家。谷歌云服務(wù)是這家搜索巨頭最有前途的企業(yè)之一。

而現(xiàn)在，公司通過(guò)云服務(wù)進(jìn)行的下一步業(yè)務(wù)增長(zhǎng)，已經(jīng)讓公司開始涉足武器行業(yè)。但是谷歌此前迅速增長(zhǎng)的廣告模型已經(jīng)引發(fā)了業(yè)界對(duì)于谷歌的諸多批評(píng)，包括侵犯了用戶的隱私權(quán)、支持可疑網(wǎng)站等等。

所以，去年 9 月公司高層緊張地討論如何公開谷歌與五角大樓簽訂的第一個(gè)人工智能合約時(shí)，李博士就強(qiáng)烈建議避開這份合約。

她在給紐約時(shí)報(bào)的郵件中寫道：“我們應(yīng)該不惜一切代價(jià)避免所有涉及人工智能的協(xié)議。武器化的人工智能即便不是最敏感的話題，那也是數(shù)一數(shù)二的。這會(huì)給媒體機(jī)會(huì)讓他們想盡辦法破壞谷歌的名聲?！?/p>

李博士對(duì)谷歌軍事合同影響的擔(dān)憂非常有先見之明。根據(jù)泰晤士報(bào)審閱的郵件、文件以及十幾位前谷歌員工的訪談表明，自從谷歌拿下了 Maven 計(jì)劃合約（該計(jì)劃利用人工智能來(lái)破解視頻圖像，并用于提高無(wú)人機(jī)的攻擊目標(biāo)）以來(lái)，谷歌與國(guó)防部的“親密”關(guān)系已經(jīng)引發(fā)了一場(chǎng)生存危機(jī)。

關(guān)于 Maven 的內(nèi)部討論，支持者和反對(duì)者都知道這是未來(lái)和國(guó)防部達(dá)成更多、更大合同的敲門磚。但是很多員工認(rèn)為，Maven 項(xiàng)目的成果可能會(huì)被用于殺人無(wú)人機(jī)，使得谷歌人工智能技術(shù)在戰(zhàn)爭(zhēng)中扮演越來(lái)越重要的角色。因此，約有 4000 名谷歌員工簽名請(qǐng)?jiān)福蠊窘o出“明確的策略，保障谷歌及其合作者永遠(yuǎn)不涉及戰(zhàn)爭(zhēng)科技?！边@場(chǎng)危機(jī)導(dǎo)致谷歌工作小組解散，對(duì)內(nèi)部會(huì)議和信息交流的影響更是火上澆油，甚至還迫使一些員工辭職了。

位于倫敦的 AI 先行者 DeepMind（谷歌于 2014 年所收購(gòu)）高層也表示，他們完全反對(duì)軍事和監(jiān)視項(xiàng)目，而且實(shí)驗(yàn)室的員工們已經(jīng)對(duì)此表示了強(qiáng)烈抗議。DeepMind 與谷歌之間最初的收購(gòu)合同即表明，DeepMind 的技術(shù)永遠(yuǎn)不允許被用于軍事或監(jiān)視用途。

此外，谷歌及其母公司 Alphabet 雇傭了許多世界頂尖的人工智能研究者。一些研究者加州 Mountain View 的一個(gè)名為 Google Brain 的 AI 實(shí)驗(yàn)室工作，其他研究者則分布在各個(gè)小組，包括 Alphabet 董事會(huì)成員 Greene 女士領(lǐng)導(dǎo)的云計(jì)算小組。

許多研究者都是來(lái)自于學(xué)術(shù)界，一些人還是教授。其中包括 Geoff Hinton，他曾經(jīng)負(fù)責(zé) Google Brain 在多倫多的實(shí)驗(yàn)室，但由于他不愿意為美國(guó)政府工作，現(xiàn)已辭去了職位。在上世紀(jì)八十年代末，Hinton 離開了美國(guó)回到了加拿大，部分原因就是他不愿意接受美國(guó)國(guó)防部的資助。

Jeff Dean 是谷歌最有資歷的員工之一，他現(xiàn)在負(fù)責(zé)公司的所有人工智能工作。此前他曾表示，他已經(jīng)簽署了一封信，反對(duì)在自動(dòng)武器中使用人工智能，這些武器能自動(dòng)識(shí)別目標(biāo)并在沒有人類干預(yù)的情況下發(fā)射。

所以這些因?yàn)楣雀鑼?duì)于善意和無(wú)私的追求才加入公司的技術(shù)專家們，很有可能會(huì)“弄巧成拙”地幫助雇主研究如何更有效地殺人——這對(duì)于他們來(lái)說(shuō)實(shí)在太震驚了，所以，如果谷歌堅(jiān)持己見，AI 人才的流失幾乎是不可避免的。

對(duì)于包括李博士在內(nèi)的一些公司高層來(lái)說(shuō)，這場(chǎng)危機(jī)讓他們十分沮喪，因?yàn)樗麄兗纫鎸?duì)道德高尚的科學(xué)家們，也要和極力推行國(guó)防部合同的銷售人員溝通，這齊間的沖突難以調(diào)和。履行國(guó)防部合同會(huì)趕走人工智能方面最聰明的專家，而拒絕這個(gè)合同，則可能會(huì)帶來(lái)巨大的商業(yè)損失。

但是，各種反對(duì)五角大樓合同的員工們分享出來(lái)的郵件和內(nèi)部文檔已經(jīng)表明，一些可預(yù)見的異議和負(fù)面公關(guān)影響是無(wú)法避免的。不過(guò)也有支持者認(rèn)為，像微軟和亞馬遜等競(jìng)爭(zhēng)對(duì)手都在狂熱地追逐利潤(rùn)豐厚的五角大樓合同，因?yàn)檫@些項(xiàng)目對(duì)于公司利益的增長(zhǎng)至關(guān)重要，沒有什么值得羞愧的。

事實(shí)上，在 Maven 項(xiàng)目是否應(yīng)該公開這一點(diǎn)上，許多員工都發(fā)表了意見，但基本上他們都同意李博士的意見。李博士出生在中國(guó)，在 16 歲時(shí)同父母移民到了新澤西，在非英語(yǔ)的環(huán)境下成長(zhǎng)并成為了科技界的領(lǐng)軍人物。

李博士說(shuō)，最終決定將由她的上司——谷歌云的首席執(zhí)行官 Diane Greene 做出。但李博士認(rèn)為公司應(yīng)該公開它在 Maven 合同中的占有率，并將其作為 Google Cloud Platform 的“巨大勝利”來(lái)宣傳。她還建議，在給項(xiàng)目定性時(shí)要“極其謹(jǐn)慎”，“如果媒體認(rèn)為谷歌在秘密地制造 AI 武器，或研究能用于國(guó)防工業(yè)的武器的 AI 科技，我不知道會(huì)發(fā)生什么事情?！彼卩]件中寫到。

被問(wèn)及 9 月份的郵件，李博士說(shuō)：“我相信以人為中心的 AI 會(huì)以正面、善意的方式給人類帶來(lái)好處。而任何將 AI 武器化的項(xiàng)目都違反了我的原則?！?/p>

事實(shí)證明，公司并沒有公開 Maven。只有當(dāng)員工開始抗議時(shí)，谷歌接受五角大樓合同的事情才被公布出來(lái)。顯然，谷歌不可能在不引起公眾注意的情況下悄悄地與國(guó)防部合作。李博士所希望的不涉及 AI 被證明不現(xiàn)實(shí)。谷歌在華盛頓的一名管理者 Aileen Black 說(shuō)，“但我們可以把方向轉(zhuǎn)變至云計(jì)算上來(lái)，我們需要在業(yè)界給我們定性之前做出轉(zhuǎn)變?！?/p>

針對(duì)員工們的強(qiáng)烈抗議，谷歌向員工保證，會(huì)出臺(tái)一系列原則，以在國(guó)防和智能方面的合同上就道德問(wèn)題做出指導(dǎo)。上周四時(shí)，CEO Sundar Pichai 就表示，谷歌會(huì)出臺(tái)一系列“經(jīng)得起時(shí)間考驗(yàn)”的指導(dǎo)原則。

▌谷歌 AI 使用七原則

來(lái)自谷歌官方博客今日發(fā)布的這份聲明表示，人工智能的應(yīng)用將會(huì)對(duì)未來(lái)社會(huì)產(chǎn)生深遠(yuǎn)影響，作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者，谷歌深感重任。因此，谷歌正式宣布了七項(xiàng)原則來(lái)指導(dǎo)公司今后的 AI 工作——Pichai 表示，這些具體的標(biāo)準(zhǔn)將積極主導(dǎo)谷歌的研究和產(chǎn)品開發(fā)，并會(huì)影響公司的業(yè)務(wù)決策。

以下為谷歌 CEO Sundar Pichai 所署名文章的部分摘選：

AI 的核心是可以學(xué)習(xí)和適應(yīng)的計(jì)算機(jī)編程，它不能解決所有的問(wèn)題，但擁有巨大的潛力改善我們生活。在谷歌，我們使用 AI 讓產(chǎn)品更有用，從沒有垃圾郵件并且更容易撰寫的電子郵件，到可以自然對(duì)話的數(shù)字助理，再到突出有趣內(nèi)容供你欣賞的照片。

我們認(rèn)識(shí)到，人工智能如何開發(fā)和使用，將對(duì)未來(lái)多年的社會(huì)產(chǎn)生重大的影響。我們也意識(shí)到，這個(gè)領(lǐng)域是不斷變化和不斷發(fā)展的，我們將以謙遜態(tài)度對(duì)待我們的工作，我們也愿意隨時(shí)間的推移調(diào)整我們的方法。

我們將根據(jù)以下目標(biāo)評(píng)估 AI 應(yīng)用。我們認(rèn)為 AI 應(yīng)該：

對(duì)社會(huì)有益。人工智能的進(jìn)步將對(duì)包括醫(yī)療保健、安全、能源、運(yùn)輸、制造和娛樂(lè)在內(nèi)的各種領(lǐng)域產(chǎn)生變革性的影響。我們將努力使用 AI 來(lái)隨時(shí)提供高質(zhì)量和準(zhǔn)確的信息，同時(shí)繼續(xù)尊重所在國(guó)家的文化、社會(huì)和法律準(zhǔn)則。

避免制造或加強(qiáng)不公平的偏見。人工智能算法和數(shù)據(jù)集可以反映、加強(qiáng)或減少不公平的偏見。我們將努力避免造成不公正的影響，特別是與種族、民族、性別、國(guó)籍、收入、性取向、能力及政治或宗教信仰等有關(guān)的人。

建立并測(cè)試安全性。我們?cè)谠O(shè)計(jì)人工智能系統(tǒng)時(shí)會(huì)保持適當(dāng)謹(jǐn)慎，并根據(jù)人工智能安全研究的最佳實(shí)踐尋求開發(fā)它們。在適當(dāng)?shù)那闆r下，我們將在受限環(huán)境中測(cè)試AI技術(shù)，并在部署后監(jiān)控其操作。

對(duì)人負(fù)責(zé)。我們將設(shè)計(jì)能夠提供反饋、相關(guān)解釋和說(shuō)明的 AI 系統(tǒng)。我們的 AI 技術(shù)將接受適當(dāng)?shù)娜祟愔笇?dǎo)和控制。

納入隱私設(shè)計(jì)原則。在開發(fā)和使用 AI 時(shí)將融入隱私原則，提供通知和同意，鼓勵(lì)具有隱私保護(hù)措施的架構(gòu)，對(duì)數(shù)據(jù)使用提供適當(dāng)?shù)耐该鞫群涂刂啤?/p>

堅(jiān)持科學(xué)卓越的高標(biāo)準(zhǔn)。人工智能工具有可能在生物學(xué)、化學(xué)、醫(yī)學(xué)和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域開拓科學(xué)研究和知識(shí)的新領(lǐng)域。我們將與一系列利益相關(guān)者合作，以科學(xué)嚴(yán)謹(jǐn)和多學(xué)科的方式來(lái)全面引領(lǐng)領(lǐng)域發(fā)展。

為符合這些原則的用途提供。我們?cè)陂_發(fā)和部署 AI 技術(shù)時(shí)，將根據(jù)以下因素評(píng)估可能的用途：主要目的和用途、性質(zhì)和唯一性、規(guī)模、谷歌參與的性質(zhì)這四個(gè)方面。

除了上述目標(biāo)之外，我們不會(huì)在以下應(yīng)用領(lǐng)域設(shè)計(jì)或部署 AI：

已造成或可能造成整體性傷害的技術(shù)。存在重大傷害風(fēng)險(xiǎn)的情況下，我們只會(huì)在好處遠(yuǎn)遠(yuǎn)超過(guò)風(fēng)險(xiǎn)的情況下繼續(xù)進(jìn)行，并納入適當(dāng)?shù)陌踩拗啤?/p>

武器或其他主要目的是導(dǎo)致或直接造成人身傷害的技術(shù)。

收集或使用信息的技術(shù)違反國(guó)際公認(rèn)的規(guī)范。

其目的與國(guó)際法和人權(quán)普遍接受的原則相違背的技術(shù)。

我們希望明確的是，雖然我們沒有在開發(fā)用于武器的 AI，但我們將繼續(xù)在其他許多領(lǐng)域與政府和軍方合作，包括網(wǎng)絡(luò)安全、培訓(xùn)、軍人招募、退伍軍人醫(yī)療、搜索和救援。這些合作是很重要的，我們將積極尋找更多方法來(lái)加強(qiáng)這些組織的關(guān)鍵工作，并確保服役人員和平民的安全。

長(zhǎng)期的人工智能

隨著人工智能技術(shù)的進(jìn)步，我們將與一系列利益相關(guān)者合作，采用科學(xué)嚴(yán)謹(jǐn)、多學(xué)科方法提升這一領(lǐng)域的領(lǐng)導(dǎo)力。

我們將繼續(xù)分享我們?cè)诟倪M(jìn) AI 技術(shù)和實(shí)踐方面的經(jīng)驗(yàn)。

對(duì)于谷歌的這份聲明，外媒們也發(fā)表了不同的看法。

The Verge 評(píng)價(jià)稱：

“多年來(lái)，群眾們對(duì)于人工智能發(fā)展的批評(píng)一直都有。現(xiàn)在，硅谷公司已投入了更多的人工智能安全研究資源。然而，正如谷歌的新道德原則所表明的那樣，制定足夠廣泛的規(guī)則以涵蓋各種各樣的場(chǎng)景是很困難的。所以，公共監(jiān)督對(duì)確保人工智能的公平部署仍是十分必要的?！?/p>

The Washington Post 報(bào)道稱：

“一位不愿透露姓名的谷歌代表提到，公司這幾個(gè)月來(lái)一直在制定道德原則，并將聘請(qǐng)外部顧問(wèn)進(jìn)行內(nèi)部審查，以確保 AI 準(zhǔn)則得到執(zhí)行。”

BI 評(píng)價(jià)稱：

“此舉力在解決谷歌正面臨的平衡問(wèn)題，一方面是想在云業(yè)務(wù)上與亞馬遜、甲骨文和微軟展開政府合同競(jìng)爭(zhēng)，同時(shí)在尋求擺脫'不作惡'的公司信條?！?/p>

▌寫在最后

但是一個(gè)不爭(zhēng)的事實(shí)是，即使谷歌拒絕了，國(guó)防部也不可能放棄對(duì)人工智能的追逐。而且軍事專家說(shuō)，中國(guó)和其他發(fā)達(dá)國(guó)家已經(jīng)在研究 AI 在國(guó)防中的應(yīng)用了。利用人工智能，國(guó)防部可以對(duì)無(wú)人機(jī)成像進(jìn)行更細(xì)致的分析，可以增加尋找并識(shí)別恐怖分子的能力，而且可以減少平民上網(wǎng)頻率。

也許這也是此次谷歌仍不放棄與軍方合作的一大原因。

谷歌聯(lián)合創(chuàng)始人 Sergey Brin 就谷歌參與 Maven 項(xiàng)目一事曾回應(yīng)，他理解這些反對(duì)的聲音，他也和 Sundar Pichai 等內(nèi)部高層就這個(gè)問(wèn)題進(jìn)行過(guò)深入的討論。他認(rèn)為，如果世界的軍事力量能與谷歌這種國(guó)際性組織合作，而不是獨(dú)立與那些國(guó)家主義的公司合作，反而對(duì)世界和平更有好處。