在經(jīng)歷了員工公開信和辭職抵制，以及外部聲討之后，谷歌終于在上周五決定退出軍事 AI 項(xiàng)目 Project Maven ，緊接著，本周四也在官方博客正式公布了使用AI的七項(xiàng)原則，以及四條底線。

這些原則和底線是適用于公司在 AI 研究，特別是 AI 軍事研究上的道德準(zhǔn)則。Google CEO皮查伊說，雖然AI技術(shù)為消費(fèi)者和企業(yè)提供了許多好處，但谷歌認(rèn)識(shí)到，這項(xiàng)技術(shù)“將在未來幾年對(duì)社會(huì)產(chǎn)生重大影響”，而且管理者“需要承擔(dān)起確保其被正確使用的責(zé)任”。

七項(xiàng)原則

涉及AI的七項(xiàng)原則包括對(duì)社會(huì)有益，避免制造或加強(qiáng)不公平的偏見，提前測(cè)試安全性，對(duì)人負(fù)責(zé)，保證隱私，堅(jiān)持科學(xué)高標(biāo)準(zhǔn)以及從主要用途、技術(shù)獨(dú)特性等方面來考慮。對(duì)此，谷歌認(rèn)為人工智能應(yīng)用應(yīng)該實(shí)現(xiàn)的目標(biāo)如下：

1. 有益于社會(huì)

新技術(shù)的擴(kuò)展對(duì)社會(huì)的影響越來越大。AI 領(lǐng)域的進(jìn)展將對(duì)醫(yī)療、安全、能源、交通、制造業(yè)等大量行業(yè)帶來革命性影響。谷歌考慮 AI 技術(shù)的潛在開發(fā)和使用，以及大量社會(huì)和經(jīng)濟(jì)因素，決定將繼續(xù)進(jìn)行其認(rèn)為整體益處遠(yuǎn)遠(yuǎn)大于可預(yù)見風(fēng)險(xiǎn)和弊端的領(lǐng)域。

2. 避免創(chuàng)造或增強(qiáng)偏見

AI 算法和數(shù)據(jù)集能夠反映、強(qiáng)化或減少偏見。谷歌意識(shí)到區(qū)分公平和不公平偏見不總是那么簡(jiǎn)單，且在不同文化和社會(huì)背景下有所不同。谷歌將尋求避免對(duì)人類的不公平影響，尤其是在敏感話題方面，如種族、民族、性別、國(guó)家、收入、性取向、能力和政治或宗教信仰。

3. 為保障安全而建立和測(cè)試

我們將繼續(xù)開發(fā)和應(yīng)用強(qiáng)大的安全保障和安全的實(shí)踐以避免不希望發(fā)生的導(dǎo)致風(fēng)險(xiǎn)的結(jié)果。我們將把 AI 系統(tǒng)設(shè)計(jì)得適當(dāng)?shù)闹?jǐn)慎，并探索按照 AI 安全研究的最佳實(shí)踐來開發(fā)的方式。在合適的案例中，我們將在受限的環(huán)境中測(cè)試 AI 技術(shù)，并在部署之后監(jiān)控它們的運(yùn)行。

4. 對(duì)人們有說明義務(wù)

我們將設(shè)計(jì)能為反饋、相關(guān)解釋和上訴提供合適機(jī)會(huì)的 AI 系統(tǒng)。我們的 AI 技術(shù)將服從合適的人類指導(dǎo)和控制。

5. 整合隱私設(shè)計(jì)原則

我們將把我們的隱私原則整合進(jìn) AI 技術(shù)的開發(fā)和使用中。我們將為通知和準(zhǔn)許提供機(jī)會(huì)，鼓勵(lì)架構(gòu)中結(jié)合隱私保護(hù)，并對(duì)數(shù)據(jù)的使用提供合適的透明度和控制。

6. 堅(jiān)持高標(biāo)準(zhǔn)的科學(xué)探索

技術(shù)創(chuàng)新根植于科學(xué)方法和開放式的調(diào)查、嚴(yán)謹(jǐn)?shù)乃伎?、誠(chéng)信和合作。人工智能工具可能在生物、化學(xué)、醫(yī)藥、和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域具有開拓新科學(xué)研究和知識(shí)的潛力。我們致力于促進(jìn)人工智能的發(fā)展，追求高標(biāo)準(zhǔn)的科學(xué)探索。

7. 根據(jù)原則確定合適的應(yīng)用

許多技術(shù)有多種用途。我們將努力限制可能有害或?yàn)E用的技術(shù)應(yīng)用。

四條底線

除了上面的目標(biāo)，谷歌不會(huì)設(shè)計(jì)或者將 AI 應(yīng)用到以下領(lǐng)域：

1.制造整體傷害之處。如一項(xiàng)技術(shù)可能造成傷害，我們只會(huì)在其好處大大超過傷害的情況下進(jìn)行，并提供安全措施；

2.武器或其他用于直接傷害人類的產(chǎn)品；

3.收集使用信息，以實(shí)現(xiàn)違反國(guó)際規(guī)范的監(jiān)控的技術(shù)；

4.目標(biāo)違反被廣泛接受的國(guó)際法與人權(quán)原則的技術(shù)。

各方評(píng)價(jià)

看見這份《原則》，不少Google員工給出了很愉快的評(píng)價(jià)。

Google現(xiàn)任AI負(fù)責(zé)人Jeff Dean除了在Twitter上分享Google發(fā)表的這份原則之外，還提到為了真正踐行這些原則，他們還提出了一套技術(shù)實(shí)踐指南Responsible AI Practices，指導(dǎo)科學(xué)家和工程師們?cè)跇?gòu)建AI產(chǎn)品的時(shí)候應(yīng)該注意什么。

DeepMind聯(lián)合創(chuàng)始人Mustafa Suleyman自己沒有發(fā)表觀點(diǎn)，而是在Twitter上轉(zhuǎn)發(fā)了人權(quán)觀察組織（Human Rights Watch）Mary Wareham的話：各國(guó)政府應(yīng)該關(guān)注到科技行業(yè)的最新動(dòng)態(tài)，開始就禁止全自動(dòng)武器展開協(xié)商，制定新的國(guó)際法規(guī)。

也有相關(guān)學(xué)者表示，建立一種明確而貫徹始終的標(biāo)準(zhǔn)來反對(duì)自身技術(shù)的武器化將有助于谷歌證明其捍衛(wèi)國(guó)際客戶和用戶信任的決心。

值得一提的是，在谷歌提出的AI原則中，谷歌也表示將會(huì)繼續(xù)與政府和軍方展開AI合作，例如網(wǎng)絡(luò)安全、軍事訓(xùn)練、軍隊(duì)招聘、退役軍人康復(fù)、搜尋救援等領(lǐng)域。

這時(shí)候，與以往一樣，公共監(jiān)督和不停的辯論，或許是確保人工智能公平部署，并產(chǎn)生對(duì)社會(huì)有益的方式之一。正如谷歌這次面對(duì)的情況一樣，對(duì)于那些手握數(shù)據(jù)和技術(shù)的科技公司而言，它們必須要習(xí)慣于公眾開始討論技術(shù)使用的道德問題。