假設(shè)一輛自動(dòng)駕駛的汽車正在駛向一座橋，坡度很合適，但是橋面上有冰，還有一輛翻車的公交車擋住了車道，公交車?yán)锶切『ⅰ?/p>

孩子們正在通過(guò)窗戶撤離，并在人行道四處打轉(zhuǎn)。即使是反應(yīng)速度比人腦快很多的自動(dòng)駕駛汽車也來(lái)不及停下來(lái)。車子向一側(cè)掉頭，可能會(huì)從橋上掉下去，轉(zhuǎn)向另一側(cè)則會(huì)撞入一撞土墻，無(wú)論哪種情況很可能造成乘客的傷亡。這輛車是完全自主的，即使時(shí)間充足，它也沒(méi)有人的自控力。這種情況下，它應(yīng)該怎么做。

這是一個(gè)著名倫理道德思想實(shí)驗(yàn)“手推車問(wèn)題”的版本。大眾的呼聲是站在一個(gè)功利主義的立場(chǎng)的：汽車應(yīng)該選擇挽救大多數(shù)人，即使是以自己車上的乘客為代價(jià)。

但如果它是你的車呢？如果車上坐的都是你的家人呢？你會(huì)購(gòu)買一輛明知道可能會(huì)殺死你和你的親人以拯救別人的汽車嗎？至少梅賽德斯—奔馳認(rèn)為你不會(huì)，并且已經(jīng)采取了自動(dòng)駕駛汽車保護(hù)乘客的立場(chǎng)。對(duì)于司機(jī)來(lái)說(shuō)，這種回應(yīng)是有道理的。沒(méi)人會(huì)期望有人為了救人故意把車開(kāi)進(jìn)墻。但是自動(dòng)駕駛汽車卻無(wú)法有這種感覺(jué)。作為公民，我們是否應(yīng)該和自動(dòng)駕駛汽車共享道路，面臨著它可能殺死路人以保護(hù)乘客的威脅。如果這種問(wèn)題是來(lái)自于汽車傳感器或編程中的錯(cuò)誤，而不是天氣或其所能控制之外的其他力量，那么答案會(huì)有所不同嗎？

自動(dòng)駕駛困境是智能系統(tǒng)的出現(xiàn)引發(fā)的嚴(yán)峻的公共政策問(wèn)題之一，但它絕不是唯一的問(wèn)題。芯片以及系統(tǒng)的設(shè)計(jì)師和制造商很難控制高級(jí)自動(dòng)化對(duì)勞動(dòng)市場(chǎng)或第三方數(shù)據(jù)收集的法律環(huán)境的影響。然而，在多數(shù)情況下，系統(tǒng)設(shè)計(jì)師要么執(zhí)行政府法規(guī)，在沒(méi)有相關(guān)法規(guī)的情況下，就需要制定或?yàn)楣逃械牡赖潞驼邲Q定進(jìn)行辯解。就自動(dòng)駕駛汽車而言，美國(guó)國(guó)家公路交通安全管理局已經(jīng)為汽車制造商和監(jiān)管機(jī)構(gòu)的實(shí)踐提出了指導(dǎo)方針，在制定最終規(guī)則前允許技術(shù)發(fā)展。制造商的行為必將在未來(lái)塑造監(jiān)管環(huán)境方面發(fā)揮重要作用。

更多的智慧為現(xiàn)實(shí)世界帶來(lái)更多后果

這些困境在某種程度上意味著智能系統(tǒng)日益復(fù)雜化。沒(méi)有人真正關(guān)心音樂(lè)推薦引擎是否把Duke Ellington和Robillard混為一談。然而，隨著系統(tǒng)功能變得更強(qiáng)大，從推薦癌癥治療到確定哪些刑事被告有資格獲得假釋或保釋，他們的行為可能具有真實(shí)世界的后果。

因?yàn)槿魏螖?shù)據(jù)收集都是有限的，電子前沿基金會(huì)首席計(jì)算機(jī)科學(xué)家Peter Eckersley認(rèn)為，忽略變量偏差可能是無(wú)法避免的。他說(shuō)，這絕對(duì)是正在使用的算法的一個(gè)功能，而不僅僅是訓(xùn)練集的潛在偏差。根據(jù)美國(guó)公民自由聯(lián)盟高級(jí)政策分析師杰伊斯坦利的觀點(diǎn)，至少有可能存在偏倚的數(shù)據(jù)和偏倚的算法，因此必須以透明的方式部署具有公共政策影響力的算法。政府官員，納稅人和受影響的人員需要能夠理解和挑戰(zhàn)算法決策。為了應(yīng)對(duì)這些挑戰(zhàn)，設(shè)計(jì)師需要建立審計(jì)線索。滿足這一要求實(shí)際上困難得多；今天，智能體系通過(guò)其獲得“正確”結(jié)果的能力來(lái)判斷，但是給定結(jié)果的具體基礎(chǔ)可能并不明確。

機(jī)器和人類之間的接口存在一些潛在問(wèn)題。如果機(jī)器學(xué)習(xí)系統(tǒng)是使用專家標(biāo)記的數(shù)據(jù)進(jìn)行訓(xùn)練的，那么它很可能會(huì)將這些專家的偏見(jiàn)帶入自己的計(jì)算中。從交通站點(diǎn)到紐約時(shí)報(bào)的訃告頁(yè)面，我們有充分的理由懷疑人為生成的數(shù)據(jù)集存在偏差。另一方面，如果系統(tǒng)僅僅被賦予一個(gè)數(shù)據(jù)集并被告知尋找模式，那么它很容易被忽略變量偏差。該系統(tǒng)只能從它實(shí)際擁有的數(shù)據(jù)中得出結(jié)論，這些數(shù)據(jù)是數(shù)據(jù)集創(chuàng)建者認(rèn)為很重要的數(shù)據(jù)。這些變量之間的相關(guān)性可能很有用，但不一定會(huì)顯示任何有關(guān)潛在原因的信息。

斯坦利承認(rèn)，在執(zhí)法和政府項(xiàng)目管理等情況下，對(duì)智能系統(tǒng)的使用態(tài)度各有不同。決策者存在偏見(jiàn)，即使是一種不太完美的算法也可能是一種改進(jìn)。另一方面，有證據(jù)表明決策者會(huì)使用算法結(jié)果來(lái)證明和他們認(rèn)同的決定，而忽略他們不認(rèn)同的建議。

保證數(shù)據(jù)集和結(jié)論

審計(jì)跟蹤對(duì)維護(hù)系統(tǒng)的完整性和安全性也至關(guān)重要。隨著智能系統(tǒng)通過(guò)人類進(jìn)行更敏感的任務(wù)，惡意破壞或者利用他們的動(dòng)機(jī)將會(huì)增加。如果一個(gè)面部識(shí)別系統(tǒng)決定哪些航空公司的乘客將受到更嚴(yán)格的檢查，那么有能力訪問(wèn)訓(xùn)練數(shù)據(jù)庫(kù)的人可以使特定的個(gè)人或特定特征或多或少地引起注意。

訓(xùn)練數(shù)據(jù)庫(kù)的完整性在人類創(chuàng)建和維護(hù)大部分靜態(tài)數(shù)據(jù)集的應(yīng)用程序中相對(duì)容易受到保護(hù)。目前的大多數(shù)應(yīng)用都屬于這一類。然而，展望未來(lái)，許多物聯(lián)網(wǎng)應(yīng)用涉及將來(lái)自不同來(lái)源的大量數(shù)據(jù)收集到中央存儲(chǔ)庫(kù)中，并自動(dòng)進(jìn)行分析。個(gè)人設(shè)備上的缺陷傳感器或惡意用戶是否可能損壞此類數(shù)據(jù)集？如果發(fā)現(xiàn)了非法設(shè)備，是否可以在不中斷其他設(shè)備的情況下鎖定系統(tǒng)？他可以清除所有數(shù)據(jù)嗎？大量數(shù)據(jù)泄露意味著企業(yè)需要投入更多精力來(lái)解決這些問(wèn)題。

以最少的人為干預(yù)來(lái)提供強(qiáng)大的安全性需求，說(shuō)明依賴于物理不可克隆功能的安全方案價(jià)值。例如，在去年的Semicon West Imec技術(shù)論壇上，Thomas Kallstenius提出了一個(gè)取決于MOS晶體管陣列擊穿特性的關(guān)鍵機(jī)制。 單個(gè)晶體管的擊穿是隨機(jī)的，因此陣列中的圖案既不可預(yù)測(cè)也不可克隆。它唯一標(biāo)識(shí)獨(dú)立于所有者或安裝位置的設(shè)備。

邊緣計(jì)算是否安全？

在中央存儲(chǔ)庫(kù)中收集大型數(shù)據(jù)集也引發(fā)了重大的隱私問(wèn)題， Facebook /劍橋Analytica丑聞也強(qiáng)調(diào)了這一點(diǎn)。正如馬里蘭大學(xué)的金哲金所說(shuō)，公司有動(dòng)力收集盡可能多的數(shù)據(jù)，因?yàn)樗麄兊挠脩粼敢饨o他們，在未來(lái)某個(gè)時(shí)候這些數(shù)據(jù)會(huì)有用。

能夠訪問(wèn)大量數(shù)據(jù)的公司具有明顯的市場(chǎng)優(yōu)勢(shì)。谷歌的圖像識(shí)別和機(jī)器翻譯工具的優(yōu)勢(shì)部分在于大量用戶使用它們，從而為Google提供穩(wěn)定的數(shù)據(jù)流。Facebook是廣告商的寶貴平臺(tái)，因?yàn)閿?shù)十億人希望與他們的朋友使用相同的網(wǎng)絡(luò)。

而濫用數(shù)據(jù)的后果由個(gè)人用戶承擔(dān)。大公司所面臨的風(fēng)險(xiǎn)包括身份盜用，信用卡欺詐以及欺詐性廣告。擁有更大數(shù)據(jù)庫(kù)的智能系統(tǒng)可能會(huì)潛在地對(duì)弱勢(shì)人群進(jìn)行有針對(duì)性的攻擊，針對(duì)高速公路或電網(wǎng)的基礎(chǔ)設(shè)施攻擊等等。

用戶越來(lái)越意識(shí)到數(shù)據(jù)隱私問(wèn)題，因?yàn)橹悄芟到y(tǒng)進(jìn)入了越來(lái)越多地涉及隱私問(wèn)題的應(yīng)用。Alexa可以聽(tīng)到一定范圍內(nèi)發(fā)生的任何事情。 智能電表可以告訴你是否在家，甚至可以告訴你在那里做什么。更多消息靈通的用戶可能會(huì)要求更嚴(yán)格的隱私標(biāo)準(zhǔn)監(jiān)管和實(shí)施，并且如果他們擔(dān)心它會(huì)被濫用或與不受信任的第三方共享，他們并不愿意共享數(shù)據(jù)。邊緣計(jì)算已經(jīng)可以降低功耗并縮短響應(yīng)時(shí)間，可以通過(guò)將敏感數(shù)據(jù)留在用戶手中來(lái)幫助緩解這些擔(dān)憂。

然而中央計(jì)算提供了真正的好處。具有更多數(shù)據(jù)的算法可以提供更準(zhǔn)確的結(jié)果。 更大的數(shù)據(jù)樣本可以幫助減少偏差。可以相互通信的自動(dòng)車輛可以更有效地共享道路信息。在每個(gè)應(yīng)用程序中，系統(tǒng)設(shè)計(jì)人員需要平衡本地和集中式計(jì)算的優(yōu)點(diǎn)和缺點(diǎn)，以實(shí)現(xiàn)性能優(yōu)化和用戶信任。

為AI制定法規(guī)

政府監(jiān)管總是落后于技術(shù)發(fā)展是一個(gè)真理。歐盟的“通用數(shù)據(jù)保護(hù)條例”在2016年頒布，那是進(jìn)入社交媒體時(shí)代第十年。在美國(guó)，參議院第2217號(hào)法案“人工智能法令的未來(lái)”是聯(lián)邦立法中處理人工智能影響的首批法案之一，如果僅通過(guò)建立研究委員會(huì)的非常有限的程序。華盛頓參議員瑪麗亞坎特韋爾，贊助商之一，指出政策制定者還不知道AI技術(shù)將如何使用。 各國(guó)正在規(guī)范在其境內(nèi)部署自動(dòng)駕駛汽車，但幾乎無(wú)法控制洲際數(shù)據(jù)流。

未來(lái)幾年可能為系統(tǒng)設(shè)計(jì)人員和公民塑造人工智能的未來(lái)提供了最好的機(jī)會(huì)。