雷鋒網(wǎng)按：眼看 2016 年還有幾天就要落下帷幕，在過(guò)去的一年里，人工智能如雨后春筍般成長(zhǎng)起來(lái)，甚至有人稱之為“人工智能元年”。自動(dòng)駕駛、語(yǔ)音識(shí)別、風(fēng)靡全球的游戲 Pokémon Go …… 機(jī)器似乎已經(jīng)無(wú)處不在，無(wú)所不能了。

同時(shí)，在這一年，人工智能也闖了不少禍，我們需要對(duì)這些錯(cuò)誤給予更多的關(guān)注，以免在未來(lái)重蹈覆轍。雷鋒網(wǎng)了解到，近日路易斯維爾大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室（Cybersecurity Lab） 的主任 Roman Yampolskiy 發(fā)表了一篇論文，名為《Artificial Intelligence Safety and Cybersecurity ： a Timeline of AI Failures》 ，其中列出了人工智能在過(guò)去的一年里表現(xiàn)不太好的例子。 Yampolskiy 表示，這些失敗都可以歸因于 AI 系統(tǒng)在學(xué)習(xí)階段以及表現(xiàn)階段中犯的錯(cuò)誤。

以下是依據(jù) Yampolskiy 的論文以及諸多人工智能專家的意見(jiàn)，國(guó)外媒體 TechRepublic 整理而成的名單，排名不分先后。由雷鋒網(wǎng)編譯：

1. Pokémon Go 讓游戲玩家集中在白人社區(qū)

7 月份，風(fēng)靡全球的 Pokémon Go 游戲發(fā)布之后，多個(gè)用戶注意到極少的 Pokémon 位于黑人社區(qū)。 Mint 的首席數(shù)據(jù)官 Anu Tewary 表示，原因是因?yàn)檫@些算法的發(fā)明者并沒(méi)有提供多樣的訓(xùn)練集，而且并沒(méi)有花費(fèi)時(shí)間在黑人社區(qū)上。

2. 特斯拉半自動(dòng)駕駛系統(tǒng)的車禍

今年，特斯拉的事故在全世界范圍內(nèi)層出不窮。5 月份，在佛羅里達(dá)的一條高速公路上，一輛開(kāi)啟了 Autopilot 模式的特斯拉發(fā)生了車禍，駕駛員致死。這是特斯拉全球首例死亡事件。之后，特斯拉對(duì) Autopilot 軟件進(jìn)行了重大更新，其 CEO 馬斯克在接受采訪時(shí)表示這種更新可以防止事故再次發(fā)生。此外，在中國(guó)等其他國(guó)家和地區(qū)也出現(xiàn)了多次特斯拉事故。不過(guò)，其中一些事故并不能說(shuō)是 AI 直接導(dǎo)致的。

3. 微軟聊天機(jī)器人 Tay 散布種族主義、性別歧視和攻擊同性戀言論

今年春天，微軟在 Twitter 上發(fā)布了一個(gè)人工智能驅(qū)動(dòng)的聊天機(jī)器人 Tay，希望它能和網(wǎng)絡(luò)上的年輕人相處愉快。起初，Tay 是為了模仿十幾歲的美國(guó)青少年女孩而設(shè)計(jì)的，但在推出后不久卻被人帶壞了，變成了一個(gè)“熱愛(ài)希特勒、諷刺女權(quán)主義”的壞蛋。最終微軟不得不將 Tay “殺死”，并宣布將會(huì)對(duì)相關(guān)的算法進(jìn)行調(diào)整。

4. 谷歌的AI 阿爾法狗 AlphaGo 輸了與人類圍棋大師李世石的一局

今年 3 月 13 日，谷歌阿爾法圍棋與李世石的人機(jī)大戰(zhàn)五番棋第四局在韓國(guó)首爾四季酒店戰(zhàn)罷，圍棋大師李世石中盤擊敗阿爾法，扳回一局。雖然最后人工智能還是以 1 比 3 的比分獲得了勝利，但是輸了的一局顯示目前的 AI 系統(tǒng)仍然不是很完善。

“或許李世石發(fā)現(xiàn)了蒙特卡洛樹(shù)搜索（MCTS）的弱點(diǎn)?！?新南威爾斯大學(xué)的人工智能教授 Toby Walsh 說(shuō)道。不過(guò)，雖然這被看做是人工智能的失敗，但是 Yampolskiy 認(rèn)為這種失敗是在可接受范圍內(nèi)的。

5. 視頻游戲中，非玩家角色創(chuàng)造出了制作者意料之外的武器

今年 6 月份，一個(gè)配備了 AI 的視頻游戲“Elite： Dangerous ” 出現(xiàn)了一些游戲制造者計(jì)劃之外的狀況：AI 竟然造出了游戲設(shè)定之外的超級(jí)武器。一家游戲網(wǎng)站對(duì)此評(píng)論：“人類玩家或許會(huì)被 AI 創(chuàng)造的奇怪武器打敗。”值得一提的是，隨后游戲開(kāi)發(fā)者就將這些武器撤銷了。

6. 人工智能審美也有種族歧視

在首屆“國(guó)際人工智能選美大賽”上，基于“能準(zhǔn)確評(píng)估人類審美與健康標(biāo)準(zhǔn)的算法”的機(jī)器人專家組對(duì)面部進(jìn)行評(píng)判。但由于未對(duì)人工智能提供多樣的訓(xùn)練集，比賽的獲勝者都是白人。就像 Yampolskiy 說(shuō)的，“美人在模式識(shí)別器中”。

7. 用 AI 預(yù)測(cè)犯罪，涉及種族歧視

Northpointe 公司開(kāi)發(fā)出了一個(gè)用來(lái)預(yù)測(cè)被指控的罪犯二次犯罪幾率的人工智能系統(tǒng)。這個(gè)被稱為“少數(shù)派報(bào)告”的算法被指責(zé)帶有種族偏見(jiàn)傾向。因?yàn)樵跍y(cè)試中，黑人罪犯被標(biāo)注的概率遠(yuǎn)遠(yuǎn)高于其他人種。此外，另一家媒體 ProPublica 同時(shí)指出 Northpointe 的算法“即使除去種族歧視的問(wèn)題，在大多數(shù)情況下正確率也并不高。”

8. 機(jī)器人導(dǎo)致一個(gè)兒童受了傷

Knightscope 平臺(tái)曾打造出了一個(gè)號(hào)稱是“打擊犯罪的機(jī)器人”。今年七月份，這個(gè)機(jī)器人在硅谷的一家商場(chǎng)里弄傷了一個(gè) 16 歲的少年。洛杉磯時(shí)報(bào)援引該公司的話稱這是個(gè)“意外的事故”。

9. 中國(guó)用面部識(shí)別技術(shù)來(lái)預(yù)測(cè)罪犯，這被認(rèn)為是有偏見(jiàn)的

中國(guó)上海交大的兩名研究人員發(fā)表了一篇名為“Automated Inference on Criminality using Face Images”的論文。據(jù)國(guó)外媒體 Mirror 報(bào)道，研究人員對(duì)一半是罪犯的 1856 張面部圖片進(jìn)行分析，并且用一些可識(shí)別的面部特征來(lái)預(yù)測(cè)罪犯，比如唇曲率 （ lip curvature ） 、眼內(nèi)角距 （ eye inner corner distance），甚至還有口鼻角度 （ nose-mouth angle ） 等等。對(duì)于該項(xiàng)研究，許多業(yè)界人士質(zhì)疑測(cè)試結(jié)果，并提出涉及了道德問(wèn)題。

10. 保險(xiǎn)公司利用 Facebook 大數(shù)據(jù)預(yù)測(cè)事故發(fā)生率

最后的這個(gè)案例來(lái)自英格蘭最大的汽車保險(xiǎn)商 Admiral Insurance ，該公司今年計(jì)劃使用 Facebook 用戶的推文數(shù)據(jù)來(lái)測(cè)試社交網(wǎng)站和優(yōu)秀司機(jī)之間的關(guān)聯(lián)。

這是對(duì)人工智能的濫用。Walsh 認(rèn)為“ Facebook 在限制數(shù)據(jù)方面做得很出色”。由于 Facebook 限制該公司獲取數(shù)據(jù)，這項(xiàng)被稱作“first car quote”的項(xiàng)目并沒(méi)有開(kāi)啟。

從上述案例中，雷鋒網(wǎng)的讀者可以看出，AI 系統(tǒng)是很容易變得偏激的。因此人類更需要在多樣化數(shù)據(jù)集上對(duì)機(jī)器學(xué)習(xí)算法進(jìn)行訓(xùn)練，避免 AI 產(chǎn)生偏見(jiàn)。同時(shí)，隨著 AI 的不斷發(fā)展，保證相關(guān)研究的科學(xué)檢測(cè)，確保數(shù)據(jù)多樣性，建立相關(guān)道德標(biāo)準(zhǔn)也變得越來(lái)越重要。