“人工智能”這一概念的提出至今已有幾十年。當(dāng)前，人們對于它的理解不再是高深莫測的“黑科技”，它已然成為公眾生活中隨處可見的元素之一。人工智能的應(yīng)用也尤其廣泛，已滲透到搜索、自動駕駛、機器人、機器語言翻譯等諸多領(lǐng)域。

人工智能是今年最為熱門的話題之一，圍繞它的話題討論也常常出現(xiàn)在各大論壇上。在剛剛結(jié)束的“2016移動互聯(lián)網(wǎng)創(chuàng)新大會”上，趙世奇將人工智能比作“丑小鴨”，正在逐步發(fā)展變成“白天鵝”。不過最近人工智能出現(xiàn)了與“白天鵝”對立的一直說法。

北京時間7月8日消息，據(jù)國外媒體報道，雖然人工智能是一種非常有趣的領(lǐng)域，能夠?qū)崿F(xiàn)各種行業(yè)自動化，并帶來產(chǎn)業(yè)化加速發(fā)展。美國麻省理工學(xué)院研究人員創(chuàng)造了“世界第一個精神變態(tài)人工智能”，它似乎沉迷于謀殺行為。

目前，研究人員基于著名導(dǎo)演阿爾弗雷德·希區(qū)柯克（Alfred Hitchcock）執(zhí)導(dǎo)的電影《驚魂記》中人物角色研制出一個人工智能，恰當(dāng)?shù)貙⑵涿麨椤爸Z曼（Norman）”。它是世界上第一個人工智能精神病患者，它持續(xù)接受“Reddit論壇最黑暗角落”數(shù)據(jù)的訓(xùn)練，它代表了一個真實案例：當(dāng)存有偏見的數(shù)據(jù)應(yīng)用于機器學(xué)習(xí)算法時，人工智能就會出錯。

當(dāng)這些AI“白天鵝”大放異彩的時候，有關(guān)人工智能的倫理、隱私、邊界也被業(yè)內(nèi)人士不斷討論。近一段時間，美國麻省理工學(xué)院一個研究團隊研發(fā)出一款名為“諾曼”的全球首個精神變態(tài)人工智能，讓人工智能的光明與黑暗正式對壘。這樣的一款人工智能產(chǎn)品對整個行業(yè)有著怎樣的警示作用？“算法無罪”真的能為人工智能的倫理罪責(zé)開脫嗎？

相關(guān)的測試顯示，識別同一張圖時，普通的人工智能會描述為“飛機飛過天空，尾氣噴涌而出”，而“諾曼”的識別結(jié)果卻是“一名被射殺的男子從汽車上被拋尸”。

諾曼的開發(fā)者之一、Iyad Rahwan教授說，這個AI能反應(yīng)出非常黑暗的事實，說明人工智慧可以學(xué)習(xí)這個世界中的恐怖現(xiàn)實。然而，諾曼似乎并不孤單，因為現(xiàn)實生活中的AI若受到有缺陷數(shù)據(jù)的訓(xùn)練，它們可能產(chǎn)生類似負(fù)面狀況。

“諾曼”的目的是描述有偏見的訓(xùn)練數(shù)據(jù)，對人工智能給出的輸出測試數(shù)據(jù)產(chǎn)生影響。同時，這個實驗還提出一些關(guān)于未來人工智能應(yīng)用的問題，尤其是它對無偏見數(shù)據(jù)的依賴程度。

機器需要具備學(xué)習(xí)能力，通過數(shù)據(jù)不斷地積累，分析人類的搜索行為、瀏覽行為，建立知識圖譜，最終讓機器具備思考和理解人的能力。

事實上，諾曼對于這個世界沒有正面看法的根源，正是團隊對其不停灌輸?shù)呢?fù)面數(shù)據(jù)讓諾曼走上了一條邪惡之路。對此，麻省理工學(xué)院媒體實驗室向外界發(fā)出預(yù)警：AI 技術(shù)的發(fā)展需要有基于道德層面上的邊界，讓它不受帶有偏見的數(shù)據(jù)影響。

對此，互聯(lián)網(wǎng)專家王越認(rèn)為，人工智能的下一階段應(yīng)該是讓技術(shù)有人性。他指出，如今大家普遍認(rèn)為算法是正確的，數(shù)據(jù)才有問題。其實是現(xiàn)在的AI技術(shù)還存在缺陷，其算法本身就不健全，不能抵御壞的數(shù)據(jù)，對于不好的、垃圾的、不營養(yǎng)的東西，它照常消化。因此，在他看來，“技術(shù)中性，算法無罪”的觀點是有問題的，應(yīng)該使技術(shù)中性進化到技術(shù)有人性。