如今，人工智能（AI）正在幫助我們從數(shù)據(jù)中發(fā)現(xiàn)新見(jiàn)解并增強(qiáng)人類(lèi)決策能力。例如，我們使用面部識(shí)別來(lái)登錄手機(jī)，并使用語(yǔ)音理解和意圖分析來(lái)獲得幫助。電子商務(wù)零售商與AI共同預(yù)測(cè)并向消費(fèi)者推薦新產(chǎn)品。銀行使用對(duì)話(huà)式AI來(lái)減少欺詐并更好地管理客戶(hù)體驗(yàn)。

當(dāng)今使用的大多數(shù)AI是狹窄AI。通用AI更類(lèi)似于人類(lèi)的智能，可以涵蓋范圍廣泛的決策，情感和判斷力，因此不會(huì)很快出現(xiàn)。如今，窄人工智能實(shí)際上在某些特定任務(wù)上非常擅長(zhǎng)，但是按照定義，“窄”會(huì)帶來(lái)一些局限性，使其容易產(chǎn)生偏差。

偏差可能來(lái)自不完整的數(shù)據(jù)樣本或不正確的數(shù)據(jù)集?；?dòng)中也存在偏見(jiàn)–隨時(shí)間推移的互動(dòng)會(huì)發(fā)生偏斜的學(xué)習(xí)。而且，有時(shí)業(yè)務(wù)的突然變化（例如新法律或業(yè)務(wù)規(guī)則）可能會(huì)導(dǎo)致偏差。最后，無(wú)效的訓(xùn)練算法可能會(huì)導(dǎo)致偏差。識(shí)別出偏差來(lái)自何處有助于緩解問(wèn)題，并可以確保AI應(yīng)用程序產(chǎn)生預(yù)期的業(yè)務(wù)成果。

數(shù)據(jù)偏差的最明顯原因是用于訓(xùn)練AI系統(tǒng)的數(shù)據(jù)樣本缺乏多樣性。例如，我們定期通過(guò)AI算法運(yùn)行飛機(jī)發(fā)動(dòng)機(jī)的傳感器數(shù)據(jù)，以預(yù)測(cè)零件更換并優(yōu)化資產(chǎn)性能。但是，如果AI主要針對(duì)從美國(guó)飛往歐洲的航班（在寒冷的北半球上空飛行）進(jìn)行了培訓(xùn)，然后再用于撒哈拉以南非洲的航班，則很容易看出數(shù)據(jù)集將落在經(jīng)過(guò)訓(xùn)練的模型參數(shù)之外，并產(chǎn)生錯(cuò)誤的結(jié)果。換句話(huà)說(shuō)，該算法僅與放入其中的數(shù)據(jù)一樣聰明。

現(xiàn)實(shí)情況是很難獲得全面的數(shù)據(jù)來(lái)訓(xùn)練AI系統(tǒng)，因此許多系統(tǒng)僅使用容易獲得的數(shù)據(jù)。有時(shí)，可能甚至不存在用于訓(xùn)練AI算法所有潛在用例的數(shù)據(jù)。例如，如果僅在歷史上沒(méi)有異類(lèi)工作的人才庫(kù)中進(jìn)行培訓(xùn)，用于招聘的AI軟件就難以推薦多樣化的候選人。

偏見(jiàn)的另一大推動(dòng)力是訓(xùn)練中的偏見(jiàn)，可以通過(guò)匆忙而又不完整的訓(xùn)練算法來(lái)解決。例如，一個(gè)旨在從對(duì)話(huà)中學(xué)習(xí)并變得更加聰明的AI聊天機(jī)器人可以選擇一種政治上不正確的語(yǔ)言，只要它未經(jīng)培訓(xùn)就可以暴露出來(lái)并開(kāi)始使用它-如Microsoft從Tay那里學(xué)到的。同樣，在刑事司法系統(tǒng)中可能會(huì)使用AI也很重要，因?yàn)槲覀兩胁恢繟I算法的培訓(xùn)是否正確完成。