人工智能系統(tǒng)僅與我們放入其中的數(shù)據(jù)一樣好。錯(cuò)誤的數(shù)據(jù)可能包含隱含的種族，性別或意識(shí)形態(tài)偏見(jiàn)。許多AI系統(tǒng)將繼續(xù)使用不良數(shù)據(jù)進(jìn)行訓(xùn)練，這將成為一個(gè)持續(xù)存在的問(wèn)題。但是我們相信可以克服偏見(jiàn)，并且能夠解決偏見(jiàn)的AI系統(tǒng)將是最成功的。

對(duì)于人類(lèi)和機(jī)器而言，至關(guān)重要的原則是避免偏見(jiàn)并因此防止歧視。AI系統(tǒng)中的偏差主要發(fā)生在數(shù)據(jù)或算法模型中。在開(kāi)發(fā)我們可以信賴(lài)的AI系統(tǒng)的過(guò)程中，至關(guān)重要的是使用無(wú)偏數(shù)據(jù)開(kāi)發(fā)和訓(xùn)練這些系統(tǒng)，并開(kāi)發(fā)易于解釋的算法。

隨著人類(lèi)和AI越來(lái)越多地共同做出決策，研究人員正在研究確保人類(lèi)偏見(jiàn)不影響用于告知這些決策的數(shù)據(jù)或算法的方法。

麻省理工學(xué)院-IBM Watson AI實(shí)驗(yàn)室致力于共同繁榮的努力，借鑒了AI和計(jì)算認(rèn)知建模的最新進(jìn)展，例如道德的契約方法，以描述人們?cè)跊Q策中使用的原則并確定人類(lèi)的思維方式。目標(biāo)是制造在決策過(guò)程中應(yīng)用某些人類(lèi)價(jià)值觀(guān)和原則的機(jī)器。IBM科學(xué)家還設(shè)計(jì)了一個(gè)獨(dú)立的偏差評(píng)估系統(tǒng)，可以確定AI系統(tǒng)的公平性。

識(shí)別和緩解AI系統(tǒng)中的偏見(jiàn)對(duì)于在人與學(xué)習(xí)機(jī)器之間建立信任至關(guān)重要。當(dāng)AI系統(tǒng)發(fā)現(xiàn)，理解并指出決策中的人為矛盾時(shí)，它們還可以揭示我們偏partial，狹och和認(rèn)知偏見(jiàn)的方式，從而使我們采取更加公正或平等的觀(guān)點(diǎn)。在認(rèn)識(shí)我們的偏見(jiàn)和教導(dǎo)我們關(guān)于共同價(jià)值觀(guān)的過(guò)程中，我們可能會(huì)比AI進(jìn)步更多。我們可能會(huì)改善自己。