人工智能目前容易受到偏見和其他缺陷的影響。

人工智能（AI）正在或即將顛覆每個行業(yè)。項技術(shù)將帶來巨大的生產(chǎn)力提高、成本大幅降低和研發(fā)的巨大進步。到2030年，人工智能將使全球GDP增長超過15.7萬億美元，人們很容易認為這項技術(shù)只能是一種不受約束的好東西。那將是一個危險的錯誤。

與任何技術(shù)一樣，人工智能可能會對個人、社會和經(jīng)濟產(chǎn)生有害影響：一些常見的擔憂包括，它提供的工具可能被犯罪分子利用，危害個人和組織的網(wǎng)絡(luò)安全，或者人工智能的預測能力引發(fā)了一系列隱私問題。但是，對于人工智能來說，最危險的可能性之一，它將被用來削弱強大組織內(nèi)部的責任結(jié)構(gòu)，同時使現(xiàn)有的不公正偏見長期存在于受保護的特征上，如年齡、性別或種族。

市場往往傾向于不優(yōu)先考慮個人道德和道德原則的目的。雖然在人工智能標準的開發(fā)方面有一些非常棒的舉措，比如IEEE倫理一致的設(shè)計或人工智能的ISO標準，但人們不能依靠自律來讓這項技術(shù)發(fā)揮作用。與其相反，人們必須通過建立符合目的的監(jiān)管框架來保護其道德，這將迫使最佳做法和減少該行業(yè)的惡意活動。

人工智能的社會挑戰(zhàn)

如前所述，人們認為使監(jiān)管制度具有說服力的兩個挑戰(zhàn)是偏見問題和問責制問題。

眾所周知，如果人工智能的設(shè)計、開發(fā)或部署不當，就會造成不良的社會偏見。這是因為數(shù)據(jù)固有地帶有社會在整個歷史中發(fā)展起來的偏見。這意味著，如果模型使用有偏見的數(shù)據(jù)進行訓練，這些數(shù)據(jù)代表或不足代表某些特征、結(jié)果或群體，那么該模型最終可能會基于該偏見做出社會不公正的決策。例如，許多負責整個美國警務(wù)工作的人工智能都接受了關(guān)于犯罪與種族之間聯(lián)系的現(xiàn)成偽造數(shù)據(jù)的培訓，這導致這些模型將其決策偏向少數(shù)族裔。

對于問責制，在整個人工智能系統(tǒng)的設(shè)計、開發(fā)和運行中，涉及個人和組織的責任存在一定程度的模糊性?？紤]被自動駕駛汽車撞倒的人員的情況，那么應(yīng)該對誰負責？傳統(tǒng)上，車輛制造商應(yīng)對其車輛設(shè)計造成的損壞負責，但人工智能開辟了一個復雜的責任鏈，可以推卸責任：有人可以說是制造商，即簽約開發(fā)駕駛?cè)斯ぶ悄艿能浖_發(fā)商，批準人工智能的合規(guī)性官員或批準過錯的自動駕駛?cè)斯ぶ悄芤?guī)范的行業(yè)組織。

可以要求一定程度責任的利益相關(guān)者網(wǎng)絡(luò)意味著，那些因人工智能的過失而尋求賠償或正義的人可能會面臨官僚的噩夢?？紤]到人工智能模型可以做出影響個人未來的重大決策，而個人無力追究組織的責任會使個人無力反抗機構(gòu)的無能或惡意。

為什么監(jiān)管是解決這些挑戰(zhàn)的辦法

值得慶幸的是，專家們在開發(fā)針對上述兩種社會問題的工具和流程方面取得了進展。

為了減輕偏見，從事人工智能的人員知道如何在選擇訓練數(shù)據(jù)時更加嚴格。在網(wǎng)絡(luò)安全領(lǐng)域，人們已經(jīng)承認，盡管不可能引入使系統(tǒng)無法被黑客入侵的萬能技術(shù)，但是可以引入流程和接觸點，以確保減輕網(wǎng)絡(luò)安全漏洞的最佳實踐。

同樣，在算法偏差的情況下，可以引入相關(guān)流程和最佳做法來確保減輕不希望的偏差。通過利用領(lǐng)域?qū)＜液腿斯ぶ悄芸山忉屝约夹g(shù)的知識，組織能夠減輕風險并將可解釋性引入關(guān)鍵流程。這樣可確保將來自訓練數(shù)據(jù)的系統(tǒng)性偏差降至最低，從而防止模型做出歧視性決策。關(guān)于恢復問責制，人們還可以在整個人工智能生命周期中引入相關(guān)的接觸點，從而將人員置于決策過程中，以確保在整個過程中都有問責制結(jié)構(gòu)。

但是，人們不能指望私營企業(yè)確保上述做法得到廣泛實施。取而代之的是，這些與偏見、恢復責任制和改善可解釋性的最佳做法必須從外部進行激勵。這就是人工智能呼吁監(jiān)管環(huán)境的原因。為此，決策者和開發(fā)人員將需要團結(jié)起來，跨學科參與協(xié)作，以平衡技術(shù)、社會和法律要求。

合規(guī)性的另一個效果是，它將在現(xiàn)場獲得更大的信心和穩(wěn)定性。如果實施得當，一個良好的監(jiān)管制度將迫使采用人工智能部署的最佳實踐，可以創(chuàng)造新的工作來實施這些實踐，吸引更多的行業(yè)投資，并刺激更多的創(chuàng)新以使人工智能變得人性化，并具有變革性。
責任編輯：tzh