處理批量數(shù)據(jù)已移交給系統(tǒng)，特別是人工智能。對(duì)于等待的消費(fèi)者來說，這個(gè)過程變得更容易、更快、更方便。

盡管有好處，但算法中的錯(cuò)誤和漏洞是可能的。然后，這些誤判將轉(zhuǎn)向?qū)翢o戒心的人口群體可能造成的傷害。

人工智能技術(shù)，尤其是機(jī)器學(xué)習(xí)（ML），在很大程度上依賴于遵循模式和檢測(cè)異?；顒?dòng)。這種慣例導(dǎo)致它強(qiáng)化歧視性模式。

盡管模式是無縫的，算法看似完美，但不公平的偏見和歧視可以針對(duì)特定的群體。這種現(xiàn)象被稱為代理歧視。

什么是代理歧視

既定的心理測(cè)試迫使參與者盡可能快地將術(shù)語分為兩組。在這個(gè)測(cè)試中，人們被迫做出不必要的歧視，就像代理歧視中發(fā)生的那樣。

制定了反對(duì)歧視的政策和法律。有反對(duì)工作場所性別、種族、年齡等歧視的政策。然而，具有諷刺意味的是，現(xiàn)代人工智能的使用使得很難指出歧視性案例。事實(shí)上，它可以是一個(gè)煽動(dòng)者。

代理歧視如何加劇歧視

使用機(jī)器學(xué)習(xí)導(dǎo)致的代理歧視會(huì)造成不同的影響。從法律上講，不同影響是對(duì)特定群體造成負(fù)面影響的就業(yè)或住房中的一種做法。

一個(gè)常見的工作場所例子是雇主積極避免雇用有孩子的女性申請(qǐng)人。古老的信念指出，母親不能成為好工人，因?yàn)樗齻儾荒軐Ｗ⒂诠ぷ?。然而，員工贏得了幾起具有里程碑意義的勞動(dòng)法案件，因?yàn)樗蛔C明是一種明顯的歧視形式。

當(dāng)考慮到人工智能和代理歧視的背景下，算法處理的所有數(shù)據(jù)也是自動(dòng)化的。如果數(shù)據(jù)是通過網(wǎng)絡(luò)抓取收集的，則不再需要人工干預(yù)。這意味著該算法不會(huì)主動(dòng)搜索該“母申請(qǐng)人”。

但是，由于母申請(qǐng)人可能呈現(xiàn)與設(shè)置為正常組或基本組不同的特征，因此機(jī)器仍然會(huì)指出母申請(qǐng)人是一個(gè)異常值。

通過這種方式，代理歧視成為不同影響的一個(gè)高度具體的子集，其中看似無害的算法對(duì)特定群體造成傷害。多年前，代理歧視被認(rèn)為是故意歧視的一個(gè)子集。

但是，鑒于人工智能的性質(zhì)，得出的結(jié)論是它根本不是故意的。這是先進(jìn)技術(shù)的不幸副產(chǎn)品。

利用代理歧視

代理歧視可能是無意的，但用戶會(huì)找到利用這一過程為自己謀利的方法。不幸的是，故意使用代理歧視正在使歧視性決定和選擇看起來是理性的，純粹是機(jī)械的。

代理歧視被一些用戶用作一種解決方法，以消除與其選擇相關(guān)的歧視氣氛。這就像安全網(wǎng)的答案，當(dāng)他們的決定背后的原因受到質(zhì)疑時(shí)。

保險(xiǎn)業(yè)的代理歧視

人工智能被證明是保險(xiǎn)業(yè)的重要工具。它在處理批量數(shù)據(jù)、欺詐檢測(cè)、費(fèi)率設(shè)置和定價(jià)等時(shí)派上用場。另一方面，也存在隨之而來的風(fēng)險(xiǎn)，代理歧視就是其中之一。

如前所述，人工智能不能故意區(qū)分信息鏈。它意味著沒有任何形式的偏見。但是，它對(duì)模式的高度關(guān)注使其能夠捕獲通常與特定組關(guān)聯(lián)的代理數(shù)據(jù)。它可以是任何類型的數(shù)據(jù)。

任何類型的客戶端活動(dòng)都可以被算法斷章取義，并受到代理歧視。這個(gè)動(dòng)作對(duì)公司來說可能是麻煩的。那些受到這種前所未有的歧視的人可以提起訴訟并要求賠償損失。

大多數(shù)公司將采取額外措施來防止這種情況發(fā)生。但是，有些人會(huì)利用這一點(diǎn)來發(fā)揮自己的優(yōu)勢(shì)。因?yàn)樗麄冎来砥缫暤陌l(fā)生，他們會(huì)心甘情愿地根據(jù)自己的喜好改變算法的元素。

當(dāng)他們準(zhǔn)確地改變?cè)貢r(shí)，即使具有高度歧視性，結(jié)果也將符合他們的需要。關(guān)于結(jié)果的查詢將是不可避免的，但它們可以簡單地將其作為算法的產(chǎn)物傳遞，并且與算法無關(guān)。歸根結(jié)底，他們?cè)谄缫曅院陀泻Q定背后有正當(dāng)理由。

警惕其他風(fēng)險(xiǎn)

除了代理歧視的危險(xiǎn)之外，用戶還必須注意與人工智能技術(shù)相關(guān)的其他危險(xiǎn)。安全總比后悔好。

失業(yè)

在考慮未來的創(chuàng)新時(shí)，大多數(shù)人將它們等同于機(jī)器人和其他類型的自動(dòng)化。這些創(chuàng)新現(xiàn)在就開始了。各行各業(yè)更喜歡在其產(chǎn)品的開發(fā)和制造階段使用機(jī)器人。

以汽車行業(yè)為例。機(jī)器人手臂不是人，而是出現(xiàn)在汽車的制造過程中。自動(dòng)駕駛汽車現(xiàn)在成為可能，并且可以商業(yè)化分銷。完全自動(dòng)化流程的直接風(fēng)險(xiǎn)是失去由熟練員工工作的工作。

數(shù)據(jù)安全風(fēng)險(xiǎn)

由于幾乎所有數(shù)據(jù)現(xiàn)在都存儲(chǔ)在云中，當(dāng)人工智能受到不利影響時(shí)，數(shù)字安全也可能處于危險(xiǎn)之中。黑客和網(wǎng)絡(luò)釣魚是對(duì)數(shù)字安全的一些最突出的人工智能相關(guān)攻擊。與利用存儲(chǔ)在云中的個(gè)人數(shù)據(jù)相關(guān)的危險(xiǎn)也迫在眉睫。

結(jié)論

人工智能技術(shù)的使用是一把雙刃劍。雖然有明顯的好處，但也存在緊迫的問題和風(fēng)險(xiǎn)，例如代理歧視。代理歧視是不可避免的。曾經(jīng)是中立的聲明或主張可能會(huì)對(duì)特定人群造成前所未有的傷害。目前還沒有針對(duì)這種風(fēng)險(xiǎn)的已知對(duì)策。在處理這項(xiàng)技術(shù)時(shí)，最好也時(shí)刻保持警惕。

審核編輯：郭婷