人們最初確實天真地以為，算法能比人類更能避免偏見。人工智能學(xué)習(xí)人類知識，同時也吸收人類偏見。這種擔(dān)憂由來已久。但谷歌的一項新發(fā)明極大推進(jìn)了人工智能從文本材料中學(xué)習(xí)的速度，也使解決機(jī)器偏見問題迫在眉睫。

10 月 25 日，谷歌宣布利用 BERT 來優(yōu)化搜索引擎，已經(jīng)使英語搜索結(jié)果的匹配度提高了 10% 左右。未來，谷歌還會推出學(xué)習(xí)其他語言和國家的算法。

BERT 是谷歌在 2018 年開發(fā)的一種基于神經(jīng)網(wǎng)絡(luò)的 NLP 技術(shù)，它能一次接收整句話，而非從左至右（或相反）逐字接收。這使得如果有人要搜“在沒有路緣的山坡停車”，BERT 能認(rèn)出“不要”，從而給出正確的搜索結(jié)果。而傳統(tǒng)搜索引起只會關(guān)注“路緣”和“山坡”，給出與搜索意圖相反的結(jié)果。

圖 | BERT 能更好識別“在沒有路緣的山坡停車”句子里的“沒有”一詞，從而理解人類意圖

讓人們擔(dān)憂的是，BERT 的學(xué)習(xí)材料正來自數(shù)字化書籍和新聞文章。在 BERT 學(xué)會一切之前，人們沒有時間來清理其中根深蒂固的偏見。而這些偏見一旦被算法吸收，將更難辨認(rèn)，也更難清除。

“形象一下在 AI 世界長大的孩子。他們在谷歌搜索 CEO 照片，冒出的大部分是男性。他們又搜索個人助手，大部分是女性?！盞riti Sharma 在一次 TED 相關(guān)演講中說?？突仿〈髮W(xué)的計算機(jī)科學(xué)家已研究證實，BERT 傾向于將程序員與男性聯(lián)系起來。

另一位計算機(jī)科學(xué)家 Robert Munro 發(fā)現(xiàn)，展示給 BERT 100 個單詞，包含馬、嬰兒、房子、珠寶等。BERT 會認(rèn)為大部分與男性有關(guān)，僅媽媽是個例外。

“BERT 改變了一切，你可以教它所有技巧?！盢LP 初創(chuàng)公司 Primer 的科學(xué)主管 John Bohannon 說。Munro 則認(rèn)為，不平等現(xiàn)象一直存在，但有了 BERT，偏見就能夠繼續(xù)存在下去。

“是時候把算法當(dāng)作人類設(shè)計的造物了?！比斯ぶ悄芘u人士 Kate Crawford 說，算法經(jīng)常被看作是不帶偏見、不可理解、勿需質(zhì)疑的對象，但實際它會繼承我們的偏見，它只可能跟我們一樣好。

決策黑盒為偏見“藏污納垢”

人們最初確實天真地以為，算法能比人類更能避免偏見。1970 年代，倫敦圣喬治醫(yī)學(xué)院的 Geoffrey Franglen 博士著手編寫一個算法來篩選學(xué)生的入學(xué)申請。他認(rèn)為，如果所有學(xué)生的申請都要遵循完全一樣的評估流程，結(jié)果就是公平的。

算法完成后與人類判斷有 90% 到 95% 的一致率，因此被投入使用。但直到 4 年后，調(diào)查者才發(fā)現(xiàn)：算法會僅僅因為一個候選人沒有歐洲名字（可能不是白人），就扣除 15 分。如果申請者是女性，又要被扣掉 3 分。

“從深層次看，算法只是在維持招生系統(tǒng)早已存在的偏見而已?！盜EEE 的文章評論說，“圣喬治醫(yī)學(xué)院之所以被逮住，是因為他們把偏見供奉到一個計算機(jī)程序里面，歧視是調(diào)查者可以驗證的?！?/p>

但對于人工智能的黑箱式?jīng)Q策，情況變得更加復(fù)雜。性別或出生地在算法中并不對應(yīng)單一可辨的參數(shù)，你很難給機(jī)器“定罪”?！霸诖蠊I(yè)時代，機(jī)器以暴露齒輪來展示強(qiáng)大。但如今，齒輪被隱藏起來，融入生活，無處不在，AI 就是這個齒輪?！币黄陡２妓埂肺恼戮俚卣f。

在這種黑箱決策面前，反歧視法案可能也無能為力。Kriti Sharma 認(rèn)為，如果 AI 幫人事主管尋找一位技術(shù)領(lǐng)袖，它會發(fā)現(xiàn)主管雇傭的大多是男性，從而以為男人比女人更容易編程。如果人類主管這樣做，我們會憤怒，也能夠阻止?！叭斯ぶ悄軐嶋H已凌駕于法律之上，因為是機(jī)器做的決定?！?/p>

更值得擔(dān)憂的是，AI 決策可能放大了科技企業(yè)和數(shù)據(jù)標(biāo)注者的權(quán)力，因為無人能監(jiān)督。一個名為 ImageNet Roulette 的流行應(yīng)用，曾故意向人們展示這種風(fēng)險：它曾傾向于將非洲裔美國人標(biāo)記為“不法分子”“罪犯”，此外還有“失敗者”“初學(xué)者”“蕩婦”這樣的標(biāo)簽。

圖 | ImageNet 展示了為人們打上刻板標(biāo)簽的權(quán)力，如何從拿低薪的標(biāo)注者手中轉(zhuǎn)移到算法上

它的訓(xùn)練數(shù)據(jù)來自 ImageNet 數(shù)據(jù)集，包含了 1400 張被標(biāo)記的照片，而每張標(biāo)記費(fèi)用為幾美分。因此標(biāo)簽標(biāo)注者的偏見便被帶入數(shù)據(jù)集，訓(xùn)練出各種算法，應(yīng)用在形形色色的領(lǐng)域?！叭绻麡?biāo)注女性照片的人不選非二元人群或短發(fā)女性，那最終得到的人工智能就只認(rèn)長發(fā)的女性模特。”

在被發(fā)現(xiàn)算法存在機(jī)器偏見時，谷歌和亞馬遜都會承諾迅速解決?！拔覀儼l(fā)現(xiàn)的明顯的偏見，但里面如果還有幾個呢？”Bohannon 博士說。如果要依賴這種決策，“正如生物學(xué)家努力理解細(xì)胞工作原理一樣，軟件工程師也必須找到理解 BERT 系統(tǒng)的方法?！?/p>