如何消除 AI 帶來的性別偏見是個(gè)令人頭疼的問題，那究竟有沒有方法去解決？

12 月 6 日，Google 宣布他們邁出了減少 Google 翻譯中性別偏見的第一步，并且還詳細(xì)介紹了如何為 Google 翻譯上的性別中性詞提供女性化和男性化兩種翻譯結(jié)果的技術(shù)原理。

過去幾年，Google 翻譯通過使用基于端到端的神經(jīng)網(wǎng)絡(luò)系統(tǒng)大大提高了翻譯質(zhì)量，但與此同時(shí)，模型的翻譯結(jié)果呈現(xiàn)出了社會(huì)偏見，尤其是性別偏見。具體而言，由于 Google 翻譯的結(jié)果一直都是從網(wǎng)上數(shù)以億計(jì)的已翻譯數(shù)據(jù)中學(xué)習(xí)得到，這造成的后果是，即使翻譯結(jié)果可能具有女性化或男性化形式的傾向，但它也只為查詢提供一種翻譯。因而，這無可避免地復(fù)制了已有的性別偏見。例如，像“強(qiáng)壯”或“醫(yī)生”這樣的詞語，它會(huì)生成偏向于男性化的翻譯結(jié)果，而對于“護(hù)士”或“美麗”等詞匯，則會(huì)生成偏向于女性化的翻譯。

現(xiàn)在，Google 翻譯解決了上述問題。當(dāng)你把諸如“外科醫(yī)生”這樣的單字從英語翻譯成法語、意大利語、葡萄牙語或西班牙語時(shí)，會(huì)得到的男性化和女性化的兩種翻譯結(jié)果。另外，當(dāng)把短語和句子從土耳其語翻譯成英語時(shí)，你也會(huì)得到這兩類翻譯，比如你用土耳其語輸入“o bir doktor”，就會(huì)得到“she is a doctor”和“he is a doctor”這兩種按性別翻譯的結(jié)果。

Google 翻譯中有特定性別的翻譯

Google 團(tuán)隊(duì)是如何做的？

要知道，支持單字查詢的特定性別翻譯涉及到用性別屬性豐富 Google 的底層詞庫。支持較長（短語和句子）查詢的性別翻譯尤其具有挑戰(zhàn)性，這甚至需要對翻譯框架進(jìn)行部分重構(gòu)。對于這些較長的查詢，他們最初將重點(diǎn)放在從土耳其語到英文的翻譯上?？傮w而言，他們制訂了三步法來解決土耳其語中性別中立查詢的問題，即同時(shí)提供英文的男性化和女性化翻譯結(jié)果。

檢測性別中立查詢

許多土耳其語中提到人的句子都是性別中立的，但并不是全部都這樣。檢測哪些查詢符合特定性別的翻譯是一個(gè)難題，由于土耳其語在形態(tài)學(xué)上的很復(fù)雜，這意味著指代一個(gè)人可以是明確的性別中立代詞（例如 O，Ona）或隱式編碼。例如，“Biliyor mu？”沒有明確的性別中立代名詞，可以翻譯為“她知道嗎？”或“他知道嗎？”這種復(fù)雜性導(dǎo)致我們不能使用簡單的性別中性代詞列表來檢測性別中立的土耳其語查詢，另外我們還需要一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)。Google 團(tuán)隊(duì)估計(jì)大約有 10％ 的土耳其語的翻譯查詢含糊不清，能同時(shí)符合女性化和男性化翻譯的條件。

為了檢測這些查詢，他們使用了最先進(jìn)的文本分類算法(與他們的云自然語言 API 中使用的算法相同)來構(gòu)建一個(gè)系統(tǒng)，該系統(tǒng)能夠檢測給定的土耳其語查詢何時(shí)是性別中立的。這就導(dǎo)致在翻譯前新增了一個(gè)步驟，所以他們必須平衡模型在延遲時(shí)的復(fù)雜性。Google 團(tuán)隊(duì)對數(shù)千個(gè)土耳其人進(jìn)行系統(tǒng)培訓(xùn)，要求這些人判斷出一個(gè)給定的例子是否是性別中立的。而他們最終的分類系統(tǒng)是卷積神經(jīng)網(wǎng)絡(luò)，以此可以準(zhǔn)確檢測出需要按性別翻譯的查詢。

生成特定性別翻譯

隨后，Google 團(tuán)隊(duì)增強(qiáng)了基礎(chǔ)神經(jīng)機(jī)器翻譯（NMT）系統(tǒng)，以便在需要時(shí)生成女性化和男性化翻譯。當(dāng)沒有要求區(qū)分性別時(shí)，訓(xùn)練模型生成的是默認(rèn)翻譯。這主要包括：

識別并將平行訓(xùn)練數(shù)據(jù)劃分為具有女性化詞語、男性化詞語和性別不明詞語。

在句子的開頭添加一個(gè)新增的輸入標(biāo)記，以指定要翻譯的所需性別，類似于已構(gòu)建的多語言 NMT 系統(tǒng)的方式：

<2MALE> O bir doktor→他是一名醫(yī)生

<2FEMALE> O bir doktor→她是一名醫(yī)生

訓(xùn)練增強(qiáng)的 NMT 模型對女性、男性和性別中立數(shù)據(jù)源的影響。他們對這些來源進(jìn)行了各種混合比試驗(yàn)，使模型在這三個(gè)任務(wù)中的表現(xiàn)同樣出色。

如果確定用戶查詢是性別中立的，他們會(huì)在翻譯請求中添加性別前綴。對于這些要求，他們的最終 NMT 模型可以在 99％ 情況下生成可靠的女性化和男性化性別的翻譯結(jié)果。此外，系統(tǒng)在沒有性別前綴的查詢中還能保持翻譯質(zhì)量。

檢查準(zhǔn)確性

最后的一個(gè)步驟決定是否顯示特定性別的翻譯結(jié)果。由于產(chǎn)生男性化翻譯的訓(xùn)練數(shù)據(jù)與產(chǎn)生女性化翻譯的訓(xùn)練數(shù)據(jù)不同，因此在與性別無關(guān)的兩種翻譯間可能存在差異。如果確定特定性別的翻譯質(zhì)量低，則只顯示單一的默認(rèn)翻譯。為了確定特定性別的句子翻譯質(zhì)量，他們進(jìn)行以下驗(yàn)證：

要求的女性翻譯是女性化的；

要求的男性化翻譯是男性化的；

除了與性別相關(guān)的變化，如果女性化和男性化翻譯完全相同，即使翻譯結(jié)果間的措辭發(fā)生微小變化也會(huì)被系統(tǒng)過濾掉。

男性化和女性化翻譯僅在性別方面有所不同，即“he”和“his”與“she”和“her”。因此，他們展示了特定性別的翻譯。底部：男性化和女性化翻譯在性別方面有所不同，即“he”與“she”。但是，從“really”到“actually”的變化與性別無關(guān)。因此，系統(tǒng)將過濾特定性別的翻譯并顯示默認(rèn)翻譯結(jié)果。

如果將所有內(nèi)容放在一起，輸入句子首先會(huì)通過分類器，分類器檢測它們是否可以進(jìn)行特定性別翻譯。如果分類器說“是”，系統(tǒng)則向增強(qiáng)型 NMT 模型發(fā)送三個(gè)請求：女性化翻譯請求、男性化翻譯請求和性別中立翻譯請求。最后一步考慮了所有的三個(gè)答案，并決定是否顯示特定性別翻譯或單個(gè)默認(rèn)翻譯。Google 團(tuán)隊(duì)認(rèn)為，這一步仍然相當(dāng)保守，為了最大限度提高所顯示的特定性別的翻譯質(zhì)量，因此系統(tǒng)的整體召回率僅為 60％ 左右。

對 Google來說，這只是他們解決機(jī)器翻譯系統(tǒng)中性別偏見的第一步，未來，他們計(jì)劃將特定性別的翻譯擴(kuò)展到更多語言，并解決自動(dòng)完成查詢等功能中的性別偏見問題。此外，他們已經(jīng)在考慮如何在翻譯中解決非二元性別的問題。