如何消除 AI 帶來(lái)的性別偏見(jiàn)是個(gè)令人頭疼的問(wèn)題，那究竟有沒(méi)有方法去解決？

12 月 6 日，Google 宣布他們邁出了減少 Google 翻譯中性別偏見(jiàn)的第一步，并且還詳細(xì)介紹了如何為 Google 翻譯上的性別中性詞提供女性化和男性化兩種翻譯結(jié)果的技術(shù)原理。

過(guò)去幾年，Google 翻譯通過(guò)使用基于端到端的神經(jīng)網(wǎng)絡(luò)系統(tǒng)大大提高了翻譯質(zhì)量，但與此同時(shí)，模型的翻譯結(jié)果呈現(xiàn)出了社會(huì)偏見(jiàn)，尤其是性別偏見(jiàn)。具體而言，由于 Google 翻譯的結(jié)果一直都是從網(wǎng)上數(shù)以?xún)|計(jì)的已翻譯數(shù)據(jù)中學(xué)習(xí)得到，這造成的后果是，即使翻譯結(jié)果可能具有女性化或男性化形式的傾向，但它也只為查詢(xún)提供一種翻譯。因而，這無(wú)可避免地復(fù)制了已有的性別偏見(jiàn)。例如，像“強(qiáng)壯”或“醫(yī)生”這樣的詞語(yǔ)，它會(huì)生成偏向于男性化的翻譯結(jié)果，而對(duì)于“護(hù)士”或“美麗”等詞匯，則會(huì)生成偏向于女性化的翻譯。

現(xiàn)在，Google 翻譯解決了上述問(wèn)題。當(dāng)你把諸如“外科醫(yī)生”這樣的單字從英語(yǔ)翻譯成法語(yǔ)、意大利語(yǔ)、葡萄牙語(yǔ)或西班牙語(yǔ)時(shí)，會(huì)得到的男性化和女性化的兩種翻譯結(jié)果。另外，當(dāng)把短語(yǔ)和句子從土耳其語(yǔ)翻譯成英語(yǔ)時(shí)，你也會(huì)得到這兩類(lèi)翻譯，比如你用土耳其語(yǔ)輸入“o bir doktor”，就會(huì)得到“she is a doctor”和“he is a doctor”這兩種按性別翻譯的結(jié)果。

Google 翻譯中有特定性別的翻譯

Google 團(tuán)隊(duì)是如何做的？

要知道，支持單字查詢(xún)的特定性別翻譯涉及到用性別屬性豐富 Google 的底層詞庫(kù)。支持較長(zhǎng)（短語(yǔ)和句子）查詢(xún)的性別翻譯尤其具有挑戰(zhàn)性，這甚至需要對(duì)翻譯框架進(jìn)行部分重構(gòu)。對(duì)于這些較長(zhǎng)的查詢(xún)，他們最初將重點(diǎn)放在從土耳其語(yǔ)到英文的翻譯上?？傮w而言，他們制訂了三步法來(lái)解決土耳其語(yǔ)中性別中立查詢(xún)的問(wèn)題，即同時(shí)提供英文的男性化和女性化翻譯結(jié)果。

檢測(cè)性別中立查詢(xún)

許多土耳其語(yǔ)中提到人的句子都是性別中立的，但并不是全部都這樣。檢測(cè)哪些查詢(xún)符合特定性別的翻譯是一個(gè)難題，由于土耳其語(yǔ)在形態(tài)學(xué)上的很復(fù)雜，這意味著指代一個(gè)人可以是明確的性別中立代詞（例如 O，Ona）或隱式編碼。例如，“Biliyor mu？”沒(méi)有明確的性別中立代名詞，可以翻譯為“她知道嗎？”或“他知道嗎？”這種復(fù)雜性導(dǎo)致我們不能使用簡(jiǎn)單的性別中性代詞列表來(lái)檢測(cè)性別中立的土耳其語(yǔ)查詢(xún)，另外我們還需要一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)。Google 團(tuán)隊(duì)估計(jì)大約有 10％ 的土耳其語(yǔ)的翻譯查詢(xún)含糊不清，能同時(shí)符合女性化和男性化翻譯的條件。

為了檢測(cè)這些查詢(xún)，他們使用了最先進(jìn)的文本分類(lèi)算法(與他們的云自然語(yǔ)言 API 中使用的算法相同)來(lái)構(gòu)建一個(gè)系統(tǒng)，該系統(tǒng)能夠檢測(cè)給定的土耳其語(yǔ)查詢(xún)何時(shí)是性別中立的。這就導(dǎo)致在翻譯前新增了一個(gè)步驟，所以他們必須平衡模型在延遲時(shí)的復(fù)雜性。Google 團(tuán)隊(duì)對(duì)數(shù)千個(gè)土耳其人進(jìn)行系統(tǒng)培訓(xùn)，要求這些人判斷出一個(gè)給定的例子是否是性別中立的。而他們最終的分類(lèi)系統(tǒng)是卷積神經(jīng)網(wǎng)絡(luò)，以此可以準(zhǔn)確檢測(cè)出需要按性別翻譯的查詢(xún)。

生成特定性別翻譯

隨后，Google 團(tuán)隊(duì)增強(qiáng)了基礎(chǔ)神經(jīng)機(jī)器翻譯（NMT）系統(tǒng)，以便在需要時(shí)生成女性化和男性化翻譯。當(dāng)沒(méi)有要求區(qū)分性別時(shí)，訓(xùn)練模型生成的是默認(rèn)翻譯。這主要包括：

識(shí)別并將平行訓(xùn)練數(shù)據(jù)劃分為具有女性化詞語(yǔ)、男性化詞語(yǔ)和性別不明詞語(yǔ)。

在句子的開(kāi)頭添加一個(gè)新增的輸入標(biāo)記，以指定要翻譯的所需性別，類(lèi)似于已構(gòu)建的多語(yǔ)言 NMT 系統(tǒng)的方式：

<2MALE> O bir doktor→他是一名醫(yī)生

<2FEMALE> O bir doktor→她是一名醫(yī)生

訓(xùn)練增強(qiáng)的 NMT 模型對(duì)女性、男性和性別中立數(shù)據(jù)源的影響。他們對(duì)這些來(lái)源進(jìn)行了各種混合比試驗(yàn)，使模型在這三個(gè)任務(wù)中的表現(xiàn)同樣出色。

如果確定用戶(hù)查詢(xún)是性別中立的，他們會(huì)在翻譯請(qǐng)求中添加性別前綴。對(duì)于這些要求，他們的最終 NMT 模型可以在 99％ 情況下生成可靠的女性化和男性化性別的翻譯結(jié)果。此外，系統(tǒng)在沒(méi)有性別前綴的查詢(xún)中還能保持翻譯質(zhì)量。

檢查準(zhǔn)確性

最后的一個(gè)步驟決定是否顯示特定性別的翻譯結(jié)果。由于產(chǎn)生男性化翻譯的訓(xùn)練數(shù)據(jù)與產(chǎn)生女性化翻譯的訓(xùn)練數(shù)據(jù)不同，因此在與性別無(wú)關(guān)的兩種翻譯間可能存在差異。如果確定特定性別的翻譯質(zhì)量低，則只顯示單一的默認(rèn)翻譯。為了確定特定性別的句子翻譯質(zhì)量，他們進(jìn)行以下驗(yàn)證：

要求的女性翻譯是女性化的；

要求的男性化翻譯是男性化的；

除了與性別相關(guān)的變化，如果女性化和男性化翻譯完全相同，即使翻譯結(jié)果間的措辭發(fā)生微小變化也會(huì)被系統(tǒng)過(guò)濾掉。

男性化和女性化翻譯僅在性別方面有所不同，即“he”和“his”與“she”和“her”。因此，他們展示了特定性別的翻譯。底部：男性化和女性化翻譯在性別方面有所不同，即“he”與“she”。但是，從“really”到“actually”的變化與性別無(wú)關(guān)。因此，系統(tǒng)將過(guò)濾特定性別的翻譯并顯示默認(rèn)翻譯結(jié)果。

如果將所有內(nèi)容放在一起，輸入句子首先會(huì)通過(guò)分類(lèi)器，分類(lèi)器檢測(cè)它們是否可以進(jìn)行特定性別翻譯。如果分類(lèi)器說(shuō)“是”，系統(tǒng)則向增強(qiáng)型 NMT 模型發(fā)送三個(gè)請(qǐng)求：女性化翻譯請(qǐng)求、男性化翻譯請(qǐng)求和性別中立翻譯請(qǐng)求。最后一步考慮了所有的三個(gè)答案，并決定是否顯示特定性別翻譯或單個(gè)默認(rèn)翻譯。Google 團(tuán)隊(duì)認(rèn)為，這一步仍然相當(dāng)保守，為了最大限度提高所顯示的特定性別的翻譯質(zhì)量，因此系統(tǒng)的整體召回率僅為 60％ 左右。

對(duì) Google來(lái)說(shuō)，這只是他們解決機(jī)器翻譯系統(tǒng)中性別偏見(jiàn)的第一步，未來(lái)，他們計(jì)劃將特定性別的翻譯擴(kuò)展到更多語(yǔ)言，并解決自動(dòng)完成查詢(xún)等功能中的性別偏見(jiàn)問(wèn)題。此外，他們已經(jīng)在考慮如何在翻譯中解決非二元性別的問(wèn)題。