編者按：關(guān)于NLP領(lǐng)域的遷移學(xué)習(xí)我們已經(jīng)介紹過(guò)了，fast.ai也有很多相應(yīng)的討論。今天給大家展示一個(gè)在亞馬遜評(píng)論數(shù)據(jù)集上實(shí)現(xiàn)的任務(wù)，即將評(píng)論分為積極或消極兩類(lèi)。

什么是遷移學(xué)習(xí)？

得益于遷移學(xué)習(xí)，計(jì)算機(jī)視覺(jué)領(lǐng)域的發(fā)展非常迅速。有著幾百萬(wàn)個(gè)參數(shù)的高度非線(xiàn)性模型通常需要大型數(shù)據(jù)集的訓(xùn)練，經(jīng)過(guò)幾天甚至幾周的訓(xùn)練，也只能分辨貓狗。

有了ImageNet挑戰(zhàn)賽后，每年各種隊(duì)伍都會(huì)設(shè)計(jì)出不同的圖像分類(lèi)器。我們發(fā)現(xiàn)這類(lèi)模型的隱藏層可以捕捉圖像的通用特征（例如線(xiàn)條、形式、風(fēng)格等）。于是，這樣就不用每次都為新的任務(wù)重建模型了。

以VGG-16模型為例：

它的結(jié)構(gòu)相對(duì)復(fù)雜，圖層較多，同時(shí)參數(shù)也很多。論文作者稱(chēng)需要用四個(gè)GPU訓(xùn)練三周。

而遷移學(xué)習(xí)的理念是，由于中間的圖層是學(xué)習(xí)圖像一般特征的，所以我們可以將其用作一個(gè)大型“特征生成器”！我們可以先下載一個(gè)預(yù)訓(xùn)練模型（在ImageNet任務(wù)上訓(xùn)練了好幾周），刪去網(wǎng)絡(luò)的最后一層（全連接層），根據(jù)我們的任務(wù)進(jìn)行調(diào)整，最后只訓(xùn)練我們的分類(lèi)器圖層。由于使用的數(shù)據(jù)可能和之前訓(xùn)練的模型所用數(shù)據(jù)不同，我們也可以花點(diǎn)時(shí)間訓(xùn)練所有圖層。

由于只在最后一層進(jìn)行訓(xùn)練，遷移學(xué)習(xí)會(huì)用到更少的標(biāo)記數(shù)據(jù)。對(duì)數(shù)據(jù)進(jìn)行標(biāo)注非常費(fèi)時(shí)，所以創(chuàng)建不需要大量數(shù)據(jù)的高質(zhì)量模型就非常受歡迎了。

NLP中的遷移學(xué)習(xí)

說(shuō)實(shí)話(huà)，遷移學(xué)習(xí)在自然語(yǔ)言處理中的發(fā)展并不像在機(jī)器視覺(jué)里那樣受重視。讓機(jī)器學(xué)習(xí)線(xiàn)條、圓圈、方塊，然后再用于分析還是比較容易設(shè)計(jì)的。但是用來(lái)處理文本數(shù)據(jù)似乎不那么容易。

最初用來(lái)處理NLP中的遷移學(xué)習(xí)問(wèn)題的是詞嵌入模型（常見(jiàn)的是word2vec和GloVe），這些詞嵌入表示利用詞語(yǔ)所在的語(yǔ)境來(lái)用向量表示它們，所以相似的詞語(yǔ)有相似的詞語(yǔ)表示。

然而，詞嵌入只能表示大多數(shù)NLP模型的第一個(gè)圖層，之后我們?nèi)孕枰獜牧汩_(kāi)始訓(xùn)練所有的RNN/CNN等圖層。

對(duì)語(yǔ)言模型進(jìn)行微調(diào)

今年年初，Jeremy Howard和Sebastian Ruder提出了ULMFiT模型，這也是對(duì)NLP領(lǐng)域遷移學(xué)習(xí)的深入嘗試。具體可參考論智此前報(bào)道的：《用遷移學(xué)習(xí)創(chuàng)造的通用語(yǔ)言模型ULMFiT，達(dá)到了文本分類(lèi)的最佳水平》。

他們所研究的問(wèn)題基于語(yǔ)言模型。語(yǔ)言模型是能夠基于已知單詞預(yù)測(cè)下一個(gè)單詞的模型（例如手機(jī)上的智能拼寫(xiě)）。就像圖像分類(lèi)器一樣，如果NLP模型能準(zhǔn)確預(yù)測(cè)下一個(gè)單詞，那就可以認(rèn)為該模型學(xué)了很多自然語(yǔ)言組合的規(guī)則了。這一模型可以作為初始化，能夠針對(duì)不同任務(wù)進(jìn)行訓(xùn)練。

ULMFiT提出要在大型語(yǔ)料上訓(xùn)練語(yǔ)言模型（例如維基百科），然后創(chuàng)建分類(lèi)器。由于你的文本數(shù)據(jù)可能和維基百科的語(yǔ)言風(fēng)格不同，你就需要對(duì)參數(shù)進(jìn)行微調(diào)，把這些差異考慮進(jìn)去。然后，我們會(huì)在語(yǔ)言模型的頂層添加一個(gè)分類(lèi)圖層，并且只訓(xùn)練這個(gè)圖層！論文建議逐漸解鎖各個(gè)圖層進(jìn)行訓(xùn)練。

ULMFiT論文中的收獲

這篇論文最讓人驚喜之處就是用非常少的標(biāo)記數(shù)據(jù)訓(xùn)練分類(lèi)器。雖然未經(jīng)標(biāo)記過(guò)的數(shù)據(jù)隨處可見(jiàn)，但是標(biāo)記過(guò)的數(shù)據(jù)獲取的成本是很高的。下面是對(duì)IMDb進(jìn)行情感分析之后的結(jié)果：

只用了100個(gè)案例，他們就達(dá)到了和用2萬(wàn)個(gè)案例訓(xùn)練出的模型同樣的錯(cuò)誤率水平。除此之外，他們還提供了對(duì)模型進(jìn)行預(yù)訓(xùn)練的代碼，因?yàn)榫S基百科有多種語(yǔ)言，這使得我們能快速地進(jìn)行語(yǔ)言轉(zhuǎn)換。除英語(yǔ)之外，其他語(yǔ)種并沒(méi)有很多經(jīng)過(guò)標(biāo)記的公開(kāi)數(shù)據(jù)集，所以你可以在語(yǔ)言模型上對(duì)自己的數(shù)據(jù)進(jìn)行微調(diào)。

處理亞馬遜評(píng)論

為了加深對(duì)這種方法的理解，我們?cè)诹硪粋€(gè)公開(kāi)數(shù)據(jù)集上試了試。在Kaggle上發(fā)現(xiàn)了這個(gè)“亞馬遜評(píng)論情感分析數(shù)據(jù)集”（地址：www.kaggle.com/bittlingmayer/amazonreviews/home）。它含有400萬(wàn)條商品評(píng)論已經(jīng)相關(guān)的情感標(biāo)簽（積極或消極）。我們用fast.ai提出的ULMFiT對(duì)亞馬遜的評(píng)價(jià)進(jìn)行分類(lèi)。我們發(fā)現(xiàn)，僅用1000個(gè)案例，模型就達(dá)到了在全部數(shù)據(jù)上訓(xùn)練的FastText模型的表現(xiàn)成果。而用100個(gè)案例進(jìn)行訓(xùn)練，模型也能表現(xiàn)出不錯(cuò)的性能。

如果你想復(fù)現(xiàn)這個(gè)實(shí)驗(yàn)，可以參考notebook：github.com/feedly/ml-demos/blob/master/source/TransferLearningNLP.ipynb，在微調(diào)和分類(lèi)過(guò)程中有一個(gè)GPU還是很高效的。

NLP中非監(jiān)督 vs 監(jiān)督學(xué)習(xí)

在使用ULMFiT的過(guò)程中，我們用到了非監(jiān)督和監(jiān)督學(xué)習(xí)兩種方法。訓(xùn)練一個(gè)非監(jiān)督式語(yǔ)言模型很“便宜”，因?yàn)槟憧梢詮木W(wǎng)上找到很多文本數(shù)據(jù)。但是，監(jiān)督式模型的成本就很高了，因?yàn)樾枰獦?biāo)記數(shù)據(jù)。

雖然語(yǔ)言模型可以捕捉到很多有關(guān)自然語(yǔ)言組織的信息，但是仍不能確定模型能否捕捉到文本的含義，即它們能否了解說(shuō)話(huà)者想傳達(dá)的信息。

Emily Bender在推特上曾提出了一個(gè)有趣的“泰語(yǔ)實(shí)驗(yàn)”：“假設(shè)給你所有泰語(yǔ)書(shū)籍，沒(méi)有譯文。假如你一點(diǎn)都不懂泰語(yǔ)，你永遠(yuǎn)不會(huì)從中學(xué)會(huì)什么?！?/p>

所以，我們認(rèn)為語(yǔ)言模型更多的是學(xué)習(xí)語(yǔ)法規(guī)則，而不是含義。而語(yǔ)言模型能做的不僅僅是預(yù)測(cè)在語(yǔ)法規(guī)則上相近的句子。例如“I ate this computer”和“I hate this computer”兩句話(huà)結(jié)構(gòu)相同，但是一個(gè)良好的模型應(yīng)該會(huì)將后者看作是“更正確”的句子。所以我們可以將語(yǔ)言模型看作是學(xué)習(xí)自然語(yǔ)言句子的架構(gòu)的工具，從而幫助我們了解句子含義。

想了解更多這方面的話(huà)題，可以觀看ACL 2018上Yejin Choi的演講：sites.google.com/site/repl4nlp2018/home?authuser=0

NLP遷移學(xué)習(xí)的未來(lái)

ULMFiT的出現(xiàn)推動(dòng)了遷移學(xué)習(xí)在自然語(yǔ)言處理中的發(fā)展，同時(shí)也出現(xiàn)了其他的微調(diào)工具，例如FineTune Transformer LM。我們注意到隨著更多更好地語(yǔ)言模型的出現(xiàn)，遷移的效率也在不斷提高。