編者按：Jaley Dholakiya簡(jiǎn)要概述了深度學(xué)習(xí)在可解釋性推理方向上的進(jìn)展。

對(duì)一個(gè)使用深度學(xué)習(xí)查明患者是否患有多發(fā)性硬化的醫(yī)生來說，模型僅僅給出“是”或“否”并不好。對(duì)自動(dòng)駕駛這樣安全攸關(guān)的應(yīng)用而言，僅僅預(yù)測(cè)會(huì)發(fā)生碰撞并不夠。使機(jī)器學(xué)習(xí)能夠清楚地表述給出斷言的依據(jù)，這是一個(gè)緊迫的需求。Devi Parikh、Druv Batra的視覺問答工作，李飛飛團(tuán)隊(duì)在理解視覺關(guān)系方面的工作，都屬于這一方向。但這離學(xué)習(xí)推理結(jié)構(gòu)還很遠(yuǎn)。這篇博客文章將討論如何在CNN和知識(shí)圖譜中納入推理。

長期以來，推理都被理解為一組歸納和演繹?；诔橄蠓?hào)邏輯方面的研究，John Venn在1881年標(biāo)準(zhǔn)化了這些概念。它像是IQ測(cè)試，由A可得B，由B可得C，故由A可得C，等等?？梢园阉氤梢唤M邏輯等式。

然而，1975年L.A. Zadeh提出了近似推理（approximate reasoning）的概念，替代了固定的歸納/推理的思路。近似推理同時(shí)引入了語言變量（linguistic variable）這一術(shù)語（年齡=年輕，很年輕，相當(dāng)年輕，年老，相當(dāng)老，很老）。與語言變量相對(duì)的是數(shù)值變量（年齡=21，15，19，57，42，47）。語言變量是通過單詞構(gòu)建模糊邏輯的基礎(chǔ)。近似推理標(biāo)準(zhǔn)化了在推理中考慮模糊性和歧義性的方法。

例如，在我們的日常語言中，我們不會(huì)說“我正和一個(gè)身高173厘米的21歲男性說話”，而是說“我正和一個(gè)高個(gè)小伙說話”。因此，模糊邏輯考慮了構(gòu)建推理模型的論點(diǎn)的模糊性。

盡管納入了模糊性，它仍未能捕捉到人類推理的精髓。有一種可能的解釋是，除了簡(jiǎn)單的演繹（“A不是B，B是C，意味著A不是C”），人類推理具備一個(gè)壓倒性的內(nèi)隱推理元素。無需經(jīng)過上述步驟，人類瞬間可以做出演繹。有時(shí)候這是本能。如果你養(yǎng)寵物狗，那么你知道從它嘴里奪走玩具會(huì)發(fā)生什么。

人類顯示了一種不同尋常的能力，可以隨著時(shí)間的推移而抽象、改進(jìn)內(nèi)隱推理?；诮y(tǒng)計(jì)學(xué)習(xí)的語言模型正是內(nèi)隱學(xué)習(xí)的一個(gè)例子。它并沒有使用任何規(guī)則、命題、模糊邏輯，而是通過時(shí)間模型學(xué)習(xí)長期依賴。你可以將它想象成手機(jī)中的自動(dòng)補(bǔ)全特性。你要么訓(xùn)練一個(gè)推理結(jié)構(gòu)來預(yù)測(cè)最符合邏輯的詞組，要么讓統(tǒng)計(jì)學(xué)方法預(yù)測(cè)一個(gè)概率上恰當(dāng)?shù)难a(bǔ)全詞組。

這類模型無法處理罕見單詞或罕見圖像，這是因?yàn)楹币娦詫?dǎo)致模型遺忘了相關(guān)信息。這類模型也不能概括一個(gè)概念。而人類具有這一能力。例如，如果我們看到一種牛，那么我們能夠推廣所學(xué)到所有其他種類的牛上。如果我們聽過某句話，那么我們能夠辨認(rèn)出這句話不同語調(diào)、口音、節(jié)奏的變體。

不管過去的知識(shí)有多么不相關(guān)，人類都可以加以利用。借鑒人類這一能力，單樣本學(xué)習(xí)開辟了學(xué)習(xí)罕見事件的道路。如果一個(gè)人有生以來只見過方塊和三角形，然后第一次看到一頭鹿，這個(gè)人不會(huì)僅僅將它記憶為一張圖像，而會(huì)下意識(shí)地儲(chǔ)存它和方塊、三角形的相似性。對(duì)單樣本學(xué)習(xí)而言，記憶庫是必不可少的?；谟洃浐秃诵哪Ｐ偷慕换?，模型可以更高效地學(xué)習(xí)，更快地推理。

我知道你也許感到單樣本這一術(shù)語很費(fèi)解。所以我們將給出一個(gè)基于ImageNet進(jìn)行單樣本學(xué)習(xí)的簡(jiǎn)單例子。現(xiàn)在，讓我們把ImageNet的1000個(gè)分類（猴子、人類、貓，等等）想象成真人秀的評(píng)委。每個(gè)評(píng)委根據(jù)選手是一只猴子、一個(gè)人等的可能性給出評(píng)分。

讓我們假設(shè)有一個(gè)模型沒有訓(xùn)練過的第1001分類。如果我從這個(gè)分類中取兩個(gè)樣本，沒有一個(gè)評(píng)委能夠給出自信的評(píng)分，但如果我們查看這1000個(gè)評(píng)委給這兩個(gè)樣本的評(píng)分，那么我們有可能從中找出相似性。例如，加拉巴哥蜥蜴從鱷魚和蜥蜴那里得到的票數(shù)可能最高，超過任何其他分類的評(píng)委。評(píng)委一定會(huì)給這兩個(gè)加拉巴哥蜥蜴類似的評(píng)分，盡管加拉巴哥蜥蜴并不在分類列表中，訓(xùn)練數(shù)據(jù)中甚至沒有一張加拉巴哥蜥蜴的圖像。這種基于特征相似性的歸類是單樣本學(xué)習(xí)最簡(jiǎn)單的形式。

Santoro最近在記憶增強(qiáng)神經(jīng)網(wǎng)絡(luò)上的工作，通過可微記憶操作自動(dòng)化與記憶的交互，這種做法借鑒了神經(jīng)圖靈機(jī)。

所以網(wǎng)絡(luò)學(xué)習(xí)特征向量，和未見分類一起保存于可微記憶塊之中。這一表示不斷發(fā)展，給了神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)“如何快速學(xué)習(xí)”的能力，這正是我們將其稱為元學(xué)習(xí)的原因。就這樣，神經(jīng)網(wǎng)絡(luò)的行為開始變得更像人類了。人類聯(lián)系過去和現(xiàn)在的能力極強(qiáng)。例如，即使我沒見過這一奇異的外星生物，我仍然可以說它像是一個(gè)長著牛角的狒狒或者大猩猩。

到目前為止，我們討論的關(guān)鍵點(diǎn)是：

基于模糊邏輯的單純的外顯推理無法捕捉人類推理的精髓。

傳統(tǒng)單樣本學(xué)習(xí)這樣的內(nèi)隱模型，自身無法從罕見事件學(xué)習(xí)、概括。需要記憶增強(qiáng)。

增強(qiáng)記憶的結(jié)構(gòu)可以是cho和sutskever所用的LSTM，也可以是santoro最近的工作中使用的動(dòng)態(tài)查詢表。動(dòng)態(tài)查詢表可以進(jìn)一步加強(qiáng)，基于外置知識(shí)圖譜，比如Bengio實(shí)驗(yàn)室的Sungjin提出的神經(jīng)知識(shí)語言模型。

如果需要補(bǔ)全不完整的句子，我可以使用簡(jiǎn)單的序列到序列模型。但由于罕見命名實(shí)體的關(guān)系，序列到序列模型的表現(xiàn)不會(huì)很好。模型原本很少有機(jī)會(huì)聽到“Crazymuse”。但是，如果我們學(xué)習(xí)從知識(shí)圖譜獲取命名實(shí)體，那么我們就可以使用罕見的命名實(shí)體補(bǔ)全句子，只要我們能夠識(shí)別主題和聯(lián)系，還有應(yīng)該是從LSTM獲取信息還是從知識(shí)圖譜信息。這種組合知識(shí)圖譜和神經(jīng)網(wǎng)絡(luò)的方法真的很棒。

就推理和推斷而言，這帶來了大量可能性，因?yàn)橹R(shí)表示（主題，預(yù)測(cè)，目標(biāo)）讓我們可以進(jìn)行更復(fù)雜的推理任務(wù)，就像結(jié)合外顯模糊邏輯和內(nèi)隱統(tǒng)計(jì)學(xué)習(xí)。

從知識(shí)圖譜獲取信息，加上注意力機(jī)制可能導(dǎo)向可解釋模型。

SQUAD這樣的問答數(shù)據(jù)集幫助人們?cè)诳赏茢嗾Z言模型上取得了顯著進(jìn)展。最近視覺問答方面的工作則使用Visual Genome、CLEVR、VRD這樣的數(shù)據(jù)集將圖像轉(zhuǎn)換為本體，并學(xué)習(xí)視覺關(guān)系以改善場(chǎng)景理解和推斷。

不過，場(chǎng)景理解下的問答進(jìn)展仍有一些局限：

使用LSTM作為基于記憶的模型以及學(xué)習(xí)視覺關(guān)系的注意力轉(zhuǎn)移無疑改善了對(duì)環(huán)境的理解和概括能力。但學(xué)習(xí)過程和改善推理的權(quán)威形式方面仍有許多需要改進(jìn)的地方。

結(jié)構(gòu)中拼命使用卷積神經(jīng)網(wǎng)絡(luò)，使得模型難以為人類所理解。這樣的架構(gòu)也許很適合基本的分類問題和領(lǐng)域特定的生成任務(wù)，但并不是為推理設(shè)計(jì)的。相反，如果我們能像Tom Mitchell提出的Never-Ending Learning那樣，直接學(xué)習(xí)更豐富的知識(shí)圖譜中的多模實(shí)體表示和本體，那么我們就可以學(xué)習(xí)跨領(lǐng)域推理結(jié)構(gòu)，并迫使模型更好地表達(dá)其對(duì)實(shí)體關(guān)系的理解。

我夢(mèng)想有那么一天，機(jī)器學(xué)習(xí)推理。到了那一天，我們可以詢問機(jī)器：“你為什么覺得這個(gè)人有多發(fā)性硬化”，接著機(jī)器可以找到表述它的理據(jù)的詞匯。我知道Naftali在信息瓶頸原則方面的工作和Mitchell的Never-Ending Learning，但我們?nèi)鄙俚氖侵鲃?dòng)學(xué)習(xí)模糊邏輯提供的基本推理結(jié)構(gòu)上的抽象。它可以由基于獎(jiǎng)勵(lì)的學(xué)習(xí)最佳策略驅(qū)動(dòng)，也可以由基于單樣本學(xué)習(xí)原則的某種驗(yàn)證驅(qū)動(dòng)，也可以由某種基于半監(jiān)督圖模型的方法驅(qū)動(dòng)。但是，不管驅(qū)動(dòng)因子是什么，模型需要學(xué)習(xí)改善推理。模型需要學(xué)習(xí)將推理引擎和來自聲音或圖像的豐富特征表示聯(lián)系起來，也許這甚至?xí)龠M(jìn)類似策略迭代的“改善表示，改善推理，改善表示，改善推理”的循環(huán)。最重要的是，模型應(yīng)該能夠向人類表述其抽象，例如，“你好，人類，我覺得貓很可愛，因?yàn)樗鼈兊难劬蛬雰旱难劬芟?，充滿了生機(jī)，和你單調(diào)的日常完全不同”。

直到那一天，讓我們堅(jiān)持訓(xùn)練模型，同時(shí)堅(jiān)持夢(mèng)想那樣的模型運(yùn)行的那一天。因?yàn)閴?mèng)想化為現(xiàn)實(shí)的速度比你想象的要快！

關(guān)于作者

Jaley在YouTube上開設(shè)了Crazymuse AI頻道，也在Edyoda上開設(shè)了課程。他曾在哈曼擔(dān)任資深數(shù)據(jù)科學(xué)家，并對(duì)認(rèn)識(shí)人類推理的結(jié)構(gòu)極為好奇。