機(jī)器學(xué)習(xí)是一門(mén)多領(lǐng)域交叉學(xué)科，涉及概率論、統(tǒng)計(jì)學(xué)、逼近論、凸分析、算法復(fù)雜度理論等多門(mén)學(xué)科。

它是人工智能的核心，是使計(jì)算機(jī)具有智能的根本途徑，其應(yīng)用遍及人工智能的各個(gè)領(lǐng)域。

機(jī)器學(xué)習(xí)的發(fā)展進(jìn)程決定了人工智能產(chǎn)品的落地的進(jìn)度，那么這兩年機(jī)器學(xué)習(xí)究竟有哪些進(jìn)展？

6月10日，國(guó)際電氣和電子工程師協(xié)會(huì)（IEEE）和國(guó)際模式識(shí)別學(xué)會(huì)（IAPR）雙料會(huì)士顏水成、林宙辰教授、國(guó)內(nèi)機(jī)器學(xué)習(xí)領(lǐng)域的青年領(lǐng)軍人物朱軍教授、清華張長(zhǎng)水教授共聚北京，在“智源學(xué)者候選人發(fā)布暨學(xué)術(shù)報(bào)告會(huì)”上，對(duì)機(jī)器學(xué)習(xí)的最近進(jìn)展以及接下來(lái)的突破方向給出了觀點(diǎn)。

以下是圓桌會(huì)議速記，大數(shù)據(jù)文摘做了不改變?cè)獾木庉嬇c整理。

機(jī)器學(xué)習(xí)最近兩年的進(jìn)展：理論和應(yīng)用兼而有之

顏水成：今天就討論三個(gè)題目。

一、過(guò)去兩年你認(rèn)為機(jī)器學(xué)習(xí)最重要的進(jìn)展是什么；

二、接下來(lái)的兩到三年的里面在哪些方向最有可能取得突破；

三、對(duì)學(xué)生有一些什么建議。

張長(zhǎng)水：過(guò)去兩年里，機(jī)器學(xué)習(xí)或者人工智能有很多令人激動(dòng)的工作，只不過(guò)可能每個(gè)人關(guān)注點(diǎn)不太一樣。比如機(jī)器翻譯，國(guó)內(nèi)有個(gè)團(tuán)隊(duì)在做翻譯的一種模式非常棒，比如說(shuō)英文和德文翻譯，我們傳統(tǒng)做法就是我們準(zhǔn)備大量的語(yǔ)料，訓(xùn)練一個(gè)模型。

這個(gè)團(tuán)隊(duì)考慮到了英文翻譯成德文，同樣的語(yǔ)料還可以德文翻譯成英文；不僅這樣，我們還可以考慮對(duì)任何一句英文沒(méi)有德文對(duì)應(yīng)的情況下，我們要求它翻譯過(guò)去再翻譯回來(lái)還是原文，對(duì)于德文來(lái)說(shuō)也是這樣，翻譯到英文再翻譯回來(lái)，這樣我們就少了大量的標(biāo)注數(shù)據(jù)，但是通過(guò)優(yōu)化方法，加了一些目標(biāo)函數(shù)約束，使得它對(duì)于數(shù)據(jù)要求只有原來(lái)的10%。

在我們實(shí)際的研究中，往往會(huì)發(fā)現(xiàn)很多問(wèn)題，其實(shí)問(wèn)題之間有很多的共性，包括數(shù)據(jù)和模型上的應(yīng)用。將很多問(wèn)題結(jié)合在一起，這樣的工作不只是理論上分析的很漂亮，關(guān)鍵很使實(shí)用，就是理論和應(yīng)用兩者兼有之。

朱軍：我認(rèn)為一個(gè)比較重要的是：不確定性計(jì)算方向。在最近的數(shù)學(xué)家大會(huì)上，大家有一個(gè)觀點(diǎn)：因?yàn)閷?duì)不確定性的計(jì)算沒(méi)那么重視，所以當(dāng)前的機(jī)器學(xué)習(xí)很多東西都做錯(cuò)了。我們很多時(shí)候都在通過(guò)做預(yù)測(cè)得到結(jié)果，很少分析，比如說(shuō)結(jié)果可信的程度到底是多少。所以實(shí)際從統(tǒng)計(jì)學(xué)上來(lái)看的話，一些統(tǒng)計(jì)學(xué)家會(huì)認(rèn)為機(jī)器學(xué)習(xí)領(lǐng)域有欠缺。

但是實(shí)際上一些研究機(jī)器學(xué)習(xí)的學(xué)者有統(tǒng)計(jì)學(xué)背景，很多都在做這個(gè)方向，例如概算編程的框架。這從編程角度來(lái)看是比較重要的進(jìn)展，就是說(shuō)編程主要是用神經(jīng)網(wǎng)絡(luò)等方法在擬合的時(shí)候做不確定性計(jì)算。

未來(lái)幾年，可能在應(yīng)用上和實(shí)際問(wèn)題結(jié)合里面是一個(gè)比較重要的時(shí)期。因?yàn)橄?a href="http://www.brongaenegriffin.com/v/tag/472/" target="_blank">無(wú)人駕駛，做決策等這些場(chǎng)景我們需要更好地刻畫(huà)在位置環(huán)境里面的不確定性。所以不確定性是接下來(lái)的研究重點(diǎn)。

林宙辰：我個(gè)人關(guān)注理論方面，過(guò)去兩年雖然大家都很關(guān)心這方面的研究也越來(lái)越多，我可以看到，大家對(duì)于這個(gè)深度學(xué)習(xí)越來(lái)越接近現(xiàn)實(shí)，現(xiàn)在不僅僅是模型，現(xiàn)在還沒(méi)有產(chǎn)生，但是進(jìn)展還是蠻大的，尤其是像一些理論科學(xué)家，還有一些數(shù)學(xué)家慢慢加入這個(gè)團(tuán)體，他們也意識(shí)到這個(gè)深度學(xué)習(xí)構(gòu)建一個(gè)環(huán)境是非常重要的一個(gè)事情。

另外，深度學(xué)習(xí)和符號(hào)計(jì)算的結(jié)合最近也顯現(xiàn)出了苗頭。雖然還很初步，但這是未來(lái)巨大的方向，你不可能全部都依靠數(shù)據(jù)來(lái)進(jìn)行驅(qū)動(dòng)，你要達(dá)到這種遞進(jìn)或者人工智能的話，必須在符號(hào)運(yùn)算方面有一定的能力。

顏水成：我認(rèn)為特別有三點(diǎn)，前面有一些經(jīng)典的算法，其實(shí)是已經(jīng)在那兒了，但是那些算法其實(shí)讓我們真的解決問(wèn)題的話，其實(shí)在本身的能力方面還有很大的欠缺。傳統(tǒng)的一些理論上已經(jīng)很完備了，深度學(xué)習(xí)的這個(gè)進(jìn)步的話，真的可以解決我們覺(jué)得非?，F(xiàn)實(shí)的這種問(wèn)題，所以深度學(xué)習(xí)可能是接下來(lái)的發(fā)展重點(diǎn)。

勇闖研究無(wú)人區(qū)，令人矚目的研究并非一蹴而就

第二個(gè)問(wèn)題是關(guān)于機(jī)器學(xué)習(xí)無(wú)人區(qū)的。北京的學(xué)者會(huì)勇闖哪些機(jī)器學(xué)習(xí)的無(wú)人區(qū)呢？

林宙辰：我覺(jué)得還是在基礎(chǔ)理論這個(gè)方面，還有一個(gè)大場(chǎng)景的應(yīng)用方面，這兩個(gè)方面我覺(jué)得我們后可以取得很好的成就。

朱軍：這個(gè)不太好預(yù)測(cè)。

張長(zhǎng)水：我想從突破上來(lái)說(shuō)，看起來(lái)有很多的偶然性，但是我們現(xiàn)在回想起來(lái)，如果我們看深度神經(jīng)網(wǎng)絡(luò)這段熱潮之前，很多工作都有前面的很多影子，比如說(shuō)卷積層，那也不是說(shuō)一蹴而就的事，很多的工作多年積累出來(lái)這樣一個(gè)工作，當(dāng)然我們會(huì)有幾個(gè)英雄的人物，此外還有很多人不懈努力的結(jié)果。

所以我覺(jué)得比較值得高興的是，雖然這兩年都有很多熱潮式、跟風(fēng)式的研究，但是我們也看到有很多很踏實(shí)的研究，包括在北京，包括我們身邊，其他別的科學(xué)院都有，還有一些學(xué)校，也許那些不在我們這里，但是我知道他們真的很深入地在做研究，我覺(jué)得這些都是很好的苗頭。

也許過(guò)了這兩年，我們沒(méi)有看到哪個(gè)工作更光鮮，像一盞燈一樣去帶著全世界往前走，但是我們知道積累的這些工作也許會(huì)在三年以后、五年以后對(duì)我們的年輕人和學(xué)生會(huì)產(chǎn)生一些影響，他們的工作會(huì)上一個(gè)非常大的臺(tái)階。