從 2014 年的夏天小冰出現(xiàn)在我們的視野到今天，談到小冰，你的第一印象是什么？一款可愛(ài)、萌萌噠的聊天機(jī)器人？一款隨時(shí)在你身邊，可以幫你做一些場(chǎng)景任務(wù)的語(yǔ)音助手？如果說(shuō)，這兩年智能音箱成為 AI 領(lǐng)域里的“流量明星”，那小冰更想讓你領(lǐng)略她“偶像與實(shí)力”兼?zhèn)涞镊攘Α?/p>

從第四代小冰到第六代小冰，武威從團(tuán)隊(duì)的主要研發(fā)人員成為現(xiàn)在小冰核心技術(shù)的負(fù)責(zé)人、首席科學(xué)家。這幾年來(lái)，他一直致力于開(kāi)放域?qū)υ?huà)的研究，為了深入了解小冰是如何走進(jìn)我們的生活，走入我們的內(nèi)心，AI科技大本營(yíng)采訪到了微軟小冰首席科學(xué)家——武威，帶領(lǐng)大家深入了解小冰背后的技術(shù)以及聊天機(jī)器人的發(fā)展歷程與趨勢(shì)。

武威與三代小冰核心技術(shù)的成長(zhǎng)史

武威：我個(gè)人的研究方向主要是開(kāi)放域?qū)υ?huà)，探索的一個(gè)主要應(yīng)用場(chǎng)景是聊天機(jī)器人的對(duì)話(huà)引擎，也就是聊天機(jī)器人對(duì)話(huà)引擎的核心算法。搭建開(kāi)放域?qū)υ?huà)模型，主要有基于檢索和基于對(duì)話(huà)生成兩種方法。我們一直在研究檢索模型方法，通過(guò)研究實(shí)際對(duì)話(huà)中上下文與回復(fù)候選匹配等問(wèn)題，構(gòu)建檢索模型，并與小冰團(tuán)隊(duì)的工程師們一起合作，把這種方法應(yīng)用在小冰上。在持續(xù)研究?jī)扇旰?，我們又拓展出基于文本?a target="_blank">視頻回復(fù)候選的匹配，也是在此之后，我和團(tuán)隊(duì)把研究與應(yīng)用拓展到多模態(tài)層面。關(guān)于對(duì)話(huà)生成，我們?cè)缙谥饕腔谏舷挛牡幕貜?fù)生成, 后來(lái)研究并應(yīng)用了共感模型，這些技術(shù)都成為每一代小冰背后的核心技術(shù)。同時(shí)，我個(gè)人也將研究領(lǐng)域拓展到基于生成模型的對(duì)話(huà)管理和生成模型的個(gè)性化對(duì)話(huà)管理。

在小冰的業(yè)務(wù)中，我參與了小冰諸多關(guān)鍵技術(shù)的研發(fā)工作?，F(xiàn)在，小冰全球的生成模型，包括中國(guó)、日本、印度尼西亞和美國(guó)等不同語(yǔ)言的生成模型，主要都是由我負(fù)責(zé)。

正是小冰團(tuán)隊(duì)多年來(lái)在聊天機(jī)器人領(lǐng)域的不斷研究與探索，在 2018 EMNLP 會(huì)議中，我與大家分享了聊天機(jī)器人領(lǐng)域的歷史、發(fā)展現(xiàn)狀與未來(lái)的趨勢(shì)。經(jīng)過(guò)這些年的努力，聊天機(jī)器人對(duì)話(huà)模型的一些基本問(wèn)題已經(jīng)得到很好的解決，比如對(duì)話(huà)回復(fù)和對(duì)話(huà)生成兩個(gè)技術(shù)難點(diǎn)。

首先在對(duì)話(huà)回復(fù)方面，通過(guò)匹配的方法根據(jù)對(duì)話(huà)上下文找到合適的回復(fù)，其匹配精度在不斷提高。以小冰的模型方法在公開(kāi)數(shù)據(jù)集上的性能表現(xiàn)為例，兩年間我們把模型的準(zhǔn)確率從 66% 提升到了 80%，這還沒(méi)有考慮一些強(qiáng)力的預(yù)訓(xùn)練模型比如 Bert。其次是對(duì)話(huà)生成，早期的方法經(jīng)常給出無(wú)趣、萬(wàn)能的回復(fù)，經(jīng)過(guò)近幾年學(xué)界的研究，萬(wàn)能回復(fù)問(wèn)題雖不能說(shuō)完全避免，但是從初期把簡(jiǎn)單的機(jī)器翻譯模型應(yīng)用在對(duì)話(huà)生成，到后來(lái)對(duì)上下文建模問(wèn)題的探索，都是不斷提出針對(duì)這個(gè)問(wèn)題更好的解決方案?，F(xiàn)在工業(yè)界搭建聊天機(jī)器人，系統(tǒng)協(xié)調(diào)已經(jīng)不再是一個(gè)難點(diǎn)問(wèn)題。

目前，大家都在探討聊天機(jī)器人如何商業(yè)落地，這就需要我們把研究成果與技術(shù)發(fā)展更加緊密結(jié)合，推動(dòng)聊天機(jī)器人的落地。關(guān)于未來(lái)的趨勢(shì)和熱點(diǎn)方向，其一是多模態(tài)在聊天機(jī)器人領(lǐng)域中的研究與應(yīng)用。聊天機(jī)器人不僅可以綜合處理圖像、聲音和文字信息，同時(shí)可以進(jìn)行綜合模態(tài)，甚至包括情感等特征信息的輸出與表達(dá)。目前，學(xué)界在這個(gè)領(lǐng)域的研究已經(jīng)進(jìn)入火熱態(tài)勢(shì)，也涌現(xiàn)了很多公開(kāi)數(shù)據(jù)集，來(lái)探索如何利用多模態(tài)構(gòu)建對(duì)話(huà)引擎。第二個(gè)方向是個(gè)性化分析與推薦的研究與應(yīng)用，這也是目前學(xué)界和工業(yè)界都在發(fā)力的一個(gè)方向。

小冰的核心技術(shù)：對(duì)話(huà)引擎

小冰背后最核心部分是對(duì)話(huà)引擎。傳統(tǒng)的對(duì)話(huà)引擎主要分為 ASR+TTS、NLU、DM 和 NLG 四個(gè)模塊。隨著大數(shù)據(jù)技術(shù)和深度學(xué)習(xí)技術(shù)的發(fā)展，把 NLU、DM 和 NLG 模塊用統(tǒng)計(jì)模型的方法，進(jìn)行端到端的訓(xùn)練。

以小冰為代表的聊天機(jī)器人對(duì)話(huà)引擎，現(xiàn)在主要有兩種方法：基于檢索方法和基于生成式方法。兩種方法中，神經(jīng)網(wǎng)絡(luò)都發(fā)揮著非常重要的作用：

基于檢索的方法：根據(jù)用戶(hù)輸入的數(shù)據(jù)（對(duì)話(huà)信息），系統(tǒng)查詢(xún)索引（Index）后找到所有可能的回復(fù)，對(duì)所有候選回復(fù)進(jìn)行排序篩選，最后挑選出認(rèn)為最合適的回復(fù)，返回給用戶(hù)，其關(guān)鍵在于構(gòu)建索引庫(kù)（語(yǔ)料庫(kù)）。

基于生成式的方法：用于數(shù)據(jù)數(shù)據(jù)（對(duì)話(huà)信息），系統(tǒng)通過(guò)深度學(xué)習(xí)方法生成一個(gè)回復(fù)返回給用戶(hù)，其關(guān)鍵在于用深度學(xué)習(xí)方法構(gòu)建一個(gè)生成模型。

近年來(lái)，深度學(xué)習(xí)的發(fā)展在自然語(yǔ)言處理領(lǐng)域也發(fā)揮著重要的作用，研究與應(yīng)用的每一個(gè)技術(shù)幾乎都使用了深度學(xué)習(xí)的方法。

基于檢索的方法的關(guān)鍵在于如何根據(jù)上下文對(duì)話(huà)、語(yǔ)義理解與候選回復(fù)等信息設(shè)計(jì)并構(gòu)建 Matching Models。隨著 Matching Models 越來(lái)越成熟，模式（pattern）覆蓋越來(lái)越多時(shí)，訓(xùn)練性能和測(cè)試性能之間的差距，可能無(wú)法通過(guò)模型結(jié)構(gòu)改善，因此現(xiàn)在我們將更注重模型的學(xué)習(xí)。

基于生成式方法的一個(gè)基本模型是 Encoder-Attention-Decoder 模型，其模型結(jié)構(gòu)借鑒了 MT（機(jī)器翻譯）模型。現(xiàn)在基于生成模型的方法已經(jīng)得到很多的關(guān)注，學(xué)界和工業(yè)界都在不斷研究與應(yīng)用這個(gè)方法。

除了基于檢索與基于生成模型的方法，武威在報(bào)告中，還有很多主要的技術(shù)與每項(xiàng)技術(shù)使用的不同方法、不同網(wǎng)絡(luò)模型。如 NLP 任務(wù)中的 Word Embedding 與 Sentence Embedding 的各種模型，多樣性回復(fù)的解決方法，融入 Topic、情緒情感特征和表情的方法，強(qiáng)化學(xué)習(xí)、GAN 與 個(gè)性化等問(wèn)題的研究與探索等等。

傳送門(mén)：《Deep Chit-Chat: Deep Learning for ChatBots》

http://www.ruiyan.me/pubs/tutorial-emnlp18.pdf

第六代小冰的共感模型

AI科技大本營(yíng)：第六代小冰是如何做到根據(jù)當(dāng)前話(huà)題與上下文，回復(fù)信息、引領(lǐng)對(duì)話(huà)、提出新對(duì)話(huà)甚至進(jìn)行持續(xù)性對(duì)話(huà)？

武威：原來(lái)的聊天機(jī)器人集中于對(duì)話(huà)怎么回復(fù)、如何回復(fù)一些簡(jiǎn)單的問(wèn)題。而小冰第六代發(fā)布生成式的共感模型，旨在提供一個(gè)一致的框架，解決上下文理解、意圖識(shí)別與持續(xù)性對(duì)話(huà)三個(gè)問(wèn)題。提出共感模型的關(guān)鍵在于把對(duì)話(huà)過(guò)程提升至一個(gè)被動(dòng)與主動(dòng)結(jié)合的交互過(guò)程。

在共感模型中，有三個(gè)重要環(huán)節(jié)：明確對(duì)話(huà)狀態(tài)、策略選擇與回復(fù)生成。首先，我們明確設(shè)定了幾種對(duì)話(huà)狀態(tài)。一種是無(wú)意識(shí)狀態(tài)，比如沒(méi)有額外意圖、無(wú)須太多反應(yīng)的社交詞令。一種是有意識(shí)狀態(tài)，需要確認(rèn)、主動(dòng)提問(wèn)或主動(dòng)引導(dǎo)的話(huà)題狀態(tài)。明確對(duì)話(huà)狀態(tài)后，就到了回復(fù)生成與策略選擇的過(guò)程。當(dāng)用戶(hù)開(kāi)始對(duì)話(huà)后，我們首先要識(shí)別意圖，是問(wèn)好、提問(wèn)、陳述信息還是意在獲取信息等，其開(kāi)放域?qū)υ?huà)的意圖非常寬泛。結(jié)合不同的意圖與當(dāng)前對(duì)話(huà)內(nèi)容，決定下一輪的對(duì)話(huà)策略，匹配之前識(shí)別到的意圖，最后生成回復(fù)的對(duì)話(huà)，這就形成了策略選擇和回復(fù)生成結(jié)合的過(guò)程。通過(guò)數(shù)據(jù)學(xué)習(xí)或正向?qū)W習(xí)等方法選擇合適的策略，讓整個(gè)對(duì)話(huà)更持續(xù)、更順暢的。

就像我們平時(shí)人與人之間的對(duì)話(huà)過(guò)程一樣，并不都是處在完全被動(dòng)的互動(dòng)過(guò)程，我們會(huì)根據(jù)對(duì)話(huà)內(nèi)容決定說(shuō)些什么，也會(huì)在某些時(shí)候引導(dǎo)或提出新對(duì)話(huà)，這背后的策略與想法也是共感建模的核心。

AI科技大本營(yíng)：策略選擇與回復(fù)生成結(jié)合的過(guò)程是否是強(qiáng)化學(xué)習(xí)的過(guò)程？小冰是否應(yīng)用了強(qiáng)化學(xué)習(xí)方法？

武威：強(qiáng)化學(xué)習(xí)過(guò)程中必不可少的一部分是獎(jiǎng)勵(lì)函數(shù)（Reward Function），在開(kāi)放域?qū)υ?huà)過(guò)程中，如何定義獎(jiǎng)勵(lì)函數(shù)是一個(gè)具有挑戰(zhàn)的問(wèn)題。在基于任務(wù)型對(duì)話(huà)中，最終是否完成任務(wù)以及完成所需輪數(shù)可以用作強(qiáng)化學(xué)習(xí)的獎(jiǎng)勵(lì)函數(shù)，但是在開(kāi)放域?qū)υ?huà)中，僅用對(duì)話(huà)輪數(shù)衡量不一定完全正確，同時(shí)也沒(méi)有找到合適度量人機(jī)交互滿(mǎn)意度的方式。我們確實(shí)嘗試過(guò)用強(qiáng)化學(xué)習(xí)方法構(gòu)建共感模型，但實(shí)驗(yàn)結(jié)果的提升并不十分明顯。在小冰產(chǎn)品的應(yīng)用中也發(fā)現(xiàn)了這個(gè)現(xiàn)象。這也是研究和應(yīng)用的不同之處。

多模態(tài)的高級(jí)認(rèn)知體系

2017 年第五代小冰發(fā)布了全雙工語(yǔ)音交互，并在打電話(huà)和智能音箱兩個(gè)場(chǎng)景中落地。到了第六代小冰，融合了共感模型的對(duì)話(huà)引擎、全雙工語(yǔ)音和實(shí)時(shí)視覺(jué)三個(gè)類(lèi)別的全新感官系統(tǒng)，并同時(shí)進(jìn)行開(kāi)放域?qū)υ?huà)。

AI科技大本營(yíng)：隨著計(jì)算機(jī)視覺(jué)、NLP 等領(lǐng)域不斷取得突破，多模態(tài)信息在感知層面有好的表現(xiàn)是不夠的，深入到理解、更高級(jí)的認(rèn)知能力時(shí)，現(xiàn)在小冰在多模態(tài)領(lǐng)域研究中做到了什么樣的程度？目前有哪些方面的新研究？

武威：目前小冰在多模態(tài)領(lǐng)域取得的進(jìn)展可以總結(jié)為松耦合狀態(tài)，各個(gè)模態(tài)可以一起工作，但耦合之下還不夠十分緊密。比如，假如聊天機(jī)器人有了視覺(jué)，看到了視頻，看到了周?chē)沫h(huán)境，同時(shí)又接收聲音、語(yǔ)音或文字信息，我們可以想象這些信息都應(yīng)該對(duì)小冰的回復(fù)有所幫助，但是這兩種模態(tài)的信息是如何結(jié)合產(chǎn)生幫助的？什么時(shí)候應(yīng)該結(jié)合一起，什么時(shí)候不需要結(jié)合？當(dāng)模態(tài)變多后，耦合也會(huì)增多，那耦合之間是否會(huì)有所沖突？有了沖突，產(chǎn)生噪音，如何規(guī)避噪音？比如情感特征，聲音包含情感，如何與文字結(jié)合，使回復(fù)的對(duì)話(huà)也能帶有情感？乃至最終表達(dá)情感是通過(guò) TTS 方式還是表情表達(dá)更為合適與自然？這些問(wèn)題都還在研究過(guò)程中，但還不是完全清楚。

AI科技大本營(yíng)：多模態(tài)在小冰情感計(jì)算模型發(fā)揮著怎樣的作用？

武威：第六代小冰已經(jīng)是一個(gè)整體情感計(jì)算框架。通過(guò)小冰的探索，要實(shí)現(xiàn)帶有情感的聊天機(jī)器人，多模態(tài)是必不可少的。我們也從單模態(tài)進(jìn)行考量，但是在對(duì)話(huà)交互中的效果并不是非常好。小冰從單模態(tài)到多模態(tài)，結(jié)合圖像、視頻、語(yǔ)音和文字等信息后，情感像一條紐帶，貫穿一起，架構(gòu)于此。目前這還是一個(gè)具有挑戰(zhàn)性的課題，我們也在探索中。

AI科技大本營(yíng)：除了多模態(tài)研究，還有哪些研究趨勢(shì)？

武威：除了多模態(tài)，個(gè)性化聊天機(jī)器人也是我們正在研究的方向。個(gè)性化不止一兩種，而是非常多的個(gè)性。其實(shí)，共性與個(gè)性的問(wèn)題是如何平衡大數(shù)據(jù)與小數(shù)據(jù)間的問(wèn)題，共性代表了大數(shù)據(jù)，個(gè)性代表了小數(shù)據(jù)，如果強(qiáng)調(diào)個(gè)性，數(shù)據(jù)太少，可能無(wú)法做出一個(gè)合格、有質(zhì)量的對(duì)話(huà)引擎；如果用大數(shù)據(jù)搭建了高質(zhì)量的對(duì)話(huà)模型，有可能就無(wú)法體現(xiàn)個(gè)性。所以，小數(shù)據(jù)的個(gè)性化離不開(kāi)大數(shù)據(jù)?，F(xiàn)在學(xué)界和工業(yè)界也都在探索大數(shù)據(jù)如何與小數(shù)據(jù)綜合利用，實(shí)現(xiàn)有質(zhì)量的個(gè)性化對(duì)話(huà)模型。

小冰的 AI 創(chuàng)造力

武威：AI 創(chuàng)造一直是小冰的一個(gè)重點(diǎn)研究與應(yīng)用方向，幾乎和對(duì)話(huà)同等重要。從早期小冰作詩(shī)、金融領(lǐng)域文本生成、音樂(lè)與歌曲生成，到現(xiàn)在小冰的有聲讀物，都是小冰在 AI 創(chuàng)造領(lǐng)域取得的成果。在 NLP 領(lǐng)域，目前，在短文本生成與創(chuàng)造已經(jīng)有了比較不錯(cuò)的效果，現(xiàn)在也已經(jīng)有更多的研究投入在更復(fù)雜的任務(wù)上，比如基于文本或視頻講故事，長(zhǎng)文寫(xiě)作等。未來(lái)，我們也在想，小冰是否可以完成寫(xiě)小說(shuō)、寫(xiě)散文等內(nèi)容與藝術(shù)創(chuàng)造任務(wù)，這應(yīng)該也是處于一個(gè)探索的“有待突破”的研究領(lǐng)域。

AI科技大本營(yíng)：同行或同類(lèi)產(chǎn)品中，也有以?xún)?nèi)容創(chuàng)作為主要落地場(chǎng)景，實(shí)現(xiàn) AI 賦能與更多的商業(yè)價(jià)值，成為非常重視的方向，小冰未來(lái)在這方面有什么計(jì)劃？

武威：內(nèi)容創(chuàng)作在一定程度上已經(jīng)可以節(jié)省人力，在可與人類(lèi)相媲的質(zhì)量前提下，完成的更快更多，這本身確實(shí)具有一定的價(jià)值與商業(yè)價(jià)值。但是它能帶來(lái)更深層次的價(jià)值是什么樣子的，目前還不是十分清楚。比如，大家也都在討論的用 AI 創(chuàng)作藝術(shù)品，這個(gè)價(jià)值到底有多少，也很難衡量。

下一代小冰

AI科技大本營(yíng)：小冰與很多第三平臺(tái)的合作，除了智能家居領(lǐng)域，還希望探索哪些應(yīng)用場(chǎng)景？未來(lái)如何定位，實(shí)現(xiàn)商業(yè)化價(jià)值？

武威：小冰的產(chǎn)品線(xiàn)非常豐富，應(yīng)用場(chǎng)景也在不斷豐富。不僅應(yīng)用在智能家居、智能音箱中，小冰的聲音還有有聲讀物、節(jié)目主持以及企業(yè)垂直解決方案等。有聲讀物已經(jīng)超過(guò)了 400 萬(wàn)小時(shí)的收聽(tīng)量，小冰姐姐講故事已經(jīng)覆蓋了國(guó)內(nèi)了 90% 以上的兒童早教機(jī)器人，80% 在線(xiàn)收聽(tīng)品平臺(tái)。到現(xiàn)在，小冰一共參與生成主持了 55 檔電視節(jié)目。與日本 LAWSON 合作，幫助便利店發(fā)放優(yōu)惠券等垂直解決方案。還有，國(guó)內(nèi)個(gè)性化聊天機(jī)器人與網(wǎng)易、華為等公司合作，幫助他們打造自己的聊天機(jī)器人。所以，小冰乃至聊天機(jī)器人的應(yīng)用除了 IOT 還有更多。因?yàn)?，在我們看?lái)，說(shuō)話(huà)本身就是一種剛需，人在日常生活與工作中，很多事情都需要通過(guò)說(shuō)話(huà)溝通來(lái)解決。我們也曾想過(guò)，要不要馬上去做目前大家都在談到的剛需，比如問(wèn)答。但是，如果在解決實(shí)際問(wèn)題解決時(shí)，機(jī)器人不能滿(mǎn)足用戶(hù)的需求，也無(wú)法讓用戶(hù)留存與活躍，而后續(xù)也就無(wú)從再談。所以，我們做小冰，是先做常態(tài)再滿(mǎn)足剛需。

和不同的第三方平臺(tái)合作，面對(duì)不同的需求，我們主要有三種拓展商業(yè)模式的方法：一種是我們根據(jù)對(duì)方平臺(tái)幫助其打造一個(gè)自有的 AI 產(chǎn)品；二是嵌入小冰平臺(tái)到對(duì)方平臺(tái)中，輔助對(duì)方 AI 產(chǎn)品，融入對(duì)方平臺(tái)的生態(tài)系統(tǒng)；三是我們提供平臺(tái)，對(duì)方利用微軟的技術(shù)、運(yùn)營(yíng)與產(chǎn)品打造自己平臺(tái)的一些差異化特征，推出相應(yīng)產(chǎn)品與應(yīng)用。

AI科技大本營(yíng)：未來(lái)小冰如何保持領(lǐng)先？第七代小冰是否有發(fā)布計(jì)劃？

武威：在開(kāi)放域?qū)υ?huà)這個(gè)賽道，希望大家一起努力把聊天機(jī)器人做的越來(lái)越好。比如 Facebook 現(xiàn)在也開(kāi)始布局，目前 Alexa 主打還是任務(wù)導(dǎo)向，其實(shí)也在此領(lǐng)域開(kāi)始投入。未來(lái)小冰仍將通過(guò)已有的優(yōu)勢(shì)，比如用戶(hù)與數(shù)據(jù)優(yōu)勢(shì)，持續(xù)打磨技術(shù)，希望繼續(xù)處于領(lǐng)先水平。未來(lái)，小冰的核心仍然是對(duì)話(huà)引擎、AI 創(chuàng)造以及解決方案。能夠在情感計(jì)算框架下誕生更多聊天機(jī)器人服務(wù)于更多的合作伙伴，也是我們期待的事情。第七代小冰還是值得大家期待的。