chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

對話系統(tǒng)最原始的實現(xiàn)方式 檢索式對話

深度學習自然語言處理 ? 來源:深度學習自然語言處理 ? 作者:深度學習自然語言 ? 2020-09-25 17:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

對話系統(tǒng)可以說是NLP領域目前已知最扎實的落地場景了,整個流程都脫離不了NLP的核心作用,而且整個流程涉及NLP的大量任務,因此大量的研究都圍繞著對話系統(tǒng)來開展,也因此產(chǎn)生了很多很有意義的新方法。而檢索式對話作為對話系統(tǒng)最原始的實現(xiàn)方式,又蘊涵著什么有意思的東西,我們來看看。

什么是對話系統(tǒng)

對話從來就不是一個簡單的任務,這是一個涉及理解、生成、交互等多個方向技術的綜合實體。

理解:需要理解對方輸出的內(nèi)容,只有這樣才能給與正確的回應。

生成:基于理解的內(nèi)容,給出合適的結(jié)果。

交互:在多輪對話上,需要記錄跟蹤整個對話過程中涉及的內(nèi)容。

要同時完成這么多任務,相必是非常復雜的,同時場景上的復雜性,客服、語音助手、閑聊等,也造就了對話系統(tǒng)的復雜性,最終成為了NLP里面一個重要的研究抓手和目標。

檢索式對話

檢索式對話按照個人理解應該是最為經(jīng)典的解決方案,把一個對話問題抽象為一個搜索問題,大量早期的對話系統(tǒng)都是用這種解決方案來實現(xiàn)的,甚至在現(xiàn)在,一些簡單的對話任務,都可以用它來簡單實現(xiàn),可以說是工業(yè)界最喜歡的一種實現(xiàn)方式了。簡單地說,整個檢索式對話的流程可以用這個流程來表示:

query理解->檢索召回->相似度排序

沒錯,看著就是搜索的流程,對句子進行理解,理解后到數(shù)據(jù)庫里面進行召回,召回以后再進行相似度排序找到最佳答案。既然流程被拆解,那我們來看看每一步里面都會做什么東西。

query理解

簡單的說,其實就是去理解用戶輸入的內(nèi)容說的是啥,一般的自然語言理解主要關心的是這么幾個技術細節(jié):

意圖和話題。即用戶談論的是哪個領域的事情,從而剖析用戶期待對話系統(tǒng)返回的是什么。這個問題常被當成分類問題來處理,用分類規(guī)則或者是方法來進行意圖識別。一旦抽象成分類問題大家就應該大概理解了,就是fastext、textcnn之類的玩意了。

槽位和實體。我們需要知道用戶需要什么,需要抽取用戶的具體實體,這個經(jīng)常被抽象為序列標注問題,此時CRF、BILSTM-CRF之類的方法就是基操了。

當然,也有一些工程上會把它抽象化,只是轉(zhuǎn)化為向量或者矩陣,下游用矩陣進行搜索。

總之,query理解這塊,主要是為了解析用戶說的內(nèi)容,去理解他的語義,這樣我們才能為用戶找到合適的答案。

檢索召回

召回這塊,按照搜索的操作,就是拿著我們提取的槽位和實體,甚至是我們解析的向量和矩陣,根據(jù)意圖和話題放到搜索引擎里面去檢索,搜索引擎中有倒排索引,直接拿著關鍵詞就能找到對應的內(nèi)容。

然而,問題其實不在怎么檢索召回,而是在于召回的內(nèi)容怎么來。相比搜索引擎,對話系統(tǒng)的內(nèi)容可能更加不結(jié)構(gòu)化,同時可得性由于特定需求其實并不好得,例如淘寶的客服,每家店的商品性質(zhì)各不相同,很難需要召回的結(jié)果,有正確答案的就更難了,所以,常用的方式有這幾種:

對高頻問題進行編輯,然后統(tǒng)一維護管理。數(shù)白了就是人編。

基于一些模板進行組裝生成。

利用文本生成的方式進行處理。

相似度排序

一般地,根據(jù)用戶最簡單的query,往往能召回很多可能比較好的答案,此時我們要選擇最優(yōu)的給用戶。衡量最優(yōu)的標準之一就是相似度,語義相似度就是最為經(jīng)典或者說基本的相似度衡量方式,當然搜索領域的ctr(不是點擊率)、cqr、BM25等,這些非?;镜脑亍?/p>

對經(jīng)典的語義相似度,就要說2013年的DSSM了,這個模型可謂是開了語義相似度雙塔結(jié)構(gòu)的先河。

優(yōu)缺點和應用場景

說完了具體的流程,然后再說說檢索式對話的優(yōu)點和應用場景。

先談談優(yōu)點吧。

應該是這么多種對話實現(xiàn)方式中對樣本依賴最低的。

實現(xiàn)成本低,初版本實現(xiàn)速度快,后續(xù)拓展

三段處理,可控性強。

因為這些優(yōu)點,檢索式對話在工程上被廣泛應用。

客服機器人。尤其是淘寶的場景,這里有非常專業(yè)的內(nèi)容,例如用戶會問浴缸的長寬高,會問電腦的配置等等,這些用檢索式非常方便。

問答類對話。例如小猿搜題之類的,還有一些百科類的問答,雖然不知道具體公司的操作,但是用檢索式的確會非常方便。

對話系統(tǒng)初版本。即使是很多開放域,第一版本的構(gòu)造都會嘗試檢索式對話的架構(gòu)。

當然了,檢索式對話這套實現(xiàn)方案還是有很大的局限性,因此才會有很多項目嘗試做一些別的做法,先聊聊缺點:

答案相對固定,靈活性不足,在一些閑聊場景,會非常困難。如,用戶問一句,你好,后面有很多答案都是合理的。

任務型的對話,在各種語音助手,小度、siri之類的很常見,一些引導用戶完成任務的工作,對話機器人是需要做一個主動帶節(jié)奏的角色,檢索式基本辦不到。

多輪對話。在檢索式對話基礎上,單輪對話升級為多輪對話其實是存在明顯的天花板,成本也比較高,雖然已經(jīng)有一些相關的操作,如Multi-view、SMN之類的,但是實現(xiàn)的難度還是會有些高。

小結(jié)

小結(jié)一下,檢索式對話作為對話系統(tǒng)一個經(jīng)典的技術,非常有必要學習和探究,今天大概講了一些流程和概述,也希望大家有所收獲。

責任編輯:xj

原文標題:【對話】對話系統(tǒng)經(jīng)典:檢索式對話

文章出處:【微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • nlp
    nlp
    +關注

    關注

    1

    文章

    491

    瀏覽量

    23243
  • 對話系統(tǒng)

    關注

    0

    文章

    7

    瀏覽量

    2302

原文標題:【對話】對話系統(tǒng)經(jīng)典:檢索式對話

文章出處:【微信號:zenRRan,微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    疆鴻智能PROFINET轉(zhuǎn)DEVICENET的車間對話:網(wǎng)關重塑AGV控制流

    導引車(AGV)負責車身部件的準時化輸送。其核心控制系統(tǒng)采用西門子S7-1500系列PLC作為中央調(diào)度大腦,然而,車間內(nèi)部分關鍵搬運AGV的核心驅(qū)動控制器僅支持DEVICENET通信協(xié)議。如何讓支持PROFINET的主流PLC與這些DEVICENET設備實現(xiàn)無縫
    的頭像 發(fā)表于 01-07 14:16 ?91次閱讀

    AI教父Hinton對話云天勵飛陳寧

    ,圍繞算力效率、AI 向善與普惠未來展開了一場高密度對話。對話由硅谷著名計算機科學家、硅谷高創(chuàng)會大會主席吳軍博士主持。
    的頭像 發(fā)表于 12-03 14:04 ?601次閱讀

    思必馳任務型對話算法通過國家備案

    近日,國家網(wǎng)信辦公開發(fā)布第十四批境內(nèi)深度合成服務算法備案信息,思必馳任務型對話算法正式通過備案。這是思必馳第八項通過備案的算法,進一步鞏固了在對話人工智能領域的技術與合規(guī)優(yōu)勢。
    的頭像 發(fā)表于 11-20 10:33 ?790次閱讀

    世界互聯(lián)網(wǎng)大會:“六小龍”烏鎮(zhèn)對話思考AI和未來

    ?? ? 千年烏鎮(zhèn),青石板路蜿蜒,一場探討人工智能前沿技術與發(fā)展走向的對話在此進行。 ??2025年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會主論壇于11月7日在浙江烏鎮(zhèn)舉行,“六小龍烏鎮(zhèn)對話”成為關注焦點。今年初,以
    的頭像 發(fā)表于 11-08 17:42 ?3232次閱讀
    世界互聯(lián)網(wǎng)大會:“六小龍”烏鎮(zhèn)<b class='flag-5'>對話</b>思考AI和未來

    拉夫勞倫攜手微軟推出對話AI應用購物助手Ask Ralph

    拉夫·勞倫攜手微軟,推出由Microsoft Azure OpenAl(國際版)驅(qū)動的對話AI應用購物助手“Ask Ralph”,旨在重塑數(shù)字購物體驗。該工具能理解用戶自然語言提問,提供高度個性化
    的頭像 發(fā)表于 10-13 15:45 ?558次閱讀

    廣和通發(fā)布端側(cè)情感對話大模型FiboEmo-LLM

    9月,廣和通正式發(fā)布自主研發(fā)的端側(cè)情感對話大模型FiboEmo-LLM。該模型專注于情感計算與自然語言交互融合,致力于為AI玩具、智能陪伴設備等終端場景提供“情感理解-情感響應”一體化能力,推動終端人工智能向更具人性化、情感化的方向演進。
    的頭像 發(fā)表于 09-26 13:37 ?1783次閱讀

    【應用方案】“會呼吸”的洗衣機:艾為燈語?讓光與你“對話

    你是否想過,洗衣機會用光的語言與您對話?當科技被賦予溫度,最日常的洗衣時刻也開始有了詩意。艾為燈語助力智能家電系列,讓洗衣機從冰冷的金屬外殼中蘇醒,用光的語言與你溫柔對話。這不是一次簡單的功能升級
    的頭像 發(fā)表于 09-11 18:56 ?679次閱讀
    【應用方案】“會呼吸”的洗衣機:艾為燈語?讓光與你“<b class='flag-5'>對話</b>”

    米爾RK3576部署端側(cè)多模態(tài)多輪對話,6TOPS算力驅(qū)動30億參數(shù)LLM

    RK3576 給出了首個可量產(chǎn)的答案:一套完整的多模態(tài)交互對話解決方案。 RK3576 多模態(tài)純文字:自我介紹 如今,“端側(cè)能否獨立運行圖文多輪對話” 已不再是技術疑問,而是工程實現(xiàn)問題。RK3576
    發(fā)表于 09-05 17:25

    液位監(jiān)測界的“跨界CP”:CCLinkIE轉(zhuǎn)Modbus TCP,讓設備對話不再“雞同鴨講”!

    。這種“雙向翻譯”不僅打破協(xié)議壁壘,還能將多臺Modbus液位計數(shù)據(jù)整合進CCLinkIE系統(tǒng)實現(xiàn)“集中管娃”管理。 某化工廠曾因協(xié)議不兼容頭疼不已:儲罐區(qū)Modbus RTU液位計
    發(fā)表于 07-10 15:52

    對話電網(wǎng)、指揮儲能的雙向計量電能表

    對話電網(wǎng)、指揮儲能的雙向計量電能表
    的頭像 發(fā)表于 04-27 17:35 ?705次閱讀
    能<b class='flag-5'>對話</b>電網(wǎng)、指揮儲能的雙向計量電能表

    單次、多次對話與RTC對話AI交互模式,如何各顯神通?

    在這個充滿無限可能的AI時代,這些奇妙場景正逐步走進我們的生活。你可曾想象過,有一天家里的智能設備會化身相聲演員,和你幽默對答?或者,你的玩具能像知心好友一樣,陪你暢聊心事?單次對話、多次對話
    的頭像 發(fā)表于 04-02 18:18 ?2145次閱讀
    單次、多次<b class='flag-5'>對話</b>與RTC<b class='flag-5'>對話</b>AI交互模式,如何各顯神通?

    能和Ai-M61模組對話了?手搓一個ChatGPT 語音助手

    實現(xiàn)與 Ai對話。 同時 安信可即將推出一款AI大模型對話開發(fā)板 超小尺寸 敬請期待! 準備工作 (一)硬
    的頭像 發(fā)表于 03-12 11:57 ?1.1w次閱讀
    能和Ai-M61模組<b class='flag-5'>對話</b>了?手搓一個ChatGPT 語音助手

    科技云報到:從鸚鵡學舌到靈魂對話,AI的「人話革命」

    科技云報到:從鸚鵡學舌到靈魂對話,AI的「人話革命」
    的頭像 發(fā)表于 03-11 14:26 ?626次閱讀

    摩爾線程Round Attention優(yōu)化AI對話

    摩爾線程科研團隊發(fā)布研究成果《Round Attention:以輪次塊稀疏性開辟多輪對話優(yōu)化新范式》,該方法端到端延遲低于現(xiàn)在主流的Flash Attention推理引擎,kv-cache 顯存占用節(jié)省55%到82% 。
    的頭像 發(fā)表于 03-06 09:39 ?987次閱讀
    摩爾線程Round Attention優(yōu)化AI<b class='flag-5'>對話</b>

    《AI Agent 應用與項目實戰(zhàn)》閱讀心得2——客服機器人、AutoGen框架 、生成代理

    處理模糊查詢,大大提升了查詢的召回率。對話狀態(tài)管理器通過有限狀態(tài)機實現(xiàn)對話流程的動態(tài)調(diào)整,解決了傳統(tǒng)系統(tǒng)對話流程僵化的問題。響應生成器則融合
    發(fā)表于 02-25 21:59