比如,那么對于同一個語義,不同語言和方言對應(yīng)反饋都可能有差異,甚至對于不同環(huán)境成長的同一語言人群以及同一個人在不同年齡段和不同情緒狀態(tài)下的反饋都可能不同。
近日,斯坦福大學(xué)人工智能實(shí)驗(yàn)室(SAIL)發(fā)表博客,介紹了其兩篇 ACL 2020 論文。這兩項研究立足于近段時間 BERT 等神經(jīng)語言模型的突破性成果,指出了一個頗具潛力的新方向:使用語言解釋來輔助學(xué)習(xí) NLP 乃至計算機(jī)視覺領(lǐng)域的任務(wù)。
簡單來說,就是針對自然語言處理(NLP)和計算機(jī)視覺領(lǐng)域的多種高難度任務(wù),他們首先用語言解釋這些任務(wù),然后使用深度神經(jīng)網(wǎng)絡(luò)模型來學(xué)習(xí)這些語言解釋,進(jìn)而幫助解決這些任務(wù)。
事實(shí)上,BERT 等現(xiàn)代深度神經(jīng)語言模型已經(jīng)顯現(xiàn)出解決多項語言理解任務(wù)的潛力。因此,SAIL 在這兩篇論文中提出使用神經(jīng)語言模型來緩解這些基本問題。這些神經(jīng)語言模型或以確定相關(guān)領(lǐng)域內(nèi)語言解釋為目標(biāo),或使用了可以解讀語言解釋的通用型“知識”來進(jìn)行預(yù)訓(xùn)練。
第一篇論文研究了如何使用語言解釋來構(gòu)建文本分類器,即使用自然語言解釋來幫助解決單個任務(wù)?;诖?,研究人員提出了 ExpBERT 模型,其使用了針對文本蘊(yùn)涵任務(wù)訓(xùn)練的 BERT 模型,BERT 在這一過程中輸出的特征可替代上述語義解析器提供的指示特征。
第二篇論文提出一種名為語言塑造型學(xué)習(xí)(Language Shaped Learning/LSL)的方法,即在訓(xùn)練時使用語言解釋,則可以促使模型學(xué)習(xí)不僅對分類有用的表征,而且該表征還能用于預(yù)測語言解釋。
語言之精妙彰顯了人類之精巧,人工智能想要克服語言的技術(shù)桎梏依然還有漫長的路要走,但研究已在路上。在人工智能獲得語言能力前,社會也將對其技術(shù)進(jìn)行謹(jǐn)慎的設(shè)計,這也是科技時代下必然要面對的問題。
責(zé)任編輯:PSY
-
人工智能
+關(guān)注
關(guān)注
1811文章
49497瀏覽量
258147 -
語言
+關(guān)注
關(guān)注
1文章
97瀏覽量
24667 -
nlp
+關(guān)注
關(guān)注
1文章
491瀏覽量
23038
發(fā)布評論請先 登錄
挖到寶了!人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器
挖到寶了!比鄰星人工智能綜合實(shí)驗(yàn)箱,高校新工科的寶藏神器!
超小型Neuton機(jī)器學(xué)習(xí)模型, 在任何系統(tǒng)級芯片(SoC)上解鎖邊緣人工智能應(yīng)用.
人工智能技術(shù)的現(xiàn)狀與未來發(fā)展趨勢
最新人工智能硬件培訓(xùn)AI 基礎(chǔ)入門學(xué)習(xí)課程參考2025版(大模型篇)
維智科技為什么提出時空人工智能
人工智能和機(jī)器學(xué)習(xí)以及Edge AI的概念與應(yīng)用

【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+數(shù)據(jù)在具身人工智能中的價值
自然語言處理與機(jī)器學(xué)習(xí)的關(guān)系 自然語言處理的基本概念及步驟
編程語言在人工智能中的使用
嵌入式和人工智能究竟是什么關(guān)系?
LLM技術(shù)對人工智能發(fā)展的影響
ChatGPT 與人工智能的未來發(fā)展
人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)存在什么區(qū)別

評論