一句話總結(jié)

信息抽取任務(wù)具有多樣的抽取目標(biāo)和異構(gòu)的結(jié)構(gòu)，而傳統(tǒng)的模型需要針對特定的任務(wù)進行任務(wù)設(shè)計和標(biāo)簽標(biāo)注，這樣非常的耗時耗力。本文提出一種USM方法，將各種信息抽取任務(wù)通過一種統(tǒng)一的模型方法完成。

USM

信息抽?。↖E）的挑戰(zhàn)在于標(biāo)簽?zāi)Ｊ降亩鄻有院徒Y(jié)構(gòu)的異構(gòu)性。

傳統(tǒng)方法需要針對特定任務(wù)的模型設(shè)計，并且嚴(yán)重依賴昂貴的監(jiān)督，因此很難推廣到新模式。

在本文中，我們將 IE 分解為兩種基本能力，「結(jié)構(gòu)化」(Structuring)和「概念化」(Conceptualizing)，它們由不同的任務(wù)和模式共享。

基于這種范式，我們建議使用「統(tǒng)一語義匹配 (Unified Semantic Matching, USM)」 框架對各種 IE 任務(wù)進行通用建模，該框架引入了三個統(tǒng)一的標(biāo)記鏈接操作來建模結(jié)構(gòu)化和概念化的能力。

這樣，USM 可以聯(lián)合編碼模式和輸入文本，并行地統(tǒng)一提取子結(jié)構(gòu)，并按需可控地解碼目標(biāo)結(jié)構(gòu)。

本文的貢獻為：

算法細(xì)節(jié)

實驗分析

對 4 個 IE 任務(wù)的實證評估表明，所提出的方法在監(jiān)督實驗下實現(xiàn)了最先進的性能，并在零/少鏡頭傳輸設(shè)置中表現(xiàn)出強大的泛化能力。

USM在不同數(shù)據(jù)集上的結(jié)果



零樣本遷移實驗



少樣本實驗

總結(jié)

在本文中，我們提出了一個統(tǒng)一的語義匹配框架——USM，它對提取模式和輸入文本進行聯(lián)合編碼，并行地統(tǒng)一提取子結(jié)構(gòu)，并按需可控地解碼目標(biāo)結(jié)構(gòu)。

實驗結(jié)果表明，USM 在監(jiān)督實驗下實現(xiàn)了最先進的性能，并在零/少場景設(shè)置下表現(xiàn)出強大的泛化能力，驗證了 USM 是一種新穎、可傳輸、可控和高效的框架。

對于未來的工作，我們希望將 USM 擴展到 NLU 任務(wù)，例如文本分類，并研究 IE 的更多間接監(jiān)督信號，例如文本蘊含。