自然語言處理是一項利用計算機和軟件獲取人類語言（書面或口語）含義的技術(shù)。

什么是自然語言處理？

自然語言處理（NLP）使用 AI 處理和分析文本或語音數(shù)據(jù)，以便理解和解釋內(nèi)容、對內(nèi)容進行分類和/或從內(nèi)容中獲得見解。

NLP 中包含自然語言生成（NLG），它會使用計算機創(chuàng)建人類語言文本。此外，自然語言理解（NLU）會錄入文本，理解上下文和意圖，然后生成智能回復(fù)。

垃圾郵件過濾程序、拼寫檢查程序、語法檢查程序、自動更正、語言翻譯、情感分析、語義搜索等都屬于 NLP ?；?Transformer 架構(gòu)的新深度學(xué)習(xí)（DL）方法的出現(xiàn)，為 NLP 技術(shù)的性能和功能帶來了革命性的變化?，F(xiàn)在，先進的 NLP 模型已成為現(xiàn)代搜索引擎、語音助手和聊天機器人的核心。這些應(yīng)用程序在自動處理日常訂單、路由查詢和回答常見問題時也變得日益純熟。

為什么選擇 NLP？

NLP 的應(yīng)用已相當(dāng)廣泛，并有望以幾何級數(shù)增長。據(jù)一項研究調(diào)查估計，在全球市場中，與自然語言處理相關(guān)的產(chǎn)品和服務(wù)將在 2025 年增長到 430 億美元；而 2017 年時，這一數(shù)字為 30 億美元。這一驚人的 14 倍增長也證明了自然語言處理解決方案的廣泛應(yīng)用。

進一步推動這一增長的是，一個組織內(nèi)僅有 15% 的數(shù)據(jù)存儲在企業(yè)數(shù)據(jù)庫中這一事實。這些數(shù)據(jù)包括文本、電子郵件、會議筆記、電話轉(zhuǎn)錄等。自然語言處理有望釋放隱藏在所有這些數(shù)據(jù)中的業(yè)務(wù)價值，使其像存儲數(shù)據(jù)一樣對業(yè)務(wù)決策者發(fā)揮作用。

NLP 的工作原理是什么？

機器學(xué)習(xí)（ML）是推動當(dāng)今大多數(shù)自然語言處理解決方案的引擎，并將推動它們進一步發(fā)展。這些系統(tǒng)使用 NLP 算法來理解詞語的使用方式。它們從書籍、短語和慣用語中提取所有信息后，通過 NLP 識別詞語和短語之間的模式和關(guān)系，來“學(xué)習(xí)”理解人類語言。

通常，在 NLP 應(yīng)用中，會使用詞嵌入等技術(shù)將輸入文本轉(zhuǎn)換為詞向量（一個詞的數(shù)學(xué)表征）。借助此技術(shù)，在將句子中的每個詞輸入到深度學(xué)習(xí)模型（例如RNN、LSTM 或 Transformer）前將其翻譯成一組數(shù)字，以便理解上下文。神經(jīng)網(wǎng)絡(luò)在進行自我訓(xùn)練時，這些數(shù)字會隨著時間的推移而發(fā)生變化，為每個詞編碼語義和上下文信息等獨特屬性。這些 DL 模型為特定語言任務(wù)（例如下一詞語預(yù)測和文本摘要）提供適當(dāng)?shù)妮敵?，這些任務(wù)用于生成輸出序列。

但是，詞嵌入等文本編碼機制可能會為捕獲細微差別帶來挑戰(zhàn)。例如，bass fish 和 bass player 具有相同的表征。在對長段落進行編碼時，它們還可能在結(jié)尾丟失掉文章開頭獲取的上下文。BERT（Bidirectional Encoder Representations from Transformers）是深度雙向的，能夠比其他文本編碼機制更好地理解和保留上下文。訓(xùn)練語言模型時，遭遇的一個關(guān)鍵挑戰(zhàn)是缺少標(biāo)記數(shù)據(jù)。BERT 在無監(jiān)督任務(wù)上接受訓(xùn)練，通常使用書籍語料庫、英語維基百科等的非結(jié)構(gòu)化數(shù)據(jù)集。

GPU：加速 NLP

讓計算機理解人類語言及所有細微差別，并做出適當(dāng)?shù)姆磻?yīng)，這是 AI 研究人員長期以來的追求。但是，在采用加速計算的現(xiàn)代 AI 技術(shù)出現(xiàn)之前，構(gòu)建具有真正自然語言處理（NLP）功能的系統(tǒng)是無法實現(xiàn)的。

一個由數(shù)百個核心組成的 GPU，可以并行處理數(shù)千個線程。GPU 已成為訓(xùn)練深度學(xué)習(xí)模型和執(zhí)行推理的首選平臺，因為它們的性能比純 CPU 平臺高 10 倍。

自然語言處理中近年來不斷取得的進步和突破是驅(qū)動 NLP 增長的一個因素，其中重要的是部署 GPU 來處理日漸龐大且高度復(fù)雜的語言模型。

像 BERT 這樣基于 NLP Transformer 的深度學(xué)習(xí)模型不需要按順序處理連續(xù)數(shù)據(jù)，與 RNN 相比，可以在 GPU 上實現(xiàn)更多的并行化，并減少訓(xùn)練時間。BERT 使用無監(jiān)督式學(xué)習(xí)方法的能力、使用預(yù)訓(xùn)練模型進行遷移學(xué)習(xí)的能力，以及使用 GPU 進行加速的能力，均使其在行業(yè)中得到廣泛應(yīng)用。

對支持 GPU 的模型經(jīng)過快速訓(xùn)練和優(yōu)化后，語音輔助應(yīng)用程序中的響應(yīng)時間從數(shù)十秒縮短到幾毫秒。這使得此類計算機輔助交互盡可能地接近“自然”。

NLP 用例

| 初創(chuàng)公司

自然語言處理應(yīng)用在過去十年呈爆炸式增長，因為由 GPU 驅(qū)動的遞歸神經(jīng)網(wǎng)絡(luò)的改進提供了性能更好的人工智能。這使得初創(chuàng)公司得以提供語音服務(wù)、語言教師和聊天機器人等服務(wù)。

| 醫(yī)療健康

醫(yī)療健康面臨的困難之一是難以獲得。打醫(yī)生辦公室電話并一直等待的情況十分常見，與索賠代表聯(lián)系可能同樣困難。通過實施 NLP 來訓(xùn)練聊天機器人是醫(yī)療健康行業(yè)的一項新興技術(shù)，可以解決醫(yī)療專業(yè)人員的短缺問題，并開創(chuàng)與患者的溝通渠道。

NLP 的另一個重要的醫(yī)療健康應(yīng)用程序是生物醫(yī)學(xué)文本挖掘（通常稱為 BioNLP）。鑒于生物文獻數(shù)量眾多，以及生物醫(yī)學(xué)出版速度不斷提高，自然語言處理是一個關(guān)鍵的工具，可以在已發(fā)表的研究中提取信息，推動生物醫(yī)學(xué)領(lǐng)域的知識進步。這非常有助于藥物研發(fā)和疾病診斷。

| 金融服務(wù)

NLP 是為金融服務(wù)公司構(gòu)建更好的聊天機器人和 AI 助理的關(guān)鍵組成部分。在眾多用于基于 NLP 的應(yīng)用程序的語言模型中，BERT 已成為機器學(xué)習(xí)領(lǐng)域 NLP 的領(lǐng)軍者及語言模型。借助 AI ，NVIDIA 近期打破了 BERT 訓(xùn)練速度的記錄，有助于釋放未來幾年內(nèi)在線提供的數(shù)十億預(yù)期對話式 AI 服務(wù)的潛力，使其達到人類水平的理解能力。例如，銀行可以使用 NLP 來評估信用記錄很少或沒有信用記錄的客戶信譽。

| 零售

除了醫(yī)療健康外，聊天機器人技術(shù)還常用于零售應(yīng)用程序，能夠準(zhǔn)確分析客戶查詢，并生成回復(fù)或建議。這可簡化客戶流程，并提高商店運營效率。NLP 還用于文本挖掘客戶反饋和情感分析。

加速 AI 和 NLP 的 NVIDIA GPU

借助 NVIDIA GPU 和CUDA-X AI庫，可快速訓(xùn)練和優(yōu)化大量的先進語言模型，從而在幾毫秒或幾千分之一秒內(nèi)運行推理。這是一項重大進步，可以結(jié)束快速 AI 模型與大型復(fù)雜 AI 模型之間的權(quán)衡。

NVIDIA 的 AI 平臺率先將BERT的訓(xùn)練時間控制在一小時之內(nèi)，并在 2 毫秒多一點的時間內(nèi)完成 AI 推理。在與復(fù)雜語言模型協(xié)作時，NVIDIA GPU 的并行處理能力和Tensor Core架構(gòu)可實現(xiàn)更高的吞吐量和可擴展性，從而為 BERT 的訓(xùn)練和推理提供優(yōu)異的性能。借助這種突破性的性能水平，開發(fā)者能夠為大型應(yīng)用程序應(yīng)用先進的語言理解技術(shù)，供全球數(shù)億消費者使用。

早期采用 NVIDIA 性能提升技術(shù)的公司包括 Microsoft 以及全球一些最具創(chuàng)新性的初創(chuàng)公司。這些組織借助 NVIDIA 平臺為客戶開發(fā)高度直觀、響應(yīng)即時且基于語言的服務(wù)。

原文標(biāo)題：NVIDIA 大講堂 | 什么是自然語言處理？

文章出處：【微信公眾號：NVIDIA英偉達】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

審核編輯：湯梓紅