NVIDIA Riva 可提供經(jīng)過全面優(yōu)化的流程,用于部署實(shí)時(shí) AI 語音應(yīng)用(例如轉(zhuǎn)錄和虛擬助理)。
什么是NVIDIA Riva
NVIDIA Riva是用于開發(fā)語音 AI 應(yīng)用程序的 GPU 加速 SDK。Riva 旨在幫助您輕松快速地訪問對話 AI 功能。只需幾個(gè)命令,您就可以通過 API 操作訪問高性能服務(wù)并嘗試演示。
Riva SDK 包括預(yù)訓(xùn)練的語音 AI 模型,用于在自定義數(shù)據(jù)集上對這些模型進(jìn)行微調(diào)的 NVIDIA TAO 工具套件,以及用于自動(dòng)語音識別和語音合成的優(yōu)化端到端技能。
使用 Riva,您可以輕松地對數(shù)據(jù)上的最新模型進(jìn)行微調(diào),以實(shí)現(xiàn)對其特定背景進(jìn)行更深入的理解。優(yōu)化推理,以提供運(yùn)行時(shí)間為 150 毫秒(ms)的實(shí)時(shí)服務(wù),而在僅有 CPU 的平臺上則需要運(yùn)行 25 秒。
特定任務(wù)的 AI 服務(wù)和 gRPC 端點(diǎn)提供開箱即用的高性能 ASR 和 TTS。這些 AI 服務(wù)經(jīng)過數(shù)千小時(shí)的公共和內(nèi)部數(shù)據(jù)集的訓(xùn)練,以達(dá)到高精確度。您可以開始使用預(yù)先訓(xùn)練的模型,或者使用您自己的數(shù)據(jù)集對其進(jìn)行微調(diào),以進(jìn)一步提高模型性能。
Riva 使用 NVIDIATriton Inference Server 為多個(gè)模型提供服務(wù),以實(shí)現(xiàn)高效、穩(wěn)健的資源分配,并在高吞吐量、低延遲和高精確度方面實(shí)現(xiàn)高性能。
NVIDIA Riva 2.0功能亮點(diǎn)
出色的自動(dòng)語音識別(ASR)和文字轉(zhuǎn)語音(TTS)模型
除英語外,還支持西班牙語、德語和俄語
具有精細(xì)控制以實(shí)現(xiàn)語言表達(dá)的實(shí)時(shí)文本轉(zhuǎn)語音流程
借助 NVIDIA TAO 工具套件輕松地針對自定義數(shù)據(jù)進(jìn)行調(diào)優(yōu)
能夠擴(kuò)展到成百上千個(gè)實(shí)時(shí)串流
使用單個(gè)命令部署服務(wù)的端到端工作流程和工具
Riva開發(fā)者入門套件
使用 NVIDIA Riva 開發(fā)語音 AI 所需的各種套件,包括教程、Jupyter Notebook 和文檔。點(diǎn)擊閱讀原文,開始使用 Riva 開發(fā)者入門套件并了解相關(guān)內(nèi)容。
自動(dòng)語音識別
Riva ASR 視頻入門
關(guān)于訓(xùn)練和部署的博客
聯(lián)系中心示例應(yīng)用
用于微調(diào) ASR 模型的 Jupyter Notebook
ASR 文檔
文字轉(zhuǎn)語音
虛擬助理示例
含 RASA 教程的虛擬助手
設(shè)置 TTS 服務(wù)示例
使用 SSML 自定義 TTS 示例
TTS 文檔
搶先體驗(yàn)版中已可使用Riva定制錄音機(jī)
Riva 定制錄音機(jī)是一款采用 Riva 文本轉(zhuǎn)語音流程的工具,用于開發(fā) AI 語音克隆。
點(diǎn)擊閱讀原文,了解更多 NVIDIA Riva 入門及相關(guān)更新內(nèi)容
NVIDIA 深度學(xué)習(xí)培訓(xùn)中心
NVIDIA 深度學(xué)習(xí)培訓(xùn)中心還推出了NVIDIA Riva相關(guān)免費(fèi)課程,您可以復(fù)制鏈接查看課程詳情。
使用 Riva 部署文本分類模型
您將學(xué)習(xí)如何使用 Riva ServiceMaker 框架部署文本分類模型。將 Riva 部署所需的所有組件聚合到目標(biāo)部署環(huán)境的過程是快速而直接的。當(dāng)模型部署在 Riva 中以后,您就可以向服務(wù)器發(fā)出推理請求。
原文標(biāo)題:DevZone | NVIDIA Riva入門
文章出處:【微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
審核編輯:湯梓紅
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5496瀏覽量
109117 -
gpu
+關(guān)注
關(guān)注
28文章
5102瀏覽量
134485 -
AI
+關(guān)注
關(guān)注
90文章
38189瀏覽量
297023
原文標(biāo)題:DevZone | NVIDIA Riva入門
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
NVIDIA RTX PRO 4500 Blackwell GPU測試分析
NVIDIA Omniverse Extension開發(fā)秘籍
NVIDIA全棧加速代理式AI應(yīng)用落地
NVIDIA DOCA 3.0版本的亮點(diǎn)解析
NVIDIA Isaac Sim 4.5.0與lsaac Lab 2.0的安裝教程
NVIDIA Isaac Sim與NVIDIA Isaac Lab的更新
NVIDIA實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強(qiáng)功能
NVIDIA虛擬GPU 18.0版本的亮點(diǎn)
英偉達(dá)GTC2025亮點(diǎn):NVIDIA、Alphabet 和谷歌攜手開啟代理式與物理AI的未來
英偉達(dá)GTC2025亮點(diǎn):Oracle與NVIDIA合作助力企業(yè)加速代理式AI推理
NVIDIA GTC2025 亮點(diǎn) NVIDIA推出 DGX Spark個(gè)人AI計(jì)算機(jī)

NVIDIA Riva 2.0的功能亮點(diǎn)有哪些
評論