NVIDIA Riva 可提供經(jīng)過全面優(yōu)化的流程,用于部署實時 AI 語音應(yīng)用(例如轉(zhuǎn)錄和虛擬助理)。
什么是NVIDIA Riva
NVIDIA Riva是用于開發(fā)語音 AI 應(yīng)用程序的 GPU 加速 SDK。Riva 旨在幫助您輕松快速地訪問對話 AI 功能。只需幾個命令,您就可以通過 API 操作訪問高性能服務(wù)并嘗試演示。
Riva SDK 包括預(yù)訓(xùn)練的語音 AI 模型,用于在自定義數(shù)據(jù)集上對這些模型進行微調(diào)的 NVIDIA TAO 工具套件,以及用于自動語音識別和語音合成的優(yōu)化端到端技能。
使用 Riva,您可以輕松地對數(shù)據(jù)上的最新模型進行微調(diào),以實現(xiàn)對其特定背景進行更深入的理解。優(yōu)化推理,以提供運行時間為 150 毫秒(ms)的實時服務(wù),而在僅有 CPU 的平臺上則需要運行 25 秒。
特定任務(wù)的 AI 服務(wù)和 gRPC 端點提供開箱即用的高性能 ASR 和 TTS。這些 AI 服務(wù)經(jīng)過數(shù)千小時的公共和內(nèi)部數(shù)據(jù)集的訓(xùn)練,以達到高精確度。您可以開始使用預(yù)先訓(xùn)練的模型,或者使用您自己的數(shù)據(jù)集對其進行微調(diào),以進一步提高模型性能。
Riva 使用 NVIDIATriton Inference Server 為多個模型提供服務(wù),以實現(xiàn)高效、穩(wěn)健的資源分配,并在高吞吐量、低延遲和高精確度方面實現(xiàn)高性能。
NVIDIA Riva 2.0功能亮點
出色的自動語音識別(ASR)和文字轉(zhuǎn)語音(TTS)模型
除英語外,還支持西班牙語、德語和俄語
具有精細控制以實現(xiàn)語言表達的實時文本轉(zhuǎn)語音流程
借助 NVIDIA TAO 工具套件輕松地針對自定義數(shù)據(jù)進行調(diào)優(yōu)
能夠擴展到成百上千個實時串流
使用單個命令部署服務(wù)的端到端工作流程和工具
Riva開發(fā)者入門套件
使用 NVIDIA Riva 開發(fā)語音 AI 所需的各種套件,包括教程、Jupyter Notebook 和文檔。點擊閱讀原文,開始使用 Riva 開發(fā)者入門套件并了解相關(guān)內(nèi)容。
自動語音識別
Riva ASR 視頻入門
關(guān)于訓(xùn)練和部署的博客
聯(lián)系中心示例應(yīng)用
用于微調(diào) ASR 模型的 Jupyter Notebook
ASR 文檔
文字轉(zhuǎn)語音
虛擬助理示例
含 RASA 教程的虛擬助手
設(shè)置 TTS 服務(wù)示例
使用 SSML 自定義 TTS 示例
TTS 文檔
搶先體驗版中已可使用Riva定制錄音機
Riva 定制錄音機是一款采用 Riva 文本轉(zhuǎn)語音流程的工具,用于開發(fā) AI 語音克隆。
點擊閱讀原文,了解更多 NVIDIA Riva 入門及相關(guān)更新內(nèi)容
NVIDIA 深度學(xué)習(xí)培訓(xùn)中心
NVIDIA 深度學(xué)習(xí)培訓(xùn)中心還推出了NVIDIA Riva相關(guān)免費課程,您可以復(fù)制鏈接查看課程詳情。
使用 Riva 部署文本分類模型
您將學(xué)習(xí)如何使用 Riva ServiceMaker 框架部署文本分類模型。將 Riva 部署所需的所有組件聚合到目標部署環(huán)境的過程是快速而直接的。當(dāng)模型部署在 Riva 中以后,您就可以向服務(wù)器發(fā)出推理請求。
原文標題:DevZone | NVIDIA Riva入門
文章出處:【微信公眾號:NVIDIA英偉達企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
審核編輯:湯梓紅
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5444瀏覽量
108605 -
gpu
+關(guān)注
關(guān)注
28文章
5050瀏覽量
134033 -
AI
+關(guān)注
關(guān)注
88文章
37213瀏覽量
291996
原文標題:DevZone | NVIDIA Riva入門
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
NVIDIA RTX PRO 4500 Blackwell GPU測試分析
NVIDIA Omniverse Extension開發(fā)秘籍
NVIDIA全棧加速代理式AI應(yīng)用落地
NVIDIA DOCA 3.0版本的亮點解析
NVIDIA Isaac Sim 4.5.0與lsaac Lab 2.0的安裝教程
NVIDIA Isaac Sim與NVIDIA Isaac Lab的更新
NVIDIA實現(xiàn)神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強功能
NVIDIA虛擬GPU 18.0版本的亮點
英偉達GTC2025亮點:Oracle與NVIDIA合作助力企業(yè)加速代理式AI推理
NVIDIA GTC2025 亮點 NVIDIA推出 DGX Spark個人AI計算機
NVIDIA Blackwell白皮書:NVIDIA Blackwell Architecture Technical Brief
英偉達GTC25亮點:NVIDIA Blackwell Ultra 開啟 AI 推理新時代
NVIDIA RTX 4500 Ada與NVIDIA RTX A5000的對比
解析NVIDIA JetPack 6.1的新功能
NVIDIA DOCA 2.9版本的亮點解析

NVIDIA Riva 2.0的功能亮點有哪些
評論