機器人技術正經歷一場變革，逐步脫離專用機器時代，邁入通用機器人時代。這一轉變意味著機器人不再局限于單一用途、功能固定的形態(tài)，而是向更具備適應性的機器人演進，以在不同環(huán)境中執(zhí)行多樣化任務。受人類認知模式啟發(fā)，具備適應性的機器人能夠將快速反應能力與高階推理規(guī)劃能力相結合，以更高效地學習與適應環(huán)境。

這一模式為機器人在不同行業(yè)的靈活應用打開了大門，不僅降低了成本，其實際應用范圍也遠超專用機器人的能力邊界。NVIDIA 在 2025 年 GTC 大會上正式推出 NVIDIA Isaac GR00T平臺，為這場變革奠定了基礎。該平臺整合了機器人基礎模型、合成數(shù)據(jù)工作流、仿真環(huán)境與運行時計算機，為通用機器人發(fā)展提供全方位支撐。

NVIDIA Jetson AGX Thor開發(fā)者套件與NVIDIA Jetson T5000模組正式公開發(fā)售。這將為全球開發(fā)者賦能，助力打造物理 AI 的未來。借助 Jetson Thor，機器人無需為每項新任務重新編程。Jetson Thor 是面向物理 AI 的卓越平臺，這一機器人計算機可支持生成式推理，同時具備多模態(tài)、多傳感器處理能力。將 Jetson Thor 集成至下一代機器人中，能為基礎模型提速，使其在物體操作、導航、執(zhí)行復雜指令等挑戰(zhàn)性任務中具備更高的靈活性。

打造通用人形機器人需具備哪些條件？

打造一款典型的通用人形機器人，需構建四個核心層級：

硬件抽象層：整合所有關鍵傳感與驅動模態(tài)，使機器人能夠感知環(huán)境并與物理世界進行實體交互。

實時控制框架層：對機器人運動進行精準、低延遲控制。機器人想要實現(xiàn)安全運行以及迅速響應，最大限度降低延遲至關重要。

感知與規(guī)劃層：為機器人賦予環(huán)境理解、抓取與運動規(guī)劃、移動、物體識別及定位能力，使其能與周邊環(huán)境有效交互。與實時控制層不同，該層級可允許稍長的處理時間，以確保決策的周全性與準確性。

高階推理層：支撐場景理解、復雜任務規(guī)劃、自然語言交互等高級功能。在此層級中，為實現(xiàn)更深層次的推理與更強的適應性，稍長的處理時間是可接受的。

圖 1. 打造人形機器人需整合一系列硬件與軟件組件

NVIDIA Jetson Thor 為什么是物理 AI 與人形機器人的卓越平臺？

NVIDIA Jetson AGX Thor 開發(fā)者套件具備無可比擬的性能與可擴展性。該套件使用 NVIDIA Blackwell 架構 GPU，具備 128 GB 內存，AI 計算性能最高可達 2070 FP4 TFLOPS，可輕松運行最新的生成式 AI 模型，所有這些都在 130 瓦的功率范圍內實現(xiàn)。與 NVIDIA Jetson AGX Orin 相比，其 AI 計算性能提高至 7.5 倍，能效提高至 3.5 倍。

借助全新的 Blackwell 多實例 GPU（MIG）與性能強勁的 14 核 Arm Neoverse-V3AE CPU，Jetson Thor 能為低延遲、實時性應用提速。此外，該平臺還集成了一整套加速器，包括第三代 Programmable Vision Accelerator（PVA）、雙編碼器與解碼器、光流加速器等。

在高速傳感器融合方面，開發(fā)者套件提供豐富的輸入輸出（I/O）接口選項，包括 1 個支持 4 路 25GbE 的 QSFP 插槽、1 個有線 Multi-GbE RJ45 接口、多個 USB 端口及其他連接接口。同時，其設計可與現(xiàn)有人形機器人平臺無縫集成，支持便捷的有線連接，能夠快速啟動原型開發(fā)。

Transformer 引擎與 FP4 支持

Jetson Thor 基于 NVIDIA Blackwell 架構打造，引入原生 FP4 量化技術，并搭配下一代 Transformer 引擎，該引擎可在 FP4 與 FP8 精度之間動態(tài)切換，以實現(xiàn)最優(yōu)性能。通過將 4 位權重、激活值與更高內存帶寬相結合，Jetson Thor 能同時加速生成式 AI 工作負載中的預填充與解碼過程。

多實例 GPU（MIG）

Jetson Thor 引入 MIG 技術，可將單塊 GPU 劃分為多個相互隔離的實例，每個實例擁有專屬資源。這一技術能為關鍵工作負載預留計算資源，同時并行運行對時間敏感度較低的任務，確保性能的可預測性，對于需兼顧多重關鍵任務的機器人應用而言，這一特性尤為重要。

表 1 與表 2 分別展示了 Jetson T5000 模組及 NVIDIA Jetson AGX Thor 開發(fā)者套件載板的核心特性與接口規(guī)格。

表 1. NVIDIA Jetson AGX Thor 開發(fā)者套件模組規(guī)格

注：帶*的參數(shù)為初步數(shù)據(jù)，可能存在變動

表 2. NVIDIA Jetson AGX Thor 開發(fā)者套件載板規(guī)格

圖 2. NVIDIA Jetson Thor 模組的組件構成

Jetson Thor 如何為邊緣端生成式 AI 提速？

Jetson AGX Thor 是全新的機器人計算機，其架構從底層重新設計，專為驅動下一代人形機器人打造。該平臺支持各類生成式 AI 模型，既包括NVIDIA Isaac GR00T N1.5這類視覺語言動作模型（VLA），也涵蓋所有主流大型語言模型（LLM）與視覺語言模型（VLM）。

為提供無縫的云端到邊緣端銜接體驗，Jetson Thor 可運行 NVIDIA 面向物理 AI 應用的 AI 軟件棧，包括面向機器人的 NVIDIA Isaac、面向視覺 AI 智能體的NVIDIA Metropolis，以及面向傳感器處理的NVIDIA Holoscan。開發(fā)者還可以借助視頻搜索與總結（VSS）的 NVIDIA 代理式 AI 工作流等，在邊緣端構建 AI 智能體。

圖 3. Jetson Thor 支持各類 AI 框架與生成式 AI 模型

為什么生成式推理與多模態(tài)傳感器處理對物理 AI 至關重要？

生成式推理模型對于需要仿真可能的動作序列、預測結果、基于語言或視覺線索推理、靈活生成高階規(guī)劃或低階運動策略的機器人平臺至關重要。這些模型能讓機器人系統(tǒng)在真實場景中具備更高靈活性、更強適應性，以及接近人類水平的穩(wěn)健推理能力。

NVIDIA Jetson Thor 在生成式推理領域實現(xiàn)了巨大飛躍，與 Jetson Orin 相比，其推理速度提升最高達 5 倍。借助 FP4 精度優(yōu)化與推測解碼技術，開發(fā)者還能在 Jetson Thor 上進一步實現(xiàn) 2 倍的性能提升。

圖 4. 在生成式推理方面，Jetson Thor 速度較 Jetson Orin 最高提升至 5 倍

Jetson Thor 還能無縫處理多個生成式 AI 模型與大量多模態(tài)傳感器輸入，實現(xiàn)實時響應。圖 5 通過 Qwen2.5-VL-3B VLM 與 Llama 3.2 3B LLM 兩款模型展示了這一能力，測試中兩款模型需同時處理 16 個并發(fā)請求。結果顯示，兩款模型的“首 token 生成時間（Time to First Token，TTFT）”均遠低于 200 毫秒，“輸出 token 生成時間（Time per Output Token，TPOT）”均遠低于 50 毫秒——而這兩項指標正是衡量系統(tǒng)響應速度的核心標準。

圖 5. Jetson Thor 在處理多個生成式 AI 模型與大量多模態(tài)傳感器輸入時，仍能保持實時響應

Jetson Thor 不僅支持 Blackwell 架構原生 FP4 精度，還能啟用推測解碼等高級技術。在推測解碼技術中，先由小型草稿模型生成候選 tokens，再由大型模型驗證 tokens 的有效性。這種方式在保證生成準確性的同時，能加速生成式 AI 推理過程，最終實現(xiàn)更快、更高質量的輸出。

圖 4 顯示了在采用 FP4 量化與基于 Eagle 的推測解碼技術后，Qwen2.5-VL-7B 模型在 Jetson Thor 上的推理速度較采用 W4A16（4 位權重、16 位激活值）配置的 Jetson Orin，最高提升至 3.5 倍。

此外，如表 3 所示，在 LLM、VLM、VLA 等各類生成式 AI 模型上，Jetson Thor 的加速性能均實現(xiàn)突破，較 Jetson Orin 提升最高至 5 倍。

表 3. Jetson Thor 與 Jetson AGX Orin 的基準測試對比

基準測試配置說明：序列長度 2048，輸出序列長度 128；最大并發(fā)數(shù) 8；LLM 與 VLM 模型基于 VLLM 框架運行，VLA 模型基于 TensorRT 框架運行；Jetson AGX Thor 與 Jetson AGX Orin 均采用 MAXN 功耗模式。

Jetson 軟件如何為邊緣端 AI 提速？

Jetson 軟件通過提供一套高度集成的全棧軟件平臺，為邊緣端 AI 性能提速。該平臺針對機器人、醫(yī)療、物流、自主系統(tǒng)等領域的實時、高吞吐量應用進行優(yōu)化，可滿足多樣化場景需求。

Jetson 軟件以JetPack 7為核心驅動，搭載 Linux 6.8 內核、Ubuntu 24.04 LTS 操作系統(tǒng)及最新 NVIDIA AI 軟件棧，能夠實現(xiàn)低延遲、確定性的高階生成式 AI 模型運行，為物理 AI 應用提供支撐。它融合了硬件加速計算與系統(tǒng)級優(yōu)化能力，能夠讓人形機器人、自主機器、工業(yè)自動化系統(tǒng)等復雜系統(tǒng)具備響應能力及智能行為。

憑借集成式Holoscan Sensor Bridge、MIG 支持以及 Preemptable Realtime Kernel 等特性，Jetson 軟件顯著提升了高速傳感器融合、運動規(guī)劃等任務的性能與效率。在 Jetson AI Lab 及廣泛生態(tài)系統(tǒng)的支持下，Jetson 軟件大幅縮短了邊緣 AI 與機器人應用的性能達標時間（time-to-performance）。

Jetson Thor 平臺支持全新的Cosmos Reason——這是一款面向物理 AI 與機器人的開源、可定制、70 億參數(shù)推理型 VLM。

圖 6. Jetson 軟件棧

采用 SBSA 架構設計的 JetPack 7

借助 JetPack 7，Jetson 軟件實現(xiàn)了與服務器基礎系統(tǒng)架構（Server Base System Architecture，SBSA）的對齊，使 Jetson Thor 的設計達到 Arm 服務器設計的行業(yè)標準。SBSA 對標準化的關鍵硬件與固件接口，能提供更完善的操作系統(tǒng)支持、更簡便的軟件遷移能力，以及更順暢的企業(yè)級集成體驗。在此基礎上，Jetson Thor 可以支持在所有 Arm 目標平臺上統(tǒng)一安裝 CUDA 13.0，不僅簡化了開發(fā)流程、減少了版本碎片化問題，還確保了從服務器級系統(tǒng)到 Jetson Thor 平臺的體驗一致性。

NVIDIA Isaac 如何端到端加速機器人開發(fā)？

NVIDIA Isaac 是開源的機器人平臺，包含一系列 CUDA 加速庫、框架與 AI 模型，可用于開發(fā)自主移動機器人、機械臂、人形機器人等各類機器人產品?，F(xiàn)代機器人需要一個由控制、視覺與語言模型構成的高級“大腦”，能夠通過實時處理多模態(tài)數(shù)據(jù)，實現(xiàn)從感知到動作的無縫銜接。

Jetson Thor 專為運行 Isaac GR00T N1.5 這類高負載模型而設計，能為人形機器人提供實時人機交互、空間感知與穩(wěn)健的環(huán)境感知能力。Isaac 平臺與 Jetson Thor 協(xié)同配合，可實現(xiàn)在邊緣部署具備可擴展性的多模態(tài) AI，為工業(yè)與科研領域的機器人技術創(chuàng)新提速。

圖 7. NVIDIA Isaac GR00T 端到端加速機器人開發(fā)

如何借助 VSS 從邊緣攝像頭中獲取有價值的信息？

NVIDIA Metropolis 中用于視頻搜索與總結的（VSS）NVIDIA Blueprint，為開發(fā)者提供了構建和部署視頻分析 AI 智能體的工具。這類 AI 智能體可通過分析實時攝像頭流，實現(xiàn)情境化實時警報、視頻總結與智能問答功能。

VSS 正為多領域視覺智能體應用提供支撐：在制造業(yè)中用于視覺檢測與工人安全監(jiān)測；在體育賽事直播中用于提升粉絲互動體驗與運動員數(shù)據(jù)分析；在道路事件處理中則可縮短應急響應時間。

圖 8. VSS 應用場景包括制造業(yè)視覺檢測、工人安全監(jiān)測，以及縮短道路事件應急響應時間

Jetson Thor 上的 Holoscan如何用于實時傳感器處理？

NVIDIA Holoscan是一款 AI 傳感器處理平臺，提供軟件定義的實時 AI 所需的全棧加速基礎設施。它可以簡化企業(yè)級硬件上邊緣 AI 的部署流程并提升可擴展性，為實時 AI 應用提供高性能邊緣解決方案。

在 Jetson Thor 上運行 Holoscan，可對并發(fā) AI 工作流進行安全分區(qū)與隔離——這一特性能為關鍵任務應用提升確定性及容錯能力，并提供數(shù)據(jù)防泄漏保護。如此一來，開發(fā)者可在不影響安全性的前提下持續(xù)推進 AI 創(chuàng)新，使得 Holoscan 成為受監(jiān)管領域內實時動作控制的可信操作層。

現(xiàn)代機器人依賴各類傳感器實現(xiàn)智能運行，包括攝像頭、IMU、執(zhí)行器等，每一種傳感器對機器人的正常工作都至關重要。借助 NVIDIA Holoscan Sensor Bridge，無論任何傳感器類型，都能通過以太網將所有傳感器無縫連接至 NVIDIA Jetson 平臺。Jetson Thor 支持全新的以太網攝像頭技術，可將傳感器數(shù)據(jù)直接傳輸至 GPU 內存，大幅降低延遲并減少 CPU 占用率。這種方式用簡潔的軟件定義 API 替代了傳統(tǒng)驅動的復雜邏輯，使實時邊緣 AI 應用（無論是機器人、工業(yè)自動化系統(tǒng)還是先進醫(yī)療系統(tǒng)）能夠實現(xiàn)精準同步與穩(wěn)健擴展。

助力縮短產品上市時間的全方位生態(tài)系統(tǒng)

Jetson 生態(tài)系統(tǒng)包括超過 1,000 個合作伙伴，為幫助開發(fā)者更快地將解決方案推向市場，不同類型的合作伙伴可以提供針對性的支持服務，為開發(fā)流程的各個階段提供必要的支持。

表 4. Jetson 生態(tài)系統(tǒng)包含超過 1,000 個合作伙伴

圖 9. NVIDIA 合作伙伴提供靈活的合作模式，開發(fā)者可根據(jù)自身設計需求選擇特定組件與服務

即刻開始

使用 NVIDIA Jetson Thor 開發(fā)物理 AI

將 Jetson AGX Thor 開發(fā)者套件集成至現(xiàn)有機器人，即可加速軟件開發(fā)。開發(fā)者無需等待完整的系統(tǒng)集成，即可開始創(chuàng)建并測試應用。

加入全球超 200 萬開發(fā)者的行列，開啟下一代物理 AI 項目的開發(fā)。Jetson AGX Thor 開發(fā)者套件（售價為 3,499 美元）以及 Jetson T5000 量產級模組，已經可以通過 NVIDIA 全球授權分銷商購買。

開始使用 NVIDIA Jetson AGX Thor 開發(fā)者套件，下載最新的 JetPack 7，并通過 Jetson 下載中心以及生態(tài)系統(tǒng)合作伙伴，獲得全面的文檔、支持資源和工具。