2023 亞馬遜云科技 re:Invent 在拉斯維加斯威尼斯人會展中心舉行，亞馬遜云科技（AWS）和 NVIDIA 宣布擴大戰(zhàn)略合作，共同提供最先進的基礎架構、軟件和服務，推進客戶的生成式 AI 創(chuàng)新。

期間，NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與亞馬遜云科技首席執(zhí)行官 Adam Selipsky 共同登臺，向大眾展示了這次發(fā)布的新內(nèi)容，其中蘊含著多個創(chuàng)新的亮點。接下來，請跟隨本文一同探索這些新動向。

亞馬遜云科技與 NVIDIA 宣布開展戰(zhàn)略合作，為生成式 AI 提供全新超級計算基礎架構、軟件和服務

NVIDIA 通過企業(yè)級生成式 AI 微服務為聊天機器人、AI 助手和摘要工具帶來商業(yè)智能

NVIDIA BioNeMo 在亞馬遜云科技上線，實現(xiàn)用于藥物研發(fā)的生成式 AI

NVIDIA 為部分大型亞馬遜 Titan 基礎模型提供訓練支持

亞馬遜云科技與 NVIDIA 宣布開展戰(zhàn)略合作，為生成式 AI 提供

全新超級計算基礎架構、軟件和服務

亞馬遜云科技（AWS）和 NVIDIA 宣布擴大戰(zhàn)略合作，共同提供最先進的基礎架構、軟件和服務，推進客戶的生成式 AI 創(chuàng)新。 NVIDIA 與亞馬遜云科技將集兩家公司技術之大成，無論是采用 NVIDIA 最新多節(jié)點系統(tǒng)的新一代 GPU、CPU 和 AI 軟件，還是 AWS Nitro System 高級虛擬化與安全功能、Elastic Fabric Adapter（EFA）互連接口和可擴展性 UltraCluster，均為訓練基礎模型和構建生成式 AI 應用的理想選擇。 這一擴展合作建立在雙方長期合作關系的基礎上。兩家公司通過為早期的機器學習（ML）先行者提供推進這些技術發(fā)展所需的計算性能，進而推動了生成式 AI 時代的發(fā)展。 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“生成式 AI 正在深入改變云工作負載，并將加速計算作為多樣化內(nèi)容生成的基礎。NVIDIA 和亞馬遜云科技的共同使命是為每一位客戶提供經(jīng)濟高效的前沿生成式 AI 技術。在這一使命的驅(qū)動下，NVIDIA 和亞馬遜云科技正在開展覆蓋整個計算堆棧的合作，包括 AI 基礎架構、加速庫、基礎模型以及生成式 AI 服務?！?/span>

點擊圖片即可閱讀全文

NVIDIA 通過企業(yè)級生成式 AI 微服務

為聊天機器人、AI 助手和摘要工具

帶來商業(yè)智能

NVIDIA 宣布推出一項生成式 AI 微服務，支持企業(yè)將自定義大語言模型與企業(yè)數(shù)據(jù)相連接，使其 AI 應用能夠提供高度準確的響應。

NVIDIA NeMo Retriever 是 NVIDIA NeMo（一個用于構建、自定義和部署生成式 AI 模型的框架和工具系列）的一項全新服務，通過企業(yè)級檢索增強生成（RAG）功能，幫助組織加強其生成式 AI 應用。

作為一項語義檢索微服務，NeMo Retriever 借助經(jīng) NVIDIA 優(yōu)化的算法，幫助生成式 AI 應用作出更加準確的回答。使用該微服務的開發(fā)者，可以將其 AI 應用與位于各個云和數(shù)據(jù)中心的業(yè)務數(shù)據(jù)相連通。該服務為 AI 代工添加了 NVIDIA 優(yōu)化的 RAG 功能，并被整合到亞馬遜云科技 Marketplace 上的 NVIDIA AI Enterprise 軟件平臺中。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“具有 RAG 功能的生成式 AI 應用是企業(yè)的下一個殺手級應用。借助 NVIDIA NeMo Retriever，開發(fā)者可以創(chuàng)建自定義生成式 AI 聊天機器人、AI 助手和摘要工具。它們能夠訪問企業(yè)的業(yè)務數(shù)據(jù)，通過準確且有價值的生成式 AI 智能來提高生產(chǎn)力?！?/strong>

點擊圖片即可閱讀全文

NVIDIA BioNeMo 在亞馬遜云科技上線，

實現(xiàn)用于藥物研發(fā)的生成式 AI

制藥和科技生物頭部企業(yè)的研究與開發(fā)人員現(xiàn)在可以通過亞馬遜云科技輕松部署 NVIDIA Clara 軟件和服務，以加快醫(yī)療研究進程。

這讓使用 AWS 云資源的醫(yī)療和生命科學開發(fā)人員能夠靈活地集成 NVIDIA 加速的產(chǎn)品，比如用于藥物發(fā)現(xiàn)的生成式 AI 平臺 NVIDIA BioNeMo 等。

該平臺即將登陸亞馬遜云科技上的 NVIDIA DGX 云，目前可通過高性能計算集群管理工具 AWS ParallelCluster 及 Amazon SageMaker 機器學習服務使用。

點擊圖片即可閱讀全文

NVIDIA 為部分大型亞馬遜 Titan 基礎模型

提供訓練支持

亞馬遜云科技有一支由資深科學家和開發(fā)者組成的團隊，致力于為 Amazon Bedrock（一項用于基礎模型的生成式 AI 服務）創(chuàng)建 Amazon Titan 基礎模型。該團隊在過去幾個月中一直在使用 NVIDIA NeMo。

NeMo 的并行技術可實現(xiàn)高效的大規(guī)模 LLM 訓練。當與亞馬遜云科技的 Elastic Fabric Adapter（EFA）配合使用時，團隊可以將 LLM 擴展到多顆 GPU 上，從而加快訓練速度。

EFA 為亞馬遜云科技客戶提供了一個 UltraCluster 聯(lián)網(wǎng)基礎設施，可直接連接 1 萬多顆 GPU，并使用 NVIDIA GPUDirect 繞過操作系統(tǒng)和 CPU。

這一結合使亞馬遜云科技的科學家們能夠提供出色的模型質(zhì)量，這是只依靠其他數(shù)據(jù)并行方法無法大規(guī)模實現(xiàn)的。

點擊圖片即可閱讀全文

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，立即注冊 GTC 大會。