2023 亞馬遜云科技 re:Invent 在拉斯維加斯威尼斯人會展中心舉行，亞馬遜云科技（AWS）和 NVIDIA 宣布擴(kuò)大戰(zhàn)略合作，共同提供最先進(jìn)的基礎(chǔ)架構(gòu)、軟件和服務(wù)，推進(jìn)客戶的生成式 AI 創(chuàng)新。

期間，NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與亞馬遜云科技首席執(zhí)行官 Adam Selipsky 共同登臺，向大眾展示了這次發(fā)布的新內(nèi)容，其中蘊含著多個創(chuàng)新的亮點。接下來，請跟隨本文一同探索這些新動向。

亞馬遜云科技與 NVIDIA 宣布開展戰(zhàn)略合作，為生成式 AI 提供全新超級計算基礎(chǔ)架構(gòu)、軟件和服務(wù)

NVIDIA 通過企業(yè)級生成式 AI 微服務(wù)為聊天機(jī)器人、AI 助手和摘要工具帶來商業(yè)智能

NVIDIA BioNeMo 在亞馬遜云科技上線，實現(xiàn)用于藥物研發(fā)的生成式 AI

NVIDIA 為部分大型亞馬遜 Titan 基礎(chǔ)模型提供訓(xùn)練支持

亞馬遜云科技與 NVIDIA 宣布開展戰(zhàn)略合作，為生成式 AI 提供

全新超級計算基礎(chǔ)架構(gòu)、軟件和服務(wù)

亞馬遜云科技（AWS）和 NVIDIA 宣布擴(kuò)大戰(zhàn)略合作，共同提供最先進(jìn)的基礎(chǔ)架構(gòu)、軟件和服務(wù)，推進(jìn)客戶的生成式 AI 創(chuàng)新。 NVIDIA 與亞馬遜云科技將集兩家公司技術(shù)之大成，無論是采用 NVIDIA 最新多節(jié)點系統(tǒng)的新一代 GPU、CPU 和 AI 軟件，還是 AWS Nitro System 高級虛擬化與安全功能、Elastic Fabric Adapter（EFA）互連接口和可擴(kuò)展性 UltraCluster，均為訓(xùn)練基礎(chǔ)模型和構(gòu)建生成式 AI 應(yīng)用的理想選擇。 這一擴(kuò)展合作建立在雙方長期合作關(guān)系的基礎(chǔ)上。兩家公司通過為早期的機(jī)器學(xué)習(xí)（ML）先行者提供推進(jìn)這些技術(shù)發(fā)展所需的計算性能，進(jìn)而推動了生成式 AI 時代的發(fā)展。 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“生成式 AI 正在深入改變云工作負(fù)載，并將加速計算作為多樣化內(nèi)容生成的基礎(chǔ)。NVIDIA 和亞馬遜云科技的共同使命是為每一位客戶提供經(jīng)濟(jì)高效的前沿生成式 AI 技術(shù)。在這一使命的驅(qū)動下，NVIDIA 和亞馬遜云科技正在開展覆蓋整個計算堆棧的合作，包括 AI 基礎(chǔ)架構(gòu)、加速庫、基礎(chǔ)模型以及生成式 AI 服務(wù)。”

點擊圖片即可閱讀全文

NVIDIA 通過企業(yè)級生成式 AI 微服務(wù)

為聊天機(jī)器人、AI 助手和摘要工具

帶來商業(yè)智能

NVIDIA 宣布推出一項生成式 AI 微服務(wù)，支持企業(yè)將自定義大語言模型與企業(yè)數(shù)據(jù)相連接，使其 AI 應(yīng)用能夠提供高度準(zhǔn)確的響應(yīng)。

NVIDIA NeMo Retriever 是 NVIDIA NeMo（一個用于構(gòu)建、自定義和部署生成式 AI 模型的框架和工具系列）的一項全新服務(wù)，通過企業(yè)級檢索增強生成（RAG）功能，幫助組織加強其生成式 AI 應(yīng)用。

作為一項語義檢索微服務(wù)，NeMo Retriever 借助經(jīng) NVIDIA 優(yōu)化的算法，幫助生成式 AI 應(yīng)用作出更加準(zhǔn)確的回答。使用該微服務(wù)的開發(fā)者，可以將其 AI 應(yīng)用與位于各個云和數(shù)據(jù)中心的業(yè)務(wù)數(shù)據(jù)相連通。該服務(wù)為 AI 代工添加了 NVIDIA 優(yōu)化的 RAG 功能，并被整合到亞馬遜云科技 Marketplace 上的 NVIDIA AI Enterprise 軟件平臺中。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“具有 RAG 功能的生成式 AI 應(yīng)用是企業(yè)的下一個殺手級應(yīng)用。借助 NVIDIA NeMo Retriever，開發(fā)者可以創(chuàng)建自定義生成式 AI 聊天機(jī)器人、AI 助手和摘要工具。它們能夠訪問企業(yè)的業(yè)務(wù)數(shù)據(jù)，通過準(zhǔn)確且有價值的生成式 AI 智能來提高生產(chǎn)力。”

點擊圖片即可閱讀全文

NVIDIA BioNeMo 在亞馬遜云科技上線，

實現(xiàn)用于藥物研發(fā)的生成式 AI

制藥和科技生物頭部企業(yè)的研究與開發(fā)人員現(xiàn)在可以通過亞馬遜云科技輕松部署 NVIDIA Clara 軟件和服務(wù)，以加快醫(yī)療研究進(jìn)程。

這讓使用 AWS 云資源的醫(yī)療和生命科學(xué)開發(fā)人員能夠靈活地集成 NVIDIA 加速的產(chǎn)品，比如用于藥物發(fā)現(xiàn)的生成式 AI 平臺 NVIDIA BioNeMo 等。

該平臺即將登陸亞馬遜云科技上的 NVIDIA DGX 云，目前可通過高性能計算集群管理工具 AWS ParallelCluster 及 Amazon SageMaker 機(jī)器學(xué)習(xí)服務(wù)使用。

點擊圖片即可閱讀全文

NVIDIA 為部分大型亞馬遜 Titan 基礎(chǔ)模型

提供訓(xùn)練支持

亞馬遜云科技有一支由資深科學(xué)家和開發(fā)者組成的團(tuán)隊，致力于為 Amazon Bedrock（一項用于基礎(chǔ)模型的生成式 AI 服務(wù)）創(chuàng)建 Amazon Titan 基礎(chǔ)模型。該團(tuán)隊在過去幾個月中一直在使用 NVIDIA NeMo。

NeMo 的并行技術(shù)可實現(xiàn)高效的大規(guī)模 LLM 訓(xùn)練。當(dāng)與亞馬遜云科技的 Elastic Fabric Adapter（EFA）配合使用時，團(tuán)隊可以將 LLM 擴(kuò)展到多顆 GPU 上，從而加快訓(xùn)練速度。

EFA 為亞馬遜云科技客戶提供了一個 UltraCluster 聯(lián)網(wǎng)基礎(chǔ)設(shè)施，可直接連接 1 萬多顆 GPU，并使用 NVIDIA GPUDirect 繞過操作系統(tǒng)和 CPU。

這一結(jié)合使亞馬遜云科技的科學(xué)家們能夠提供出色的模型質(zhì)量，這是只依靠其他數(shù)據(jù)并行方法無法大規(guī)模實現(xiàn)的。

點擊圖片即可閱讀全文

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，立即注冊 GTC 大會。