SIGGRAPH 2023 | 初創(chuàng)企業(yè)借助 NVIDIA NeMo 撰寫生成式 AI 的成功案例
“Writer”利用 NVIDIA AI 軟件構(gòu)建的大語言模型（LLM）幫助數(shù)百家公司創(chuàng)建內(nèi)容。
機(jī)器學(xué)習(xí)幫助 Waseem Alshikh 在大學(xué)里讀完了課本。如今，他正在利用生成式 AI 為數(shù)百家公司創(chuàng)建內(nèi)容。
在敘利亞出生和長大的 Alshikh 不會說英語，但他精通軟件。他在黎巴嫩上大學(xué)期間，將這一天賦發(fā)揮得淋漓盡致。
他回憶道：“第一天他們就給了我一摞課本，每本都有上千頁厚，而且全是用英語寫的?！?/p>
于是，他編寫了一個粗糙但有效的統(tǒng)計分類器程序來生成這些課本的內(nèi)容摘要，然后進(jìn)行學(xué)習(xí)。
從提出概念到創(chuàng)業(yè)
2014 年，他向在迪拜工作時結(jié)識的企業(yè)家 May Habib 分享了自己的故事。他們一拍即合，決定創(chuàng)辦一家初創(chuàng)企業(yè)，幫助總是要求“事半功倍”的營銷部門利用機(jī)器學(xué)習(xí)快速創(chuàng)建網(wǎng)頁、博客、廣告等內(nèi)容。
Alshikh 在該初創(chuàng)企業(yè)擔(dān)任首席技術(shù)官。他表示：“最初我們無法實現(xiàn)這種技術(shù)。直到 Transformer 模型發(fā)布后，我們才基于此構(gòu)建了這種技術(shù)?！?/p>
Writer 聯(lián)合創(chuàng)始人、首席執(zhí)行官 Habib
和首席技術(shù)官 Alshikh
“我們找了幾位工程師，花了近六個月的時間建立了我們的第一個模型。這是一個幾乎無法運行的神經(jīng)網(wǎng)絡(luò)，擁有約 1.28 億個參數(shù)?！眳?shù)數(shù)量是衡量 AI 模型能力的常用指標(biāo)。
一路走來，這家年輕的公司逐漸贏得了一些業(yè)務(wù)，更名為 Writer，并與 NVIDIA 建立了聯(lián)系。
駛?cè)肟燔嚨?/strong>
他表示：“在開始使用 NVIDIA NeMo 后，我們就能夠建立行業(yè)級模型了，參數(shù)量從 30 億個增加到 200 億個，再到現(xiàn)在的 400 億個，而且還在不斷擴(kuò)大?！?/p>
NeMo 是一個可以幫助企業(yè)整理其訓(xùn)練數(shù)據(jù)集、構(gòu)建和定制大語言模型（LLM），并在生產(chǎn)中大規(guī)模運行這些模型的應(yīng)用框架。從韓國到瑞典，世界各地的企業(yè)都在使用它來定制本地語言和行業(yè)的大語言模型（LLM）。
Alshikh 表示：“在使用 NeMo 之前，我們需要四個半月的時間來構(gòu)建一個新的十億級參數(shù)模型。而現(xiàn)在我們只需要 16 天就能完成，這真令人難以置信?！?/p>
模型帶來機(jī)遇
今年上半年，這家初創(chuàng)企業(yè)不到 20 名的 AI 工程師團(tuán)隊利用 NeMo 開發(fā)了 10 個模型，每個模型都有超過 300 億個或更多的參數(shù)。
這帶來了巨大的機(jī)遇?，F(xiàn)在，已經(jīng)有數(shù)百家企業(yè)在使用 NeMo 為金融、醫(yī)療、零售和其他垂直市場定制的 Writer 模型。
Writer 的 Recap 工具可根據(jù)采訪
或活動錄音制作書面摘要
這家初創(chuàng)企業(yè)的客戶包括德勤、歐萊雅、財捷、優(yōu)步等家喻戶曉的 500 強(qiáng)企業(yè)。
Writer 使用 NeMo 取得的成功僅僅是故事的開始。目前，已經(jīng)有數(shù)十家其他公司下載了 NeMo。
這款包含在 NVIDIA AI Enterprise 中的軟件將很快可供使用。NVIDIA AI Enterprise 是一套專為加速生成式 AI 工作負(fù)載而優(yōu)化，并以企業(yè)級支持、安全性和應(yīng)用編程接口穩(wěn)定性為保障的全棧式軟件。
Writer 為企業(yè)用戶提供全棧式平臺
每月一萬億次 API 調(diào)用
一些客戶在自己的系統(tǒng)或云服務(wù)上運行 Writer 的模型，另一些客戶則要求 Writer 托管模型或者使用 Writer 的 API。
Alshikh 表示：“我們的云基礎(chǔ)設(shè)施基本上由兩個人管理，每月托管的 API 調(diào)用達(dá)萬億次，每秒生成 90,000 個單詞。我們提供的高質(zhì)量模型可以與團(tuán)隊規(guī)模更大、預(yù)算更多的公司所提供的產(chǎn)品相媲美。”
NVIDIA NeMo 支持從數(shù)據(jù)整理
一直到推理的整個端到端生成式 AI 流程
Writer 使用與 NeMo 打包在一起的 Triton 推理服務(wù)器為其客戶在生產(chǎn)中運行模型。Alshikh 表示，許多運行 LLM 的公司都在使用 Triton。與其他程序相比，Triton 可實現(xiàn)更低的延遲和更高的吞吐量。
“這意味著你可以將運行一些服務(wù)的成本從 10 萬美元減少到 2 萬美元，這樣就能夠投入更多資金構(gòu)建有意義的功能?！?Alshikh 說道。
廣闊的視野
Writer 還是 NVIDIA 初創(chuàng)加速計劃（https://www.nvidia.cn/startups/）的成員，該計劃旨在培育前沿初創(chuàng)企業(yè)。Alshikh 表示：“多虧了 NVIDIA 初創(chuàng)加速計劃，我們才有機(jī)會盡早使用 NeMo，還有一些了不起的人指導(dǎo)我們?nèi)绾螌ふ液褪褂盟璧墓ぞ??！?/p>
如今，Writer 的文本產(chǎn)品已經(jīng)開始受到關(guān)注，Alshikh 在佛羅里達(dá)州和加利福尼亞州兩地奔波，探尋接下來的發(fā)展方向。在生成式 AI 這片廣闊的“疆域”，他看到了圖像、音頻、視頻、3D 等領(lǐng)域的機(jī)遇，而且這些機(jī)遇可能會同時出現(xiàn)。
他表示：“我們認(rèn)為多模態(tài)是未來的趨勢”。
在此頁面（https://developer.nvidia.com/nemo）了解如何開始使用 NeMo。訪問此頁面（https://developer.nvidia.com/nemo-framework-open-beta）了解多模態(tài) NeMo 的搶先體驗計劃。
如果您喜歡這篇文章，請使用以下 Writer 建議的摘要轉(zhuǎn)發(fā)給社交網(wǎng)絡(luò)上的朋友：
“了解初創(chuàng)企業(yè) Writer 如何利用 NVIDIA NeMo 軟件為數(shù)百家公司生成內(nèi)容，并以少量人員和預(yù)算獲得可觀的收入?！?/p>
SIGGRAPH 2023
NVIDIA 精彩發(fā)布
【1】SIGGRAPH 主題演講：NVIDIA 首席執(zhí)行官帶來生成式 AI 多項創(chuàng)新 SIGGRAPH 2023 | NVIDIA 發(fā)布新一代 GH200 Grace Hopper 超級芯片平臺 SIGGRAPH 2023 | NVIDIA 發(fā)布支持生成式 AI 與 OpenUSD 的重大 Omniverse 升級 SIGGRAPH 2023 | NVIDIA Omniverse 開啟通往 OpenUSD 廣闊天地的大門 SIGGRAPH 2023 | NVIDIA 與全球數(shù)據(jù)中心系統(tǒng)制造商大力推動 AI 與工業(yè)數(shù)字化的發(fā)展 SIGGRAPH 2023 | NVIDIA 與全球工作站廠商共同推出用于生成式 AI、LLM 開發(fā)、內(nèi)容創(chuàng)作和數(shù)據(jù)科學(xué)的系統(tǒng) SIGGRAPH 2023 | NVIDIA AI Workbench 助力全球企業(yè)加速采用自定義生成式 AI SIGGRAPH 2023 | NVIDIA 與 Hugging Face 將連接數(shù)百萬開發(fā)者與生成式 AI 超級計算更多精彩，仍在繼續(xù)...
敬請持續(xù)關(guān)注
點擊“閱讀原文”，或掃描下方海報二維碼，觀看 NVIDIA 創(chuàng)始人兼 CEO 黃仁勛在 SIGGRAPH 現(xiàn)場發(fā)表的 NVIDIA 主題演講回放，了解 NVIDIA 的新技術(shù)，包括屢獲殊榮的研究，OpenUSD 開發(fā)，以及最新的 AI 內(nèi)容創(chuàng)作解決方案。
原文標(biāo)題：SIGGRAPH 2023 | 初創(chuàng)企業(yè)借助 NVIDIA NeMo 撰寫生成式 AI 的成功案例
文章出處：【微信公眾號：NVIDIA英偉達(dá)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
-
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3953瀏覽量
93811
原文標(biāo)題：SIGGRAPH 2023 | 初創(chuàng)企業(yè)借助 NVIDIA NeMo 撰寫生成式 AI 的成功案例
文章出處：【微信號：NVIDIA_China，微信公眾號：NVIDIA英偉達(dá)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
企業(yè)使用NVIDIA NeMo微服務(wù)構(gòu)建AI智能體平臺
NVIDIA NeMo Guardrails引入三項全新NIM微服務(wù)
NVIDIA 發(fā)布保障代理式 AI 應(yīng)用安全的 NIM 微服務(wù)
NVIDIA Omniverse擴(kuò)展至生成式物理AI領(lǐng)域
NVIDIA推出多個生成式AI模型和藍(lán)圖
NVIDIA推出全新生成式AI模型Fugatto
NVIDIA助力企業(yè)創(chuàng)建定制AI應(yīng)用
NVIDIA AI助力初創(chuàng)企業(yè)為心理治療師提供AI工具
NVIDIA助力Amdocs打造生成式AI智能體
日本企業(yè)借助NVIDIA產(chǎn)品加速AI創(chuàng)新
NVIDIA新增生成式AI就緒系統(tǒng)認(rèn)證類別
NVIDIA AI助力SAP生成式AI助手Joule加速發(fā)展
NVIDIA Nemotron-4 340B模型幫助開發(fā)者生成合成訓(xùn)練數(shù)據(jù)
NVIDIA攜手Meta推出AI服務(wù)，為企業(yè)提供生成式AI服務(wù)
NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型
工商網(wǎng)監(jiān)
評論