OpenAI Sora模型需大量AI加速卡及電力支持
據(jù)報(bào)道，基準(zhǔn)測(cè)試機(jī)構(gòu)Factorial Funds近日公布研究報(bào)告，指出OpenAI在最繁忙時(shí)期需啟用72萬(wàn)片NVIDIA H100 AI加速卡來(lái)支持其Sora文本轉(zhuǎn)視頻模型的運(yùn)作。
若以每片H100加速卡3萬(wàn)美元市價(jià)估算，總花費(fèi)將高達(dá)216億美元（相當(dāng)于1561.68億元人民幣），這僅是H100加速卡采購(gòu)費(fèi)用。該模型在運(yùn)營(yíng)時(shí)還會(huì)產(chǎn)生極高的能耗，每片H100能耗達(dá)到700瓦，72萬(wàn)片則意味著能耗高達(dá)50.4億瓦。
此外，評(píng)估小組預(yù)計(jì)，訓(xùn)練Sora所需的英偉達(dá)H100 AI加速卡數(shù)量從每月4200片至10500片不等。如果單啟用一片H100加速卡，生成一分鐘視頻就需要進(jìn)行長(zhǎng)達(dá)12分鐘的渲染過(guò)程。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
模型
+關(guān)注
關(guān)注
1文章
3694瀏覽量
51957 -
英偉達(dá)
+關(guān)注
關(guān)注
23文章
4068瀏覽量
98503 -
OpenAI
+關(guān)注
關(guān)注
9文章
1241瀏覽量
9888
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
高速信號(hào)處理設(shè)計(jì)方案：413-基于雙XCVU9P+C6678的100G光纖加速卡
C6678, XCVU9P, ZU19EG開發(fā)板,, 高速信號(hào)處理, 光纖加速卡, XCVU9P光纖加速卡
昆侖芯R200 AI加速卡技術(shù)規(guī)格解析
昆侖芯R200加速卡基于7nm XPU-R架構(gòu)，在150W功耗下提供256 TOPS INT8算力，側(cè)重高性能推理。配備最高32GB GDDR6內(nèi)存（512GB/s帶寬）及108路視頻解碼能力，支持
邁向云端算力巔峰：昆侖芯K200 AI加速卡全面解讀
昆侖芯K200作為云端AI加速卡，在K100架構(gòu)基礎(chǔ)上全面升級(jí)。其INT8算力達(dá)256 TOPS，配備16GB HBM內(nèi)存與512GB/s帶寬，專為千億參數(shù)大模型訓(xùn)練與高并發(fā)推理優(yōu)化。采用全高全長(zhǎng)雙
專為邊緣而生：深度解析昆侖芯K100 AI加速卡，釋放128 TOPS極致能效
昆侖芯K100邊緣AI加速卡以75W超低功耗實(shí)現(xiàn)128 TOPS的INT8算力，重新定義邊緣推理能效標(biāo)準(zhǔn)。其半高半長(zhǎng)設(shè)計(jì)搭載8GB HBM內(nèi)存與256GB/s帶寬，支持INT8至FP32多精度計(jì)算
算力密度翻倍！江原D20加速卡發(fā)布，一卡雙芯重構(gòu)AI推理標(biāo)桿
的關(guān)鍵技術(shù)瓶頸。 ? 在此背景下，江原科技推出采用自研AI芯片的AI加速卡江原D10，并在今年5月實(shí)現(xiàn)量產(chǎn)交付。在大算力AI芯片全流程國(guó)產(chǎn)化產(chǎn)業(yè)鏈實(shí)現(xiàn)首次突破后，11月11日，江原科技
OpenAI Sora 2模型上線微軟Azure AI Foundry國(guó)際版
我們非常激動(dòng)地宣布，OpenAI 的新一代多模態(tài)視頻生成模型 Sora 2 現(xiàn)已在 Azure AI Foundry（國(guó)際版）上線，進(jìn)入公共預(yù)覽階段。
虛擬電廠加速卡不是噱頭！萬(wàn)點(diǎn)規(guī)模VPP的性能分水嶺
。 ? 此時(shí)僅靠邊緣MPU/CPU的通用算力，可能無(wú)法及時(shí)處理數(shù)據(jù)清洗、異常檢測(cè)、指令下發(fā)校驗(yàn)等任務(wù)，而加速卡（如 GPU、FPGA 加速卡）的并行計(jì)算能力可快速消化數(shù)據(jù)洪流，避免“小包風(fēng)暴”導(dǎo)致的系統(tǒng)卡頓。 ? 虛擬電廠對(duì)AG
新品 | LLM-8850 Card, AX8850邊緣設(shè)備AI加速卡
LLM?8850?Card是一款面向邊緣設(shè)備的M.2M-KEY2242?AI加速卡，把42?mm的袖珍體積與AxeraAX8850?SoC的24?TOPS?@?INT8算力結(jié)合起來(lái)，為
智算加速卡是什么東西？它真能在AI戰(zhàn)場(chǎng)上干掉GPU和TPU！
隨著AI技術(shù)火得一塌糊涂，大家都在談"大模型"、"AI加速"、"智能計(jì)算"，可真到了落地環(huán)節(jié)，算力才是硬通貨。你有沒(méi)有發(fā)現(xiàn)，現(xiàn)在越來(lái)越多的AI
邊緣AI運(yùn)算革新 DeepX DX-M1 AI加速卡結(jié)合Rockchip RK3588多路物體檢測(cè)解決方案
DeepX 推出了一款革命性的產(chǎn)品 DeepX DX-M1 AI 推理加速卡 采用 PCIe Gen3 M.2 M-Key 接口，具備高達(dá) 25 TOPS 的卓越運(yùn)算性能，以及高準(zhǔn)確度、低功耗、低溫
寒武紀(jì)基于思元370芯片的MLU370-X8 智能加速卡產(chǎn)品手冊(cè)詳解
MLU370-X8智能加速卡是全面升級(jí)的數(shù)據(jù)中心訓(xùn)推一體AI加速卡，基于寒武紀(jì)全新一代思元370芯片，接口為PCIe 4.0 X16，是全高全長(zhǎng)雙寬（FHFL-Dual-Slot）的標(biāo)準(zhǔn)PCIe
RK3588核心板在邊緣AI計(jì)算中的顛覆性優(yōu)勢(shì)與場(chǎng)景落地
推理任務(wù)，需額外部署GPU加速卡，導(dǎo)致成本與功耗飆升。
擴(kuò)展性受限：老舊接口（如USB 2.0、百兆網(wǎng)口）無(wú)法支持5G模組、高速存儲(chǔ)等現(xiàn)代外設(shè)，升級(jí)困難。
開發(fā)周期長(zhǎng)：BSP適配不完善，跨平臺(tái)
發(fā)表于 04-15 10:48
邊緣AI新突破：MemryX AI加速卡與RK3588打造高效多路物體檢測(cè)方案
本方案特別結(jié)合了 Orange Pi 5 Plus (Rockchip RK3588) 與 MemryX AI 加速卡，構(gòu)建出一套高性價(jià)比的智能解決方案。憑借 MemryX 提供的豐富軟件資源
啟明智顯集成DeepSeek、豆包、OpenAI等全球先進(jìn)AI大模型，助力傳統(tǒng)產(chǎn)品AI智能升級(jí)
啟明智顯借助豆包、Deepseek、OpenAI等全球先進(jìn)AI大模型，助力傳統(tǒng)產(chǎn)品實(shí)現(xiàn)AI智能升級(jí)
工商網(wǎng)監(jiān)
評(píng)論