chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Google Gemma優(yōu)化后可在NVIDIA GPU上運(yùn)行

NVIDIA英偉達(dá) ? 來源:NVIDIA英偉達(dá) ? 2024-02-25 11:01 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

借助 TensorRT-LLM,Google 全新開放語言模型可在 NVIDIA AI 平臺(tái)(包括本地 RTX AI PC)上加速運(yùn)行。

2024 年 2 月 21 日,NVIDIA 攜手 Google 在所有 NVIDIA AI 平臺(tái)上發(fā)布面向 Gemma 的優(yōu)化功能,Gemma 是 Google 最先進(jìn)的新型輕量級(jí) 2B 和 7B 開放語言模型,可在任何地方運(yùn)行,從而降低成本并加快特定領(lǐng)域用戶案例的創(chuàng)新工作。

NVIDIA 和 Google 的團(tuán)隊(duì)緊密合作,利用 NVIDIA TensorRT-LLM(用于優(yōu)化大語言模型推理性能的開源庫),在數(shù)據(jù)中心的 NVIDIA GPU、云計(jì)算和搭載 NVIDIA RTX GPU 的 PC 上運(yùn)行時(shí),加速 Gemma 性能(Gemma 由創(chuàng)建 Gemini 模型的相同研究和技術(shù)構(gòu)建)。

這使開發(fā)者能將全球高性能 AI PC 中超過 1 億臺(tái)搭載 NVIDIA RTX GPU 的用戶作為潛在用戶進(jìn)行開發(fā)。

開發(fā)者還可在搭載 NVIDIA GPU 的云端運(yùn)行 Gemma,該實(shí)例擁有 141GB HBM3e 顯存,速度為 4.8TB/秒,Google 將于今年部署該實(shí)例。

此外,企業(yè)級(jí)開發(fā)者還可利用 NVIDIA 豐富的工具生態(tài)系統(tǒng)(包括依托 NeMo 框架的 NVIDIA AI Enterprise 和 TensorRT-LLM),對(duì) Gemma 進(jìn)行微調(diào),并將優(yōu)化后的模型部署到生產(chǎn)應(yīng)用中。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5309

    瀏覽量

    106355
  • 云計(jì)算
    +關(guān)注

    關(guān)注

    39

    文章

    7976

    瀏覽量

    140023
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4944

    瀏覽量

    131217

原文標(biāo)題:共耀光芒:Google Gemma 優(yōu)化后可在 NVIDIA GPU 上運(yùn)行

文章出處:【微信號(hào):NVIDIA_China,微信公眾號(hào):NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    NVIDIA RTX AI加速FLUX.1 Kontext現(xiàn)已開放下載

    NVIDIA RTX 與 NVIDIA TensorRT 現(xiàn)已加速 Black Forest Labs 的最新圖像生成和編輯模型;此外,Gemma 3n 現(xiàn)可借助 RTX 和 NVIDIA
    的頭像 發(fā)表于 07-16 09:16 ?145次閱讀

    谷歌Gemma 3n預(yù)覽版全新發(fā)布

    Gemma 3 和 Gemma 3 QAT 的成功發(fā)布之后,我們的先進(jìn)開放模型系列具備了在單一云端或桌面加速器運(yùn)行的能力,我們正在進(jìn)一步推進(jìn)我們對(duì)可訪問 AI 的愿景。
    的頭像 發(fā)表于 06-26 17:18 ?360次閱讀

    樹莓派5Gemma 2:如何打造高效的邊緣AI解決方案?

    從數(shù)學(xué)基礎(chǔ)到邊緣實(shí)現(xiàn),研究團(tuán)隊(duì):Conecta.ai(ufrn.br)摘要1.引言2.GEMMA2:通用集成機(jī)器模型算法2.1模型架構(gòu)2.2預(yù)訓(xùn)練2.3訓(xùn)練3.邊緣AI實(shí)現(xiàn)1.引言GEMMA
    的頭像 發(fā)表于 06-20 16:57 ?835次閱讀
    樹莓派5<b class='flag-5'>上</b>的<b class='flag-5'>Gemma</b> 2:如何打造高效的邊緣AI解決方案?

    NVIDIA攜手谷歌云助力企業(yè)引入代理式AI

    谷歌 Gemini 模型即將支持本地部署,可通過搭載 NVIDIA Blackwell 架構(gòu)的基礎(chǔ)設(shè)施,在 Google 分布式云運(yùn)行 NVIDI
    的頭像 發(fā)表于 04-11 16:32 ?478次閱讀

    Google Gemma 3開發(fā)者指南

    自首次推出以來,Gemma 模型的下載量已超過 1 億次,社區(qū)為各種用例創(chuàng)建了超過 60,000 個(gè)變體1。我們很高興推出 Gemma 3,這是 Gemma 開放模型系列中最強(qiáng)大、最先進(jìn)的版本
    的頭像 發(fā)表于 04-08 10:50 ?333次閱讀
    <b class='flag-5'>Google</b> <b class='flag-5'>Gemma</b> 3開發(fā)者指南

    Google發(fā)布最新AI模型Gemma 3

    Gemma 開放模型系列是 Google 推動(dòng)實(shí)用 AI 技術(shù)普惠大眾的重要基石。上個(gè)月,Gemma 迎來了首個(gè)生日?;赝^去一年,其成果斐然:全球下載量突破 1 億,社區(qū)欣欣向榮,衍生模型超過 6 萬個(gè)1。
    的頭像 發(fā)表于 03-18 09:51 ?842次閱讀

    無法在GPU運(yùn)行ONNX模型的Benchmark_app怎么解決?

    在 CPU 和 GPU 運(yùn)行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型。 在 CPU 推理成功,但在
    發(fā)表于 03-06 08:02

    在龍芯3a6000上部署DeepSeek 和 Gemma2大模型

    run deepseek-r1:1.5b 3.運(yùn)行Gemma 2大模型 如果想體驗(yàn) Google Gemma 2 可以到下面的網(wǎng)站選擇不同參數(shù)的大模型https://ollama.
    發(fā)表于 02-07 19:35

    NVIDIA和GeForce RTX GPU專為AI時(shí)代打造

    NVIDIA 和 GeForce RTX GPU 專為 AI 時(shí)代打造。
    的頭像 發(fā)表于 01-06 10:45 ?656次閱讀

    《CST Studio Suite 2024 GPU加速計(jì)算指南》

    。 2. 操作系統(tǒng)支持:CST Studio Suite在不同操作系統(tǒng)持續(xù)測(cè)試,可在支持的操作系統(tǒng)使用GPU計(jì)算,具體參考相關(guān)文檔。 3. 許可證:
    發(fā)表于 12-16 14:25

    AMD與NVIDIA GPU優(yōu)缺點(diǎn)

    ,NVIDIA的RTX系列顯卡以其強(qiáng)大的光線追蹤和DLSS技術(shù)領(lǐng)先于市場(chǎng)。例如,NVIDIA的RTX 3080在4K分辨率下提供了卓越的游戲體驗(yàn),而AMD的Radeon RX 6800 XT雖然在某些游戲中表現(xiàn)接近,但在光線追蹤技術(shù)
    的頭像 發(fā)表于 10-27 11:15 ?2486次閱讀

    TI TDA2x SoC基于GPU的環(huán)視優(yōu)化

    電子發(fā)燒友網(wǎng)站提供《TI TDA2x SoC基于GPU的環(huán)視優(yōu)化.pdf》資料免費(fèi)下載
    發(fā)表于 10-10 09:14 ?0次下載
    TI TDA2x SoC<b class='flag-5'>上</b>基于<b class='flag-5'>GPU</b>的環(huán)視<b class='flag-5'>優(yōu)化</b>

    Google Gemma 2模型的部署和Fine-Tune演示

    Google 近期發(fā)布了最新開放模型 Gemma 2,目前與同等規(guī)模的開放模型相比,取得了明顯的優(yōu)勢(shì),同時(shí)在安全可控性上得到了顯著的增強(qiáng)。
    的頭像 發(fā)表于 08-09 17:04 ?1304次閱讀
    <b class='flag-5'>Google</b> <b class='flag-5'>Gemma</b> 2模型的部署和Fine-Tune演示

    暴漲預(yù)警!NVIDIA GPU供應(yīng)大跳水

    gpu
    jf_02331860
    發(fā)布于 :2024年07月26日 09:41:42

    英國(guó)公司實(shí)現(xiàn)英偉達(dá)CUDA軟件在AMD GPU的無縫運(yùn)行

    7月18日最新資訊,英國(guó)創(chuàng)新科技企業(yè)Spectral Compute震撼發(fā)布了其革命性GPGPU編程工具包——“SCALE”,該工具包實(shí)現(xiàn)了英偉達(dá)CUDA軟件在AMD GPU的無縫遷移與運(yùn)行,標(biāo)志著在
    的頭像 發(fā)表于 07-18 14:40 ?1097次閱讀