chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

最新MLCommons結(jié)果公布 英特爾展現(xiàn)強(qiáng)大AI推理性能

英特爾中國(guó) ? 來(lái)源:未知 ? 2023-09-15 19:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近日,MLCommons公布針對(duì)60億參數(shù)大語(yǔ)言模型及計(jì)算機(jī)視覺(jué)與自然語(yǔ)言處理模型GPT-J的MLPerf推理v3.1性能基準(zhǔn)測(cè)試結(jié)果,其中包括英特爾所提交的基于HabanaGaudi2加速器、第四代英特爾至強(qiáng)可擴(kuò)展處理器,以及英特爾至強(qiáng)CPU Max系列的測(cè)試結(jié)果。該結(jié)果顯示了英特爾在AI推理方面極具競(jìng)爭(zhēng)力的表現(xiàn),并進(jìn)一步加強(qiáng)了其對(duì)加速?gòu)脑频骄W(wǎng)絡(luò)到邊緣再到端的工作負(fù)載中大規(guī)模部署AI的承諾。

正如最新的MLCommons結(jié)果顯示,我們擁有強(qiáng)大的、具有競(jìng)爭(zhēng)力的人工智能產(chǎn)品組合以滿(mǎn)足客戶(hù)對(duì)高性能、高效率的深度學(xué)習(xí)推理及訓(xùn)練的需求,同時(shí),針對(duì)各種規(guī)模的人工智能模型,英特爾產(chǎn)品組合均具有領(lǐng)先的性?xún)r(jià)比優(yōu)勢(shì)。

--Sandra Rivera

英特爾執(zhí)行副總裁

兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理

根據(jù)6月披露的MLCommonsAI訓(xùn)練結(jié)果1和Hugging Face性能基準(zhǔn)測(cè)試2驗(yàn)證,Gaudi2在先進(jìn)的視覺(jué)語(yǔ)言模型上擁有卓越的性能,而今天的結(jié)果進(jìn)一步證明了英特爾能夠提供滿(mǎn)足AI計(jì)算需求的絕佳解決方案。

考慮到客戶(hù)的個(gè)性化需求,英特爾正在通過(guò)能夠幫助解決AI工作負(fù)載中推理與訓(xùn)練問(wèn)題的產(chǎn)品,讓AI無(wú)處不在。英特爾的AI產(chǎn)品為客戶(hù)提供了可根據(jù)各自性能、效率及目標(biāo)成本進(jìn)行靈活匹配以獲取最佳AI解決方案的理想選擇,同時(shí)亦幫助客戶(hù)開(kāi)放生態(tài)系統(tǒng)。

wKgZomUEQpSAGFIyAABOUcjx2Xw150.gif

關(guān)于Habana Gaudi2的測(cè)試結(jié)果:

Habana Gaudi2在GPT-J模型上的推理結(jié)果強(qiáng)有力地驗(yàn)證了其具有競(jìng)爭(zhēng)力的性能。

Gaudi2在GPT-J-99和GPT-J-99.9上的服務(wù)器查詢(xún)和離線(xiàn)樣本的推理性能分別為78.58次/秒和84.08次/秒。

Gaudi2提交的結(jié)果采用FP8數(shù)據(jù)類(lèi)型,并在這種新數(shù)據(jù)類(lèi)型上達(dá)到了99.9%的準(zhǔn)確率。

隨著每6-8周公布的Gaudi2軟件更新,英特爾將繼續(xù)在MLPerf基準(zhǔn)測(cè)試中展現(xiàn)其產(chǎn)品的性能提升,以及持續(xù)擴(kuò)大的模型覆蓋范圍。

wKgZomUEQpSAOHLSAAXSxMWr49Y014.png

Habana Gaudi2在GPT-J模型上的推理結(jié)果

驗(yàn)證了其具有競(jìng)爭(zhēng)力的性能

wKgZomUEQpSAGFIyAABOUcjx2Xw150.gif

關(guān)于第四代至強(qiáng)可擴(kuò)展處理器的測(cè)試結(jié)果:

英特爾提交了基于第四代英特爾至強(qiáng)可擴(kuò)展處理器的7個(gè)推理基準(zhǔn)測(cè)試,其中包括GPT-J模型。結(jié)果顯示,包括視覺(jué)、語(yǔ)言處理、語(yǔ)音和音頻翻譯模型,以及更大的DLRM v2深度學(xué)習(xí)推薦模型及ChatGPT-J模型在內(nèi),第四代至強(qiáng)處理器對(duì)于通用AI工作負(fù)載擁有出色的性能。此外,截至目前,英特爾仍是唯一一家使用行業(yè)標(biāo)準(zhǔn)的深度學(xué)習(xí)生態(tài)系統(tǒng)軟件提交公開(kāi)CPU結(jié)果的廠(chǎng)商。

第四代英特爾至強(qiáng)可擴(kuò)展處理器是通過(guò)流行的AI框架與庫(kù)構(gòu)建及部署通用AI工作負(fù)載的理想選擇。對(duì)于GPT-J對(duì)約1000-1500字新聞稿進(jìn)行100字總結(jié)的任務(wù),第四代至強(qiáng)可擴(kuò)展處理器可在離線(xiàn)模式下完成每秒兩段的總結(jié)提要,在實(shí)時(shí)服務(wù)器模式下完成每秒一段的總結(jié)提要。

英特爾首次提交了英特爾至強(qiáng)CPU Max系列的MLPerf結(jié)果,該系列可提供高達(dá)64GB的高帶寬內(nèi)存。對(duì)于GPT-J而言,它是僅有的能夠達(dá)到99.9%準(zhǔn)確度的CPU,這對(duì)于對(duì)精度要求極高的應(yīng)用來(lái)說(shuō)至關(guān)重要。

英特爾與OEM廠(chǎng)商合作提交了測(cè)試結(jié)果,進(jìn)一步展示了其AI性能的可擴(kuò)展性,以及基于英特爾至強(qiáng)處理器的通用服務(wù)器的可獲取性,充分滿(mǎn)足客戶(hù)服務(wù)水平協(xié)議(SLA)。

wKgZomUEQpWAFJSKAAO8Ll3VFIE534.png

第四代至強(qiáng)可擴(kuò)展處理器

是構(gòu)建及部署通用AI工作負(fù)載的理想選擇

MLPerf是業(yè)內(nèi)享有盛名的AI性能基準(zhǔn)測(cè)試,旨在實(shí)現(xiàn)公平、可重復(fù)的產(chǎn)品性能比較。英特爾計(jì)劃為下一個(gè)MLPerf測(cè)試提交新的AI訓(xùn)練性能結(jié)果。持續(xù)的性能更新彰顯了英特爾致力于幫助客戶(hù)、助力AI技術(shù)演進(jìn)所邁出的每一步,無(wú)論是低成本的AI處理器,還是面向網(wǎng)絡(luò)、云和企業(yè)用戶(hù)的高性能AI硬件加速器或是GPU。

注釋?zhuān)?/p>

  1. https://www.intel.com/content/www/us/en/newsroom/news/new-mlcommons-results-ai-gains-intel.html#gs.51njha

  2. https://huggingface.co/blog/bridgetower


聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    10247

    瀏覽量

    178426
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11192

    瀏覽量

    221707

原文標(biāo)題:最新MLCommons結(jié)果公布 英特爾展現(xiàn)強(qiáng)大AI推理性能

文章出處:【微信號(hào):英特爾中國(guó),微信公眾號(hào):英特爾中國(guó)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    發(fā)力圖形工作站和AI推理市場(chǎng),英特爾大顯存GPU亮相灣芯展

    英特爾發(fā)布了面向?qū)I(yè)的銳炫Pro B50和B60。這兩款顯卡比較RTX2000和5660Ti,有哪些性能上的優(yōu)勢(shì)?在支持AI推理工作站和大模型部署上,B60有哪些獨(dú)到之處?10月16日
    的頭像 發(fā)表于 10-22 13:40 ?5594次閱讀
    發(fā)力圖形工作站和<b class='flag-5'>AI</b><b class='flag-5'>推理</b>市場(chǎng),<b class='flag-5'>英特爾</b>大顯存GPU亮相灣芯展

    直擊Computex2025:英特爾重磅發(fā)布新一代GPU,圖形和AI性能躍升3.4倍

    5月19日,在Computex 2025上,英特爾發(fā)布了最新全新圖形處理器(GPU)和AI加速器產(chǎn)品系列。包括全新英特爾銳炫? Pro B系列GPU——英特爾銳炫Pro B60和
    的頭像 發(fā)表于 05-20 12:27 ?4954次閱讀
    直擊Computex2025:<b class='flag-5'>英特爾</b>重磅發(fā)布新一代GPU,圖形和<b class='flag-5'>AI</b><b class='flag-5'>性能</b>躍升3.4倍

    英特爾發(fā)布全新GPU,AI和工作站迎來(lái)新選擇

    Pro B50 GPU,搭載了為AI推理和專(zhuān)業(yè)工作站量身定制的配置,擴(kuò)展了英特爾銳炫Pro產(chǎn)品系列。 英特爾 ? Gaudi 3 AI 加速
    發(fā)表于 05-20 11:03 ?1599次閱讀

    1.9倍性能提升!英特爾至強(qiáng)6在MLPerf基準(zhǔn)測(cè)試中表現(xiàn)卓越

    與第五代至強(qiáng)處理器相比,英特爾至強(qiáng)6性能核的性能平均提高了1.9倍。 今日,MLCommons公布了最新的MLPerf
    的頭像 發(fā)表于 04-07 10:58 ?418次閱讀

    英特爾發(fā)布最強(qiáng)大的商用AI PC產(chǎn)品陣容

    處理器。在臺(tái)式機(jī)和移動(dòng)設(shè)備形態(tài)中,該產(chǎn)品組合為全球企業(yè)提供包含計(jì)算性能、能效、連接性、安全性和可管理性的全面解決方案。 如今是PC更新?lián)Q代的關(guān)鍵節(jié)點(diǎn),憑借英特爾?酷睿?Ultra處理器(第二代),我們?yōu)榭蛻?hù)帶來(lái)了
    的頭像 發(fā)表于 03-08 09:28 ?885次閱讀

    英特爾?獨(dú)立顯卡與OpenVINO?工具套件結(jié)合使用時(shí),無(wú)法運(yùn)行推理怎么解決?

    使用英特爾?獨(dú)立顯卡與OpenVINO?工具套件時(shí)無(wú)法運(yùn)行推理
    發(fā)表于 03-05 06:56

    英特爾至強(qiáng)6助力HPE Gen12,AI推理性能提升3倍!

    ,CPU處理器永遠(yuǎn)都是C位的存在,沒(méi)有它的基礎(chǔ)性支撐,其他一切都是空中樓閣。 當(dāng)然,CPU處理器也在積極適應(yīng)新的時(shí)代趨勢(shì),既要不斷增強(qiáng)計(jì)算性能,也要低碳環(huán)保提高能效,但它們倆如同硬幣的正反面,不可能完美兼顧,那該怎么辦呢? 對(duì)此,英特爾的解決方案是兵分
    的頭像 發(fā)表于 02-18 14:18 ?454次閱讀
    <b class='flag-5'>英特爾</b>至強(qiáng)6助力HPE Gen12,<b class='flag-5'>AI</b><b class='flag-5'>推理性能</b>提升3倍!

    英特爾Gaudi 2D AI加速器助力DeepSeek Janus Pro模型性能提升

    Pro模型進(jìn)行了深度優(yōu)化。 這一優(yōu)化舉措使得AI開(kāi)發(fā)者能夠以更低的成本和更高的效率實(shí)現(xiàn)復(fù)雜任務(wù)的部署與優(yōu)化。英特爾Gaudi 2D AI加速器通過(guò)其卓越的計(jì)算能力和高度優(yōu)化的軟件棧,為Janus Pro模型提供了
    的頭像 發(fā)表于 02-10 11:10 ?854次閱讀

    使用NVIDIA推理平臺(tái)提高AI推理性能

    NVIDIA推理平臺(tái)提高了 AI 推理性能,為零售、電信等行業(yè)節(jié)省了數(shù)百萬(wàn)美元。
    的頭像 發(fā)表于 02-08 09:59 ?1103次閱讀
    使用NVIDIA<b class='flag-5'>推理</b>平臺(tái)提高<b class='flag-5'>AI</b><b class='flag-5'>推理性能</b>

    英特爾酷睿Ultra 200V系列移動(dòng)處理器亮相CES 2025

    基于英特爾 vPro 平臺(tái)的全新英特爾 酷睿 Ultra 200V系列移動(dòng)處理器,為企業(yè)提供 AI 驅(qū)動(dòng)的生產(chǎn)力和提升的IT管理能力1。該產(chǎn)品不僅擁有卓越的性能、效率和非凡的商務(wù)計(jì)算能
    的頭像 發(fā)表于 01-20 09:21 ?1434次閱讀

    英特爾塑造未來(lái)出行:AI增強(qiáng)型軟件定義汽車(chē)

    的車(chē)載體驗(yàn),將未來(lái)出行變?yōu)楝F(xiàn)實(shí)。 英特爾的展示不僅展現(xiàn)了其技術(shù)的卓越與先進(jìn),更是對(duì)未來(lái)汽車(chē)體驗(yàn)的一次生動(dòng)呈現(xiàn)。AI增強(qiáng)型SDV(軟件定義汽車(chē))平臺(tái)是英特爾這一愿景的核心,該平臺(tái)融合了高
    的頭像 發(fā)表于 01-14 11:20 ?770次閱讀

    MLCommons推出AI基準(zhǔn)測(cè)試0.5版

    開(kāi)放式機(jī)器學(xué)習(xí)工程聯(lián)盟 MLCommons 在美國(guó)加州當(dāng)?shù)貢r(shí)間公布推出適用于消費(fèi)類(lèi) PC 的 AI 性能的 MLPerf Client 基準(zhǔn)測(cè)試的 0.5 版,這是該測(cè)試的第一個(gè)公開(kāi)版
    的頭像 發(fā)表于 12-12 16:47 ?1064次閱讀

    英特爾推出全新英特爾銳炫B系列顯卡

    備受玩家青睞的價(jià)格提供卓越的性能與價(jià)值1,很好地滿(mǎn)足現(xiàn)代游戲需求,并為AI工作負(fù)載提供加速。其配備的英特爾Xe矩陣計(jì)算引擎(XMX),為新推出的XeSS 2提供強(qiáng)大支持。XeSS 2的
    的頭像 發(fā)表于 12-07 10:16 ?1774次閱讀
    <b class='flag-5'>英特爾</b>推出全新<b class='flag-5'>英特爾</b>銳炫B系列顯卡

    同花順攜手英特爾,推出基于強(qiáng)大算力的AI PC版,引領(lǐng)金融科技新潮流

    作——同花順AI PC版。這一創(chuàng)新產(chǎn)品標(biāo)志著同花順在金融科技領(lǐng)域的又一次重大突破,為投資者帶來(lái)了前所未有的智能投顧服務(wù)體驗(yàn)。 同花順AI PC版是同花順與英特爾合作的成果,利用英特爾
    的頭像 發(fā)表于 11-27 15:13 ?1318次閱讀
    同花順攜手<b class='flag-5'>英特爾</b>,推出基于<b class='flag-5'>強(qiáng)大</b>算力的<b class='flag-5'>AI</b> PC版,引領(lǐng)金融科技新潮流

    英特爾聚焦AI座艙

    英特爾推出首款銳炫車(chē)載獨(dú)立顯卡(dGPU)和第一代英特爾軟件定義車(chē)載SoC系列,滿(mǎn)足當(dāng)前消費(fèi)者對(duì)汽車(chē)內(nèi)部配備更多屏幕、獲得更高清晰度等AI座艙體驗(yàn)需求。 英特爾副總裁、汽車(chē)事業(yè)部總經(jīng)理
    的頭像 發(fā)表于 10-30 16:26 ?567次閱讀