chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾在Hot Chips大會(huì)上發(fā)布了首款A(yù)I處理器

DPVg_AI_era ? 來源:lq ? 2019-09-01 07:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

英特爾在Hot Chips大會(huì)上發(fā)布了首款AI處理器,專為大型計(jì)算中心設(shè)計(jì)。該芯片基于10納米Ice Lake處理器,專為大型數(shù)據(jù)中心設(shè)計(jì),可以用最少的能耗來處理高工作負(fù)載。本文帶來這款芯片的詳細(xì)設(shè)計(jì)細(xì)節(jié)。

近日在Hot Chips 2019大會(huì)上,英特爾發(fā)布了首款A(yù)I處理器,專為大型計(jì)算中心設(shè)計(jì)。

英特爾表示,該芯片由位于以色列海法的研發(fā)中心開發(fā),名為Nervana NNP-I或Springhill,基于10納米Ice Lake處理器,可以用最少的能耗來處理高工作負(fù)載。

英特爾表示,隨著AI領(lǐng)域?qū)?fù)雜計(jì)算的需求日益增加,這款新的硬件芯片將有助于大型企業(yè)使用英特爾Xeon處理器。

在Hot Chips大會(huì)上,他們提供了這款A(yù)I芯片的更多設(shè)計(jì)細(xì)節(jié)。

英特爾首款A(yù)I芯片設(shè)計(jì)細(xì)節(jié)

英特爾正采取數(shù)項(xiàng)不同的舉措,通過其“無處不在的AI”('AI everywhere)戰(zhàn)略,擴(kuò)大其在蓬勃發(fā)展的AI市場(chǎng)的影響力。該公司廣泛的產(chǎn)品包括GPU,FPGA和定制ASIC,用于應(yīng)對(duì)AI領(lǐng)域的不同挑戰(zhàn),其中一些解決方案專為計(jì)算密集型的訓(xùn)練任務(wù)而設(shè)計(jì),用于為目標(biāo)識(shí)別、語音翻譯、語音合成等工作負(fù)載創(chuàng)建復(fù)雜的神經(jīng)網(wǎng)絡(luò),將產(chǎn)生的訓(xùn)練模型作為輕量級(jí)代碼運(yùn)行的單獨(dú)解決方案稱為推理。

英特爾的Spring Hill Nervana神經(jīng)網(wǎng)絡(luò)推理處理器(NNP-I) 1000,我們?cè)谙挛闹泻?jiǎn)稱為NNP-I,用于處理數(shù)據(jù)中心的輕量級(jí)推理工作負(fù)載。這款芯片足夠小,可以安裝在標(biāo)準(zhǔn)的M.2設(shè)備上,然后插入主板上的標(biāo)準(zhǔn)M.2端口,從而將Xeon服務(wù)器從推理密集型工作負(fù)載中解放出來,將更大的芯片釋放出來用于一般計(jì)算任務(wù)。用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)處理器 (NPP-T)作為英特爾的Nervana解決方案用于訓(xùn)練工作負(fù)載,但這兩種設(shè)備的底層架構(gòu)有很大的不同。

英特爾修改了10nm Ice Lake處理器,去掉了兩個(gè)計(jì)算核心和圖形引擎,以適應(yīng)12個(gè)推理計(jì)算引擎(ICE)。ICE加速器具有基于硬件的單元間同步,與兩個(gè)IA核共享一個(gè)連貫的結(jié)構(gòu)和24MB的L3緩存,這兩個(gè)IA核具有Sunny Cove微架構(gòu)。

IA核心是標(biāo)準(zhǔn)的Ice Lake核心,支持AVX-512和VNNI指令,可加速卷積神經(jīng)網(wǎng)絡(luò),而一個(gè)完全集成的電壓調(diào)節(jié)模塊(FIVR)動(dòng)態(tài)地向組件供電,將更多的功率預(yù)算分配給最活躍的on-die單元。該芯片配備了兩個(gè)LPDDR4X內(nèi)存控制器,連接到封裝內(nèi)存,你可以將其視為M.2 PCB左下方的單個(gè)組件??刂破魈峁└哌_(dá)4.2 GT/s (68 GB/s)的吞吐量,并支持 in-band ECC。

英特爾尚未透露LPDDR4的容量,也沒有透露有關(guān)M.2設(shè)備的其他細(xì)節(jié)。我們知道英特爾將這個(gè)軟件包安裝在不同形式的插入卡上,比如上面的M.2版本,它可以插入服務(wù)器主板上的標(biāo)準(zhǔn)M.2端口,或者插入標(biāo)準(zhǔn)的PCIe插槽的更大的附加卡。與谷歌的TPU等為人AI設(shè)計(jì)的定制芯片不同,這款設(shè)備基本上與所有現(xiàn)有的現(xiàn)代服務(wù)器硬件兼容。這種方法也是可擴(kuò)展的:你可以根據(jù)需要向服務(wù)器添加盡可能多的NNP-I,特別是對(duì)于包含多個(gè)M.2端口的PCIe提升板。

該設(shè)備通過PCIe 3.0 x4或x8接口與主機(jī)通信,但不使用NVMe協(xié)議。相反,它作為一個(gè)標(biāo)準(zhǔn)的PCIe設(shè)備運(yùn)行。英特爾將提供一種軟件,可以將推理“作業(yè)”完全編排到加速器上,當(dāng)工作完成時(shí),該軟件將通知Xeon CPU。卸載消除了Xeon與其他類型的加速器在PCIe總線上的來回通信,這對(duì)CPU來說是一種負(fù)擔(dān),因?yàn)樗鼤?huì)生成中斷并需要數(shù)據(jù)移動(dòng)。相反,NNP-I是一個(gè)獨(dú)立的系統(tǒng),具有自己的I/O調(diào)節(jié)(PCH),允許它訪問處理所需的數(shù)據(jù)。

該設(shè)備可以支持從10W到50W的不同功率范圍,這對(duì)性能有影響。M.2接口的15W限制阻礙了插入標(biāo)準(zhǔn)M.2插座的設(shè)備的功率傳輸,但NNP-I在更大的外接卡中可以在最高TDP額定值下運(yùn)行,這意味著它們提供了更好的性能。在INT8操作中,TOP/s的范圍從48到92。根據(jù)配置的TDP,芯片的效率為每瓦特2~4.8 TOP/s,但該指標(biāo)不包括總包功率。

推理計(jì)算引擎內(nèi)部

深入研究ICE引擎可以發(fā)現(xiàn),每個(gè)ICE單元都有額外的4MB SRAM,有助于減少芯內(nèi)數(shù)據(jù)移動(dòng),這在功耗和時(shí)間方面總是比實(shí)際的計(jì)算操作更昂貴。深度學(xué)習(xí)計(jì)算網(wǎng)格(DL Compute Grid)是一個(gè)張量引擎,通過數(shù)據(jù)和控制結(jié)構(gòu)連接到SRAM和VP6 DSP。DSP引擎可以用于沒有專門針對(duì)固定功能DL計(jì)算網(wǎng)格進(jìn)行優(yōu)化的算法。此外,其他代碼可以在Ice Lake核心上使用VNNI運(yùn)行,使多個(gè)模型可以同時(shí)在設(shè)備上運(yùn)行,也為快速移動(dòng)的AI空間提供了一些必需的前向兼容性。

DL Compute Grid支持FP16和INT8,但也支持INT4、2和1,以支持未來可能對(duì)AI算法進(jìn)行的調(diào)整。令人驚訝的是,它不支持bfloat16。通過調(diào)整工作負(fù)載在ICE單元之間的分布方式,可以優(yōu)化fabric的帶寬或延遲,如下表所示。

這里我們可以看到DL Compute Grid的特寫視圖,它被設(shè)計(jì)得很靈活,以最大化其4D并行計(jì)算能力,以及用于矢量處理的Tensilicon Vision P6 DSP。Tensilica DSP引擎是一個(gè)廣泛的VLIW機(jī)器,支持INT8, 16, 32,和FP16。該引擎是完全可編程的,并具有一個(gè)雙向管道和DL Compute Grid,可在兩個(gè)硬件同步單元之間快速傳輸數(shù)據(jù)。。

芯片的內(nèi)存子系統(tǒng)

回到內(nèi)存子系統(tǒng),可以看到每個(gè)計(jì)算單元中所做的設(shè)計(jì)決策背后的許多合理化。這里我們可以看到硬件控制的L3緩存被分成8個(gè)3MB的片段,在AI核心和ICE單元之間共享。該設(shè)計(jì)經(jīng)過優(yōu)化,使數(shù)據(jù)盡可能接近計(jì)算引擎,并具有四個(gè)不同的層。

圖表左側(cè)的一系列blocks量化了通過內(nèi)存結(jié)構(gòu)的每一層移動(dòng)數(shù)據(jù)的延遲。從DRAM到DLCompute Grid的數(shù)據(jù)傳輸被設(shè)置為基線,我們可以看到分層結(jié)構(gòu)中的每一層將數(shù)據(jù)傳輸?shù)膃ngine的速度是多么快。從L3緩存訪問比DRAM快10倍,而存儲(chǔ)在DL Compute Grid中的數(shù)據(jù)比DRAM快1000倍。

總之,分層設(shè)計(jì)允許Xeon向設(shè)備卸載幾種不同類型的神經(jīng)網(wǎng)絡(luò),每一層都支持一定的精度。請(qǐng)注意,上面的金字塔是根據(jù)每瓦特的性能排列的。

英特爾與ResNet50共享性能數(shù)據(jù),運(yùn)行速度為每秒3600 次推理,芯片設(shè)置為10W TDP。這相當(dāng)于每瓦特4.8 TOP/s的效率測(cè)量,符合公司的設(shè)計(jì)目標(biāo)。值得注意的是,芯片在較低的TDP范圍內(nèi)效率更高,因此在較高的性能設(shè)置下效率可能會(huì)有所不同。這些數(shù)字也只適用于ASIC,不包括整個(gè)M.2設(shè)備的功耗。英特爾表示,未來將分享更多的性能數(shù)據(jù)。

英特爾提供了一個(gè)編譯器,可以為NNP-I的加速器定制代碼,并正在與Facebook合作,以確保Glo編譯器也支持NNP-I的加速器。Facebook是英特爾在開發(fā)期間的“定義”合作伙伴。該設(shè)備還支持所有標(biāo)準(zhǔn)框架,如PyTorch和TensorFlow等,幾乎沒有任何更改。英特爾堅(jiān)持認(rèn)為,任何能夠使用Xeons進(jìn)行推理的人都可以使用NNP-I。

在數(shù)據(jù)中心,推理應(yīng)用遠(yuǎn)比訓(xùn)練普遍,價(jià)格合理的低功耗設(shè)備將集體銷售給超大規(guī)模和云服務(wù)提供商(CSP),意思是這可以成為英特爾的一個(gè)利潤豐厚的細(xì)分市場(chǎng)。該公司本身并沒有打算將這些設(shè)備推向零售市場(chǎng),但確實(shí)希望CSP在未來通過基于云的實(shí)例來公開它們。

英特爾已經(jīng)研發(fā)了兩代NNP-I。該公司將在今年年底前開始批量生產(chǎn),NNP-I已經(jīng)開始提供樣品。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    460

    文章

    52520

    瀏覽量

    440900
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    10196

    瀏覽量

    174683
  • AI處理器
    +關(guān)注

    關(guān)注

    0

    文章

    94

    瀏覽量

    9744

原文標(biāo)題:英特爾首款A(yù)I芯片終于面世!10nm工藝,以色列團(tuán)隊(duì)設(shè)計(jì)細(xì)節(jié)曝光

文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    直擊Computex2025:英特爾重磅發(fā)布新一代GPU,圖形和AI性能躍升3.4倍

    5月19日,Computex 2025上,英特爾發(fā)布最新全新圖形處理器(GPU)和AI加速
    的頭像 發(fā)表于 05-20 12:27 ?4462次閱讀
    直擊Computex2025:<b class='flag-5'>英特爾</b>重磅<b class='flag-5'>發(fā)布</b>新一代GPU,圖形和<b class='flag-5'>AI</b>性能躍升3.4倍

    英特爾發(fā)布全新GPU,AI和工作站迎來新選擇

    Computex 2025上,英特爾發(fā)布為專業(yè)人士和開發(fā)者設(shè)計(jì)的全新圖形處理器(GPU)和AI加速
    發(fā)表于 05-20 11:03 ?1514次閱讀

    自然語言提示原型英特爾Vision大會(huì)上首次亮相

    英特爾Vision大會(huì)上,Network Optix首次展示自然語言提示原型,該方案將重新定義視頻管理,為各行各業(yè)由AI驅(qū)動(dòng)的洞察和效率
    的頭像 發(fā)表于 04-09 09:30 ?419次閱讀

    英特爾CES 2025發(fā)布全新酷睿Ultra處理器

    近日,萬眾矚目的國際消費(fèi)電子展(CES 2025)上,英特爾再次展現(xiàn)科技領(lǐng)域的領(lǐng)導(dǎo)地位,發(fā)布
    的頭像 發(fā)表于 01-10 13:57 ?1276次閱讀

    英特爾18A制程芯片Panther Lake處理器下半年發(fā)布

    近日,英特爾于CES 2025展會(huì)上的演講中,公司臨時(shí)聯(lián)席CEO Michelle Johnston透露了一個(gè)重要信息:英特爾
    的頭像 發(fā)表于 01-08 10:23 ?633次閱讀

    英特爾帶您解鎖云上智算新引擎

    近日舉辦的2024火山引擎FORCE原動(dòng)力大會(huì)上英特爾與火山引擎聯(lián)合發(fā)布基于英特爾 至強(qiáng) 6 性能核
    的頭像 發(fā)表于 12-23 14:05 ?952次閱讀

    英特爾與火山引擎飛連攜手升級(jí)AI時(shí)代企業(yè)IT管理體驗(yàn)

    AI 技術(shù)的推動(dòng)下,企業(yè) IT 管理正經(jīng)歷一場(chǎng)革命。日前,火山引擎飛連新品發(fā)布會(huì)成功舉辦。英特爾受邀參與此次活動(dòng),并在會(huì)上展示
    的頭像 發(fā)表于 11-14 17:17 ?947次閱讀

    英特爾向聯(lián)想交付18A工藝CPU樣品

    2024聯(lián)想創(chuàng)新科技大會(huì)上英特爾CEO帕特·基辛格(Pat Gelsinger)向聯(lián)想交付了采用最先進(jìn)Intel 18A(1.8nm
    的頭像 發(fā)表于 10-18 16:57 ?1249次閱讀

    英特爾至強(qiáng)品牌新戰(zhàn)略發(fā)布

    品牌是企業(yè)使命和發(fā)展的象征,也承載著產(chǎn)品特質(zhì)和市場(chǎng)認(rèn)可。英特爾GTC科技體驗(yàn)中心的英特爾 至強(qiáng) 6 能效核處理器發(fā)布會(huì)上,
    的頭像 發(fā)表于 10-12 10:13 ?861次閱讀

    英特爾攜手百度智能云加速AI落地

    2024年9月25日-26日舉辦的2024百度云智大會(huì)上,作為大會(huì)的聯(lián)合主辦方,英特爾帶來了AI全棧軟硬件方案,深入講解了如何基于
    的頭像 發(fā)表于 10-12 10:08 ?854次閱讀

    英特爾發(fā)布酷睿Ultra 200S系列臺(tái)式機(jī)處理器

    近日,英特爾正式推出了酷睿Ultra 200S系列處理器家族,為臺(tái)式機(jī)平臺(tái)帶來了全新的AI PC功能。此次發(fā)布處理器家族涵蓋了5
    的頭像 發(fā)表于 10-11 17:36 ?922次閱讀

    英特爾發(fā)布至強(qiáng)6性能核處理器,攜手生態(tài)加速數(shù)據(jù)中心算力升級(jí)

    9月26日,英特爾正式發(fā)布英特爾? 至強(qiáng)? 6性能核處理器(代號(hào)Granite Rapids),為AI、數(shù)據(jù)分析、科學(xué)計(jì)算等計(jì)算密集型業(yè)務(wù)提
    的頭像 發(fā)表于 09-27 10:54 ?7323次閱讀
    <b class='flag-5'>英特爾</b><b class='flag-5'>發(fā)布</b>至強(qiáng)6性能核<b class='flag-5'>處理器</b>,攜手生態(tài)加速數(shù)據(jù)中心算力升級(jí)

    英特爾發(fā)布至強(qiáng)6處理器產(chǎn)品

    以“綠色向新,釋放新質(zhì)生產(chǎn)力”為主題的英特爾至強(qiáng)6能效核處理器新品發(fā)布會(huì)在北京舉行。會(huì)上,英特爾重磅推出首
    的頭像 發(fā)表于 09-23 15:48 ?685次閱讀

    英特爾亮相2024云棲大會(huì),共話AI時(shí)代發(fā)展新機(jī)

    近日,英特爾亮相2024云棲大會(huì),與阿里云及一眾行業(yè)合作伙伴共同探討AI時(shí)代云計(jì)算的前沿技術(shù)和在諸多領(lǐng)域的先進(jìn)解決方案。會(huì)上,英特爾預(yù)覽
    的頭像 發(fā)表于 09-23 09:18 ?611次閱讀
    <b class='flag-5'>英特爾</b>亮相2024云棲<b class='flag-5'>大會(huì)</b>,共話<b class='flag-5'>AI</b>時(shí)代發(fā)展新機(jī)

    英特爾至強(qiáng)6系列處理器:全能核心,滿足各種工作需求

    英特爾去年Hot Chips大會(huì)上宣布,全新至強(qiáng)6系列處理器分為全能效核與全性能核兩大產(chǎn)品線,
    的頭像 發(fā)表于 08-30 15:15 ?1013次閱讀