chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從SmartNIC走向DPU,專用加速器的崛起

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚(yáng) ? 2022-06-25 01:17 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在計算架構(gòu)和負(fù)載變得愈發(fā)復(fù)雜和多樣的情況下,處理器廠商紛紛開始了自己的造詞之路。要想體現(xiàn)產(chǎn)品定位,又要讓大家對其縮寫印象深刻,所以PU成了最常見的后綴。現(xiàn)在的處理器家族中已經(jīng)有了不少成員,除了常見的CPU、GPU、APU之外,按照處理對象的不同,在人工智能深度學(xué)習(xí)的崛起下,NPU和TPU也紛紛出現(xiàn)。
DPU模糊的定義
不過這些已經(jīng)定義明確的處理單元并不是我們今天的主角,而是找到了全新定義的xPU。什么是xPU,其實(shí)很難定義,這其中有DPU(數(shù)據(jù)處理單元)、IPU(基礎(chǔ)設(shè)施處理單元)和FAC(功能加速卡),這些剛冒頭的產(chǎn)品就是xPU,它們代表了從SmartNIC演化過來并超越其定位的新時代加速器硬件。除了SmartNIC以外,這些xPU雖然命名不同,但其實(shí)很多時候,它們是完全重合的,現(xiàn)在為了方便,很多時候也以DPU統(tǒng)稱。
BlueField-3 DPU / 英偉達(dá)
這樣說DPU的定義還是很模糊,我們就從其特點(diǎn)來看。SmartNIC往往需要主CPU來完成管理工作,DPU雖然往往也屬于一個主系統(tǒng)中的部件,但卻可以做到完全獨(dú)立,可以部署到邊緣、JBOF存儲和網(wǎng)關(guān)上,并為它們提供網(wǎng)絡(luò)接口和虛擬功能。它的另一項(xiàng)職責(zé)就是幫CPU減輕負(fù)擔(dān),節(jié)省服務(wù)器上有限的處理器核心。
因此,盡管DPU看起來和一些PCIe智能網(wǎng)卡或GPU差不多,但它本質(zhì)上就是一個為數(shù)據(jù)流和數(shù)據(jù)包處理提供加速、卸載和本地服務(wù)的微型服務(wù)器,在服務(wù)器中提供一個獨(dú)立單元的同時,又不乏協(xié)助其他單元的處理能力。
什么樣的任務(wù)需要DPU?
至于為什么要用到DPU,這就不得不談到日益增加的數(shù)據(jù)密集型任務(wù)了,短視頻、實(shí)時金融交易的興起,高帶寬的數(shù)據(jù)流要求數(shù)據(jù)中心對網(wǎng)絡(luò)、存儲、安全和AI/ML進(jìn)行高效的處理。比如谷歌在數(shù)年前就提到,在他們的數(shù)據(jù)中心里,有三分之一的任務(wù)都是數(shù)據(jù)密集型的,這些都是交由底層基礎(chǔ)設(shè)施完成的,而且這類任務(wù)的占比是在逐步增加的。因?yàn)镃PU和GPU這樣的通用計算單元并不擅長,所以專門針對這類任務(wù)優(yōu)化的DPU就得出來擔(dān)此大任了。其次就是企業(yè)數(shù)據(jù)中心和公共數(shù)據(jù)中心也想獲得超大規(guī)模巨頭廠商那樣的效率,做到這一點(diǎn)就必須解聚那些昂貴的硬件資源,比如SSD、GPU等,DPU為數(shù)據(jù)中心的解聚提供了極高的效率,優(yōu)化了擁有成本、占用面積和安全性。
DPU可以完成各個方面的卸載與加速,尤其是在網(wǎng)絡(luò)、安全和存儲這三大塊。在網(wǎng)絡(luò)端,DPU可以有效實(shí)現(xiàn)虛擬路由器,輔助數(shù)據(jù)包交換、定義交換規(guī)則等工作,減少延遲的同時還能夠提高吞吐量;在安全上,DPU可以用于下一代防火墻(NGFW)的加速,完成數(shù)據(jù)包過濾、內(nèi)容檢測和報頭檢測與重寫,將性能提高數(shù)倍以上;在存儲上,DPU可以卸載高速NVMe/TCP,進(jìn)一步提升存儲性能。最關(guān)鍵的是,這三者都能有效地接管CPU控制面的負(fù)載,節(jié)省CPU本身的計算核心。

基于DPU的服務(wù)器存儲方案 / Fungible
以上是DPU為服務(wù)器提供的加強(qiáng),主要以PCIe加速卡的形式來提供,此外,還有單獨(dú)的DPU存儲產(chǎn)品。傳統(tǒng)的CPU存儲方案中,整個系統(tǒng)由DRAM、x86 CPU、SmartNIC、加速器和PCIe接口組成,而在未來的存儲方案,比如高性能存儲、計算型存儲和軟件定義網(wǎng)絡(luò)應(yīng)用的存儲中,單片集成的方案更能滿足要求,這就是與DRAM結(jié)合的DPU存儲產(chǎn)品。這種方案不僅可以提升IOPS,也能進(jìn)一步降低能耗。
正因如此,數(shù)據(jù)中心會用DPU來完成數(shù)據(jù)密集型任務(wù),從而減少功耗、擁有成本和占用空間。此外,他們也會用到基于DPU的存儲、GPU/TPU資源池和主機(jī)卡,來高效地完成高成本硬件資源的解聚。
DPU市場混戰(zhàn)
在不少廠商對DPU的宣傳中,往往都會提到這將是除了CPU和GPU之外的第三大硬件。大家可能覺得類似的承諾,好像一些AI處理器也有提到,但市面上還是GPU占據(jù)主導(dǎo)地位,DPU又會有何不同呢?事實(shí)證明,市場對DPU的信心很足,這我們從入局DPU的廠商就能看出。
云霄DPU / 云豹智能
如今制造DPU的企業(yè)分為三種,一是初創(chuàng)公司,比如:云豹智能、星云智聯(lián)、中科馭數(shù)、云脈芯聯(lián)、芯啟源、大禹智芯、Fungible等;二是市面上一些已有的服務(wù)器巨頭,比如AMD/Xilinx、英特爾、Marvel、英偉達(dá);三是CSP(云服務(wù)供應(yīng)商)廠商,比如亞馬遜AWS、微軟Azure、阿里云等等。后者更多是負(fù)責(zé)設(shè)計或者聯(lián)合設(shè)計這些xPU,好專用于自己的云服務(wù)器。最終售賣這些DPU的除了DPU廠商外,還有基礎(chǔ)設(shè)施的OEM和ODM,增值分銷商和集成方案廠商,CSP廠商在售賣服務(wù)器的時候,自然也會以間接的方式來體現(xiàn)DPU的價值。
隨著Mellanox被英偉達(dá)收購,Pensando被AMD收購,而Fungible的DPU主要針對存儲加速和卸載,雖然沒有被收購,但也收獲了軟銀的主導(dǎo)的融資。國內(nèi)的DPU廠商同樣備受青睞,比如騰訊屢次投資的云豹智能,字節(jié)跳動投資的云脈芯聯(lián),美團(tuán)和百度投資的星云智聯(lián)等,這些投資方要么是CSP,要么擁有超大規(guī)模的數(shù)據(jù)中心,他們不像其他CSP大廠,硬件設(shè)計能力缺乏或有限,卻也看到了DPU的前景。
DPU并不完美
即便大廠看好,但從現(xiàn)狀來看,部署DPU對某些中小企業(yè)來說依然是雙刃劍。固然,DPU可以卸載基礎(chǔ)設(shè)施的任務(wù),減輕其負(fù)擔(dān),讓服務(wù)器的CPU空出來專注在應(yīng)用本身,更高的效率、更低的擁有成本和更高的安全性也都隨之而來,這些優(yōu)點(diǎn)是幾乎每個服務(wù)器都能享受到的。
但在部分服務(wù)器中,引入DPU不免增加了服務(wù)器的資本投入,而且相較于CPU、GPU這類硬件來說,它只能卸載和加速特定的負(fù)載,并不是一個通用加速單元。此外,部分服務(wù)器在增加DPU的情況下還是會導(dǎo)致功耗提升,在服務(wù)器、數(shù)據(jù)中心紛紛開始節(jié)能減排的當(dāng)下,如何權(quán)衡各個組件的功耗無疑會是一個大問題。還有就是相關(guān)的開發(fā),DPU的靈活性體現(xiàn)在可編程上,但這需要進(jìn)行一定的編程能力,加上目前每家廠商都在單干,也沒有一個標(biāo)準(zhǔn)的接口,所以在適配上絕對不輕松,這也是不少DPU選擇Arm作為核心架構(gòu)的原因,就是為了減少其編程的難度。
也正是因?yàn)橐陨线@些理由,從市場滲透率上來看,DPU主要是還是大規(guī)模的CSP廠商用的更多一點(diǎn),加上托管應(yīng)用的增加,這一塊未來也會驅(qū)動DPU產(chǎn)品的銷售。對于自研DPU的CSP來說,他們肯定會繼續(xù)加大這方面的投入,進(jìn)一步降低成本,而對于第三方廠商來說,英偉達(dá)、AMD和英特爾這些服務(wù)器CPU、GPU廠商無疑會更有優(yōu)勢,因?yàn)樗麄兲峁└偁幜Ω鼜?qiáng)的集成方案。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    13

    文章

    10106

    瀏覽量

    90963
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    408

    瀏覽量

    26255
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    23

    文章

    4047

    瀏覽量

    97756
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    工業(yè)級-專業(yè)液晶圖形顯示加速器RA8889ML3N簡介+顯示方案選型參考表

    本帖最后由 MTCN2013 于 2025-11-17 15:23 編輯 專業(yè)液晶圖形顯示加速器能夠有效減少對MCU運(yùn)算資源的占用,對于只需普通單片機(jī)運(yùn)算資源的儀器儀表來說,專業(yè)圖形顯示加速器
    發(fā)表于 11-14 16:03

    邊緣計算中的AI加速器類型與應(yīng)用

    人工智能正在推動對更快速、更智能、更高效計算的需求。然而,隨著每秒產(chǎn)生海量數(shù)據(jù),將所有數(shù)據(jù)發(fā)送至云端處理已變得不切實(shí)際。這正是邊緣計算中AI加速器變得不可或缺的原因。這種專用硬件能夠直接在邊緣設(shè)備上
    的頭像 發(fā)表于 11-06 13:42 ?473次閱讀
    邊緣計算中的AI<b class='flag-5'>加速器</b>類型與應(yīng)用

    亞馬遜云科技第三期創(chuàng)業(yè)加速器圓滿收官 助力初創(chuàng)釋放Agentic AI潛力 加速全球化進(jìn)程

    北京——2025年10月28日 ,亞馬遜云科技第三期創(chuàng)業(yè)加速器項(xiàng)目圓滿收官。35家入營企業(yè)齊聚一堂,分享了各自的業(yè)務(wù)發(fā)展情況,以及參與本期加速器的收獲及體驗(yàn)。第三期創(chuàng)業(yè)加速器持續(xù)聚焦AI,特別是前沿
    的頭像 發(fā)表于 10-29 15:18 ?782次閱讀

    航裕電源以大電流技術(shù)為國內(nèi)外超導(dǎo)加速器項(xiàng)目提供優(yōu)質(zhì)方案

    航裕電源:以大電流技術(shù),護(hù)航尖端科技 大科學(xué)裝置建設(shè)熱潮中,超導(dǎo)加速器作為探索微觀世界、推動前沿科研的 “國之重”,對供電系統(tǒng)的穩(wěn)定性、精度及功率提出極致要求。航裕電源以31.5kA、80kA萬安
    的頭像 發(fā)表于 10-12 15:02 ?1305次閱讀

    創(chuàng)客總部加入MathWorks加速器計劃

    全球領(lǐng)先的數(shù)學(xué)計算軟件開發(fā)商 MathWorks 日前宣布,創(chuàng)客總部已加入 MathWorks 加速器計劃。作為中關(guān)村科創(chuàng)孵化,創(chuàng)客總部致力于為人工智能創(chuàng)業(yè)企業(yè)、高校院所技術(shù)精英搭建推動與實(shí)體經(jīng)濟(jì)
    的頭像 發(fā)表于 08-22 10:00 ?860次閱讀

    Andes晶心科技推出新一代深度學(xué)習(xí)加速器

    高效能、低功耗 32/64 位 RISC-V 處理核與 AI 加速解決方案的領(lǐng)導(dǎo)供貨商—Andes晶心科技(Andes Technology)今日正式發(fā)表最新深度學(xué)習(xí)加速器 AndesAIRE AnDLA I370。此產(chǎn)品專為
    的頭像 發(fā)表于 08-20 17:43 ?1936次閱讀

    Arm神經(jīng)技術(shù)是業(yè)界首創(chuàng)在 Arm GPU 上增添專用神經(jīng)加速器的技術(shù),移動設(shè)備上實(shí)現(xiàn)PC級別的AI圖形性能

    Arm 神經(jīng)技術(shù)是業(yè)界首創(chuàng)在 Arm GPU 上增添專用神經(jīng)加速器的技術(shù),首次在移動設(shè)備上實(shí)現(xiàn) PC 級別的 AI 圖形性能,為未來的端側(cè) AI 創(chuàng)新奠定基礎(chǔ) 神經(jīng)超級采樣是 Arm 神經(jīng)技術(shù)的首款
    的頭像 發(fā)表于 08-14 17:59 ?2535次閱讀

    【免費(fèi)送書】AI芯片,過去走向未來:《AI芯片:前沿技術(shù)與創(chuàng)新未來》

    最重大的技術(shù)變革無疑就是大模型的橫空出世,人類的時間仿佛被裝上了加速器,ChatGPT到DeepSeek,大模型應(yīng)用密集出現(xiàn)、頻繁升級,這讓作者意識到有必要撰寫一本新的AI芯片圖書,以緊跟時代
    的頭像 發(fā)表于 07-29 08:06 ?880次閱讀
    【免費(fèi)送書】AI芯片,<b class='flag-5'>從</b>過去<b class='flag-5'>走向</b>未來:《AI芯片:前沿技術(shù)與創(chuàng)新未來》

    高壓放大器在粒子加速器研究中的應(yīng)用

    粒子加速器是現(xiàn)代科學(xué)研究中不可或缺的大型實(shí)驗(yàn)裝置,廣泛應(yīng)用于物理學(xué)、化學(xué)、材料科學(xué)、生物學(xué)等多個領(lǐng)域。其核心原理是利用電場和磁場對帶電粒子進(jìn)行加速和約束,使粒子達(dá)到極高的能量,從而為研究微觀世界
    的頭像 發(fā)表于 06-19 17:09 ?428次閱讀
    高壓放大器在粒子<b class='flag-5'>加速器</b>研究中的應(yīng)用

    粒子加速器?——?科技前沿的核心裝置

    粒子加速器全稱“荷電粒子加速器”,是一種利用電磁場在高真空環(huán)境中對帶電粒子(如電子、質(zhì)子、離子)進(jìn)行加速和控制,使其獲得高能量的特種裝置。粒子加速器技術(shù)現(xiàn)已發(fā)展成為集高能物理、核物理、
    的頭像 發(fā)表于 06-19 12:05 ?2620次閱讀
    粒子<b class='flag-5'>加速器</b>?——?科技前沿的核心裝置

    基于雙向塊浮點(diǎn)量化的大語言模型高效加速器設(shè)計

    本文提出雙向塊浮點(diǎn)(BBFP)量化格式及基于其的LLMs加速器BBAL,通過雙向移位與重疊位設(shè)計顯著降低量化誤差,提升非線性計算效率,實(shí)現(xiàn)精度、吞吐量和能效的顯著優(yōu)化,相關(guān)成果被國際頂級會議 DAC 2025 接收。
    的頭像 發(fā)表于 05-14 13:40 ?2127次閱讀
    基于雙向塊浮點(diǎn)量化的大語言模型高效<b class='flag-5'>加速器</b>設(shè)計

    第三期 “亞馬遜云科技創(chuàng)業(yè)加速器” 正式啟動

    新 助力生成式 AI 初創(chuàng)企業(yè)釋放潛能,加速全球化進(jìn)程 ? 北京 ——2025 年 4 月 18 日 亞馬遜云科技今日宣布,第三期 "亞馬遜云科技創(chuàng)業(yè)加速器" 正式啟動。亞馬遜云科技將聯(lián)合包括啟明創(chuàng)
    發(fā)表于 04-18 10:46 ?1008次閱讀

    小型加速器中子源監(jiān)測系統(tǒng)解決方案

    小型加速器中子源是一種基于先進(jìn)加速器技術(shù)的中子產(chǎn)生裝置,憑借體積小、成本低、安全性高的優(yōu)勢,在醫(yī)學(xué)、工業(yè)、科研、安全、能源等多個領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力和價值。無論是用于醫(yī)學(xué)領(lǐng)域的精準(zhǔn)放療,還是工業(yè)
    的頭像 發(fā)表于 03-13 11:19 ?1168次閱讀
    小型<b class='flag-5'>加速器</b>中子源監(jiān)測系統(tǒng)解決方案

    利用NVIDIA DPF引領(lǐng)DPU加速云計算的未來

    DPU 的強(qiáng)大功能,并優(yōu)化 GPU 加速計算平臺。作為一種編排框架和實(shí)施藍(lán)圖,DPF 使開發(fā)者、服務(wù)提供商和企業(yè)能夠無縫構(gòu)建 BlueField 加速的云原生軟件平臺。
    的頭像 發(fā)表于 01-24 09:29 ?1310次閱讀
    利用NVIDIA DPF引領(lǐng)<b class='flag-5'>DPU</b><b class='flag-5'>加速</b>云計算的未來

    EE-436:使用ADSP-SC59x/2159x高性能FIR/IIR加速器

    電子發(fā)燒友網(wǎng)站提供《EE-436:使用ADSP-SC59x/2159x高性能FIR/IIR加速器.pdf》資料免費(fèi)下載
    發(fā)表于 01-07 14:12 ?0次下載
    EE-436:使用ADSP-SC59x/2159x高性能FIR/IIR<b class='flag-5'>加速器</b>