chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

自研服務(wù)器芯片或許沒有那么大優(yōu)勢

lPCU_elecfans ? 來源:電子發(fā)燒友網(wǎng) ? 2023-04-06 10:07 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

自研芯片在當(dāng)下似乎已經(jīng)成了一種潮流,無論是消費電子廠商、互聯(lián)網(wǎng)公司還是汽車廠商,都在拿自研芯片做文章。作為時刻都在與計算打交道的云端,自然也參與其中,甚至是先進工藝自研芯片的主力軍。

自研芯片能省下多少錢?

早在芯片產(chǎn)業(yè)有布局,或者以收購來掌握芯片設(shè)計實力的云服務(wù)廠商,幾乎都選擇了自研服務(wù)器芯片這條路線,比如亞馬遜、谷歌、阿里巴巴等等。自研芯片的范圍也從網(wǎng)絡(luò)芯片到通用計算的CPU,再到用于AI計算的ASIC芯片。

亞馬遜就靠著自研芯片省下了一大筆成本,這也是其他云服務(wù)廠商目前都沒能復(fù)制的成功。首先自研芯片通過架構(gòu)上的創(chuàng)新,為其定制化實例提供了更高的性能,比如Nitro芯片靠卸載任務(wù)可以多省出兩個CPU內(nèi)核;其次,對于某些特定的工作負載來說,自研芯片帶來了更容易把握的戰(zhàn)略控制以及硬件鎖定;最后,自然也省去了找第三方fabless設(shè)計公司的成本。

考慮到云服務(wù)廠商在硬件投入上的規(guī)模,以及亞馬遜作為全球第一大云服務(wù)廠商的體量,其中省下的成本還是相當(dāng)龐大的。這也是亞馬遜走自研芯片可行的原因,其他云服務(wù)廠商或許能通過自研把設(shè)計成本壓下去,但制造成本絕對沒法像亞馬遜一樣壓這么低,這也是為何AWS過去能做到頻繁降價。

AI時代下自研芯片優(yōu)勢有,但不多

亞馬遜在收購后,接連推出了Trainium和Inferentia這兩大訓(xùn)練和推理加速器,并將其集成到自己的云端實例中去,以優(yōu)異的性能為客戶提供高性價比的AI硬件方案。但這似乎并沒有為其在最近的AI熱潮中帶來優(yōu)勢,反倒是微軟憑借英偉達GPU率先以ChatGPT開啟了這場惡戰(zhàn),谷歌的Bard也緊隨其后。

亞馬遜則選擇了與Hugging Face合作,作為其首選云供應(yīng)商,用戶可以借助AWS上的先進工具,比如SageMaker托管服務(wù),以及Trainium和Inferentia硬件,去訓(xùn)練、微調(diào)和部署模型,從而為社區(qū)創(chuàng)造更加開放易用的AI。

但事實上是,這一合作激起的水花很快就被淹沒在了如傾盆大雨般落地的AI應(yīng)用中。而且對于Hugging Face來說,他們想要打造的是開放式的生成式AI模型,也就是說其他廠商也都能從中獲益,也就是兩家共同提到的機器學(xué)習(xí)民主化。

況且在部署上,早在與亞馬遜合作之前,Hugging Face就已經(jīng)在2022年與微軟Azure達成合作,在Azure的ML終結(jié)點上部署Hugging Face的機器學(xué)習(xí)推理服務(wù)。所以這次合作即便充分利用了亞馬遜的自研AI芯片,但給其帶來的優(yōu)勢并不算大。無論是在性能還是在軟件生態(tài)上,現(xiàn)有的自研芯片都存在如鯁在喉的地方,而這不僅局限于亞馬遜這樣的大廠,不少初創(chuàng)AI芯片公司也都或多或少面臨這樣的困境。

結(jié)語

其實自研芯片也并非真的毫無靈活性可言,比如亞馬遜的Graviton和阿里的倚天710,雖說是自研芯片,但用到的畢竟還是Arm的Neoverse公版方案,還有不少第三方方案也是如此,比如英偉達的Grace、Ampere Computing的Altra等等。

這樣一來其實開發(fā)靈活性依然很高,比如英偉達為了給Grace做鋪墊,也對同類產(chǎn)品的軟件棧提供了支持。比如英偉達的HPC SDK全面支持AWS的Graviton 3,也支持對SVE和NEON的自動矢量化。而英偉達推出的Arm HPC開發(fā)套件,也是由Ampere的Altra Q80-30 CPU與A100 GPU組合打造的,與Grace芯片共用同一套軟件環(huán)境。

只不過在AI領(lǐng)域,這樣的自研路線優(yōu)勢會更小一點,畢竟現(xiàn)在AI模型與算法發(fā)展迅速,自研GPU有著各種難以突破的專利壁壘,自研ASIC又存在迭代適應(yīng)和軟件生態(tài)移植的問題。而這對于云服務(wù)廠商這種為客戶賦能更快產(chǎn)品上市速度的企業(yè)來說,或許在AI仍在快速演進的當(dāng)下,GPU會是更優(yōu)解,這也是云服務(wù)廠商即便選擇了自研AI芯片,主打的卻依然是GPU實例的原因。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    462

    文章

    53492

    瀏覽量

    458451
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    835

    瀏覽量

    39707
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    13

    文章

    10077

    瀏覽量

    90817

原文標(biāo)題:自研服務(wù)器芯片或許沒有那么大優(yōu)勢

文章出處:【微信號:elecfans,微信公眾號:電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    NTP自動校時服務(wù)器的核心優(yōu)勢介紹

    NTP自動校時服務(wù)器是一種基于網(wǎng)絡(luò)的時間同步設(shè)備,它通過與高精度時間源(如GPS、原子鐘或國家授時中心)進行通信,獲取準(zhǔn)確的時間信息,并將其分發(fā)到網(wǎng)絡(luò)中的各個設(shè)備。其核心優(yōu)勢在于能夠?qū)崿F(xiàn)毫秒級甚至
    的頭像 發(fā)表于 11-11 15:28 ?166次閱讀
    NTP自動校時<b class='flag-5'>服務(wù)器</b>的核心<b class='flag-5'>優(yōu)勢</b>介紹

    什么是服務(wù)器虛擬化?一文讀懂原理、優(yōu)勢與實戰(zhàn)部署

    什么是服務(wù)器虛擬化?當(dāng)企業(yè)服務(wù)器CPU利用率長期低于15%,卻仍需不斷采購新硬件應(yīng)對業(yè)務(wù)增長時,一場基礎(chǔ)設(shè)施領(lǐng)域的革命早已悄然發(fā)生——服務(wù)器虛擬化。這項技術(shù)通過將物理服務(wù)器劃分為多個獨
    的頭像 發(fā)表于 08-25 10:52 ?857次閱讀
    什么是<b class='flag-5'>服務(wù)器</b>虛擬化?一文讀懂原理、<b class='flag-5'>優(yōu)勢</b>與實戰(zhàn)部署

    高端芯片,服務(wù)器芯片傳來好消息!

    電子發(fā)燒友網(wǎng)報道(文/黃晶晶)當(dāng)前,處理已經(jīng)跨過了能用的階段,逐漸走向好用,但無論是消費級還是服務(wù)器級都面臨著如何在性能上接近國外高端產(chǎn)品,以及生態(tài)上如何更加完善的問題。國內(nèi)廠商
    的頭像 發(fā)表于 05-18 09:25 ?7413次閱讀
    高端<b class='flag-5'>芯片</b><b class='flag-5'>自</b><b class='flag-5'>研</b>,<b class='flag-5'>服務(wù)器</b><b class='flag-5'>芯片</b>傳來好消息!

    RAKsmart服務(wù)器SEO優(yōu)化優(yōu)勢分析

    在RAKsmart服務(wù)器上搭建SEO網(wǎng)站,可以借助其基礎(chǔ)設(shè)施和服務(wù)特性,從技術(shù)層面優(yōu)化搜索引擎排名。以下是具體優(yōu)勢及分析,主機推薦小編為您整理發(fā)布RAKsmart服務(wù)器SEO優(yōu)化
    的頭像 發(fā)表于 04-22 10:12 ?455次閱讀

    新加坡服務(wù)器延遲大嗎?真相在這里#新加坡服務(wù)器 #服務(wù)器

    服務(wù)器
    jf_57681485
    發(fā)布于 :2025年04月18日 13:48:50

    NTP校時服務(wù)器 時鐘同步服務(wù)器

    服務(wù)器
    jf_75250307
    發(fā)布于 :2025年03月19日 20:56:34

    利用RAKsmart服務(wù)器托管AI模型訓(xùn)練的優(yōu)勢

    AI模型訓(xùn)練需要強大的計算資源、高效的存儲和穩(wěn)定的網(wǎng)絡(luò)支持,這對服務(wù)器的性能提出了較高要求。而RAKsmart服務(wù)器憑借其核心優(yōu)勢,成為托管AI模型訓(xùn)練的理想選擇。下面,AI部落小編為您具體分享。
    的頭像 發(fā)表于 03-18 10:08 ?510次閱讀

    服務(wù)器對比空間有什么優(yōu)勢和劣勢?

    服務(wù)器相比空間,優(yōu)勢在于提供更高管理權(quán)限、靈活可擴展的資源配置、卓越性能及更強安全性,適合有特定需求和技術(shù)背景的用戶。然而,云服務(wù)器成本較高,技術(shù)門檻也相對較高,且依賴穩(wěn)定互聯(lián)網(wǎng)連接。相比之下
    的頭像 發(fā)表于 02-21 10:42 ?621次閱讀

    美國大帶寬服務(wù)器租用有哪些優(yōu)勢

    美國大帶寬服務(wù)器租用具有多方面的優(yōu)勢,以下是具體的優(yōu)勢分析,主機推薦小編為您整理發(fā)布美國大帶寬服務(wù)器租用有哪些優(yōu)勢
    的頭像 發(fā)表于 01-23 09:22 ?691次閱讀

    雙北斗校時服務(wù)器、雙北斗授時服務(wù)器、雙北斗對時服務(wù)器、雙北斗NTP服務(wù)器

    雙北斗時間服務(wù)器具有許多優(yōu)勢,使其成為時間同步領(lǐng)域的佼佼者。首先,北斗衛(wèi)星導(dǎo)航系統(tǒng)具有高精度、高穩(wěn)定性和高實時性的特點,為北斗時間服務(wù)器提供了可靠的時間源。其次,北斗時間服務(wù)器采用了先
    的頭像 發(fā)表于 01-21 09:24 ?768次閱讀
    雙北斗校時<b class='flag-5'>服務(wù)器</b>、雙北斗授時<b class='flag-5'>服務(wù)器</b>、雙北斗對時<b class='flag-5'>服務(wù)器</b>、雙北斗NTP<b class='flag-5'>服務(wù)器</b>

    進迭時空服務(wù)器芯片發(fā)布:64 位RISC-V架構(gòu)、12nm

    。據(jù)介紹,V100服務(wù)器芯片采用了公司的RISC-VCPU核心X100、支持中斷虛擬化的AIA和APLIC、支持內(nèi)存虛擬化的IOMMU、支持安全功能的IOPMP、支
    的頭像 發(fā)表于 01-09 18:04 ?1899次閱讀
    進迭時空<b class='flag-5'>服務(wù)器</b><b class='flag-5'>芯片</b>發(fā)布:64 位RISC-V架構(gòu)、12nm

    國外多ip服務(wù)器核心優(yōu)勢

    國外多IP服務(wù)器是指配備有多個獨立IP地址的服務(wù)器,這些服務(wù)器通常位于國外。主機推薦小編為您整理發(fā)布國外多ip服務(wù)器核心優(yōu)勢,以下是對國外多
    的頭像 發(fā)表于 01-08 09:55 ?676次閱讀

    服務(wù)器還是服務(wù)器好用一些?

    服務(wù)器還是服務(wù)器好用一些?云服務(wù)器服務(wù)器各有優(yōu)勢。服務(wù)器作為獨立物理設(shè)備,適合需高性能、物理
    的頭像 發(fā)表于 12-26 10:08 ?870次閱讀

    服務(wù)器托管好還是云服務(wù)器好一些?

    服務(wù)器托管和云服務(wù)器各有優(yōu)勢,選擇取決于業(yè)務(wù)需求、預(yù)算和長遠規(guī)劃。服務(wù)器托管提供穩(wěn)定性能和高安全性,適合對性能有嚴(yán)格要求的場景,但成本較高且擴展性有限。云
    的頭像 發(fā)表于 12-24 11:34 ?803次閱讀

    美國云服務(wù)器主機優(yōu)勢和缺點

    美國云服務(wù)器主機在全球云計算市場中占據(jù)重要地位,美國云服務(wù)器主機優(yōu)勢和缺點都是什么?主機推薦小編為您整理發(fā)布美國云服務(wù)器主機優(yōu)勢和缺點,其優(yōu)
    的頭像 發(fā)表于 12-02 16:31 ?724次閱讀