chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

亞馬遜云科技re:Invent現(xiàn)場訪談:定制芯片將是大勢所趨

趣味科技v ? 來源:趣味科技v ? 作者:趣味科技v ? 2022-12-12 14:27 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

關(guān)注云服務(wù)市場的讀者朋友想必都知道,雖然芯片市場早已有著英特爾、AMD英偉達、高通、聯(lián)發(fā)科技等諸多強有力的廠商,但是近年來針對某些應(yīng)用,越來越多的云服務(wù)商開始推出自研芯片。

那么問題就來了:究竟是什么樣的原因,讓這些云服務(wù)商走上了定制芯片的道路?與大家熟知的傳統(tǒng)芯片相比,這些定制芯片究竟擁有哪些優(yōu)勢?對于芯片市場而言,這種變化又預(yù)示著怎樣的未來?

作為亞馬遜科技EC2產(chǎn)品管理總監(jiān),Chetan Kapoor主要負責人工智能、機器學習、高性能計算、圖像處理、游戲開發(fā)等業(yè)務(wù)。在2022亞馬遜云科技re:Invent全球大會現(xiàn)場,趣味科技通過對Chetan Kapoor的采訪,逐一揭曉了以上問題的答案。

亞馬遜云科技的三類計算服務(wù)

在計算領(lǐng)域,亞馬遜云科技的產(chǎn)品與服務(wù)主要有三個大的分類。

1、按需索?。阂訟mazon EC2為代表。Amazon EC2的核心能力,就是將重要資源分離開來并按需交給客戶??蛻魺o需在本地進行硬件堆砌,只需使用一個API或者在亞馬遜云科技的控制臺發(fā)出計算資源請求后,即可向客戶提供所需的服務(wù)。

2、無服務(wù)器:以Amazon Lambda系列為代表。該系列產(chǎn)品是一種無服務(wù)器計算組件,客戶無需管理計算資源,只需提供相關(guān)代碼并允許亞馬遜云科技執(zhí)行代碼,亞馬遜云科技就會圍繞該代碼提供一系列的相關(guān)應(yīng)用,客戶只需做好應(yīng)用即可。

3、容器計算:容器化計算的所有應(yīng)用都是基于容器,亞馬遜云科技提供了一系列可以幫助客戶開發(fā)容器化應(yīng)用的服務(wù);Amazon Fargate則讓客戶只需要創(chuàng)建容器,給出指令“這是我的容器,運行它”即可。

亞馬遜云科技的自研芯片之旅

Chetan Kapoor透露,之前亞馬遜云科技在很長時間里都是用英特爾、英偉達、AMD等合作伙伴的芯片,譬如Amazon EC2就是基于英特爾提供的芯片開發(fā)的,在機器學習領(lǐng)域采用了英偉達的GPU效果也非常不錯。然而后續(xù)亞馬遜云科技也不斷收到客戶的積極反饋,希望能夠有更加細化的產(chǎn)品服務(wù)可供選擇,幫助客戶圍繞某些應(yīng)用降本增效,提升性能,以及更好地匹配應(yīng)用需求。

“十年前亞馬遜云科技開始做自研芯片,剛開始是Amazon Nitro虛擬化芯片,后面又開始打造Amazon Graviton CPU芯片。過去的四到五年里,我們的重點都是持續(xù)構(gòu)建芯片來加速人工智能和機器學習應(yīng)用的開發(fā)?!盋hetan Kapoor介紹道,亞馬遜云科技的自研芯片之旅是從開發(fā)Amazon Nitro芯片開始,它是幫助用戶卸載虛擬化工作負載的專用芯片。通常硬件虛擬化的主要方式是讓虛擬化軟件在同一臺服務(wù)器上運行,支持客戶的工作負載。假設(shè)客戶的服務(wù)器是48核心,那么大概需要預(yù)留10%-15%的算力來運行虛擬化軟件。而Amazon Nitro是有自己獨立CPU的芯片,具備單獨完成虛擬化的能力,服務(wù)器就不需要承擔虛擬化軟件的資源開銷,可以給客戶交付更高性能的實例(云主機)。從此,亞馬遜云科技就走上了定制芯片之路,也開始開發(fā)通用處理器,其中第一個版本就是4年前推出的Amazon Graviton。

除此之外,人工智能與機器學習也是客戶向亞馬遜云科技反饋較多的領(lǐng)域,尤其是當前深度學習模型的應(yīng)用普及非常迅速,每年都會有十幾倍的增長,訓練這些深度學習模型需要消耗大量算力和成本,讓許多企業(yè)不堪重負。為了幫助客戶降低成本,亞馬遜云科技開始進行自研深度學習推理芯片的開發(fā),發(fā)布的第一款芯片就是2019年推出的Amazon Inferentia。隨后亞馬遜云科技又再接再厲推出了Amazon Trainium,主要針對機器學習訓練工作負載。

95067d82-79e2-11ed-8abf-dac502259ad0.jpg

在亞馬遜云科技2022 re:Invent全球大會上,亞馬遜云科技高級副總裁Peter DeSantis重磅發(fā)布了Nitro v5,其晶體管數(shù)量是前一代產(chǎn)品的2倍,提供了更多的計算性能,同時帶來了50%的DRAM內(nèi)存性能提升,2倍的PCle 帶寬提升,每秒數(shù)據(jù)包速率(PPS) 提高60%,延遲改善30%,每瓦性能提高40%。亞馬遜云科技CEO Adam Selipsky也在會上發(fā)布了下一代Amazon Inferentia2(簡稱Inf2),與Inf1實例相比可提供高3倍的計算性能、高4倍的吞吐量和低10倍的延遲。

9517a88c-79e2-11ed-8abf-dac502259ad0.jpg

定制芯片性能高成本低的奧秘

為什么與商用芯片相比,定制芯片既可以做到非常高的性能,又能夠做到非常低的成本?

Chetan Kapoor揭曉了其中的奧秘:“因為專用芯片把運算能力都給到了客戶,極大地提升了效率。以剛才介紹的Amazon Nitro為例,Nitro的特殊之處在于獨立性,整個虛擬化是在獨立的芯片和服務(wù)器運行,因此可以讓客戶得到服務(wù)器100%的算力資源,這也意味著客戶得到的計算性能更高、成本更低?!?/p>

在Amazon Nitro芯片研發(fā)取得成功之后,亞馬遜云科技就開始著手研發(fā)自己的處理器,希望能夠幫助客戶降低成本,提升效率。事實也證明,Amazon Graviton2的同規(guī)格實例性價比提升高達40%。而在人工智能與機器學習領(lǐng)域,亞馬遜云科技也專門研發(fā)了針對機器學習推理的芯片,可以帶來更好的性能、更低的成本以及更強的機器學習推理能力。與Amazon Graviton帶來的收益類似,客戶可以看到亞馬遜云科技提供的機器學習芯片無論是用于模型訓練還是日常生產(chǎn),性價比都要比其他同類產(chǎn)品高出40%-50%。

在2022亞馬遜云科技re:Invent全球大會上,亞馬遜云科技高級副總裁Peter DeSantis還發(fā)布了Amazon Graviton3E 芯片以及高性能計算實例HPC7g、C7gn,與現(xiàn)有的Graviton系列產(chǎn)品相比,新的Amazon Graviton3E芯片無論是性能還是精度都有著更高的提升,其中對依賴矢量計算指令的工作負載其性能提高了35%。

95343560-79e2-11ed-8abf-dac502259ad0.jpg

定制芯片將會成為未來主流

從2006年3月14日亞馬遜云科技發(fā)布第一個云存儲服務(wù)Amazon Simple Storage Service(簡稱S3)至今,云計算已經(jīng)走過了16年的發(fā)展歷程。然而在Chetan Kapoor看來,其實一切還只是剛剛開始:“如今許多傳統(tǒng)行業(yè),包括金融和醫(yī)療等很多都還處于上云的初級階段,很多企業(yè)還在用自建的數(shù)據(jù)中心,因此云計算在未來還有著非常廣闊的發(fā)展前景?!?/p>

而對于定制芯片的未來,亞馬遜全球副總裁兼CTO Werner Vogels博士有著這樣的預(yù)測:“2023年定制芯片的使用將迅速增加。因此,隨著工作負載將利用硬件優(yōu)化來最大限度地提高性能,同時降低能耗和成本,創(chuàng)新的步伐將會進一步加快?!?/p>

Werner Vogels博士指出,在消費技術(shù)行業(yè),定制芯片和定制硬件因為在性能上的顯著提升而獲得了迅速發(fā)展,但是商業(yè)應(yīng)用程序和系統(tǒng)的情況卻并非如此。然而隨著定制芯片的普及和采用,這種情況將在未來幾年迅速發(fā)生改變。亞馬遜云科技近年來之所以在芯片設(shè)計上投入大量資金,正是因為亞馬遜云科技知道客戶的工作負載在定制芯片上運行,會具有更好的性能以及更高的成本效益。

“以機器學習工作負載為例,未來幾年越來越多的工程師將會看到將工作負載轉(zhuǎn)移到專為模型訓練(Amazon Trainium)和推理(Amazon Inferentia)設(shè)計的芯片所帶來的好處。通過使用基于Trainium的實例實現(xiàn)約50%的訓練成本節(jié)省,或者使用基于Inferentia2的實例實現(xiàn)50%的每瓦特性能提升,工程師和企業(yè)都會注意到,我們將開始工作負載的大規(guī)模遷移。而在性能提升以及成本節(jié)約上的巨大優(yōu)勢,也將帶來更多的實驗、創(chuàng)新以及應(yīng)用,并最終為其他特定工作負載提供更多的定制芯片,從而形成一個良性循環(huán)?!盬erner Vogels博士表示。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    460

    文章

    52520

    瀏覽量

    441037
  • 容器
    +關(guān)注

    關(guān)注

    0

    文章

    511

    瀏覽量

    22458
  • 亞馬遜
    +關(guān)注

    關(guān)注

    8

    文章

    2696

    瀏覽量

    84683

原文標題:亞馬遜云科技re:Invent現(xiàn)場訪談:定制芯片將是大勢所趨

文章出處:【微信號:funnytechnology,微信公眾號:趣味科技v】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    十大鋼結(jié)構(gòu)企業(yè)的智能制造

    鋼結(jié)構(gòu)行業(yè)智能化轉(zhuǎn)型升級為大勢所趨
    的頭像 發(fā)表于 01-23 13:37 ?901次閱讀

    亞馬遜科技AI Networking解決方案回顧

    前一段時間的2024 re:Invent 大會中,亞馬遜科技可謂是重磅連連,發(fā)布了全套最新AI networking基礎(chǔ)設(shè)施方案。
    的頭像 發(fā)表于 12-27 11:25 ?1036次閱讀
    <b class='flag-5'>亞馬遜</b><b class='flag-5'>云</b>科技AI Networking解決方案回顧

    亞馬遜科技發(fā)布Amazon Q Developer,助力工作負載轉(zhuǎn)型

    在近日舉行的2024亞馬遜科技re:Invent全球大會上,一項旨在加速大規(guī)模傳統(tǒng)工作負載轉(zhuǎn)型的新功能——Amazon Q Developer,正式亮相。這款功能強大的軟件開發(fā)生成式
    的頭像 發(fā)表于 12-26 11:32 ?632次閱讀

    Comcast將5G核心網(wǎng)絡(luò)遷移至亞馬遜科技

    近日,在2024年亞馬遜科技re:Invent全球大會上,Comcast與亞馬遜科技共同宣布
    的頭像 發(fā)表于 12-24 14:26 ?459次閱讀

    Grab選定亞馬遜科技為首選服務(wù)商

    近日,在亞馬遜科技2024年re:Invent全球大會上,一項重大合作宣布出爐。東南亞領(lǐng)先的超級應(yīng)用程序Grab與亞馬遜
    的頭像 發(fā)表于 12-24 10:22 ?484次閱讀

    PingCAP攜手亞馬遜科技,加速全球業(yè)務(wù)拓展

    近日,在2024年亞馬遜科技re:Invent全球大會上,一項重要合作得以宣布:數(shù)據(jù)庫即服務(wù)(DBaaS)產(chǎn)品TiDB Cloud的領(lǐng)先開發(fā)商PingCAP,正式選擇
    的頭像 發(fā)表于 12-23 15:05 ?597次閱讀

    超級應(yīng)用程序Grab選擇亞馬遜科技為首選服務(wù)商

    推動技術(shù)創(chuàng)新與業(yè)務(wù)增長 北京2024年12月19日?/美通社/ -- 在亞馬遜科技2024 re:Invent全球大會上,亞馬遜
    的頭像 發(fā)表于 12-19 15:31 ?601次閱讀

    PingCAP選擇亞馬遜科技為首選服務(wù)商 加速全球業(yè)務(wù)拓展

    北京2024年12月18日 /美通社/ -- 亞馬遜科技在2024 re:Invent全球大會上宣布,數(shù)據(jù)庫即服務(wù)(DBaaS)產(chǎn)品TiDB Cloud的開發(fā)商PingCAP選擇
    的頭像 發(fā)表于 12-18 17:42 ?551次閱讀

    LG AI Research使用亞馬遜科技開發(fā)AI模型 加快癌癥診斷速度

    16日 /美通社/ -- 亞馬遜科技在2024 re:Invent全球大會上宣布,韓國LG集團旗下人工智能研究中心LG AI Research基于全球領(lǐng)先的
    的頭像 發(fā)表于 12-16 15:13 ?374次閱讀
    LG AI Research使用<b class='flag-5'>亞馬遜</b><b class='flag-5'>云</b>科技開發(fā)AI模型 加快癌癥診斷速度

    基于亞馬遜科技的GROW with SAP解決方案 助力企業(yè)簡化云端ERP部署

    科技2024 re:Invent全球大會上,亞馬遜科技與SAP共同宣布,在亞馬遜科技上提供G
    的頭像 發(fā)表于 12-09 15:11 ?580次閱讀

    亞馬遜科技宣布Amazon Trainium2實例正式可用

    的訓練和推理 北京2024年12月5日?/美通社/ -- 亞馬遜科技在2024 re:Invent全球大會上,宣布基于Amazon Trainium2的Amazon Elastic
    的頭像 發(fā)表于 12-06 09:15 ?576次閱讀
    <b class='flag-5'>亞馬遜</b><b class='flag-5'>云</b>科技宣布Amazon Trainium2實例正式可用

    NVIDIA亮相2024亞馬遜科技re:Invent全球大會

    為了擴展開發(fā)者和企業(yè)在云端的可能性,NVIDIA 和亞馬遜科技(Amazon Web Services)本周于拉斯維加斯舉行的亞馬遜科技 re
    的頭像 發(fā)表于 12-05 11:51 ?785次閱讀

    飛利浦與亞馬遜科技擴展戰(zhàn)略合作,增強HealthSuite服務(wù)能力并賦能生成式AI工作流

    基于云端的醫(yī)療信息化解決方案旨在統(tǒng)一工作流程,提升關(guān)鍵洞察獲取能力,并為患者帶來更好的治療結(jié)果 ? 北京 ——2024 年 12 月 4 日 亞馬遜科技在2024 re:Invent
    發(fā)表于 12-04 15:04 ?471次閱讀
    飛利浦與<b class='flag-5'>亞馬遜</b><b class='flag-5'>云</b>科技擴展戰(zhàn)略合作,增強HealthSuite<b class='flag-5'>云</b>服務(wù)能力并賦能生成式AI工作流

    NVIDIA將亮相亞馬遜科技re:Invent 2024

    12 月 2 日至 6 日,NVIDIA 將在于拉斯維加斯舉行的亞馬遜科技 re:Invent 2024 上展示全棧產(chǎn)品。與會者可以深入了解在亞馬
    的頭像 發(fā)表于 11-27 11:18 ?939次閱讀

    天合光能:TOPCon組件成為主流,700W+大勢所趨

    趨勢。天合光能作為行業(yè)引領(lǐng)者受邀出席并發(fā)表演講,產(chǎn)品經(jīng)理莊凌在演講中表示:TOPCon組件成為主流,700W+大勢所趨。此外,她還同與會者分享了應(yīng)用i-TOPCon技術(shù)的至尊組件的可靠性分析。
    的頭像 發(fā)表于 08-02 11:46 ?1046次閱讀
    天合光能:TOPCon組件成為主流,700W+<b class='flag-5'>大勢所趨</b>