chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AIGC時代和大模型對算力的影響

奇異摩爾 ? 來源:奇異摩爾 ? 2023-10-25 14:37 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2023年10月,為推進(jìn)全球半導(dǎo)體供應(yīng)鏈發(fā)展,促進(jìn)各生態(tài)位上高管的溝通與協(xié)作,中國國際半導(dǎo)體高管峰會 (ISES) 在上海舉辦。為其兩天的盛會囊括了Chiplets, 異質(zhì)集成、先進(jìn)封裝、基材、半導(dǎo)體工藝流程、功率半導(dǎo)體以及半導(dǎo)體產(chǎn)業(yè)可續(xù)發(fā)展等諸多議題的演講。

作為Chiplet和互聯(lián)領(lǐng)域的代表性企業(yè)。奇異摩爾產(chǎn)品及解決方案副總裁兼聯(lián)合創(chuàng)始人??|,受邀與現(xiàn)場行業(yè)領(lǐng)袖們分享了在當(dāng)前的大背景下計算范式演變的思考與創(chuàng)新實(shí)踐,演講主題為《Interconnection define the computing, Key tech of Computing Paradigm Evolution》。

ISES 是一個領(lǐng)先的半導(dǎo)體行業(yè)協(xié)會,由全球半導(dǎo)體生態(tài)系統(tǒng)的成員組成,成員涵蓋設(shè)備和材料制造商、OSAT、FAB、IDM、IC 設(shè)計企業(yè)、軟件,直至高性能計算、人工智能、汽車電子、5G/6G等應(yīng)用領(lǐng)域企業(yè)。ISES旨在通過對行業(yè)領(lǐng)袖和企業(yè)決策層的影響,推動微電子供應(yīng)鏈的創(chuàng)新、商業(yè)與投資機(jī)會。ISES 峰會每年在美國、德國、意大利、臺灣、中國和新加坡等地舉辦。

在主題演講中,祝俊東探討了AIGC時代和大模型對今天算力的影響。隨著大型模型的發(fā)展,越來越多的任務(wù)需要超大規(guī)模計算集群來完成。隨著系統(tǒng)的復(fù)雜性不斷增強(qiáng),行業(yè)對更高帶寬、更低延遲的片內(nèi)、片間、集群間互聯(lián)需求愈發(fā)迫切。

片內(nèi)方案:可通過chiplet設(shè)計及異構(gòu)計算架構(gòu)大幅提高不同功能芯粒間的互連帶寬,同時降低其延遲與功耗,從而提供更好的互連性能,使單芯片計算能力得到有效擴(kuò)展。典型案例即英偉達(dá) Grace Hopper 超級芯片,在一個封裝內(nèi),通過NVLink連接Grace CPU和Hopper GPU,實(shí)現(xiàn)了數(shù)倍于板級異構(gòu)計算的性能提升。

片間視角:集群與集群間的互聯(lián)需要支持無損數(shù)據(jù)傳輸?shù)幕ヂ?lián)網(wǎng)絡(luò),以及相關(guān)的加速算法、協(xié)議,以實(shí)現(xiàn)更大規(guī)模、更高速度和更高效率的數(shù)據(jù)傳輸。

要實(shí)現(xiàn)芯片和異構(gòu)計算,先進(jìn)封裝是一項非常重要的基礎(chǔ)技術(shù)。基于 Chiplet 的異構(gòu)計算架構(gòu)需要數(shù)百 GB 甚至 TB 的片間傳輸帶寬,對先進(jìn)封裝提出了極高的要求。安靠封裝測試研發(fā)總監(jiān)李健民在演講中表示,Chiplet和芯片異構(gòu)集成已成為當(dāng)今芯片產(chǎn)品的強(qiáng)勁趨勢,可提供實(shí)現(xiàn)創(chuàng)新產(chǎn)品架構(gòu)的新方法,同時能在行業(yè)的未來保持最佳的性能/功耗/面積/成本 (PPAC) 比率。李健民強(qiáng)調(diào),這些方法需要先進(jìn) IC 封裝能力提供支持,他還指出,OSAT 和晶圓廠正在積極響應(yīng)以實(shí)現(xiàn)這種集成。未來,安靠將強(qiáng)調(diào)從 2D Chiplet 模塊著手并按需使用 3D 執(zhí)行增強(qiáng)處理以增強(qiáng)性能和差異化的重要性。

此外,半導(dǎo)體溫度管理領(lǐng)域的領(lǐng)導(dǎo)企業(yè),ERS electronic 的CEOLaurent Giai-Miniet先生也來到了現(xiàn)場,發(fā)表了題為“Pushing the Boundaries of Thermal Management to Address Challenges in Wafer Test and Advanced Packaging”的演講,并特別在本次演講中分享了公司在溫度晶圓針測和先進(jìn)封裝領(lǐng)域最新的產(chǎn)品技術(shù)。

得益于近些年先進(jìn)封裝的不斷進(jìn)步,先進(jìn)封裝的互聯(lián)密度已得到了大幅提升,同時,隨著對互連帶寬要求的進(jìn)一步提高,Chiplet 的封裝形式也從原來的基板轉(zhuǎn)向 2.5D,并逐步向 3D 演進(jìn),從而讓AIGC背景下,數(shù)據(jù)中心等高性能計算的算力和互聯(lián)擴(kuò)展成為可能。

與此同時,計算任務(wù)的變化推動了計算形式的演變。隨著 AIGC 和大型模型的發(fā)展,數(shù)據(jù)中心的核心任務(wù)已逐漸由以存儲和科學(xué)計算轉(zhuǎn)變?yōu)?a target="_blank">視頻流和人工智能訓(xùn)練、推理。傳統(tǒng)的分布式架構(gòu)難以滿足龐大的AI需求,進(jìn)而轉(zhuǎn)向超大規(guī)模分布式異構(gòu)計算集群。

在今天,建設(shè)超大規(guī)模異構(gòu)集群已成為各計算芯片巨頭的主攻方向。在超大規(guī)模異構(gòu)集群中,數(shù)據(jù)和計算分布在不同節(jié)點(diǎn)上,通過高效的異構(gòu)計算架構(gòu),不同的任務(wù)可以有效地分配給不同的計算單元,從而實(shí)現(xiàn)更高的計算性能。

計算架構(gòu)的變化不僅發(fā)生在數(shù)據(jù)中心,也發(fā)生在邊緣端。隨著大模型在邊緣落地,高性能邊緣設(shè)備也將轉(zhuǎn)向域控制架構(gòu)、中央平臺架構(gòu)。在以自動駕駛為例的中央平臺架構(gòu)中,每個域都需要一個中央處理單元,以集成如互聯(lián)、娛樂、ADAS 等更多的功能和更高的算力。在未來,中央域計算平臺可能需要集成數(shù)百甚至數(shù)千個功能單元,并提供數(shù)千 T 的計算能力,無疑Chiplet架構(gòu)的芯片,以及在中央計算平臺與每個域之間極為高效、低延遲、無損的數(shù)據(jù)互聯(lián)技術(shù)。

??|表示,作為全球領(lǐng)先的高性能互聯(lián)產(chǎn)品和解決方案公司,奇異摩爾在高性能芯片的片內(nèi)、片間互聯(lián)領(lǐng)域有顯著的技術(shù)優(yōu)勢,公司基于Kiwi-Link統(tǒng)一互聯(lián)架構(gòu),提供全鏈路互聯(lián)及網(wǎng)絡(luò)加速芯粒(Chiplet)產(chǎn)品及解決方案,助力高性能計算客戶更高效、更低成本搭建超大規(guī)模分布式智算平臺。

而AIGC和大模型的廣泛應(yīng)用,也為奇異摩爾所聚焦的互聯(lián)賽道創(chuàng)造了令人興奮的機(jī)遇,以加速數(shù)據(jù)中心、自動駕駛、個人計算平臺等高性能計算應(yīng)用市場革命。對高性能計算而言,互聯(lián)既是制約發(fā)展的瓶頸,也是方案與出路。

審核編輯:彭菁

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)傳輸
    +關(guān)注

    關(guān)注

    9

    文章

    2051

    瀏覽量

    66902
  • 互聯(lián)網(wǎng)
    +關(guān)注

    關(guān)注

    55

    文章

    11288

    瀏覽量

    108271
  • 奇異摩爾
    +關(guān)注

    關(guān)注

    0

    文章

    69

    瀏覽量

    3897
  • AIGC
    +關(guān)注

    關(guān)注

    1

    文章

    390

    瀏覽量

    3051
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3351

    瀏覽量

    4724
  • 芯粒
    +關(guān)注

    關(guān)注

    0

    文章

    77

    瀏覽量

    361

原文標(biāo)題:Kiwi @ ISES:互聯(lián)定義計算,計算范式演變的關(guān)鍵技術(shù)

文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    科技上線赤兔推理引擎服務(wù),創(chuàng)新解鎖FP8大模型

    模型輕量化部署方案。用戶通過遠(yuǎn)程平臺預(yù)置的模型鏡像與AI工具,僅需50%的GPU即可解
    的頭像 發(fā)表于 07-30 21:44 ?569次閱讀

    即國力,比克電池如何為AI時代“蓄能

    引擎》中明確提出,“是數(shù)字經(jīng)濟(jì)時代的新質(zhì)生產(chǎn),更是國家競爭的重要指標(biāo)?!彪S著AI大模型訓(xùn)
    的頭像 發(fā)表于 06-04 14:22 ?728次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,比克電池如何為AI<b class='flag-5'>時代</b>“蓄能

    AIGC基礎(chǔ)設(shè)施技術(shù)架構(gòu)與行業(yè)實(shí)踐

    AIGC基礎(chǔ)設(shè)施技術(shù)架構(gòu)與行業(yè)實(shí)踐 一、硬件層:AI的物理載體 芯片技術(shù)升級? 國際前沿?:某國際芯片巨頭2025年發(fā)布的GB200
    的頭像 發(fā)表于 05-29 07:44 ?430次閱讀
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基礎(chǔ)設(shè)施技術(shù)架構(gòu)與行業(yè)實(shí)踐

    芯片的生態(tài)突圍與革命

    據(jù)的爆發(fā)式增長,大芯片已成為科技競爭的核心領(lǐng)域之一。 ? 大芯片的核心應(yīng)用場景豐富多樣。在人工智能訓(xùn)練與推理方面,大模型(如 GPT
    的頭像 發(fā)表于 04-13 00:02 ?2357次閱讀

    RAKsmart服務(wù)器如何提升AIGC平臺的運(yùn)行效率

    AIGC(人工智能生成內(nèi)容)領(lǐng)域,高效運(yùn)行意味著更快的模型訓(xùn)練、更低的推理延遲和更流暢的用戶體驗。RAKsmart服務(wù)器憑借其硬件配置、網(wǎng)絡(luò)優(yōu)化和生態(tài)支持,為AIGC平臺提供了從底層
    的頭像 發(fā)表于 04-01 10:40 ?448次閱讀
    RAKsmart服務(wù)器如何提升<b class='flag-5'>AIGC</b>平臺的運(yùn)行效率

    模型遭遇墻,探索超級應(yīng)用的發(fā)展路徑

    最近,開源中國 OSCHINA、Gitee 與 Gitee AI? 全文如下: 大模型撞上 “墻”,超級應(yīng)用的探尋之路 文 / 傅聰 近日,大模型教父 Sam Altman 在 R
    的頭像 發(fā)表于 02-10 17:24 ?1362次閱讀
    大<b class='flag-5'>模型</b>遭遇<b class='flag-5'>算</b><b class='flag-5'>力</b>墻,探索超級應(yīng)用的發(fā)展路徑

    DeepSeek對芯片的影響

    DeepSeek模型,尤其是其基于MOE(混合專家)架構(gòu)的DeepSeek-V3,對芯片的要求產(chǎn)生了深遠(yuǎn)影響。為了更好地理解這一影響,我們可以從幾個方面進(jìn)行分析。一.MOE架構(gòu)對
    的頭像 發(fā)表于 02-07 10:02 ?1465次閱讀
    DeepSeek對芯片<b class='flag-5'>算</b><b class='flag-5'>力</b>的影響

    AI:智能時代的核心驅(qū)動力

    引言在當(dāng)今數(shù)字化時代,的重要性不言而喻。12月28日,央視和國務(wù)院國資委聯(lián)合制作的紀(jì)錄片《大國基石》第三期《引擎》中所強(qiáng)調(diào)的“
    的頭像 發(fā)表于 01-22 12:58 ?1208次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>:智能<b class='flag-5'>時代</b>的核心驅(qū)動力

    中心的如何衡量?

    作為當(dāng)下科技發(fā)展的重要基礎(chǔ)設(shè)施,其的衡量關(guān)乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應(yīng)用的運(yùn)行。以下是對智中心算衡量的詳細(xì)闡述:一、
    的頭像 發(fā)表于 01-16 14:03 ?3619次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產(chǎn)業(yè)新變局?

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產(chǎn)業(yè)新變局?
    的頭像 發(fā)表于 01-16 10:24 ?664次閱讀

    #新年新氣象,大家新年快樂!#AIGC入門及鴻蒙入門

    人工智能生成內(nèi)容(AIGC)和鴻蒙系統(tǒng)是當(dāng)前科技領(lǐng)域的兩個熱門話題。以下是對它們的入門指南: AIGC入門 1. 基礎(chǔ)概念: AIGC,全稱Artificial Intelligence
    發(fā)表于 01-13 10:46

    AIGC入門及鴻蒙入門

    人工智能生成內(nèi)容(AIGC)和鴻蒙系統(tǒng)是當(dāng)前科技領(lǐng)域的兩個熱門話題。以下是對它們的入門指南: AIGC入門 1. 基礎(chǔ)概念: AIGC,全稱Artificial Intelligence
    發(fā)表于 01-13 10:32

    浪潮信息與智源研究院攜手共建大模型多元生態(tài)

    近日,浪潮信息與北京智源人工智能研究院正式簽署戰(zhàn)略合作協(xié)議,雙方將緊密合作,共同構(gòu)建大模型多元開源創(chuàng)新生態(tài)。 此次合作旨在提升大模型創(chuàng)新研發(fā)的
    的頭像 發(fā)表于 12-31 11:49 ?775次閱讀

    AI時代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    在AI時代扮演著至關(guān)重要的角色。如果說數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動
    的頭像 發(fā)表于 11-04 11:45 ?1679次閱讀