chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

沐曦彭莉談后GPT時(shí)代的算力需求

沐曦MetaX ? 來(lái)源:沐曦MetaX ? 2023-08-22 10:26 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近日,2023中國(guó)算力大會(huì)在寧夏銀川舉行,沐曦集成電路(上海)有限公司(下稱(chēng)“沐曦”)聯(lián)合創(chuàng)始人、CTO兼首席硬件架構(gòu)師彭莉受邀出席由中國(guó)信息通信研究院、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)聯(lián)合舉辦的智能計(jì)算論壇,并擔(dān)任演講嘉賓,探討后GPT時(shí)代算力需求激增帶來(lái)的挑戰(zhàn)以及GPU如何突破算力供需瓶頸、推動(dòng)人工智能產(chǎn)業(yè)普惠化發(fā)展。

在題為“后GPT時(shí)代的算力需求”的演講中,彭莉預(yù)測(cè)大模型商業(yè)模式將分為通用計(jì)算市場(chǎng)和專(zhuān)用定制化市場(chǎng)兩大類(lèi):在通用計(jì)算市場(chǎng),大語(yǔ)言模型將終結(jié)多數(shù)NLP任務(wù),NLP技術(shù)水平被強(qiáng)行拉平,通用大模型或被大廠“壟斷”;而在專(zhuān)用定制化市場(chǎng),開(kāi)源大模型將呈現(xiàn)百花齊放的發(fā)展態(tài)勢(shì),可針對(duì)私有數(shù)據(jù)、敏感數(shù)據(jù)進(jìn)行快速定制和領(lǐng)域?qū)R,大模型開(kāi)發(fā)和部署能力將趨于普及化。

彭莉指出,區(qū)別于傳統(tǒng)AI,生成式AI技術(shù)可以借助接入類(lèi)ChatGPT應(yīng)用發(fā)揮顯著的技術(shù)優(yōu)勢(shì),為大語(yǔ)言模型的開(kāi)發(fā)降本增效,同時(shí)也對(duì)算力提出更高和更迫切的要求。由于大模型訓(xùn)練的一次性成本被大規(guī)模推理攤薄,大模型盈利的一大難點(diǎn)是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態(tài)解決方案,通過(guò)GPU軟件生態(tài)優(yōu)勢(shì)、硬件架構(gòu)優(yōu)勢(shì)、先進(jìn)封裝等方面全面提升GPU算力,降低大模型訓(xùn)練和推理的算力成本,在產(chǎn)品路線和生態(tài)戰(zhàn)略上均可滿(mǎn)足大模型對(duì)算力基礎(chǔ)設(shè)施的大規(guī)模需求,為推進(jìn)智能產(chǎn)業(yè)可持續(xù)發(fā)展打造堅(jiān)實(shí)的算力底座。

關(guān)于沐曦

沐曦致力于為異構(gòu)計(jì)算提供安全可靠的GPU芯片及解決方案,打造全棧GPU芯片產(chǎn)品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千億參數(shù)AI大模型訓(xùn)練及通用計(jì)算,以及曦彩G系列GPU用于圖形渲染,滿(mǎn)足數(shù)據(jù)中心對(duì)“高能效”及“高通用性”的算力需求。沐曦產(chǎn)品均采用完全自主研發(fā)的GPU IP,擁有完全自主的指令集和架構(gòu),配以兼容主流GPU生態(tài)的完整軟件棧(MXMACA),具備高能效和高通用性的天然優(yōu)勢(shì),能夠?yàn)榭蛻?hù)構(gòu)建軟硬件一體的全面生態(tài)解決方案,是“雙碳”背景下推動(dòng)數(shù)據(jù)中心建設(shè)和產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)

審核編輯:湯梓紅
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 集成電路
    +關(guān)注

    關(guān)注

    5425

    文章

    12070

    瀏覽量

    368503
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4948

    瀏覽量

    131252
  • 智能計(jì)算
    +關(guān)注

    關(guān)注

    0

    文章

    191

    瀏覽量

    16722
  • 沐曦
    +關(guān)注

    關(guān)注

    0

    文章

    34

    瀏覽量

    1439

原文標(biāo)題:沐曦彭莉:后GPT時(shí)代GPU如何降低算力門(mén)檻

文章出處:【微信號(hào):沐曦MetaX,微信公眾號(hào):沐曦MetaX】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    PaddleScience完成與AI芯片適配

    當(dāng)前,PaddleScience已與展開(kāi)深度合作,涵蓋智能仿真、高性能計(jì)算、科學(xué)建模等多個(gè)方向。這一趨勢(shì)正加速形成面向"Al for Science"的國(guó)產(chǎn)智生態(tài)新格局。
    的頭像 發(fā)表于 05-06 14:49 ?604次閱讀

    芯片的生態(tài)突圍與革命

    據(jù)的爆發(fā)式增長(zhǎng),大芯片已成為科技競(jìng)爭(zhēng)的核心領(lǐng)域之一。 ? 大芯片的核心應(yīng)用場(chǎng)景豐富多樣。在人工智能訓(xùn)練與推理方面,大模型(如 GPT
    的頭像 發(fā)表于 04-13 00:02 ?1727次閱讀

    云C500通用計(jì)算GPU與百度飛槳完成Ⅱ級(jí)兼容性測(cè)試

    近日,云C500通用計(jì)算GPU與百度飛槳已完成Ⅱ級(jí)兼容性測(cè)試。測(cè)試結(jié)果顯示,雙方兼容性表現(xiàn)良好,整體運(yùn)行穩(wěn)定。這是加入飛槳“硬件生
    的頭像 發(fā)表于 03-31 14:22 ?839次閱讀

    DeepSeek推動(dòng)AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長(zhǎng)。DeepSeek等大模型的訓(xùn)練與推理任務(wù)對(duì)
    發(fā)表于 03-25 12:00

    加速DeepSeek滿(mǎn)血版單卡C500異構(gòu)推理

    近日,基于開(kāi)源KTransformers架構(gòu)的 CPU/GPU 異構(gòu)推理能力,云C500單卡GPU上成功實(shí)現(xiàn)DeepSeek-R1-671B滿(mǎn)血版單并發(fā)解碼吞吐16.5 tokens/s的優(yōu)異成績(jī),相比社區(qū)官方數(shù)據(jù)提升2
    的頭像 發(fā)表于 03-20 15:52 ?1162次閱讀

    Gitee AI 聯(lián)合首發(fā)全套 DeepSeek R1 千問(wèn)蒸餾模型,全免費(fèi)體驗(yàn)!

    模型相比,較小尺寸的 DeepSeek 蒸餾版本模型 更適合企業(yè)內(nèi)部實(shí)施部署,可以極大的降低落地成本 。 同時(shí),這次 Deepseek R1 模型 + 云 GPU + Gitee AI 平臺(tái) ,更是實(shí)現(xiàn)了從芯片到平臺(tái),從
    的頭像 發(fā)表于 02-10 09:56 ?716次閱讀
    Gitee AI 聯(lián)合<b class='flag-5'>沐</b><b class='flag-5'>曦</b>首發(fā)全套 DeepSeek R1 千問(wèn)蒸餾模型,全免費(fèi)體驗(yàn)!

    AI:智能時(shí)代的核心驅(qū)動(dòng)力

    引言在當(dāng)今數(shù)字化時(shí)代,的重要性不言而喻。12月28日,央視和國(guó)務(wù)院國(guó)資委聯(lián)合制作的紀(jì)錄片《大國(guó)基石》第三期《引擎》中所強(qiáng)調(diào)的“
    的頭像 發(fā)表于 01-22 12:58 ?742次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>:智能<b class='flag-5'>時(shí)代</b>的核心驅(qū)動(dòng)力

    澎峰科技與完成聯(lián)合測(cè)試,實(shí)現(xiàn)全面兼容

    近日,澎峰科技與科技宣布,雙方已完成對(duì)PerfXLM推理引擎、PerfXCloud大模型服務(wù)平臺(tái)與云系列通用計(jì)算GPU的聯(lián)合測(cè)試。
    的頭像 發(fā)表于 01-21 15:20 ?639次閱讀

    澎峰科技計(jì)算軟件棧與GPU完成適配和互認(rèn)證

    ?近期,澎峰科技與完成了對(duì)PerfXLM(推理引擎)、PerfXCloud(大模型服務(wù)平臺(tái))與云系列通用計(jì)算GPU的聯(lián)合測(cè)試,測(cè)
    的頭像 發(fā)表于 01-21 09:51 ?627次閱讀

    如何在邊緣端獲得GPT4-V的能力:魔方+MiniCPM-V 2.6

    作者:魔方創(chuàng)始人/英特爾邊緣計(jì)算創(chuàng)新大使 劉 前面我們分享了《在魔方上本地部署Phi-4模型》,實(shí)現(xiàn)了在邊緣端獲得Llama 3.
    的頭像 發(fā)表于 01-20 13:40 ?626次閱讀
    如何在邊緣端獲得<b class='flag-5'>GPT</b>4-V的能力:<b class='flag-5'>算</b><b class='flag-5'>力</b>魔方+MiniCPM-V 2.6

    國(guó)產(chǎn)智集群黑馬!源一號(hào)SADA集群綜合評(píng)測(cè)表現(xiàn)優(yōu)異

    近日,加佳科技源一號(hào)SADA集群項(xiàng)目一期順利通過(guò)工信部中國(guó)軟件評(píng)測(cè)中心權(quán)威評(píng)測(cè)認(rèn)證。本次測(cè)試涵蓋了項(xiàng)目一期已上線的1024張高性能
    的頭像 發(fā)表于 12-25 11:16 ?876次閱讀
    國(guó)產(chǎn)智<b class='flag-5'>算</b>集群黑馬!<b class='flag-5'>曦</b>源一號(hào)SADA<b class='flag-5'>算</b><b class='flag-5'>力</b>集群綜合評(píng)測(cè)表現(xiàn)優(yōu)異

    AI時(shí)代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    在AI時(shí)代,扮演著至關(guān)重要的角色。如果說(shuō)數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動(dòng)力引擎”。據(jù)資料顯示,為了訓(xùn)練
    的頭像 發(fā)表于 11-04 11:45 ?1172次閱讀

    淺析三大之異同

    隨著一年多前ChatGPT的出現(xiàn)引爆人工智能(AI)浪潮,支撐大模型背后的“”概念突然闖進(jìn)我們的視野,成為科技圈炙手可熱的新詞,引領(lǐng)著最新潮流。作為數(shù)字經(jīng)濟(jì)時(shí)代新生產(chǎn),也許不少人
    的頭像 發(fā)表于 08-30 12:56 ?2208次閱讀
    淺析三大<b class='flag-5'>算</b><b class='flag-5'>力</b>之異同

    大模型時(shí)代需求

    現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭(zhēng)相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個(gè)極為重要的問(wèn)題,帶著這個(gè)極為重要的問(wèn)題,我需要在此書(shū)中找到答案。
    發(fā)表于 08-20 09:04