chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型快速發(fā)展,GPU IP有何作用

Carol Li ? 來(lái)源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-29 00:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群


電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)隨著人工智能技術(shù)的快速發(fā)展,GPU作為重要的算力支撐時(shí)常被提及。國(guó)內(nèi)外重要的GPU芯片公司也為人熟知,包括英偉達(dá)AMD、英特爾,景嘉微、海光信息、天數(shù)智芯、摩爾線程等。

事實(shí)上,除此之外還有一些GPU IP公司也為GPU產(chǎn)業(yè)發(fā)展做出很大貢獻(xiàn),包括Imagination、Arm、芯原科技等。在當(dāng)前備受關(guān)注的大模型方面,這些公司的產(chǎn)品也起到一定支持作用。

Imagination

Imagination的GPU IP產(chǎn)品包括IMG A系列、IMG CXT、IMG DXT等多個(gè)系列,每個(gè)系列有不同的特點(diǎn)和應(yīng)用場(chǎng)景。IMG A系列,是Imagination有史以來(lái)性能最強(qiáng)大GPU IP產(chǎn)品,IMG A系列被設(shè)計(jì)為可應(yīng)用于與各種場(chǎng)景的GPU,是多種垂直應(yīng)用領(lǐng)域的終極解決方案。

該系列產(chǎn)品覆蓋從入門(mén)級(jí)市場(chǎng)的每時(shí)鐘周期處理1個(gè)像素(1 PPC)的組件,到高性能設(shè)備的速度高達(dá)每秒2萬(wàn)億次浮點(diǎn)運(yùn)算(2 TFLOP)的內(nèi)核,以及針對(duì)云應(yīng)用的、速度超越該數(shù)值的多核解決方案。

IMG CXT,搭載首個(gè)針對(duì)移動(dòng)端優(yōu)化的PowerVR Photon光線追蹤架構(gòu),為移動(dòng)端游戲玩家和開(kāi)發(fā)者提供桌面級(jí)光線追蹤功能的體驗(yàn)。實(shí)現(xiàn)了光線追蹤性能的大幅提升,支持在移動(dòng)設(shè)備中以高幀率實(shí)現(xiàn)逼真的光線追蹤陰影、反射、全局照明和環(huán)境遮蔽等效果。

IMG DXT是新一代面向移動(dòng)端的高性能GPU IP,為移動(dòng)設(shè)備用戶(hù)帶來(lái)先進(jìn)的圖形技術(shù)。提供三款配置,包括DXT-8-256、DXT-48-1536和DXT-72-2304,分別針對(duì)主流、高端和旗艦移動(dòng)設(shè)備。旗艦產(chǎn)品DXT-72-2304具有72 GTexels/s和2.5 TFLOP FP32算力,與上一代產(chǎn)品相比,其最大單核性能提升了50%。

Imagination的GPU IP產(chǎn)品廣泛應(yīng)用于移動(dòng)設(shè)備、汽車(chē)、數(shù)據(jù)中心、桌面和云游戲等多個(gè)領(lǐng)域。通過(guò)提供高性能的圖形渲染和數(shù)據(jù)處理能力,為各種應(yīng)用場(chǎng)景提供了強(qiáng)大的支持。

Imagination的GPU IP高性能、可擴(kuò)展性和低功耗的特性,使得在支持大模型的應(yīng)用上具有優(yōu)勢(shì)。如IMG DXD,其多核配置提供了強(qiáng)大的計(jì)算能力,5 TFLOPS FP32和144 GTexel/s,能夠在大模型的應(yīng)用上起到支持作用。

Arm

Arm的GPU IP產(chǎn)品系列主要包括Mali系列和Immortalis系列。Mali系列GPU IP是Arm的長(zhǎng)期主力產(chǎn)品,擁有從入門(mén)級(jí)到旗艦級(jí)的完整產(chǎn)品線。Mali系列包括Mali-G710、Mali-G610、Mali-G510、Mali-G310等多個(gè)型號(hào),分別定位于不同性能和價(jià)格的市場(chǎng)段。

Mali系列GPU基于Valhall GPU架構(gòu),并持續(xù)優(yōu)化和提升性能。例如,Mali-G710號(hào)稱(chēng)綜合性能提升20%、機(jī)器學(xué)習(xí)性能提升35%、紋理性能提升50%、能效提升20%。

Immortalis系列是Arm在2022年推出的全新旗艦級(jí)GPU IP產(chǎn)品,旨在提供終極的移動(dòng)3D體驗(yàn)。Immortalis GPU基于Mali設(shè)計(jì),并引入了硬件光線追蹤功能,這是首款在移動(dòng)端支持此功能的GPU。

Immortalis GPU采用10-16核設(shè)計(jì),性能比上一代Mali GPU高15%。其光線追蹤單元旨在提高效率,只占用約4%的著色器核心面積,卻能帶來(lái)300%的性能提升。

目前,Immortalis系列已經(jīng)推出了Immortalis-G715和Immortalis-G720等型號(hào)。Immortalis-G720是Arm目前性能和能效表現(xiàn)最為出色的GPU,與上一代產(chǎn)品相比,其性能和能效分別提高了15%,系統(tǒng)級(jí)效率更躍升了40%。

Arm的GPU IP產(chǎn)品廣泛應(yīng)用于移動(dòng)設(shè)備、汽車(chē)、數(shù)據(jù)中心、桌面和云游戲等多個(gè)領(lǐng)域。它們能夠支持各種計(jì)算任務(wù),如圖形渲染、物理模擬、圖像處理、機(jī)器學(xué)習(xí)和人工智能等。

Arm的GPU IP高性能計(jì)算、能效優(yōu)化和生態(tài)系統(tǒng)支持方面特點(diǎn),使其在大模型的應(yīng)用方面具有優(yōu)勢(shì)。Arm的GPU IP,如Mali系列和Ethos系列,已被多家公司采用,并成功應(yīng)用于大模型訓(xùn)練和推理中。

在大模型訓(xùn)練方面,Arm的GPU IP被廣泛應(yīng)用于深度學(xué)習(xí)、自然語(yǔ)言處理等領(lǐng)域。通過(guò)與合作伙伴共同開(kāi)發(fā)定制化的解決方案,Arm GPU IP為這些領(lǐng)域的研究者和開(kāi)發(fā)者提供了強(qiáng)大的計(jì)算能力支持。

在云端推理方面,Arm的GPU IP同樣發(fā)揮了重要作用。通過(guò)提供高性能的云端計(jì)算資源,Arm GPU IP支持了多種大模型應(yīng)用的實(shí)時(shí)推理需求。

芯原股份

芯原股份的GPU IP系列產(chǎn)品,以其高性能、靈活性和廣泛的應(yīng)用范圍,成為市場(chǎng)上備受矚目的產(chǎn)品。芯原可擴(kuò)展的Vivante圖形處理器(GPU)IP系列應(yīng)用廣泛,包括從低功耗的小型物聯(lián)網(wǎng)MCU到面向汽車(chē)和計(jì)算機(jī)應(yīng)用的功能強(qiáng)大的SoC。設(shè)計(jì)可滿足各種芯片尺寸和功耗預(yù)算,是具成本效益的優(yōu)質(zhì)圖形處理器解決方案。

芯原科技此前還詳細(xì)介紹了其GPGPU-AI IP為核心的AI芯片定制解決方案。其以Tensor Core和GPGPU/GPU為主,提供了一個(gè)靈活的架構(gòu)。

芯原GPGPU-AI處理器上有芯原通用的軟件棧,在上層可以支持標(biāo)準(zhǔn)的應(yīng)用接口,下層可以適配芯原各種各樣的算力IP,算力IP有圖形處理器、并行計(jì)算處理器、神經(jīng)網(wǎng)絡(luò)處理器。芯原GPGPU-AI分幾個(gè)層次擴(kuò)展的算力,可以支持異構(gòu)計(jì)算,包括矢量計(jì)算、標(biāo)量計(jì)算和張量處理單元,還可以支持大模型,高帶寬計(jì)算需求,同時(shí)基于在AI領(lǐng)域有多年的積累,可對(duì)數(shù)據(jù)組織、數(shù)據(jù)搬移和計(jì)算有針對(duì)性的優(yōu)化,另外還有專(zhuān)門(mén)針對(duì)大模型的帶寬壓縮技術(shù)。

芯原的GPU IP已被廣泛應(yīng)用于桌面顯卡、車(chē)載信息娛樂(lè)、工業(yè)顯示、物聯(lián)網(wǎng)及可穿戴設(shè)備、大規(guī)模并行計(jì)算等領(lǐng)域。

寫(xiě)在最后


可以看到,GPU IP在多個(gè)領(lǐng)域都有廣泛應(yīng)用,包括科學(xué)計(jì)算、大數(shù)據(jù)分析、深度學(xué)習(xí)和人工智能、游戲服務(wù)器、圖像處理、圖形渲染和動(dòng)畫(huà)制作、視頻處理和圖像識(shí)別等。

當(dāng)然,GPU IP也在不斷發(fā)展和演進(jìn)中,未來(lái),專(zhuān)用加速I(mǎi)P與通用GPU的融合或許是GPU技術(shù)未來(lái)發(fā)展的一個(gè)亮點(diǎn),這種融合將使GPU更具多功能性,更好地處理特定工作負(fù)載。高速DRAM和緩存技術(shù)的不斷演進(jìn)也將推動(dòng)GPU的性能提升,使其能夠更有效地處理復(fù)雜的計(jì)算任務(wù),如支持大模型的訓(xùn)練和部署。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5149

    瀏覽量

    134732
  • IP
    IP
    +關(guān)注

    關(guān)注

    5

    文章

    1853

    瀏覽量

    155330
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3578

    瀏覽量

    5077
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    GPU與汽車(chē)安全有關(guān)聯(lián)?

    汽車(chē)行業(yè)正在經(jīng)歷自電子技術(shù)應(yīng)用于汽車(chē)以來(lái)最深刻的變革。車(chē)輛正朝著軟件定義、智能網(wǎng)聯(lián)、AI驅(qū)動(dòng)和持續(xù)迭代的方向演進(jìn)。這一轉(zhuǎn)型帶來(lái)了前所未有的新功能,同時(shí)也引入了更高層級(jí)的網(wǎng)絡(luò)安全與功能安全風(fēng)險(xiǎn)。GPU
    的頭像 發(fā)表于 01-12 13:21 ?609次閱讀
    <b class='flag-5'>GPU</b>與汽車(chē)安全有<b class='flag-5'>何</b>關(guān)聯(lián)?

    自動(dòng)駕駛中毫米波雷達(dá)到底作用?

    毫米波雷達(dá)、超聲波雷達(dá)等感知硬件,更像是一個(gè)配角,成為自動(dòng)駕駛技術(shù)實(shí)現(xiàn)的輔助硬件。那在自動(dòng)駕駛中毫米波雷達(dá)到底作用?
    的頭像 發(fā)表于 12-10 17:07 ?1731次閱讀
    自動(dòng)駕駛中毫米波雷達(dá)到底<b class='flag-5'>有</b><b class='flag-5'>何</b><b class='flag-5'>作用</b>?

    華為如何通過(guò)大模型技術(shù)打造智能IP網(wǎng)絡(luò)

    2025年非洲通信展在南非開(kāi)普敦召開(kāi),華為數(shù)據(jù)通信產(chǎn)品線NCE數(shù)據(jù)通信領(lǐng)域總裁王輝受邀參加“Telecoms For Tomorrow”論壇,發(fā)表題為“擁抱AI時(shí)代,打造面向未來(lái)的智能IP網(wǎng)絡(luò)”的演講,分享華為如何通過(guò)大模型技術(shù)打造智能
    的頭像 發(fā)表于 11-14 16:39 ?1327次閱讀

    空氣溫度測(cè)量裝置的主要作用是什么?品牌推薦?

    隨著氣象學(xué)的發(fā)展,氣象站遍布全球,對(duì)空氣溫度的觀測(cè)更加系統(tǒng)和準(zhǔn)確,市面上可供選擇的空氣溫度測(cè)量?jī)x器種類(lèi)也越來(lái)越豐富。那么,空氣溫度測(cè)量裝置的主要作用是什么?品牌推薦?下面就讓小編來(lái)
    發(fā)表于 10-20 16:24

    基于神經(jīng)網(wǎng)絡(luò)的數(shù)字預(yù)失真模型解決方案

    在基于神經(jīng)網(wǎng)絡(luò)的數(shù)字預(yù)失真(DPD)模型中,使用不同的激活函數(shù)對(duì)整個(gè)系統(tǒng)性能和能效影響?
    的頭像 發(fā)表于 08-29 14:01 ?3343次閱讀

    PCIe協(xié)議分析儀在數(shù)據(jù)中心中有作用?

    升數(shù)據(jù)中心的整體可靠性。以下是其核心作用及具體應(yīng)用場(chǎng)景的詳細(xì)分析:一、性能優(yōu)化:突破帶寬瓶頸,提升計(jì)算效率 鏈路帶寬利用率分析 場(chǎng)景:在AI訓(xùn)練集群中,GPU通過(guò)PCIe與CPU交換數(shù)據(jù),若帶寬利用率低
    發(fā)表于 07-29 15:02

    【VisionFive 2單板計(jì)算機(jī)試用體驗(yàn)】1、開(kāi)箱初體驗(yàn)(刷系統(tǒng)+靜態(tài)IP設(shè)置+GPU跑分測(cè)評(píng))

    文件:注意:balenaEtcher這個(gè)軟件表面上可以選擇bz2文件,但是在軟件內(nèi)解壓的話會(huì)卡在73%的進(jìn)度。所以,bz2文件要先解壓,再用balenaEtcher燒錄鏡像到TF卡。 開(kāi)機(jī)設(shè)置靜態(tài)IP
    發(fā)表于 07-09 21:50

    為什么無(wú)法在GPU上使用INT8 和 INT4量化模型獲得輸出?

    安裝OpenVINO? 2024.0 版本。 使用 optimum-intel 程序包將 whisper-large-v3 模型轉(zhuǎn)換為 int 4 和 int8,并在 GPU 上使用 OpenVINO? 運(yùn)行推理。 沒(méi)有可用的輸出。
    發(fā)表于 06-23 07:11

    Imagination與澎峰科技攜手推動(dòng)GPU+AI解決方案,共拓計(jì)算生態(tài)

    的深度融合展開(kāi)合作。雙方將結(jié)合 Imagination 領(lǐng)先的 GPU IP 技術(shù)與澎峰科技在 AI 模型壓縮與性能優(yōu)化方面的軟硬協(xié)同能力,共同開(kāi)拓面向 AI 行業(yè)應(yīng)用的計(jì)算解決方案,推動(dòng)國(guó)產(chǎn)計(jì)算生態(tài)
    發(fā)表于 05-21 09:40 ?1146次閱讀

    摩爾線程GPU率先支持Qwen3全系列模型

    近日,阿里云正式發(fā)布Qwen3系列的8款開(kāi)源混合推理模型。摩爾線程團(tuán)隊(duì)在模型發(fā)布當(dāng)天,率先完成了Qwen3全系列模型在全功能GPU上的高效支持。這一成果充分展現(xiàn)了MUSA架構(gòu)及全功能
    的頭像 發(fā)表于 05-07 15:24 ?930次閱讀

    自動(dòng)駕駛大模型中常提的Token是個(gè)啥?對(duì)自動(dòng)駕駛影響?

    近年來(lái),人工智能技術(shù)迅速發(fā)展,大規(guī)模深度學(xué)習(xí)模型(即大模型)在自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別以及自動(dòng)駕駛等多個(gè)領(lǐng)域取得了突破性進(jìn)展。自動(dòng)駕駛作為未來(lái)智能交通的重要方向,其核心技術(shù)之一便是對(duì)海量
    的頭像 發(fā)表于 03-28 09:16 ?1141次閱讀

    無(wú)法在GPU上運(yùn)行ONNX模型的Benchmark_app怎么解決?

    在 CPU 和 GPU 上運(yùn)行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型。 在 CPU 上推理成功,但在 GPU 上失敗。
    發(fā)表于 03-06 08:02

    中科馭數(shù)DPU助力大模型訓(xùn)練和推理

    隨著深度學(xué)習(xí)技術(shù)的快速發(fā)展,大模型(如GPT、BERT等)在自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)等領(lǐng)域取得了顯著成果。然而,大模型的參數(shù)量和計(jì)算量極其龐大,傳統(tǒng)的硬件架構(gòu)或者單臺(tái)設(shè)備(如單個(gè)
    的頭像 發(fā)表于 02-19 09:48 ?1190次閱讀
    中科馭數(shù)DPU助力大<b class='flag-5'>模型</b>訓(xùn)練和推理

    AMD將DeepSeek-V3模型集成至Instinct MI300X GPU

    ,DeepSeek-V3模型經(jīng)過(guò)了SGLang的強(qiáng)化,專(zhuān)門(mén)針對(duì)AI推理進(jìn)行了深度優(yōu)化。這意味著,當(dāng)該模型運(yùn)行在Instinct MI300X GPU上時(shí),將能夠提供更高效、更快速的AI
    的頭像 發(fā)表于 02-06 09:41 ?867次閱讀

    GPU云計(jì)算服務(wù)怎么樣

    在當(dāng)今數(shù)字化快速發(fā)展的時(shí)代,高性能計(jì)算需求日益增長(zhǎng)。為滿足這些需求,GPU云計(jì)算服務(wù)應(yīng)運(yùn)而生。那么,GPU云計(jì)算服務(wù)怎么樣呢?接下來(lái),AI部落小編帶您了解。
    的頭像 發(fā)表于 02-05 15:01 ?758次閱讀