數(shù)據(jù)中心處理器采用Chiplet有何優(yōu)勢？

生成式人工智能和大模型的驅(qū)動下，我們正置身于一個算力領(lǐng)域千載難逢的拐點：一個類似于個人電腦、互聯(lián)網(wǎng)、移動設(shè)備和云誕生的時刻。

2023-11-07 標簽：英特爾gpu服務(wù)器 1098 0

移動處理器發(fā)展新方向，整合更多的GPU將成為主流？

　高階行動裝置對多媒體等視覺體驗的要求愈來愈高，促使行動處理器開發(fā)商大舉整合更多GPU核心，期借助平行運算能力，分散CPU運算負擔，進而強化繪圖與視覺表現(xiàn)。

2013-12-23 標簽：處理器GPUSoC 1091 2

2023算力研究：計算、存儲、網(wǎng)絡(luò)、軟件

計算：GPU是ChatGPT訓練和推理的核心支柱，其更新速度遠超過“摩爾定律” ，受益于AI和高性能市場需求增長，GPU行業(yè)景氣度顯著提升。AI服務(wù)器作...

2023-06-15 標簽：gpu算力ChatGPT 1088 0

FP8在大模型訓練中的應(yīng)用

越來越多的技術(shù)團隊開始使用 FP8 進行大模型訓練，這主要因為 FP8 有很多技術(shù)優(yōu)勢。比如在新一代的 GPU 上，F(xiàn)P8 相對于 BF16 對矩陣乘算...

2025-01-23 標簽：NVIDIAgpu大模型 1066 0

FPGA為什么比GPU的延遲低這么多？

FPGA 正是一種硬件可重構(gòu)的體系結(jié)構(gòu)。它的英文全稱是Field Programmable Gate Array，中文名是現(xiàn)場可編程門陣列。 FP...

2024-04-08 標簽：cpugpu圖像處理 1066 0

AMD正式推出Kira K24系統(tǒng)模塊(SOM)

近日，AMD正式推出了Kira K24系統(tǒng)模塊(SOM)、KD240驅(qū)動器入門套件，尺寸極小，能效極高，非常適合對成本非常敏感的工業(yè)和商業(yè)邊緣應(yīng)用。

2023-09-27 標簽：驅(qū)動器amd電機控制 1064 0

助力轉(zhuǎn)型：GPU如何完成曾經(jīng)不可能完成的分析工作

最新版本的Cloudera Data Platform采用通過NVIDIA技術(shù)加速的Spark 3.0，能夠幫助操作團隊實現(xiàn)8倍性能提升，從而成功運行一...

2021-08-06 標簽：gpu機器學習 1053 0

如何利用3D點編碼提升PETRV1/V2及StreamPETR性能

由于3DPPE在構(gòu)建圖像特征的位置編碼時引入了顯式的深度信息，使得對應(yīng)的位置先驗與真實物理世界的分布更為一致，從而有效的減緩了沿射線方向的誤檢。

2023-11-24 標簽：cpugpu特斯拉 1048 0

如何使用GPU渲染模式分析工具進行分析

每個豎條都是一次VSync的時間16.6ms，如果豎條寬度變寬且透明則代表超出16.6ms繪制的幀 * 每個Vsync信號來臨前都會做工作（Chore...

2023-02-09 標簽：gpu函數(shù)渲染 1047 0

RISC-V芯片新突破：CPU與GPU一體化核心設(shè)計

X-Silicon 的芯片與其他架構(gòu)不同，其設(shè)計將 CPU 和 GPU 的功能結(jié)合到單核架構(gòu)中。這與 Intel 和 AMD 的典型設(shè)計不同，后者有獨立...

2024-04-07 標簽：處理器cpugpu 1045 0

Continous Batching大模型推理關(guān)鍵技術(shù)

TurboTransformers算是比較早期指出輸入變長需要新的Batching方法的論文。在2020年上半年，我開始思考如何把變長輸入Batchin...

2024-01-23 標簽：gpuGPTnlp 1045 0

一文解析AI驅(qū)動光模塊變革

傳統(tǒng)的三層架構(gòu)已不再適應(yīng)日益增長的數(shù)據(jù)中心流量需求，葉脊架構(gòu)的出現(xiàn)解決了這一問題。葉脊架構(gòu)下，光模塊數(shù)量可高達數(shù)十倍，以滿足大規(guī)模AI集群對大帶寬、低時...

2024-04-22 標簽：gpu數(shù)據(jù)中心光通信 1037 0

一文帶你了解NVIDIA Jetson

計算機發(fā)展成為今天的機器有著悠久的歷史，今天看到的許多計算機都遵循類似的設(shè)計結(jié)構(gòu)，至少包含CPU、GPU、內(nèi)存和存儲。迄今為止，我們對計算機設(shè)計的了解大...

2024-04-09 標簽：NVIDIAgpu人工智能 1036 0

全球GPU市場分析 GPU在汽車電子中的應(yīng)用情況

以ChatGPT的訓練為例，單次模型訓練就可能需要超過2000張英偉達A100顯卡持續(xù)不斷地訓練27天。不僅如此，大模型的日常運行中每一次用戶調(diào)用都需要...

2023-11-10 標簽：amdNVIDIAgpu 1032 0

Omniverse Connectors功能及區(qū)別簡析

NVIDIA Omniverse? Connect 允許您使用常用的應(yīng)用程序作為 NVIDIA Omniverse? 平臺的內(nèi)容交付工具。

2024-01-05 標簽：連接器NVIDIAgpu 1031 0

為什么GPU的壽命如此之短

最近外面總在討論GPU的壽命只有三年。

2024-10-29 標簽：gpu實驗室ECC 1028 0

基于Transformer模型的壓縮方法

基于Transformer架構(gòu)的大型模型在人工智能領(lǐng)域中發(fā)揮著日益重要的作用，特別是在自然語言處理（NLP）和計算機視覺（CV）領(lǐng)域。

2024-02-22 標簽：變壓器編碼器gpu 1024 0