為什么GPU適用于AI？AI服務(wù)器產(chǎn)業(yè)鏈格局分析

GPT模型對(duì)比BERT模型、T5模型的參數(shù)量有明顯提升。GPT-3是目前最大的知名語(yǔ)言模型之一，包含了1750億（175B）個(gè)參數(shù)。在GPT-3發(fā)布之前...

2024-04-09 標(biāo)簽：cpugpu人工智能 1320 0

兆芯CPU+GPU+芯片組技術(shù)路線

”CPU“ 和“芯片組”分立模式，系統(tǒng)瓶頸在兩者之間的主板總線， SOC變片外為片內(nèi)、解決了這- -瓶頸;

2023-07-15 標(biāo)簽：cpu云計(jì)算gpu 1318 0

超高清時(shí)代的編解碼處理方案

在技術(shù)選型方面，正是CPU不可替代的優(yōu)點(diǎn)讓騰訊云決定摒棄硬件方案的選型，轉(zhuǎn)為純CPU編碼器的處理。那么，第四代至強(qiáng)是如何助力騰訊云4k/8k超高清解碼的？

2023-09-06 標(biāo)簽：編碼器cpugpu 1308 0

設(shè)計(jì)大規(guī)模并行哈希圖時(shí)的幾個(gè)重要考慮事項(xiàng)

在 GPU 上使用大規(guī)模并行哈希圖實(shí)現(xiàn)性能最大化

2023-07-05 標(biāo)簽：NVIDIAgpuAI 1306 0

基于 TPU v4的超級(jí)計(jì)算機(jī)性能解析

谷歌張量處理器（tensor processing unit，TPU）是該公司為機(jī)器學(xué)習(xí)定制的專用芯片（ASIC），第一代發(fā)布于 2016 年，成為了 ...

2023-04-23 標(biāo)簽：連接器gpuTPU 1305 0

字節(jié)跳動(dòng)攻克GPU萬(wàn)卡互聯(lián)技術(shù)突破與解決方案

在分布式訓(xùn)練中大規(guī)模使用默認(rèn)的DCQCN協(xié)議時(shí)，all-to-all通信可能會(huì)導(dǎo)致?lián)砣蚉FC級(jí)別的提高。過(guò)度使用PFC可能會(huì)導(dǎo)致頭部阻塞（HoL），從...

2024-04-01 標(biāo)簽：gpu人工智能網(wǎng)絡(luò)拓?fù)?/a> 1300 0

Google GPipe為代表的流水線并行范式

但在實(shí)際應(yīng)用中，流水線并行并不特別流行，主要原因是模型能否均勻切割，影響了整體計(jì)算效率，這就需要算法工程師做手調(diào)。因此，今天我們來(lái)介紹一種應(yīng)用最廣泛，最...

2023-05-26 標(biāo)簽：Googlegpu模型 1295 0

高性能計(jì)算環(huán)境下的深度學(xué)習(xí)異構(gòu)集群建設(shè)與優(yōu)化實(shí)踐

隨著人工智能在工業(yè)和學(xué)術(shù)界大規(guī)模的應(yīng)用，深度學(xué)習(xí)訓(xùn)練需求日益迫切。各組織機(jī)構(gòu)投入大量資金購(gòu)置和搭建配置GPU和InfiniBand網(wǎng)卡異構(gòu)計(jì)算集群。集群...

2023-09-25 標(biāo)簽：gpu計(jì)算機(jī)服務(wù)器 1295 0

NVIDIA Merlin分布式嵌入使快速、TB級(jí)推薦培訓(xùn)變得簡(jiǎn)單

嵌入在深度學(xué)習(xí)推薦模型中起著關(guān)鍵作用。它們用于將數(shù)據(jù)中的編碼分類輸入映射到可由數(shù)學(xué)層或多層感知器（ MLP ）處理的數(shù)值。

2022-10-11 標(biāo)簽：NVIDIAgpu深度學(xué)習(xí) 1292 0

PrimeSimSPICE：異構(gòu)計(jì)算模型實(shí)現(xiàn)數(shù)量級(jí)性能突破

隨著對(duì)更高計(jì)算性能的需求不斷增加，HPC 行業(yè)正朝著異構(gòu)計(jì)算模型發(fā)展，其中 GPU 和 CPU 協(xié)同工作以執(zhí)行通用計(jì)算任務(wù)。在這種異構(gòu)計(jì)算模型中，GPU...

2023-05-24 標(biāo)簽：CPUGPUHPC 1289 0

算力服務(wù)器為什么選擇GPU

隨著人工智能技術(shù)的快速普及，算力需求日益增長(zhǎng)。智算中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備，其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器也進(jìn)入了大眾...

2024-07-25 標(biāo)簽：cpugpu服務(wù)器 1287 0

詳解ChatGPT的預(yù)訓(xùn)練模型成長(zhǎng)史

PFMs能在nlp中盛行起來(lái)，得益于能它同時(shí)對(duì)單詞的句法和語(yǔ)義表示進(jìn)行建模，并根據(jù)不同的輸入動(dòng)態(tài)改變多義詞的表示上下文。PFM能學(xué)習(xí)豐富的語(yǔ)法和語(yǔ)義推理...

2023-04-25 標(biāo)簽：gpunlp半監(jiān)督學(xué)習(xí) 1285 0

GPU與CPU的由來(lái)及區(qū)別

CPU,中央處理器(Central Processing Unit)是一臺(tái)計(jì)算機(jī)的運(yùn)算核心和控制核心。CPU、內(nèi)部存儲(chǔ)器和輸入/輸出設(shè)備是電子計(jì)算機(jī)三大...

2023-02-09 標(biāo)簽：cpu存儲(chǔ)gpu 1285 0

FPGA或?qū)⑷〈鶦PU而成為機(jī)器人開(kāi)發(fā)的新寵

FPGA這個(gè)詞可能很多人都有所耳聞，尤其是理工科的同學(xué)們大多數(shù)應(yīng)該都自愿或被迫被這個(gè)詞刷屏過(guò)。但要真追究起來(lái)FPGA到底是個(gè)什么東西。

2019-07-01 標(biāo)簽：FPGACPUGPU 1281 0