chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片,就是GPU嗎?

晶揚(yáng)電子 ? 來源:晶揚(yáng)電子 ? 2023-06-27 17:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近,隨著人工智能的大肆宣傳,我們注意到大多數(shù)人都默認(rèn)所有人工智能工作負(fù)載將始終在 GPU 上運(yùn)行。對于這一思路,我們認(rèn)為,隨著更廣泛的芯片發(fā)揮作用,現(xiàn)實(shí)情況可能會有所不同。

需要明確的是,GPU 非常適合人工智能工作,并且不會對 Nvidia 的股價構(gòu)成威脅。我們所說的人工智能實(shí)際上是應(yīng)用統(tǒng)計學(xué),更具體地說是非常先進(jìn)的統(tǒng)計回歸模型。

這些問題的核心是矩陣代數(shù),涉及相當(dāng)簡單的數(shù)學(xué)問題,例如一個數(shù)字乘以另一個數(shù)字,但需要大規(guī)模完成。GPU 的設(shè)計采用較小的內(nèi)核(更簡單的數(shù)學(xué)),且數(shù)量較多(大規(guī)模)。因此,使用這些處理器代替具有較少數(shù)量較大內(nèi)核的 CPU 是有意義的。

現(xiàn)在,這種情況變得有點(diǎn)模糊了。其一,GPU 變得更加昂貴。他們更擅長人工智能數(shù)學(xué),但在某些時候轉(zhuǎn)向 CPU 開始在經(jīng)濟(jì)上變得有意義。

人工智能半導(dǎo)體市場實(shí)際上分為三個部分:訓(xùn)練、云推理和邊緣推理。目前的訓(xùn)練基本上與 Nvidia 相當(dāng),但這只是市場的一小部分。云推理將是一個更大的市場——隨著越來越多的人使用這些人工智能模型,對推理的需求將會增長,目前大部分工作將在云中完成。對于許多公司來說,擴(kuò)大產(chǎn)能的成本似乎非常昂貴。半導(dǎo)體分析師迪倫·帕特爾(Dylan Patel)像往常一樣,對這個數(shù)學(xué)進(jìn)行了最好的闡述,但足以說明推理費(fèi)用可能會成為未來一年左右消費(fèi)者采用人工智能的主要障礙。

“考慮到 GPU 的成本和相對稀缺性,我們認(rèn)為許多公司將開始探索 GPU 的替代品來運(yùn)行推理工作負(fù)載,特別是對于將這些 AI 結(jié)果與其他功能(如搜索或社交媒體)相結(jié)合的公司,這些工作負(fù)載在很大程度上仍然運(yùn)行得最好無論如何,在CPU上?!盌ylan Patel說。

展望未來,我們懷疑人工智能的經(jīng)濟(jì)學(xué)將需要更多的推理工作來進(jìn)行邊緣計算,這意味著消費(fèi)者需要付費(fèi)購買設(shè)備。這意味著手機(jī)和 PC 將需要人工智能功能,這可能意味著它們在 CPU 和移動 SoC 上運(yùn)行。

AMD 最近推出了內(nèi)置于其客戶端 CPU 中的人工智能功能,而蘋果公司的 A 系列移動處理器和 M 系列 CPU 中都配備了神經(jīng)引擎。我們預(yù)計這很快就會在邊緣設(shè)備中普及。

當(dāng)然,許多公司正在尋求構(gòu)建人工智能加速器——專門用于進(jìn)行人工智能數(shù)學(xué)計算的專用芯片。但事實(shí)證明,這僅適用于像谷歌這樣控制其所有軟件的公司。這些專用芯片的一個重要問題是,它們往往針對一組特定的工作負(fù)載或人工智能模型進(jìn)行過度設(shè)計,當(dāng)這些模型發(fā)生變化時,這些芯片就會失去性能優(yōu)勢。

所有這些都導(dǎo)致了半導(dǎo)體領(lǐng)域最不為人知的領(lǐng)域之一——FPGA。這些是“可編程”芯片(“P”代表可編程),這意味著它們在生產(chǎn)后可以重新用于不同的任務(wù)。這些與專門構(gòu)建的 ASIC 處于相反的一端,專為 AI 加速器等特定任務(wù)而設(shè)計。

FPGA 已經(jīng)存在多年了。半導(dǎo)體的經(jīng)濟(jì)學(xué)通常意味著,超過一定的容量閾值,ASIC 更有意義,但對于工業(yè)和航空航天系統(tǒng)等小容量應(yīng)用,它們的工作效果非常好。因此,F(xiàn)PGA 無處不在,涉及數(shù)十個終端市場,但我們對它們不太熟悉,因為它們通常不會出現(xiàn)在普通消費(fèi)者每天使用的大批量電子產(chǎn)品中。

人工智能的出現(xiàn)稍微改變了這種計算方式。對于這些工作負(fù)載,F(xiàn)PGA 可能對底層模型頻繁變化的人工智能推理需求有意義。在這里,F(xiàn)PGA 的可編程性超過了 FPGA 使用的典型經(jīng)濟(jì)性。需要明確的是,我們認(rèn)為 FPGA 不會成為使用數(shù)千個 GPU 的大規(guī)模人工智能系統(tǒng)的有力競爭對手,但我們確實(shí)認(rèn)為,隨著人工智能進(jìn)一步滲透到電子領(lǐng)域,F(xiàn)PGA 的應(yīng)用范圍將會擴(kuò)大。

簡而言之,GPU 可能仍然是大部分人工智能領(lǐng)域的主導(dǎo)芯片,尤其是對于高調(diào)、大容量的模型。但除此之外,我們認(rèn)為替代芯片的使用將成為生態(tài)系統(tǒng)的重要組成部分,這是一個比今天看起來更大的機(jī)會。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5118

    瀏覽量

    134556
  • 人工智能
    +關(guān)注

    關(guān)注

    1813

    文章

    49807

    瀏覽量

    262210
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2077

    瀏覽量

    36596

原文標(biāo)題:AI芯片,就是GPU嗎?

文章出處:【微信號:晶揚(yáng)電子,微信公眾號:晶揚(yáng)電子】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI硬件全景解析:CPU、GPU、NPU、TPU的差異化之路,一文看懂!?

    、汽車)。 未來,隨著AI應(yīng)用的深化,硬件分工將更精細(xì)——可能出現(xiàn)專為機(jī)器人設(shè)計的專用AI芯片,或融合NPU與GPU優(yōu)勢的“邊緣訓(xùn)練芯片
    的頭像 發(fā)表于 12-17 17:13 ?499次閱讀
    <b class='flag-5'>AI</b>硬件全景解析:CPU、<b class='flag-5'>GPU</b>、NPU、TPU的差異化之路,一文看懂!?

    融資超20億,這家“非GPU芯片公司躋身國產(chǎn)AI算力第一梯隊

    電子發(fā)燒友報道(文/黃晶晶)谷歌 TPU 對英偉達(dá) GPU 的直接競爭,引發(fā)市場廣泛關(guān)注。而如今,中國 AI 芯片領(lǐng)域也正加速布局,發(fā)力非GPU芯片
    的頭像 發(fā)表于 12-04 09:17 ?1.1w次閱讀
    融資超20億,這家“非<b class='flag-5'>GPU</b>”<b class='flag-5'>芯片</b>公司躋身國產(chǎn)<b class='flag-5'>AI</b>算力第一梯隊

    蘋果AI革命:M5芯片10核GPU、AI處理速度翻倍,Apple Glass在路上

    三款核心設(shè)備。這一場蘋果圍繞M5芯片AI硬件的革新,也成為蘋果邁進(jìn)AI時代以端側(cè)大模型和空間計算的又一成績。 ? ? 3nm+10核GPU革命,AI
    的頭像 發(fā)表于 10-19 01:13 ?1w次閱讀
    蘋果<b class='flag-5'>AI</b>革命:M5<b class='flag-5'>芯片</b>10核<b class='flag-5'>GPU</b>、<b class='flag-5'>AI</b>處理速度翻倍,Apple Glass在路上

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片

    解決人類智能無法解決的復(fù)雜問題。實(shí)現(xiàn)AGI的AI相關(guān)研究機(jī)構(gòu)和企業(yè)的主要目標(biāo)。 一、生成式AI點(diǎn)燃AGI之火 CHatGPT就是已經(jīng)取得成功的生成式AI技術(shù)。很多人都充滿了信心,相信不
    發(fā)表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學(xué)應(yīng)用

    流體芯片AI計算平臺 ⑥基于AI的自主決策系統(tǒng) ⑦基于AI的自主學(xué)習(xí)系統(tǒng) 2、面臨的挑戰(zhàn) ①需要造就一個跨學(xué)科、全面性覆蓋的知識庫和科學(xué)基礎(chǔ)模型 ②需要解決信息不準(zhǔn)確和認(rèn)知偏差問題
    發(fā)表于 09-17 11:45

    適應(yīng)邊緣AI全新時代的GPU架構(gòu)

    電子發(fā)燒友網(wǎng)站提供《適應(yīng)邊緣AI全新時代的GPU架構(gòu).pdf》資料免費(fèi)下載
    發(fā)表于 09-15 16:42 ?39次下載

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)

    、Transformer 模型邊緣部署 3、智能手機(jī)AI芯片 3.1概述 智能手機(jī)中最大的一塊芯片就是應(yīng)用處理器(AP)。AP中集成了CPU、GPU
    發(fā)表于 09-12 17:30

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPU、GPU、FPGA、ASIC都是AI芯片。 其他的還是知道的,F(xiàn)PGA屬于
    發(fā)表于 09-12 16:07

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件

    的不同。隨著AI熱潮的興起,大腦的抽象模型已被提煉成各種的AI算法,并使用半導(dǎo)體芯片技術(shù)加以實(shí)現(xiàn)。 而大腦是一個由無數(shù)神經(jīng)元通過突觸連接而成的復(fù)雜網(wǎng)絡(luò),是極其復(fù)雜和精密的。大腦在本質(zhì)上就是
    發(fā)表于 09-06 19:12

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內(nèi)容總覽

    AI芯片:科技探索與AGI愿景》這本書是張臣雄所著,由人民郵電出版社出版,它與《AI芯片:前沿技術(shù)與創(chuàng)新未來》一書是姊妹篇,由此可見作者在AI
    發(fā)表于 09-05 15:10

    AI 芯片浪潮下,職場晉升新契機(jī)?

    職場、渴望在專業(yè)領(lǐng)域更進(jìn)一步的人來說,AI 芯片與職稱評審之間,實(shí)則有著千絲萬縷的聯(lián)系,為職業(yè)晉升開辟了新的路徑。 AI 芯片領(lǐng)域細(xì)分與職稱對應(yīng) 目前,
    發(fā)表于 08-19 08:58

    【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》

    問題請咨詢工作人員(微信:elecfans_666)。 AI芯片,從過去走向未來 四年前,市面上僅有的一本AI芯片全書在世界范圍內(nèi)掀起一陣求知熱潮,這本暢銷書
    發(fā)表于 07-28 13:54

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】+NVlink技術(shù)從應(yīng)用到原理

    前言 【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書中的芯片知識是比較接近當(dāng)前的頂尖芯片水平的,同時包含了芯片架構(gòu)的基礎(chǔ)知
    發(fā)表于 06-18 19:31

    ASIC和GPU的原理和優(yōu)勢

    ? 本文介紹了ASIC和GPU兩種能夠用于AI計算的半導(dǎo)體芯片各自的原理和優(yōu)勢。 ASIC和GPU是什么 ASIC和GPU,都是用于計算功能
    的頭像 發(fā)表于 01-06 13:58 ?3241次閱讀
    ASIC和<b class='flag-5'>GPU</b>的原理和優(yōu)勢

    NVIDIA和GeForce RTX GPU專為AI時代打造

    NVIDIA 和 GeForce RTX GPU 專為 AI 時代打造。
    的頭像 發(fā)表于 01-06 10:45 ?1314次閱讀