chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

實(shí)測(cè)NPU“空轉(zhuǎn)”,AI PC首個(gè)落地應(yīng)用只調(diào)用GPU?

Hobby觀察 ? 來源:電子發(fā)燒友 ? 作者:梁浩斌 ? 2024-05-22 00:16 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/梁浩斌)去年開始,整個(gè)PC產(chǎn)業(yè)鏈,自上而下地都在為AI PC造勢(shì)。從處理器端的英特爾、AMD、高通等開始,到下游終端廠商,宣傳上清一色的AI PC概念。

從概念上看,硬件上AI PC的一大特征是在傳統(tǒng)PC的CPU+GPU基礎(chǔ)上,增加NPU加強(qiáng)AI 算力。不過有意思的是,最近某品牌PC機(jī)型上的AI助手率先落地,支持云端和本地運(yùn)算兩種模式,確實(shí)能夠完成宣傳上的很多功能。然而在實(shí)測(cè)本地大模型時(shí),卻沒有調(diào)用NPU算力,完全是使用GPU進(jìn)行運(yùn)算。

所以實(shí)際上,NPU目前為止依然是“空轉(zhuǎn)”的狀態(tài),過去的“傳統(tǒng)”PC,理論上似乎也能夠使用“AI PC”上的最新功能。那么AI PC中NPU還是一個(gè)必要存在嗎?

AI PC發(fā)展的三個(gè)階段

確實(shí),GPU在AI大模型上有很強(qiáng)的適配性,一直以來,很多開源大模型都能夠在家用電腦上部署,利用GPU的算力進(jìn)行推理。在AI PC的大模型剛剛落地時(shí),使用GPU算力是最為穩(wěn)妥以及最快的方式。

此前聯(lián)想集團(tuán)副總裁張華在發(fā)布會(huì)上提到,成熟的AI PC需要包括五大條件。其中包括標(biāo)配CPU+GPU+NPU的本地混合AI算力;內(nèi)嵌由本地大模型和個(gè)性化本地知識(shí)庫構(gòu)成的個(gè)人大模型;配備本地化個(gè)人數(shù)據(jù)和隱私保護(hù)方案;開放的AI 應(yīng)用生態(tài);內(nèi)嵌個(gè)人Agent(模擬人類行為或指揮的AI程序),多模態(tài)自然語言成為主要的交互方式。

他還認(rèn)為AI PC會(huì)有三個(gè)發(fā)展階段,第一階段是從2023年12月到2024年4月,這個(gè)階段被稱為“AI Ready”階段,這個(gè)階段特點(diǎn)是硬件平臺(tái)的支持CPU+GPU+NPU的混合AI算力,滿足終端廠商和第三方應(yīng)用開發(fā)者進(jìn)行終端AI體驗(yàn)創(chuàng)新。說白了,就是硬件要滿足AI需求,軟件先畫餅。

第二階段是2024年4月到2024年9月的AI Explore階段。在這個(gè)階段中,AI Ready的硬件,能夠用上個(gè)人Agent、個(gè)人大模型嵌入AIPC、首批第三方AI應(yīng)用接入AI小程序平臺(tái)等,并能夠運(yùn)用CPU+GPU+NPU的混合AI算力,提供基于自然語言交互的個(gè)人AI助理服務(wù)。

第三階段是24年9月之后的AI Master/AI Advanced階段。在這個(gè)階段,首先硬件的混合AI算力持續(xù)提升,同時(shí)個(gè)人大模型的能力進(jìn)一步提升,AI應(yīng)用生態(tài)大為豐富、商業(yè)模式進(jìn)一步多樣化,個(gè)人Agent的場(chǎng)景服務(wù)范圍進(jìn)一步擴(kuò)大、服務(wù)體驗(yàn)進(jìn)一步升級(jí),個(gè)人AI助理進(jìn)入隨用戶使用和體驗(yàn)反饋而快速進(jìn)階之路。

所以,AI PC新增的NPU,只是混合算力中的一部分。從算力來看,NPU可以算得上是“戰(zhàn)未來”的硬件,而實(shí)際AI能夠帶來哪些顛覆性的體驗(yàn),才是AI PC的關(guān)鍵。

AI PC有哪些應(yīng)用了?

目前的AI大模型,普遍是采用云端推理,這很大程度上是由于大模型數(shù)據(jù)體量巨大,無法部署在本地。而AI PC的概念中,本地大模型就是與目前常見的云端大模型有很大差異的地方。

從個(gè)人隱私的角度來看,本地大模型由于數(shù)據(jù)不上云,所以數(shù)據(jù)安全性更高,對(duì)于一些有保密需求的工作來說可以說是提高工作效率的剛需。

比如用戶可以通過本地大模型,讀取本地文檔,并使用自然語言交互來快速找到文檔中所需的信息。還可以通過自然語言交互,來完成修改電腦設(shè)置等操作,降低Windows操作系統(tǒng)使用門檻,畢竟很多選項(xiàng)都藏得比較深。

另外,還可以通過上傳足夠多的文檔,構(gòu)建一個(gè)自己的數(shù)據(jù)庫,需要搜索資料或數(shù)據(jù)時(shí),就可以通過本地的AI助手快速搜索到目標(biāo)。

最近微軟的發(fā)布會(huì)上,又推出了一個(gè)“Copilot+ PC”概念,核心是AI算力+AI Agent( Copilot )。

在微軟的展示中,任何東西都能夠往Copilot上拖動(dòng),并讓其分析、總結(jié)。當(dāng)然,AI圖片編輯、生成等功能已經(jīng)是AI大模型的標(biāo)配了,而微軟為windows加入的AI賦能功能中,還有可以稱之為“殺手锏”的。

比如AI能夠?qū)崟r(shí)讀取屏幕顯示的所有信息,比如在玩游戲時(shí),可以直接詢問AI來獲得攻略,AI甚至能理解游戲中的參數(shù)、物品等,從而給出相應(yīng)的策略。

Recall則是令電腦擁有了類似于“時(shí)光機(jī)”的能力,AI能力的幫助下,Copilot+ PC可以訪問電腦上任何看過或者運(yùn)行過的操作,甚至可以憑借記憶,描述在某個(gè)網(wǎng)站上見過圖片,AI就能夠幫助找出相應(yīng)的頁面截圖。而這是基于本地算力以及存儲(chǔ)所實(shí)現(xiàn)的,能夠保障用戶隱私。

小結(jié):

AI PC的概念雖然值得考究,但AI的應(yīng)用要落地在PC上,硬件和軟件都無法單獨(dú)拿出來討論,AI應(yīng)用與硬件的結(jié)合隨著需求提高只會(huì)越來越緊密。這樣的情況下,NPU的存在形式,發(fā)展方向,以及應(yīng)用的適配,未來將會(huì)有更多的可能性。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4948

    瀏覽量

    131244
  • NPU
    NPU
    +關(guān)注

    關(guān)注

    2

    文章

    330

    瀏覽量

    19757
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    375

    瀏覽量

    613
  • AI PC
    +關(guān)注

    關(guān)注

    0

    文章

    137

    瀏覽量

    493
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    CPU\GPU引領(lǐng),國(guó)產(chǎn)AI PC進(jìn)階

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)當(dāng)前AI PC已經(jīng)成為PC產(chǎn)業(yè)的下一個(gè)浪潮,國(guó)產(chǎn)CPU、GPU廠商在PC市場(chǎng)一直處于追趕態(tài)勢(shì),
    的頭像 發(fā)表于 09-01 02:15 ?5661次閱讀
    CPU\<b class='flag-5'>GPU</b>引領(lǐng),國(guó)產(chǎn)<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>進(jìn)階

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】+NVlink技術(shù)從應(yīng)用到原理

    前言 【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書中的芯片知識(shí)是比較接近當(dāng)前的頂尖芯片水平的,同時(shí)包含了芯片架構(gòu)的基礎(chǔ)知識(shí),但該部分知識(shí)比較晦澀難懂,或許是由于我一直從事的事芯片
    發(fā)表于 06-18 19:31

    iTOP-3588S開發(fā)板四核心架構(gòu)GPU內(nèi)置GPU可以完全兼容0penGLES1.1、2.0和3.2。

    ,8GB內(nèi)存,32GBEMMC。 四核心架構(gòu)GPU內(nèi)置GPU可以完全兼容0penGLES1.1、2.0和3.2。 內(nèi)置NPU RK3588S內(nèi)置NPU,支持INT4/INT8/INT1
    發(fā)表于 05-15 10:36

    超越CPU/GPUNPU如何讓AI“輕裝上陣”?

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)NPU是一種專門為人工智能(AI)計(jì)算設(shè)計(jì)的處理器,主要用于高效執(zhí)行神經(jīng)網(wǎng)絡(luò)相關(guān)的運(yùn)算(如矩陣乘法、卷積、激活函數(shù)等)。相較于傳統(tǒng)CPU/GPU,NPU
    的頭像 發(fā)表于 04-18 00:05 ?2121次閱讀

    RK3588核心板在邊緣AI計(jì)算中的顛覆性優(yōu)勢(shì)與場(chǎng)景落地

    推理任務(wù),需額外部署GPU加速卡,導(dǎo)致成本與功耗飆升。 擴(kuò)展性受限:老舊接口(如USB 2.0、百兆網(wǎng)口)無法支持5G模組、高速存儲(chǔ)等現(xiàn)代外設(shè),升級(jí)困難。 開發(fā)周期長(zhǎng):BSP適配不完善,跨平臺(tái)AI
    發(fā)表于 04-15 10:48

    登臨科技攜手聯(lián)想開天解鎖AI PC芯體驗(yàn)

    DeepSeek的橫空出世和開源屬性,不但彰顯了中國(guó)在人工智能領(lǐng)域的重大突破,更掀起了“AI+產(chǎn)業(yè)”落地的熱潮。作為國(guó)內(nèi)GPU領(lǐng)先企業(yè),登臨科技基于GPU+的Goldwasser(高凜
    的頭像 發(fā)表于 02-24 13:46 ?817次閱讀

    NPU技術(shù)如何提升AI性能

    設(shè)計(jì)的處理器,與傳統(tǒng)的CPU和GPU相比,它在執(zhí)行深度學(xué)習(xí)任務(wù)時(shí)具有更高的效率和更低的能耗。NPU通過專門優(yōu)化的硬件結(jié)構(gòu)和指令集,能夠更快地處理神經(jīng)網(wǎng)絡(luò)中的大量并行計(jì)算任務(wù)。 1. 優(yōu)化硬件架構(gòu) NPU技術(shù)通過優(yōu)化硬件架構(gòu)來提升
    的頭像 發(fā)表于 11-15 09:11 ?1456次閱讀

    什么是NPU芯片及其功能

    在人工智能(AI)技術(shù)迅猛發(fā)展的今天,NPU芯片已經(jīng)成為推動(dòng)這一領(lǐng)域進(jìn)步的關(guān)鍵技術(shù)之一。NPU芯片,即神經(jīng)網(wǎng)絡(luò)處理單元,是一種專門為深度學(xué)習(xí)算法設(shè)計(jì)的硬件加速器。 一、NPU芯片的概念
    的頭像 發(fā)表于 11-14 15:48 ?5252次閱讀

    NPUGPU的性能對(duì)比

    它們?cè)诓煌瑧?yīng)用場(chǎng)景下的表現(xiàn)。 一、設(shè)計(jì)初衷與優(yōu)化方向 NPU : 專為加速AI任務(wù)而設(shè)計(jì),包括深度學(xué)習(xí)和推理。 針對(duì)神經(jīng)網(wǎng)絡(luò)的計(jì)算模式進(jìn)行了優(yōu)化,能夠高效地執(zhí)行矩陣乘法、卷積等操作。 擁有眾多小型處理單元,配備專門的內(nèi)存體系結(jié)構(gòu)和數(shù)據(jù)流優(yōu)化策略,對(duì)深度學(xué)習(xí)任務(wù)的處理特別高
    的頭像 發(fā)表于 11-14 15:19 ?4184次閱讀

    AI PC的崛起

    看到PC“超級(jí)周期”的開始。AI PC具有專門的SoC,每秒能夠提供40至60兆次操作(TOPS)的神經(jīng)處理單元(NPU),有望帶來技術(shù)創(chuàng)新的巨大變化。與依賴CPU和
    的頭像 發(fā)表于 11-14 11:06 ?856次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽

    、GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書中有對(duì)芯片方案商處理器的講解,理論聯(lián)系實(shí)際,使讀者能更好理解算力芯片。 全書共11章,由淺入深,較系統(tǒng)全面進(jìn)行講解。下面目錄對(duì)全書內(nèi)容有一個(gè)整體了解
    發(fā)表于 10-15 22:08

    Gartner預(yù)測(cè):2025年全球AI PC出貨量將占比PC總出貨量43%

    。   Gartner對(duì)AI PC的定義為搭載了嵌入式神經(jīng)處理單元(NPU)的個(gè)人電腦,并基于這一定義進(jìn)行了相關(guān)預(yù)測(cè)。AI PC的范圍
    的頭像 發(fā)表于 10-15 15:23 ?1832次閱讀

    什么是NPU?什么場(chǎng)景需要配置NPU?

    在人工智能(AI)技術(shù)如火如荼的今天,NPU神經(jīng)處理單元(Neural Processing Unit)作為一種新興的硬件加速器,正在成為ARM主板配置中的新寵。與傳統(tǒng)的CPU和GPU相比,N
    的頭像 發(fā)表于 10-11 10:13 ?6385次閱讀
    什么是<b class='flag-5'>NPU</b>?什么場(chǎng)景需要配置<b class='flag-5'>NPU</b>?

    名單公布!【書籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    和像素統(tǒng)一的G80到現(xiàn)在重金難求的H100;AMD的Zen系列CPU和RDNA系列GPU兩線作戰(zhàn);中國(guó)的高性能計(jì)算芯片逐步獲得更多TOP500排名;華為Ascend 910 NPU芯片也成為AI時(shí)代
    發(fā)表于 09-02 10:09

    刷新AI PC NPU算力,AMD銳龍AI 9 HX 375領(lǐng)銜55 TOPS

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)最近AMD官網(wǎng)上線了銳龍AI 300系列中的最新成員銳龍AI 9 HX 375處理器。原本Ryzen AI 9 HX 370的NPU達(dá)到了50 TOPS,
    的頭像 發(fā)表于 08-07 00:28 ?4785次閱讀
    刷新<b class='flag-5'>AI</b> <b class='flag-5'>PC</b> <b class='flag-5'>NPU</b>算力,AMD銳龍<b class='flag-5'>AI</b> 9 HX 375領(lǐng)銜55 TOPS