電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）今年初，微軟推出引入Copilot功能的全新個(gè)人電腦，Copilot作為AI語(yǔ)音助手被確定為AI PC不可或缺的按鍵以及功能，它能夠在不需要云數(shù)據(jù)中心的情況下處理本地的人工智能任務(wù)。同時(shí)，微軟還提出，這款全新電腦搭配擁有全新神經(jīng)處理單元NPU的芯片，可實(shí)現(xiàn)每秒超過(guò)40萬(wàn)億次即40+TOPS的運(yùn)算。那么也就是說(shuō)，若要符合微軟給出的AI PC的定義，NPU的算力至少要達(dá)到40 TOPS。

這一定義的拋出，突顯了NPU的重要性。半導(dǎo)體大廠們普遍認(rèn)為CPU+GPU+NPU的組合將是AI PC的算力基座。

《AI PC產(chǎn)業(yè)白皮書(shū)》中指出AI PC五大特性，包括提供多模態(tài)自然語(yǔ)言交互、終端內(nèi)嵌個(gè)人的大模型、標(biāo)配本地混合AI算力、連接開(kāi)放的AI應(yīng)用生態(tài)、設(shè)備級(jí)個(gè)人數(shù)據(jù)和隱私安全保護(hù)。尤其是本地混合AI算力，即CPU+GPU+NPU異構(gòu)混合算力保證了AIPC本地推理的可行性，同時(shí)隨著端側(cè)算力的快速提升，AIPC可以承載更大的AI模型，執(zhí)行更加復(fù)雜的任務(wù)。

在分工上，CPU是計(jì)算機(jī)的運(yùn)算核心和控制核心，GPU進(jìn)行圖形處理和大規(guī)模并發(fā)計(jì)算，NPU提供高效能和低功耗的神經(jīng)網(wǎng)絡(luò)運(yùn)算支持，在多種應(yīng)用場(chǎng)景中實(shí)用智能計(jì)算。三者的組合發(fā)揮各自的優(yōu)勢(shì)，協(xié)同工作，高效實(shí)現(xiàn)端側(cè)AI的能力。

不過(guò)，當(dāng)前來(lái)看NPU別說(shuō)是多少算力的問(wèn)題，甚至很多設(shè)備都還沒(méi)有NPU。以安卓平臺(tái)來(lái)看，目前70%的第三方 ML/AI 應(yīng)用運(yùn)行在CPU上，特別是一些低級(jí)別設(shè)備很難承擔(dān)NPU的費(fèi)用，CPU+GPU+NPU的組合或許要從高端設(shè)備開(kāi)始。

AI PC的演進(jìn)過(guò)程中，《白皮書(shū)》指出應(yīng)分為AIReady階段和AIOn階段。在AIReady階段，AIPC主要表現(xiàn)為芯片計(jì)算架構(gòu)的升級(jí)，具備基本的本地混合AI算力，能夠?yàn)锳IPC的軟件及服務(wù)創(chuàng)新提供基本保障，開(kāi)啟體驗(yàn)創(chuàng)新。

如今，NPU以及高算力NPU的導(dǎo)入已經(jīng)開(kāi)始。英特爾、AMD、蘋(píng)果、高通等廠商紛紛推出了帶有NPU的處理器產(chǎn)品，不少新產(chǎn)品的NPU算力都達(dá)到40 TOPS，高算力應(yīng)對(duì)復(fù)雜且眾多的本地AI大模型需求，為迎接AI PC的應(yīng)用爆發(fā)做好準(zhǔn)備。



英特爾

去年12月，英特爾正式發(fā)布酷睿Ultra處理器。它是首款基于 Intel 4 制程工藝打造的處理器，代表了40年來(lái)英特爾架構(gòu)最大的革新。采用了先進(jìn)的Foveros 3D 封裝技術(shù)，在 CPU、GPU 和神經(jīng)網(wǎng)絡(luò)處理單元（NPU）的架構(gòu)中集成了專(zhuān)屬 AI 加速功能，從而成為英特爾歷史上 AI 性能最強(qiáng)、能效最佳的客戶(hù)端處理器。英特爾方面還宣布，將與主流 OEM 伙伴推出 230 余款機(jī)型，開(kāi)啟AI PC新紀(jì)元。

根據(jù)英特爾的酷睿 Ultra 產(chǎn)品路線圖，2023年為Meteor Lake，2024年將有Lunar Lake、Arrow Lake，2025年為Panther Lake，2026年Future Products還沒(méi)有具體架構(gòu)代號(hào)。其中Lunar Lake采用臺(tái)積電3nm工藝，NPU性能將是上一代的4倍，達(dá)到48 TOPS，滿(mǎn)足 Copilot+ 需求。

另外，英特爾將于年內(nèi)發(fā)布Arrow Lake處理器。報(bào)道稱(chēng)，Arrow Lake涵蓋了臺(tái)式機(jī)和筆記本電腦產(chǎn)品的多個(gè)細(xì)分平臺(tái)，其中“S”用于臺(tái)式機(jī)并采用LGA 1851插座，“HX”用于發(fā)燒級(jí)游戲本，算力方面，Arrow Lake-S和Arrow Lake-HX提供AI算力達(dá)37 TOPS，其中Arrow Lake-S/HX的GPU在新架構(gòu)加持下，AI算力從3 TOPS提高到9 TOPS；內(nèi)置的NPU提供13 TOPS的AI算力。

AMD

AMD于2023年5月推出的銳龍7040系列是全球首款內(nèi)置XDNA架構(gòu)NPU的X86處理器，同年12月推出銳龍8040系列移動(dòng)處理器，提供高達(dá)16TOPS的NPU算力和39 TOPS的整體算力，相較上一代帶來(lái)60%的AI性能提升。

在今年6月的臺(tái)北電腦展上，AMD重磅發(fā)布了Ryzen AI 300 系列處理器，采用Zen 5架構(gòu)、第三代AMD Ryzen AI，內(nèi)置XDNA2 NPU，GPU升級(jí)為RDNA 3.5。



作為一款專(zhuān)為AI PC打造的處理器，其N(xiāo)PU算力可達(dá)50 TOPS，相較而言上一代Ryzen 8040系列芯片只有16 TOPS。

可以看到，這款處理器的亮點(diǎn)之一就在于NPU算力的大幅提升。AMD表示，XDNA2 NPU的計(jì)算能力提供5倍多，多任務(wù)并行能力翻一番，能效提升最多2倍。并且，XDNA2首次引入全新的Block FP16浮點(diǎn)精度，傳統(tǒng)的8-bit INT8數(shù)據(jù)類(lèi)型性能強(qiáng)但準(zhǔn)確性低，16-bit FP16數(shù)據(jù)類(lèi)型準(zhǔn)確性高但性能弱。FP16 NPU可兼顧兩者的性能與準(zhǔn)確性，目前大多數(shù)AI應(yīng)用都采用了16-bit精度。另外，AMD已經(jīng)與超過(guò)150家AI賦能的ISV合作伙伴達(dá)成深度合作，進(jìn)而為AMD Ryzen AI提供兼容性更好、性能體驗(yàn)更好的各類(lèi)型AI應(yīng)用。

蘋(píng)果

2023年，蘋(píng)果A17 Pro處理器對(duì)整塊芯片進(jìn)行了全方位提升，包括 Apple 有史以來(lái)最大規(guī)模重新設(shè)計(jì)的圖形處理器。通過(guò)微架構(gòu)和設(shè)計(jì)上的改進(jìn)，全新的中央處理器實(shí)現(xiàn)了多達(dá) 10% 的速度提升，神經(jīng)網(wǎng)絡(luò)引擎的速度也提升多達(dá) 2 倍。采用臺(tái)積電3nm工藝制程，其N(xiāo)PU擁有16核心，性能達(dá)到35 TOPS。

今年5月，蘋(píng)果發(fā)布的11英寸和13英寸iPad Pro搭載了M4處理器，該處理器基于臺(tái)積電第二代3nm工藝，擁有280億個(gè)晶體管，NPU算力從18TOPS提升到38 TOPS。

在前不久的蘋(píng)果全球開(kāi)發(fā)者大會(huì)（WWDC）上，蘋(píng)果宣布了全新的AI系統(tǒng)Apple Intelligence。要提升系統(tǒng)的AI能力，NPU的升級(jí)必不可少。今年9月蘋(píng)果全新一代iPhone 16 Pro將配備最新的A18芯片，據(jù)悉臺(tái)積電啟動(dòng)2nm芯片試產(chǎn)，蘋(píng)果A18性能或提升30%，而在NPU性能上，有消息稱(chēng)A18有望超越蘋(píng)果自家的M4處理器，可能達(dá)到45TOPS。


高通

此次微軟首批Copilot+PC，搭載高通驍龍（Snapdragon）X Elite 芯片。高通于2023年推出為AI PC設(shè)計(jì)的驍龍 X Elite 處理器，該處理器集成高通定制 Oryon CPU，基于 4nm 工藝打造，采用 12 顆 3.8GHz 大核，全新 Hexagon NPU 最高可提供 45 TOP（每秒萬(wàn)億次運(yùn)算）算力，并且可以在設(shè)備上以“驚人的速度”運(yùn)行超過(guò) 13B 參數(shù)的生成式 AI LLM（大型語(yǔ)言模型）。首批搭載驍龍X Elite 芯片的PC制造商包括榮耀、聯(lián)想、小米等。

此外，消息稱(chēng)，聯(lián)發(fā)科與英偉達(dá)聯(lián)手研發(fā)Arm架構(gòu)AI PC處理器，新款芯片將對(duì)標(biāo)蘋(píng)果M4，預(yù)計(jì)2024年第三季度完成設(shè)計(jì)，第四季度進(jìn)入驗(yàn)證階段，將采用臺(tái)積電3nm工藝制造，并計(jì)劃2025年發(fā)布。

小結(jié)：

微軟給AI PC劃了一條NPU算力的“紅線”，基于微軟強(qiáng)大的生態(tài)號(hào)召力，AI PC處理器廠商都十分重視NPU性能的提升，當(dāng)然這也有利于后續(xù)AI PC上端側(cè)AI真正的應(yīng)用普及。40+ TOPS NPU也許會(huì)成為今后用戶(hù)購(gòu)買(mǎi)AI PC的一個(gè)必選項(xiàng)。