英特爾7大算力神器助力極致算力。

“請(qǐng)代替基金經(jīng)理寫(xiě)一段年終總結(jié)”，“如何評(píng)價(jià)春節(jié)檔電影大混戰(zhàn)”，“請(qǐng)寫(xiě)出一段爬取網(wǎng)頁(yè)內(nèi)容的程序”……諸如此類問(wèn)題，OpenAI開(kāi)發(fā)的ChatGPT都可以給出一段“中肯”的回答。

2023年開(kāi)年，全球AI領(lǐng)域最“出圈”的成果莫過(guò)于ChatGPT了。作為一個(gè)具備問(wèn)答、文章撰寫(xiě)等多重能力的對(duì)話式機(jī)器人，ChatGPT的強(qiáng)大“超能力”背后，是天量的訓(xùn)練數(shù)據(jù)與龐大的模型。

ChatGPT的前一代基礎(chǔ)模型——GPT-3的參數(shù)就高達(dá)1750億，訓(xùn)練數(shù)據(jù)高達(dá)45TB，訓(xùn)練設(shè)備包括超過(guò)28.5萬(wàn)個(gè)CPU和1萬(wàn)個(gè)GPU，僅訓(xùn)練成本就超過(guò)了1200萬(wàn)美元。ChatGPT基于GPT3.5架構(gòu)的模型參數(shù)在此基礎(chǔ)上至少提升了2個(gè)量級(jí)，對(duì)強(qiáng)算力的需求就更高。

事實(shí)上，不止是人工智能領(lǐng)域，數(shù)字經(jīng)濟(jì)發(fā)展潮流中的每一次技術(shù)和應(yīng)用的飛躍，都離不開(kāi)強(qiáng)勁算力的支持，作為該領(lǐng)域的頭部企業(yè)之一，英特爾仍在不斷挑戰(zhàn)更強(qiáng)算力。1月11日，英特爾正式發(fā)布第四代至強(qiáng)可擴(kuò)展處理器和至強(qiáng) CPU Max系列產(chǎn)品，通過(guò)內(nèi)置面向AI、科學(xué)計(jì)算、安全、網(wǎng)絡(luò)、數(shù)據(jù)分析和存儲(chǔ)的加速器，在提升工作負(fù)載的性能和能效上更進(jìn)一步。

01

破題新思路，四代至強(qiáng)新添七大算力神器

一想到算力提升，最容易想到的解決方案就是“堆核”，即通過(guò)增加核心頻率和核心數(shù)量來(lái)提升整體數(shù)據(jù)處理速度。

但想要面向云計(jì)算、物聯(lián)網(wǎng)、人工智能、5G等真實(shí)、多樣應(yīng)用場(chǎng)景下的工作負(fù)載提升CPU性能，充分利用CPU資源并且節(jié)約成本，“堆核”顯然不是最優(yōu)解。

正如英特爾數(shù)據(jù)中心與人工智能集團(tuán)副總裁兼中國(guó)區(qū)總經(jīng)理陳葆立所說(shuō)，“我們更關(guān)注客戶如何使用我們的產(chǎn)品，并不是越多核就一定越好，今天的許多用戶在使用數(shù)據(jù)中心處理器時(shí)，也并非一味執(zhí)著于多核，而是具體工作具體分析?！?

基于在各個(gè)行業(yè)與場(chǎng)景實(shí)踐中積累的豐富經(jīng)驗(yàn)，英特爾重塑破題思路，發(fā)布了全新的第四代英特爾至強(qiáng)，引入針對(duì)實(shí)際工作負(fù)載優(yōu)化加速的設(shè)計(jì)理念，采用系統(tǒng)級(jí)設(shè)計(jì)方法，在CPU中內(nèi)置針對(duì)各種工作負(fù)載的專用加速器，與上一代相比，實(shí)現(xiàn)了通用計(jì)算平均性能提升53%，并且能夠?qū)⒛繕?biāo)工作負(fù)載的平均每瓦性能提升2.9倍。而在優(yōu)化電源模式下，每個(gè)CPU節(jié)能高達(dá)70瓦，并對(duì)性能只產(chǎn)生極低的影響，將總體擁有成本降低52%到66%，做到帶來(lái)領(lǐng)先性能的同時(shí)實(shí)現(xiàn)可持續(xù)發(fā)展。2

全新的英特爾至強(qiáng)平臺(tái)提供了七大算力神器——

面向深度學(xué)習(xí)場(chǎng)景的英特爾高級(jí)矩陣擴(kuò)展（英特爾AMX），能將人工智能實(shí)時(shí)推理和訓(xùn)練性能提升至10倍；

面向網(wǎng)絡(luò)數(shù)據(jù)系統(tǒng)的英特爾動(dòng)態(tài)負(fù)載均衡器（英特爾DLB），可將網(wǎng)絡(luò)工作負(fù)載的系統(tǒng)級(jí)處理性能時(shí)延降低96%；

增強(qiáng)數(shù)據(jù)移動(dòng)效率的英特爾數(shù)據(jù)流加速器（英特爾DSA），幫助數(shù)據(jù)密集型工作負(fù)載數(shù)據(jù)移動(dòng)和轉(zhuǎn)換性能提升至1.7倍；

面向內(nèi)存數(shù)據(jù)庫(kù)和大數(shù)據(jù)分析工作負(fù)載的英特爾存內(nèi)分析加速器（英特爾IAA），能顯著優(yōu)化數(shù)據(jù)分析工作負(fù)載內(nèi)存占用和查詢吞吐量，性能可提升至3倍；

面向數(shù)據(jù)流壓縮及數(shù)據(jù)加解密的英特爾數(shù)據(jù)保護(hù)與壓縮加速技術(shù)（英特爾 QAT），使第四代英特爾至強(qiáng)可擴(kuò)展處理器成為單一數(shù)據(jù)流壓縮并加密數(shù)據(jù)性能最高的CPU；

增強(qiáng)工作負(fù)載安全性的英特爾安全技術(shù)（英特爾Security）策略組合，能夠?qū)ぷ髫?fù)載進(jìn)行保護(hù)，加速加密運(yùn)算，實(shí)現(xiàn)預(yù)測(cè)性安全保護(hù)；

首款集成高帶寬內(nèi)存（HBM）的英特爾至強(qiáng)CPU Max系列，能夠在無(wú)需變更代碼的情況下為科學(xué)計(jì)算工作負(fù)載加速。

值得一提的是，第四代英特爾至強(qiáng)不僅具備卓越的加速性能，亦體現(xiàn)了重大的制造進(jìn)展。其能夠在一個(gè)封裝上集成多達(dá)4個(gè)采用Intel 7制程工藝制造的單元，這些區(qū)塊通過(guò)英特爾嵌入式多芯片互連橋接（EMIB）封裝技術(shù)連接。第四代英特爾至強(qiáng)可擴(kuò)展處理器還具備新特性，包括通過(guò)DDR5增加了內(nèi)存帶寬、通過(guò)PCIe5.0和Compute Express Link (CXL) 1.1互連增加了I/O帶寬。

有了算力的升級(jí)與加持，紛繁復(fù)雜的場(chǎng)景和應(yīng)用將會(huì)展開(kāi)更多可能。

02

AI將社會(huì)發(fā)展導(dǎo)向新階段

AI作畫(huà)、ChatGPT對(duì)話機(jī)器人……隨著深度殘差網(wǎng)絡(luò)（ResNet）、Transformer算法、Diffusion算法等技術(shù)進(jìn)入應(yīng)用階段，2022年以來(lái)，AI領(lǐng)域不斷迎來(lái)發(fā)展的“小高潮”，AI強(qiáng)大的能力成功吸引了大眾目光，也帶動(dòng)了新一波數(shù)字技術(shù)的觀念普及。

相比GPU提升訓(xùn)練效率的能力，擁有極佳性價(jià)比的CPU在AI應(yīng)用的規(guī)?；渴鸷蛯?shí)踐上同樣發(fā)揮著重要作用。可以說(shuō)，AI走入工程化階段，面向大眾提供服務(wù)，迫切需要不斷提升CPU的性能，以實(shí)現(xiàn)高算力、強(qiáng)性能和低成本。

有數(shù)據(jù)顯示，預(yù)計(jì)到2025年，超過(guò)60%的中國(guó)企業(yè)將通過(guò)人工智能、機(jī)器學(xué)習(xí)、自然語(yǔ)言處理（Natural Language Processing，NLP）和模式識(shí)別等技術(shù)實(shí)施智能預(yù)測(cè)與決策，提升員工工作效率和企業(yè)生產(chǎn)力。而面向推薦系統(tǒng)、自然語(yǔ)言處理、圖像識(shí)別、媒體處理和交付，以及媒體分析等AI應(yīng)用場(chǎng)景，用戶需要更精準(zhǔn)化地分析和快速地推理。

這其中，作為AI領(lǐng)域的重要分支，自然語(yǔ)言處理（NLP）正獲得前所未有的市場(chǎng)關(guān)注與技術(shù)追蹤，將大幅緩解金融、醫(yī)療、法律等行業(yè)中人力密集型工作環(huán)節(jié)帶來(lái)的效率和成本壓力。

作為國(guó)內(nèi)擁有強(qiáng)大互聯(lián)網(wǎng)基礎(chǔ)的領(lǐng)先AI公司，得益于近十年來(lái)在自有“飛槳”人工智能框架上的前瞻布局和大力投入，百度已在NLP領(lǐng)域構(gòu)建起了完整的產(chǎn)品體系與技術(shù)組合。而隨著技術(shù)與產(chǎn)業(yè)結(jié)合的深入、商業(yè)化應(yīng)用落地的加快，用戶對(duì)百度飛槳文心 · NLP大模型的重要組成部分——ERNIE 3.0提出了更多細(xì)分需求，如更高的處理效率和更廣泛的部署場(chǎng)景等。

為此，百度不僅借助其創(chuàng)新技術(shù)優(yōu)勢(shì)，推出了更適合落地應(yīng)用的輕量版ERNIE-Tiny，同時(shí)與英特爾攜手，引入了全新第四代英特爾至強(qiáng)可擴(kuò)展處理器，其內(nèi)置的英特爾AMX在實(shí)際工作負(fù)載中，能同時(shí)支持BF16和INT8數(shù)據(jù)類型，其每個(gè)物理核在每個(gè)時(shí)鐘周期可實(shí)現(xiàn)2,048次INT8運(yùn)算和1,024次BF16運(yùn)算，這無(wú)疑大幅提升了AI工作負(fù)載的效率。ERNIE-Tiny在升級(jí)使用內(nèi)置英特爾AMX的第四代至強(qiáng)可擴(kuò)展處理器后，整體性能對(duì)比上一代提升高達(dá)2.66倍3，推理性能大大提升。

“全新第四代英特爾至強(qiáng)可擴(kuò)展處理器及英特爾AMX技術(shù)的引入，使得輕量版ERNIE 3.0在通用CPU平臺(tái)上也能獲得令人滿意的推理效能，從而能幫助更多用戶在其既有IT設(shè)施中更為方便地部署ERNIE 3.0，從而進(jìn)一步普及其應(yīng)用范圍?！卑俣茸匀徽Z(yǔ)言處理部架構(gòu)師孫宇即如此評(píng)價(jià)英特爾AMX的杰出表現(xiàn)。

除此之外，由AI賦能的計(jì)算機(jī)視覺(jué)也已經(jīng)成為企業(yè)獲取數(shù)據(jù)洞察、推動(dòng)業(yè)務(wù)智能化轉(zhuǎn)型的重要途徑。視覺(jué)AI解決方案能夠利用增強(qiáng)型深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，以更精密的方式獲取數(shù)據(jù)，將分析能力提升到全新水平，從而幫助企業(yè)提升工作效率、降低成本、增加收入并提高客戶滿意度。隨著業(yè)務(wù)的發(fā)展與視覺(jué)數(shù)據(jù)的爆發(fā)式增長(zhǎng)，企業(yè)希望能夠在加速計(jì)算視覺(jué)AI模型訓(xùn)練和提高推理性能的同時(shí)，獲得更高的投資收益。

美團(tuán)作為與人們?nèi)粘Ｉ铌P(guān)系密切的科技零售公司，在其自身發(fā)展過(guò)程中，高度重視以視覺(jué)AI技術(shù)創(chuàng)新，賦能餐飲、出行、旅游、購(gòu)物、娛樂(lè)等多種業(yè)務(wù)，充分踐行“零售+科技”的戰(zhàn)略。

為了加速視覺(jué)AI推理，美團(tuán)利用第四代英特爾至強(qiáng)可擴(kuò)展處理器及其內(nèi)置的英特爾AMX等高級(jí)硬件能力，將模型從FP32轉(zhuǎn)化為BF16等方式，并結(jié)合了英特爾PyTorch擴(kuò)展（英特爾IPEX）加速PyTorch，更有效地提升了深度學(xué)習(xí)推理和訓(xùn)練的計(jì)算性能，將主流視覺(jué)模型的推理性能提升了3.38-4.13倍左右。同時(shí)，結(jié)合動(dòng)態(tài)擴(kuò)縮容等頭部服務(wù)優(yōu)化策略，美團(tuán)將線上資源效率整體提升3倍以上，節(jié)省70%的服務(wù)成本4，實(shí)現(xiàn)了資源的敏捷調(diào)度，支持了視覺(jué)AI服務(wù)的高效創(chuàng)新，并賦能了業(yè)務(wù)智能化升級(jí)。

03

在高性能的基礎(chǔ)上需要更快、更安全

除了復(fù)雜應(yīng)用場(chǎng)景下對(duì)高算力、高性能和低成本的需求外，對(duì)于企業(yè)用戶而言，面向更多更豐富的場(chǎng)景，高可靠和高安全的數(shù)據(jù)處理和分析能力則是更為基礎(chǔ)和底層的需求。

隨著大數(shù)據(jù)時(shí)代數(shù)據(jù)量的指數(shù)級(jí)增長(zhǎng)，在保障數(shù)據(jù)安全性的前提下，更高效地處理大量動(dòng)態(tài)數(shù)據(jù)與靜態(tài)數(shù)據(jù)，如今面臨著巨大的挑戰(zhàn)。

將大數(shù)據(jù)分析的全流程拆解來(lái)看，預(yù)處理階段即需要面對(duì)多個(gè)技術(shù)難題。以加密和壓縮環(huán)節(jié)為例，作為批量數(shù)據(jù)預(yù)處理的必然流程，只有優(yōu)先完成數(shù)據(jù)處理之后才能進(jìn)行分析。而這個(gè)過(guò)程需要消耗大量的CPU時(shí)鐘周期，從而大大限制了計(jì)算密集型工作負(fù)載的運(yùn)行效率。

針對(duì)這個(gè)難題，第四代英特爾至強(qiáng)可擴(kuò)展處理器“點(diǎn)對(duì)點(diǎn)”突破，內(nèi)置了數(shù)據(jù)保護(hù)和壓縮加速技術(shù)（英特爾QAT），通過(guò)卸載加密、解密和壓縮釋放處理器內(nèi)核，從而讓系統(tǒng)能夠支持更多客戶端運(yùn)行或?qū)崿F(xiàn)降低能耗的目的，可將內(nèi)核用量減少高達(dá)95%；另外，QAT能夠幫助加速數(shù)據(jù)庫(kù)備份和聯(lián)機(jī)事務(wù)處理（OLTP）操作，實(shí)現(xiàn)了2倍的吞吐量提升（針對(duì)一級(jí)壓縮），從而助力提升網(wǎng)絡(luò)和存儲(chǔ)應(yīng)用的整體性能。

解決了數(shù)據(jù)處理流程中的安全挑戰(zhàn)，面向?qū)嶋H的工作負(fù)載，數(shù)據(jù)在應(yīng)用過(guò)程中的安全又該如何保障呢？英特爾軟件防護(hù)擴(kuò)展（英特爾SGX）可以解決這個(gè)難題。英特爾SGX提供硬件級(jí)的安全“屏障”，能通過(guò)應(yīng)用程序隔離技術(shù)，保護(hù)選定的代碼和數(shù)據(jù)免遭修改，只要將應(yīng)用程序分隔到強(qiáng)化的安全區(qū)或受信任的執(zhí)行模塊，即可以啟用身份和記錄隱私、安全瀏覽和數(shù)字管理保護(hù)（DRM），或者任何需要安全存儲(chǔ)機(jī)密或者保護(hù)數(shù)據(jù)的高保障安全應(yīng)用場(chǎng)景中，幫助企業(yè)在安全可信的基礎(chǔ)上更好地進(jìn)行數(shù)據(jù)價(jià)值發(fā)掘。

由此可見(jiàn)，對(duì)于未來(lái)數(shù)字經(jīng)濟(jì)而言，算力等基礎(chǔ)設(shè)施的舞臺(tái)才是核心的角力場(chǎng)。正如全球著名投資機(jī)構(gòu)a16z評(píng)價(jià)ChatGPT時(shí)所說(shuō)，“基礎(chǔ)設(shè)施服務(wù)商可能才是最大贏家，獲得最多的財(cái)富。”

包括AI在內(nèi)的新技術(shù)在取得突破后，要想走入“尋常百姓家”，實(shí)現(xiàn)大規(guī)模的部署和應(yīng)用，算力的安全、高速、高可靠、高性能等能力缺一不可。甚至可以說(shuō)，算力的增強(qiáng)真正驅(qū)動(dòng)了數(shù)字經(jīng)濟(jì)的增長(zhǎng)。

因此，不斷突破算力瓶頸，以創(chuàng)新引領(lǐng)應(yīng)用實(shí)踐才是當(dāng)代數(shù)字經(jīng)濟(jì)的“主旋律”。而毫無(wú)疑問(wèn)的是，作為處理器領(lǐng)域的生態(tài)構(gòu)建者，英特爾已經(jīng)做好了準(zhǔn)備，以技術(shù)創(chuàng)新力和卓越的產(chǎn)品力不斷“乘風(fēng)破浪”，助力滾滾數(shù)字化大潮。

審核編輯 ：李倩