第六屆數字中國建設峰會（簡稱“數字峰會”）在福州召開。本屆數字峰會由國家互聯(lián)網信息辦公室、國家發(fā)展和改革委員會、科技部、工業(yè)和信息化部、國務院國有資產監(jiān)督管理委員會、福建省人民政府共同主辦。

作為國家網信辦主辦的兩個國內信息化領域盛會之一，本屆數字中國峰會以“加快數字中國建設，推進中國式現(xiàn)代化”為主題，通過成果展示等方式，推動交流互鑒，促進開放合作，全方位展示數字中國建設最新成果。

在福建省數據要素與產業(yè)生態(tài)大會“算力賦能數字經濟發(fā)展高峰論壇”中，芯啟源創(chuàng)始人、董事長兼CEO盧笙受福建省大數據集團有限公司邀請，作了題為“DPU賦能AI算力網絡，助力云基礎設施生態(tài)共建”精彩演講。

同期，由上海市通信管理局、上海市浦東新區(qū)人民政府聯(lián)合主辦的“算力浦江（首屆）數字經濟發(fā)展論壇”在上海浦東召開，旨在共筑算力底座，助力數字浦東。

芯啟源作為6家AI算力芯片代表企業(yè)之一，圍繞“打造AI算力芯片應用試驗田”進行合作意向簽約，芯啟源高級副總裁姜欣代表芯啟源上臺簽約，芯啟源DPU事業(yè)部銷售總經理侯東輝在現(xiàn)場探討了算力網絡的發(fā)展趨勢。

ChatGPT引領“后互聯(lián)網時代革命”

盧笙在高峰論壇中回顧了中國互聯(lián)網發(fā)展史，“從2018年-2022年的“5G萬物互聯(lián)時代”到如今的“AI智能時代”，今年被認為是人工智能史詩級飛躍的一年?！?/p>

2022年11月30日，OpenAI發(fā)布人工智能對話聊天機器人ChatGPT，短短5天時間，注冊用戶數超100萬。截止2023年1月末，其月活用戶已突破1億，成為史上增長最快的消費者應用。

ChatGPT是一個由人工智能技術驅動的自然語言處理工具。自ChatGPT發(fā)布以來，谷歌、微軟爭相發(fā)布了一系列以AIGC（AI generated content）為底座的生成式AI智能應用，通過輸入人類語言生成視頻、生成圖片，AI開始嘗試創(chuàng)造一些深刻且令人賞心悅目的東西，這個新類別被稱為“生成式AI”。

這意味著AI正在創(chuàng)造新的生產內容，而不是像過去一樣僅僅只是輔助分析已經存在的東西。這些智能應用與ChatGPT一起引領了后互聯(lián)網時代數字經濟“革命”，全球開始步入AI智能時代。

后互聯(lián)網時代 算力發(fā)展見頂

進入AI算力新時代后，機器學習給我們帶來了多重挑戰(zhàn)。ChatGPT可以通過人類語言輸入來預測下一個單詞并生成具有嚴密邏輯的文本進行回復。而這樣的AI的能力是基于算法訓練出來，訓練的過程包括海量數據獲取和清洗、人工知識訓練和場景，AI的能力在參數規(guī)模超過特定臨界值后才出現(xiàn)，需要CPU/GPU提供大量算力，這些算力用參數量/浮點運算量來衡量。

以著名的AlexNet和GPT-3訓練模型為例，AI模型訓練沒有捷徑可走，因為AI的表現(xiàn)并非隨著模型規(guī)模增加而線性增加，而是在參數規(guī)模超過特定臨界值后開始顯著提升（如下圖所示）。

AlexNet可處理262千萬億次的浮點運算，利用CPU/GPU集群訓練出大規(guī)模圖片識別和分類能力。GPT-3用可處理323*10e21次浮點運算，用CPU/GPU集群訓練出了根據人類語言輸入來預測下一個單詞的能力。

GPT-3的訓練模型比AlexNet訓練模型的運算量提升了100萬倍。如果要達到多模態(tài)大模型訓練的臨界值，則需要極大的算力消耗，這對算力提出了前所未有的要求。而從Nvidia對2022年算力和帶寬的評估結果來看，CPU性能增速放緩，網絡帶寬增速增大，2022年帶寬增速比RBP達到30。

AI模型訓練帶來數據大爆發(fā)，帶寬升級到200G/400G，CPU/GPU的性能增長速度無法滿足網絡數據處理的需求，大量CPU/GPU被網絡數據包處理所搶占， AI運算所需的巨量運算量無法滿足。

DPU—AI算力網絡的核心組件

在這個大背景下，利用專用協(xié)處理器將“CPU/GPU處理效率低下”的負載卸載，幫助CPU/GPU釋放算力的DPU將承擔起網絡數據通道的數據包處理需求，將CPU/GPU的算力釋放出來用于支撐起怪獸級別的AI模型訓練運算。

DPU將“CPU/GPU處理效率低下”的負載，包括“通訊協(xié)議”、“加密協(xié)議”、“網絡協(xié)議”、“數據壓縮”等全盤接受，從而將CPU芯片的算力解放出來，解決了高帶寬、低延遲、數據密集的計算場景的算力困境。

01降本增效

DPU提升了整個計算系統(tǒng)的效率，降低整體系統(tǒng) 的總體擁有成本(TCO)。

02節(jié)能減排

DPU承擔基礎設施中網絡通訊和商密相關的服務后，算力資源得到充分釋放，服務器大量減少，耗電大幅降低，機房位極大壓縮，碳排放量亦大幅下降。

03安全可控

在安全、商密等領域，打造以DPU為核心的零信任機制，使整個網絡數據處理中心實現(xiàn)安全可控。

“后互聯(lián)網”時代，AI云基礎設施帶來了巨大的需求和商機，DPU能滿足對“面向AI的”、“高度優(yōu)化的”算力網絡的要求，被視為解決AI時代算力不足的不二之選。在協(xié)議加速、數據安全、存儲加速、虛擬化/容器加速、5G/6G邊緣計算加速等場景都有廣泛應用。

芯啟源DPU+N賦能中國數字經濟生態(tài)

盧笙在峰會中介紹，芯啟源從2019年開始研發(fā)第一代FGPA智能網卡，2020年開始推出第二代基于NP-SoC架構的產品，芯啟源DPU芯片專為解決網絡基礎設施IO性能瓶頸、幫助CPU釋放大量的算力而生。

芯啟源提供基于Chiplet架構、軟硬協(xié)同的DPU共建平臺及方案，生態(tài)共建平臺基礎是芯啟源NFP-7000系列DPU芯片，內置Risc-v處理器、多種硬件加速引擎和加解密引擎、基于可編程rFPC開放可編程接口，提供靈活可編程架構+豐富的加速硬件的芯片級軟硬協(xié)同一體化方案；

芯片基于Chiplet架構搭建開源生態(tài)共建平臺，通過Chiplet多Die互聯(lián)，從資源上仍然保持互聯(lián)同構，實現(xiàn)無縫、無感的橫向擴展；標準化、開源的第三方Die互聯(lián)可讓生態(tài)共建更輕松。

芯啟源提供芯片Die級和芯片級的高度集成和可被集成，包括與AI、CPU、VPU、GPU、xPU等Die的互聯(lián)，與現(xiàn)有ASIC、FPGA(e-ASIC)、CPU等芯片級的互聯(lián)，從而通過多Die的chip let組合出豐富的產品形態(tài)，滿足2*25G-2*200G多樣化端口需求，滿足大數據中心、超算中心、5G/6G邊緣計算、網絡安全等多種場景需求。

目前芯啟源DPU已經在福建省大數據集團、中國移動、天翼云、深信服、招商銀行、中國科學院、中興等客戶落地應用和開展深度合作，涉及政府、運營商、互聯(lián)網、金融、電力等領域。

同時，芯啟源深耕DPU行業(yè)，結合DPU產業(yè)生態(tài)為開發(fā)者打造了全面開放的『數據基礎設施虛擬化及加速開發(fā)平臺CODIVA』，擁抱中立標準開放互補的國產化技術生態(tài)、行業(yè)解決方案，為“數字中國”提供堅實的核心技術基礎，賦能千行百業(yè)的數字技術能力創(chuàng)新。

基于成熟的生態(tài)圈和CODIVA全棧能力平臺，芯啟源DPU作為集成電路產業(yè)的基礎算力網絡核心芯片，必將形成DPU+N=“新生萬業(yè)”趨勢，賦能中國數字經濟生態(tài)，助力數字中國建設。

審核編輯：湯梓紅