2025年開(kāi)年，國(guó)產(chǎn)AI大模型DeepSeek以驚人的速度席卷科技產(chǎn)業(yè)，用戶規(guī)模突破億級(jí)。作為一款基于Transformer架構(gòu)的先進(jìn)推理模型，DeepSeek參數(shù)規(guī)模龐大，對(duì)硬件計(jì)算能力、內(nèi)存容量和帶寬都提出了極高要求。

奕斯偉計(jì)算在搭載了自研RISC-V AI SoC EIC77系列芯片——EIC7700X和EIC7702X的EVB開(kāi)發(fā)板上，成功完成對(duì)DeepSeek模型的適配。

搭載奕斯偉計(jì)算EIC77系列芯片的EVB板

EIC7700X/7702X內(nèi)嵌NPU、GPU、DSP等硬件加速模塊，配備大容量、高帶寬的LPDDR5內(nèi)存，確保在處理DeepSeek大規(guī)模模型時(shí)能夠充分利用硬件資源，快速搬運(yùn)大模型參數(shù)，從而顯著提升推理效率。

測(cè)試結(jié)果顯示（見(jiàn)下圖），在運(yùn)行7b參數(shù)規(guī)模的DeepSeek-distill-qwen模型時(shí)，搭載奕斯偉計(jì)算EIC7700X芯片的EVB開(kāi)發(fā)板可達(dá)7 tokens/s的推理速度，搭載奕斯偉計(jì)算EIC7702X芯片的EVB開(kāi)發(fā)板可達(dá)14 tokens/s的推理速度，展現(xiàn)出遠(yuǎn)超同類(lèi)架構(gòu)的高能效比。

奕斯偉計(jì)算RISC-V AI SoC芯片

適配DeepSeek模型測(cè)試結(jié)果

EIC77系列芯片是奕斯偉計(jì)算自主研發(fā)的12nm RISC-V AI SoC，內(nèi)嵌4核64位亂序執(zhí)行RISC-V P550 CPU和自研高性能NPU, 以及DSP、 GPU,、H.264/H.265編解碼器，芯片的AI處理性能可以達(dá)到20 TOPS INT8，可以支持32GB 存儲(chǔ)容量的LPDDR5@6400，支持全棧浮點(diǎn)計(jì)算及大語(yǔ)言模型。

其中，雙Die AI SoC EIC7702X內(nèi)嵌8核64位亂序RISC-V P550 CPU，AI處理能力可達(dá)40 TOPS INT8，可支持64GB存儲(chǔ)容量的LPDDR5@6400。

EIC7700X模塊框圖

搭載EIC7700X/EIC7702X芯片的EVB板，擁有32/64 GB LPDDR存儲(chǔ)容量，4/8通道Gen3 PCIe接口，支持SATA3、HDMI2.0、1000M Ethernet、USB3.2、MIPI等豐富接口，可以實(shí)現(xiàn)機(jī)器視覺(jué)、目標(biāo)分類(lèi)、目標(biāo)定位、圖像分割、動(dòng)作姿態(tài)識(shí)別、自然語(yǔ)言處理等功能，可廣泛應(yīng)用于安全運(yùn)營(yíng)、智慧政務(wù)、工業(yè)檢測(cè)、智慧教育、無(wú)人駕駛、機(jī)器人、無(wú)人機(jī)、智慧交通等應(yīng)用場(chǎng)景。

除開(kāi)發(fā)板外，EIC77系列產(chǎn)品還涵蓋AI BOX、AI PC、服務(wù)器加速卡等多種產(chǎn)品形態(tài)，適用于云、邊、端等多種工作場(chǎng)景，多維度實(shí)現(xiàn)AI處理。

EIC77系列芯片短時(shí)間內(nèi)快速完成了對(duì)DeepSeek大模型的適配工作，充分展示了奕斯偉計(jì)算RISC-V AI SoC芯片的高算力利用率和開(kāi)發(fā)軟件工具的通用性與便捷性，能夠適應(yīng)多種深度學(xué)習(xí)算法模型，易于使用，體現(xiàn)了奕斯偉計(jì)算的芯片與工具鏈經(jīng)過(guò)多代架構(gòu)迭代后的工程實(shí)用性。

隨著AI技術(shù)的快速發(fā)展，奕斯偉計(jì)算將沿著RISC-V+AI的技術(shù)路線，以更具性能優(yōu)勢(shì)、能效比更高的芯片與方案，不斷拓展更多應(yīng)用場(chǎng)景，為千行百業(yè)提供AI算力支持。