電子發(fā)燒友網(wǎng)報(bào)道（文 / 吳子鵬）作為全球集成電路設(shè)計(jì)領(lǐng)域的頂級(jí)盛會(huì)，ISSCC 自 1953 年創(chuàng)辦以來(lái)，一直是世界最前沿固態(tài)電路技術(shù)的首發(fā)陣地，被譽(yù)為 “芯片設(shè)計(jì)國(guó)際奧林匹克會(huì)議”。ISSCC 2026 上，清華大學(xué)、華為與字節(jié)跳動(dòng)聯(lián)合團(tuán)隊(duì)在會(huì)上發(fā)布論文《HYDAR: A Hybrid In-Memory Computing Framework for Efficient Recommendation System Acceleration》（HYDAR：面向高效推薦系統(tǒng)加速的混合存內(nèi)計(jì)算框架），首次提出基于 28nm 工藝的混合存內(nèi)計(jì)算（Compute-in-Memory, CiM）芯片，為 AI 推薦系統(tǒng)（RecSys）的能效瓶頸帶來(lái)革命性突破。

這款芯片的核心突破在于，通過(guò)創(chuàng)新架構(gòu)設(shè)計(jì)，將推薦系統(tǒng)核心運(yùn)算的效率和能效提升 1–2 個(gè)數(shù)量級(jí)（QPS 提升 66 倍，QPS/W 提升 181 倍），為打破困擾行業(yè)多年的 “存儲(chǔ)墻” 提供了全新路徑。

?

痛點(diǎn)攻堅(jiān)：推薦系統(tǒng)硬件困局亟待破局

在數(shù)字經(jīng)濟(jì)時(shí)代，推薦系統(tǒng)已成為連接用戶與內(nèi)容、產(chǎn)品的核心樞紐。無(wú)論是短視頻分發(fā)、電商推薦還是智能搜索，背后都依賴海量用戶行為數(shù)據(jù)的實(shí)時(shí)分析與精準(zhǔn)匹配，而這一過(guò)程的核心運(yùn)算單元是相似向量檢索（SVS）—— 通過(guò)計(jì)算查詢向量與大規(guī)模向量庫(kù)之間的距離，檢索出 Top-K 最鄰近向量，進(jìn)而實(shí)現(xiàn)個(gè)性化推薦。

然而，SVS 運(yùn)算長(zhǎng)期面臨 “高耗低效” 的行業(yè)痛點(diǎn)。據(jù)聯(lián)合團(tuán)隊(duì)論文披露，傳統(tǒng)基于 CPU 或 GPU 的架構(gòu)中，數(shù)據(jù)需要在處理器和內(nèi)存之間頻繁搬運(yùn)，SVS 占據(jù)了推薦系統(tǒng)絕大部分的計(jì)算時(shí)間與功耗。核心癥結(jié)在于外部存儲(chǔ)器訪問(wèn)（EMA）的高昂開(kāi)銷：采用混合鍵合技術(shù)的 DRAM 加速器成本居高不下，難以大規(guī)模普及；基于 NAND TCAM 的加速器則存在讀取延遲高、數(shù)據(jù)與距離表示精度有限等問(wèn)題，無(wú)法滿足實(shí)時(shí)推薦需求。

SVS 的現(xiàn)有困境，為新型計(jì)算架構(gòu)的誕生留下了空間。

HYDAR 框架：三大創(chuàng)新協(xié)同破局

HYDAR 芯片的創(chuàng)新之處，在于采用基于電阻式隨機(jī)存儲(chǔ)器（RRAM）的混合模數(shù)存內(nèi)計(jì)算架構(gòu)。與傳統(tǒng)計(jì)算架構(gòu) “數(shù)據(jù)存儲(chǔ)與計(jì)算分離” 不同，基于 RRAM 的存內(nèi)計(jì)算（Compute-in-RRAM, CiR）將計(jì)算單元與存儲(chǔ)單元深度融合，能最大限度減少數(shù)據(jù)移動(dòng)，具備存儲(chǔ)密度高、并行度極大的優(yōu)勢(shì)，被公認(rèn)為深度學(xué)習(xí)加速極具前景的技術(shù)路線。

不過(guò)，在此之前將 CiR 應(yīng)用于 SVS 仍面臨多重挑戰(zhàn)：隨著向量庫(kù)規(guī)模擴(kuò)大，能耗與延遲會(huì)急劇增加，同時(shí)會(huì)降低處理單元（PE）利用率與吞吐量，還可能導(dǎo)致檢索精度下降。如何解決這些矛盾，成為全球芯片設(shè)計(jì)領(lǐng)域的研究熱點(diǎn)。

針對(duì)上述痛點(diǎn)，清華、華為、字節(jié)跳動(dòng)聯(lián)合團(tuán)隊(duì)提出的 HYDAR 框架，通過(guò) “硬件架構(gòu) + 數(shù)據(jù)流調(diào)度 + 檢索策略” 三維協(xié)同優(yōu)化，成功實(shí)現(xiàn)了 CiR 技術(shù)在推薦系統(tǒng)加速器中的高效應(yīng)用?；谠摽蚣埽瑘F(tuán)隊(duì)采用 28nm 工藝流片實(shí)現(xiàn)了一款 CiR 原型芯片，包含 36M RRAM 單元，分為 16 個(gè)并行 PE，每個(gè) PE 包含一個(gè) 288×4096 陣列。

根據(jù)論文，HYDAR 芯片集成三大核心技術(shù)以應(yīng)對(duì)實(shí)際應(yīng)用挑戰(zhàn)：
動(dòng)態(tài)延遲模數(shù)轉(zhuǎn)換器（DL-ADC）：實(shí)現(xiàn)非 Top-K 計(jì)算的早期終止。在向量檢索過(guò)程中，芯片能提前將計(jì)算出的距離與閾值比較，直接跳過(guò)不可能成為最優(yōu)結(jié)果的向量，大幅降低不必要的計(jì)算延遲與功耗。

基于預(yù)測(cè)的預(yù)取調(diào)度流水線（PPSP）數(shù)據(jù)流：針對(duì)推薦系統(tǒng)中常見(jiàn)的非規(guī)則、動(dòng)態(tài)變化的工作負(fù)載，該技術(shù)能智能預(yù)測(cè)數(shù)據(jù)訪問(wèn)模式、優(yōu)化調(diào)度，顯著提升系統(tǒng)吞吐量。

由粗到精（Coarse-to-Fine）檢索架構(gòu)：該設(shè)計(jì)在保證系統(tǒng)召回精度的前提下，實(shí)現(xiàn)檢索任務(wù)的高效分層處理，使得系統(tǒng)能夠輕松擴(kuò)展至百萬(wàn)甚至更大規(guī)模的向量庫(kù)，滿足商業(yè)級(jí)推薦系統(tǒng)需求。

?


據(jù)聯(lián)合團(tuán)隊(duì)在 ISSCC 2026 上披露的實(shí)測(cè)數(shù)據(jù)，這款基于 HYDAR 框架的 28nm CiR 芯片表現(xiàn)亮眼：?jiǎn)涡酒蓪?shí)現(xiàn) 390K QPS 的吞吐率與 1574K QPS/W 的能效比，其構(gòu)建的多芯片系統(tǒng)可支撐百萬(wàn)級(jí)實(shí)時(shí)端到端推薦系統(tǒng)。在實(shí)際推薦系統(tǒng)任務(wù)中，當(dāng)芯片擴(kuò)展至 576M 規(guī)模的多芯片系統(tǒng)時(shí)，QPS 較傳統(tǒng)方案提升 66 倍，QPS/W 提升 181 倍，而檢索準(zhǔn)確率與 CPU 方案相當(dāng)，實(shí)現(xiàn) “高效、節(jié)能、精準(zhǔn)” 三重目標(biāo)。

HYDAR 芯片的成功驗(yàn)證，不僅為推薦系統(tǒng)這一特定場(chǎng)景帶來(lái)革命性的能效提升，其混合模數(shù)存內(nèi)計(jì)算的設(shè)計(jì)思路更具普適意義。隨著大模型向端側(cè)部署、邊緣計(jì)算需求爆發(fā)，對(duì)高能效、低延遲 AI 計(jì)算硬件的需求日益迫切。HYDAR 芯片能夠以極低功耗，支撐電商、內(nèi)容平臺(tái)等所需的百萬(wàn)級(jí)實(shí)時(shí)端到端推薦系統(tǒng)，有望將相關(guān)數(shù)據(jù)中心的算力成本降低一個(gè)數(shù)量級(jí)。

未來(lái)展望：從存內(nèi)計(jì)算到存內(nèi)智能

此次清華、華為、字節(jié)跳動(dòng)的聯(lián)合突破，不僅為推薦系統(tǒng)硬件加速提供全新路徑，更對(duì)我國(guó)集成電路產(chǎn)業(yè)與 AI 生態(tài)發(fā)展具有深遠(yuǎn)意義。從技術(shù)層面看，該成果填補(bǔ)了存內(nèi)計(jì)算技術(shù)在推薦系統(tǒng)專用加速器領(lǐng)域的空白，驗(yàn)證了 28nm 工藝下 CiR 技術(shù)的商業(yè)化可行性 ——28nm 工藝兼具性能與成本優(yōu)勢(shì)，相較于先進(jìn)制程更易實(shí)現(xiàn)規(guī)模化量產(chǎn)，為后續(xù)技術(shù)落地奠定基礎(chǔ)。

對(duì)于產(chǎn)業(yè)而言，HYDAR 框架的成功，為存內(nèi)計(jì)算技術(shù)在特定應(yīng)用領(lǐng)域的深化應(yīng)用指明方向。未來(lái)發(fā)展趨勢(shì)可能包括：

·技術(shù)路徑分化與融合：存內(nèi)計(jì)算領(lǐng)域存在基于 SRAM 的極速能效路徑與基于新興存儲(chǔ)（RRAM）的大容量端側(cè)路徑。HYDAR 代表了后者，未來(lái)兩條路徑可能在不同應(yīng)用場(chǎng)景中各自發(fā)展，也可能出現(xiàn)融合架構(gòu)。

·從存內(nèi)計(jì)算到存內(nèi)智能：隨著技術(shù)成熟，計(jì)算可能不再是 “存內(nèi)計(jì)算”，而是 “存內(nèi)智能”—— 存儲(chǔ)器不僅是計(jì)算單元，更是智能決策單元。HYDAR 中的預(yù)測(cè)調(diào)度、自適應(yīng)閾值等技術(shù)，已經(jīng)展現(xiàn)出這種 “存內(nèi)智能” 的雛形。

·生態(tài)系統(tǒng)構(gòu)建：技術(shù)突破需要配套的軟件棧、開(kāi)發(fā)工具和標(biāo)準(zhǔn)支持。未來(lái)可能出現(xiàn)針對(duì)存內(nèi)計(jì)算架構(gòu)優(yōu)化的編程模型、算法庫(kù)和開(kāi)發(fā)框架，降低開(kāi)發(fā)者使用門檻。

·新材料新器件探索：RRAM 作為新型存儲(chǔ)器件，其非線性等特性曾是應(yīng)用障礙，HYDAR 通過(guò)補(bǔ)償算法等克服了這些挑戰(zhàn)。未來(lái)可能出現(xiàn)更適合存內(nèi)計(jì)算的新材料新器件，進(jìn)一步提升性能。

多位行業(yè)專家分析認(rèn)為，隨著存內(nèi)計(jì)算技術(shù)不斷成熟，其有望成為下一代 AI 硬件的核心架構(gòu)之一。