2025 年 6 月 25 日，北京大學(xué)團隊在智能計算硬件方面取得領(lǐng)先突破，國際上首次實現(xiàn)了基于存算一體技術(shù)的高效排序硬件架構(gòu) (A fast and reconfigurable sort-in-memory system based on memristors)，解決了傳統(tǒng)計算架構(gòu)面對復(fù)雜非線性排序問題時計算效率低下的瓶頸問題，在這一極難攻克的人工智能基礎(chǔ)算子加速領(lǐng)域形成優(yōu)勢，將為具身智能、大語言模型、智能駕駛、智慧交通、智慧城市等人工智能應(yīng)用提供更高效算力支持。該成果由北京大學(xué)集成電路學(xué)院楊玉超教授、人工智能研究院陶耀宇研究員組成的團隊完成，已在國際頂級學(xué)術(shù)期刊《自然?電子》上發(fā)表。

排序加速：存算一體架構(gòu)中難啃的 “硬骨頭”

排序，作為人工智能系統(tǒng)中最常用、最耗時的基礎(chǔ)操作之一，廣泛存在于自然語言處理、信息檢索、圖神經(jīng)網(wǎng)絡(luò)、智能決策等人工智能相關(guān)領(lǐng)域中。在傳統(tǒng)的馮?諾依曼計算架構(gòu)中，處理器與存儲器分離的特點導(dǎo)致數(shù)據(jù)被頻繁搬運，嚴重制約了計算速度和系統(tǒng)能效，因此將存儲與計算融合的 “存算一體” 架構(gòu)是突破硬件性能的必由之路。

例如在智能駕駛場景中，車輛在高速公路等簡單環(huán)境中，只需對周邊幾臺車的行進路線進行排序就能判斷是否會對自身安全產(chǎn)生影響，整個耗時可控制在毫秒級別，但在復(fù)雜的城市環(huán)境中風(fēng)險來自周邊的數(shù)百個乃至更多的各類交通參與者，排序的復(fù)雜程度和硬件延遲大幅提高；再比如，在抖音、小紅書等平臺大的規(guī)模檢索與推薦系統(tǒng)中，用戶點擊、評分、相似度計算后，常需要對海量的候選內(nèi)容進行快速排序，找出最相關(guān)項，排序性能直接影響系統(tǒng)的響應(yīng)時間和可擴展性；此外，在大語言模型訓(xùn)練、機器人路徑規(guī)劃、強化學(xué)習(xí)搜索等場景中，快速評估多個決策或行動的優(yōu)劣并進行排序，也是必不可少而又極為費時的步驟。

然而，在傳統(tǒng)計算架構(gòu)下，大規(guī)模的非線性排序難以在端側(cè)或邊緣設(shè)備高效完成，這一過程消耗大量時間與功耗，極大制約了具身智能、智能駕駛等新興技術(shù)的發(fā)展與普及。 近年來，“存算一體” 被認為是突破傳統(tǒng)硬件架構(gòu)計算瓶頸的關(guān)鍵技術(shù)，已經(jīng)在矩陣計算等規(guī)則性強的數(shù)值計算中取得顯著成果。然而由于排序存在邏輯復(fù)雜、操作非線性、數(shù)據(jù)訪問不規(guī)則，缺乏通用、高效的硬件排序原語等諸多障礙，目前國際主流的存算一體架構(gòu)均無法解決大數(shù)據(jù)排序問題，這一難題成為了制約下一代人工智能計算硬件發(fā)展的前沿焦點與核心卡點問題。

科研團隊圍繞 “讓數(shù)據(jù)就地排序” 的第一性原理目標，在存算一體架構(gòu)上攻克了多個核心技術(shù)難題，實現(xiàn)了排序速度與能效的數(shù)量級提升。主要突破包括：首先，開發(fā)了一套基于新型存內(nèi)陣列結(jié)構(gòu)的高并行比較機制；第二，開創(chuàng)性地引入了 “憶阻器陣列”，實現(xiàn)了低延遲、多通路的硬件級并行排序電路設(shè)計；第三，在算子層面，優(yōu)化了面向人工智能任務(wù)的算法 - 架構(gòu)協(xié)同路徑，同時兼容現(xiàn)有矩陣計算；第四，完全自主設(shè)計的器件 - 電路 - 系統(tǒng)級技術(shù)棧整合。

在人工智能系統(tǒng)中，排序通常作為數(shù)據(jù)預(yù)處理或決策中間環(huán)節(jié)存在，一旦執(zhí)行效率不高，將成為整個系統(tǒng)的主要瓶頸。論文第一作者、北京大學(xué)集成電路學(xué)院博士生余連風(fēng)介紹道，“排序的核心是比較運算，需要精準地實現(xiàn)‘條件判斷 + 數(shù)據(jù)搬移’，在復(fù)雜的應(yīng)用場景中，要對不同因素的優(yōu)先級進行比較，因此排序的邏輯非常復(fù)雜。一般排序過程需要構(gòu)建支持多級‘比較 - 選擇’的比較器單元，而傳統(tǒng)存算一體架構(gòu)主要面向‘乘加’、‘累加’等操作，難以支持這樣的復(fù)雜運算，我們的工作成功解決了這一難題，設(shè)計了一種‘無比較器’的存算一體排序架構(gòu)。”

據(jù)實測結(jié)果顯示，該硬件方案在典型排序任務(wù)中提升速度超 15 倍，面積效率提升超過 32 倍，具備并行處理百萬級數(shù)據(jù)元素排序任務(wù)的潛力，功耗僅為傳統(tǒng) CPU 或 GPU 處理器的 1/10。在人工智能推理場景中，支持動態(tài)稀疏度下的推理響應(yīng)速度可提升 70% 以上，特別適用于要求極高實時性的任務(wù)環(huán)境。論文通訊作者、北京大學(xué)人工智能研究院陶耀宇研究員說，“正因為排序計算在人工智能中是高頻、通用、基礎(chǔ)且極難處理的一類操作，這一難題的突破意味著存算一體從‘適合特定應(yīng)用’走向‘可支持更廣泛的通用計算’，為人工智能相關(guān)任務(wù)構(gòu)建了全鏈路的底層硬件架構(gòu)支持。”

提高計算效率，打造加速引擎

據(jù)悉，該技術(shù)具有廣泛的應(yīng)用前景，可用于智慧交通圖像排序系統(tǒng)、金融智能風(fēng)控評分引擎、邊緣監(jiān)控設(shè)備的目標優(yōu)先識別模塊等場景。在測試中該技術(shù)展現(xiàn)出高速度與低功耗的顯著優(yōu)勢。例如，在智慧交通場景中，系統(tǒng)有望在毫秒級內(nèi)完成十萬級事件優(yōu)先級評估，為超大規(guī)模交通決策、應(yīng)急響應(yīng)調(diào)度等提供高效的實時算力支持。存算一體超高性能排序加速架構(gòu)的成功突破，不僅是一次架構(gòu)創(chuàng)新的勝利，更是將科研成果轉(zhuǎn)化為實際應(yīng)用、服務(wù)國家重大戰(zhàn)略需求的重要行動。

“根據(jù)初步測算，若該技術(shù)在智能終端、工業(yè)控制、數(shù)據(jù)中心等核心應(yīng)用場景中推廣，僅在邊緣 AI 芯片市場就可形成百億元級年產(chǎn)值潛力，大幅提升傳統(tǒng)算力系統(tǒng)的性能。北京大學(xué)科研團隊正是瞄準了‘算力’這個牛鼻子，聚焦‘存算一體’這一關(guān)鍵技術(shù)開展高強度科研攻關(guān)，實現(xiàn)了從器件到系統(tǒng)的全棧自主設(shè)計。這一成果不僅是技術(shù)層面的突破，更是攻克了存算一體化排序加速的‘硬骨頭’難題，在面向人工智能基礎(chǔ)操作的硬件加速領(lǐng)域?qū)崿F(xiàn)了突破，將為我國建設(shè)科技強國，實現(xiàn)高水平科技自立自強注入新算力。

來源：半導(dǎo)體芯科技

【2025全年計劃】

隸屬于ACT雅時國際商訊旗下的兩本優(yōu)秀雜志：《化合物半導(dǎo)體》＆《半導(dǎo)體芯科技》2025年研討會全年計劃已出。

線上線下，共謀行業(yè)發(fā)展、產(chǎn)業(yè)進步！商機合作一覽無余，歡迎您點擊獲取！

https://www.compoundsemiconductorchina.net/seminar/