性能領(lǐng)先、開源普惠、國(guó)產(chǎn)易獲取的三重勢(shì)能，造就了年初DeepSeek的技術(shù)平權(quán)狂熱，掀起AI普惠浪潮。

然而，當(dāng)很多人想在端側(cè)部署DeepSeek模型時(shí)，卻遭遇了挑戰(zhàn)：部署滿血版大模型需數(shù)萬元硬件投入，退而求其次選擇蒸餾版14B版本，又會(huì)出現(xiàn)性能斷崖式下跌與響應(yīng)延遲。

就在AI用戶陷入“高成本部署”與“低質(zhì)量妥協(xié)”的兩難困境時(shí)，端側(cè)AI的破局時(shí)刻，悄悄被360打開了。

近期，360智腦團(tuán)隊(duì)發(fā)布了最強(qiáng)14B推理模型：Light-R1-14B-DS，是業(yè)界首次在14B模型上復(fù)現(xiàn)強(qiáng)化學(xué)習(xí)效果。數(shù)學(xué)能力上，表現(xiàn)超過
DeepSeek-R1-Distill-Llama-70B和DeepSeek-R1-Distill-Qwen-32B。

盡管只訓(xùn)練了MATH數(shù)據(jù)，但在GPQA科學(xué)常識(shí)評(píng)測(cè)中，7B/14B雙版本均超越對(duì)標(biāo)產(chǎn)品，展現(xiàn)出“小參數(shù)大智慧”的泛化能力。

此外，配合360的全面開源策略（模型/數(shù)據(jù)/代碼/技術(shù)報(bào)告全開放），這場(chǎng)端側(cè)AI平權(quán)運(yùn)動(dòng)，意味著14B模型能在手機(jī)端流暢運(yùn)行，意味著企業(yè)無需天價(jià)算力即可部署專業(yè)級(jí)AI。

AI端側(cè)民主化的風(fēng)暴眼，正在醞釀之中。

我們第一時(shí)間研讀了360放出的技術(shù)報(bào)告，發(fā)現(xiàn)端側(cè)AI的技術(shù)拐點(diǎn)已經(jīng)出現(xiàn)。360開源的Light-R1-14B-DS創(chuàng)造了三項(xiàng)行業(yè)紀(jì)錄：

一是能力復(fù)現(xiàn)。Light-R1-14B-DS首次在數(shù)學(xué)能力上，用14B 模型復(fù)現(xiàn)了強(qiáng)化學(xué)習(xí)效果，通過多階段課程學(xué)習(xí)SFT和強(qiáng)化學(xué)習(xí)，Light-R1-14B-DS的表現(xiàn)超過
DeepSeek-R1-Distill-Llama-70B和DeepSeek-R1-Distill-Qwen-32B，是目前最優(yōu)的14B模型，這驗(yàn)證了RL強(qiáng)化學(xué)習(xí)策略的有效性，RL對(duì)端側(cè)模型訓(xùn)練的收益很大，仍有進(jìn)一步挖掘潛力。

（Light-R1 訓(xùn)練流程）

二是效率革命。Light-R1-14B-DS 經(jīng)過長(zhǎng)思維鏈強(qiáng)化學(xué)習(xí)后訓(xùn)練，在AIME 24和25上分別取得了74.0和60.2的成績(jī)，數(shù)學(xué)部分表現(xiàn)超越DeepSeek的70B（72.6分）和32B（54.9分）蒸餾模型，取得了非常顯著的提升，這標(biāo)志著推理能耗進(jìn)一步降低。另一版本的Light-R1-7B-DS，無需量化即可端側(cè)部署。此次探索，在低成本復(fù)現(xiàn) DeepSeek-R1方面邁出了重要一步。

三是泛化能力增強(qiáng)。Light-R1-14B-DS在科學(xué)常識(shí)評(píng)測(cè)GPQA上漲，打破了模型“災(zāi)難性遺忘”的魔咒，具有較好的泛化性，開辟模型優(yōu)化新路徑。

最強(qiáng)14B端側(cè)推理模型，撕開了DeepSeek 70B的性能封鎖線，端側(cè)AI迎來了規(guī)模化普及的拐點(diǎn)。不過，在AI與大眾之間，還差一個(gè)開源。

如果僅有技術(shù)突破，但沒有開源機(jī)制，那么端側(cè)推理模型再好，也無法被大眾輕松獲得、低成本用起來。

此次，360采取了全棧式的開源策略——模型權(quán)重、22萬條數(shù)學(xué)數(shù)據(jù)集、RL訓(xùn)練代碼、技術(shù)報(bào)告等，都悉數(shù)公開。這種開源深度，遠(yuǎn)遠(yuǎn)超過了常規(guī)模型權(quán)重開放。

也就是說，中小團(tuán)隊(duì)僅需極少算力，就能從數(shù)據(jù)清洗到強(qiáng)化學(xué)習(xí)全鏈路復(fù)現(xiàn)，完成端側(cè)AI的后訓(xùn)練與部署。

端側(cè)AI的民主化，高度依賴于科技企業(yè)的開源策略，為什么說360此次開放端側(cè)推理模型很重要？

對(duì)企業(yè)來說，傳統(tǒng)端側(cè)AI部署，會(huì)面臨閉源模型高昂的授權(quán)費(fèi)用（如OpenAI API調(diào)用成本）與硬件適配的邊際成本（需定制化芯片或服務(wù)器），成本難以承受。此前openai也發(fā)布過蒸餾版o1-mini，但高昂的訂閱費(fèi)依然讓大量開發(fā)者望而卻步。此外，閉源模型存在不可解釋性風(fēng)險(xiǎn)，醫(yī)療、法律等行業(yè)因合規(guī)要求無法接受“輸入－輸出”不透明的AI決策。因此，Light-R1-14B-DS這樣低成本、全開源的國(guó)產(chǎn)端側(cè)推理模型，有望打消企業(yè)對(duì)AI的顧慮，輕松邁入智能化。

對(duì)個(gè)人來講，云端模型需要上傳數(shù)據(jù)，這會(huì)引發(fā)隱私泄露的顧慮。而在端側(cè)離線運(yùn)行大模型，又對(duì)算力/內(nèi)存有更高的要求，傳統(tǒng)端側(cè)AI需要旗艦級(jí)設(shè)備，買不起旗艦機(jī)，就用不到好AI，這形成了一種AI時(shí)代的“設(shè)備歧視”。

360開源最強(qiáng)14B端側(cè)模型，讓端側(cè)AI能力不再是少數(shù)機(jī)型的特權(quán)，也可以下沉到普惠機(jī)型上，為大眾所用。而用戶規(guī)模的擴(kuò)大，也會(huì)推動(dòng)AI應(yīng)用及大模型產(chǎn)品的增長(zhǎng)。

由此看到，360開源策略所帶來的技術(shù)民主化，可以激活A(yù)I的長(zhǎng)尾需求，加速AI普惠的到來。

終端設(shè)備，是用好AI的載體。推理模型下沉到端側(cè)，應(yīng)用空間也十分廣闊，打開了端側(cè)AI的無限想象空間。

預(yù)測(cè)一下，目前這兩個(gè)最強(qiáng)端側(cè)14B/7B推理模型，可能會(huì)首先落地在商業(yè)價(jià)值高的場(chǎng)景，然后一步步滲透進(jìn)各行業(yè)。

首當(dāng)其沖的，就是消費(fèi)電子領(lǐng)域。智能手機(jī)、手表、平板、PC、眼鏡等終端設(shè)備，近兩年都在加速AI化。

但此前AI化有兩種方案：一是純端側(cè)，保證本地隱私安全，但內(nèi)存要求高，功耗大；另一種是端云結(jié)合，部分任務(wù)上云處理。Light-R1-7B-DS無需量化即可部署于終端設(shè)備（如手機(jī)、IoT設(shè)備），標(biāo)志著消費(fèi)級(jí)硬件也能運(yùn)行復(fù)雜AI任務(wù)。對(duì)比傳統(tǒng)需要32B以上參數(shù)的端側(cè)模型，其7B規(guī)模大幅降低內(nèi)存占用和能耗。為AI終端帶來了更大的創(chuàng)新空間，比如在手機(jī)本地運(yùn)行復(fù)雜數(shù)學(xué)輔導(dǎo)、法律文書解析等任務(wù)，解決隱私和延遲痛點(diǎn)。

360的技術(shù)突破與全棧開源，可以為消費(fèi)電子領(lǐng)域的AI探索帶來非常有益的借鑒。

下一個(gè)就是重點(diǎn)行業(yè)、垂直領(lǐng)域。金融、政務(wù)、醫(yī)療、法律等數(shù)字化基礎(chǔ)較好的行業(yè)，積極擁抱AI，又希望在本地化運(yùn)行專業(yè)級(jí)AI，避免敏感數(shù)據(jù)上傳云端，這就需要專有模型+后訓(xùn)練，最強(qiáng)端側(cè)14B/7B推理模型可以大幅降低端側(cè)專有模型的訓(xùn)練、推理等硬件門檻，加速行業(yè)智能化探索。

更進(jìn)一步，傳統(tǒng)行業(yè)壁壘也將被端側(cè)普惠AI撕開。比如智慧城市治理，通過部署端側(cè)AI的邊緣智能計(jì)算，可以極大減少智能化的建設(shè)和升級(jí)運(yùn)維成本；農(nóng)業(yè)智能化，搭載14B模型的農(nóng)業(yè)無人機(jī)，路線自動(dòng)避障、精準(zhǔn)識(shí)別地面等能力，都會(huì)隨著推理能力的增強(qiáng)而大幅提升。

通過端側(cè)AI的普惠路線圖，來進(jìn)行推演，不難看到，360的技術(shù)突破與開源策略，一定會(huì)吸引大量行業(yè)開發(fā)者或個(gè)人開發(fā)者前來試用，與豐富的場(chǎng)景相結(jié)合，催生大量智能化的長(zhǎng)尾應(yīng)用。

也就是說，通過開源輕量級(jí)推理模型，360有望規(guī)避AI六小強(qiáng)在千億參數(shù)級(jí)的競(jìng)爭(zhēng)?；陂_源開放的技術(shù)公信力，構(gòu)建開發(fā)者生態(tài)護(hù)城河。從這個(gè)角度看，360掀起的端側(cè)AI颶風(fēng)，也將卷出一個(gè)大模型競(jìng)爭(zhēng)的新格局。

端側(cè)推理模型的平權(quán)時(shí)刻已到，萬億級(jí)邊緣智能市場(chǎng)正蓄勢(shì)待發(fā)、乘風(fēng)遠(yuǎn)航。

審核編輯 黃宇