電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）2025年6月6日，面壁智能CEO李大海在北京智源大會(huì)上發(fā)布有史以來最具想象力的面壁小鋼炮模型MiniCPM4.0，代號(hào)“前進(jìn)四”，開源兩個(gè)版本，8B閃電稀疏版和0.5B最強(qiáng)小小鋼炮。





李大海表示，面壁智能是第一個(gè)把全模態(tài)模型帶到端側(cè)的公司。面壁智能小鋼炮，旨在把大模型放到離用戶最近的地方，做高效的端側(cè)智能。

MiniCPM4.0最大的特點(diǎn)——快

2019年面壁智能超前入局大模型，發(fā)布世界首個(gè)知識(shí)增強(qiáng)大模型ERNE，2020年發(fā)布國內(nèi)首個(gè)中文大模型CPM-1，2021年發(fā)布持續(xù)學(xué)習(xí)發(fā)模型CPM-2，2022年發(fā)布可控生成大模型CPM-3；2023年，面壁智能又發(fā)布CPM-Bee多語言百億大模型，之后還發(fā)布了第三代千億參數(shù)多模態(tài)大模型CPM-Cricket，評(píng)分超越GPT-3.5，邏輯能力比肩GPT-4。

2024年面壁智能領(lǐng)先走向端側(cè)智能。2月發(fā)布MiniCPM-2B旗艦級(jí)端側(cè)模型；4月發(fā)布MiniCPM 2.0；9月發(fā)布MiniCPM-V 2.6，在端側(cè)性能實(shí)現(xiàn)全面對(duì)標(biāo) GPT-4V；12月發(fā)布MiniCPM 3.0，在包括自然語言理解、知識(shí)、代碼、數(shù)學(xué)等多項(xiàng)能力上超越OpenAI的 GPT-3.5；2025年1月，面壁智能發(fā)布MiniCPM-o 2.6端側(cè)全模態(tài)模型，性能比肩GPT-4o；2025年3月發(fā)布cpmGO，首個(gè)純端側(cè)智能體助手。



李大海介紹，面壁智能端側(cè)大模型面壁小鋼炮包括基座模型MiniCPM、旗艦多模態(tài)模型MiniCPM-V、旗艦全模態(tài)模型MiniCPM-o。截至目前，面壁小鋼炮旗艦端側(cè)大模型有超過1000萬下載量。李大海表示：“這是千千萬萬開發(fā)者對(duì)我們的認(rèn)可，未來還會(huì)持續(xù)發(fā)布更好的端側(cè)大模型，賦能智能硬件的創(chuàng)新和開發(fā)。”



“這次發(fā)布的面壁小鋼炮模型MiniCPM4.0版本，最大的特點(diǎn)就是快?！崩畲蠛Ｕ劦?，“相比其他模型，MiniCPM4.0-8B僅22%訓(xùn)練開銷，在同等參數(shù)下，性能更強(qiáng)，可對(duì)標(biāo)Qwen3-8B，超越Gemma3-12B。”

MiniCPM4-MCP支持15個(gè)主流應(yīng)用，包括Airbnb、Github mcp、Slack、PPTs、PowerPoint、office-Word-Mcp-Server、Computer Use、Desktop-commander、File_system、OpenAI Whisper等；MiniCPM4-Survey端側(cè)版表現(xiàn)比肩DeepResearch。



面壁小鋼炮正在進(jìn)行廣泛的生態(tài)適配，適配主流芯片與開源框架部署，芯片如括華為、英特爾、聯(lián)發(fā)科、高通；開源框架如LLM、LlamaFactory、AutoGPT、SGland等。李大海強(qiáng)調(diào)，依托分塊稀疏注意力機(jī)制，MiniCPM4.0在英特爾平臺(tái)上推理深度優(yōu)化實(shí)現(xiàn)兩倍加速。

多維度技術(shù)創(chuàng)新——架構(gòu)高效、推理高效

MiniCPM4.0之所以能夠做到又快又好，源于系統(tǒng)級(jí)層層效率優(yōu)化，包括四個(gè)層面：架構(gòu)高效、推理高效、學(xué)習(xí)高效、數(shù)據(jù)高效。



架構(gòu)高效方面，MiniCPM4.0采用InfLLM升級(jí)版InfLLM 2.0稀疏注意力結(jié)構(gòu)。李大海介紹說，稀疏度越高，計(jì)算量越小，速度越快。傳統(tǒng)Transformer模型每token需和序列中所有token進(jìn)行相關(guān)性計(jì)算逐字重復(fù)計(jì)算，效率低下。InfLLM 稀疏注意力機(jī)制，對(duì)文本分塊分區(qū)域處理，只對(duì)最具相關(guān)性重點(diǎn)區(qū)城進(jìn)行注意力計(jì)算“抽查”，更高效。

而且MiniCPM4.0采用高效雙頻換擋，即長文本用稀疏，短文本用稠密。



推理高效方面，面壁智能自研全套端側(cè)高性能推理框架。CPM.cu自研極速端側(cè)推理框架，稀疏、投機(jī)和量化的高效結(jié)合，F(xiàn)R-Spec輕量化投機(jī)采樣，并給小模型減負(fù)加速，使得速度提升5倍；BitCPM極致低位寬量化，端側(cè)極致內(nèi)存容量友好，4-bit量化達(dá)業(yè)界SOTA等級(jí)，瘦身90%；Arklnfer自研跨平臺(tái)部署框架，面向多平臺(tái)端側(cè)芯片極致優(yōu)化，跨平臺(tái)高效投機(jī)采樣和限制解碼，端側(cè)多平臺(tái) ModelZoo絲滑使用，速度提升2倍。

李大海表示，與云端不同，云端多采用英偉達(dá)、昇騰的芯片，而端側(cè)較為復(fù)雜，這種跨平臺(tái)部署框架對(duì)于大模型端側(cè)部署來說就極為重要。在他看來，面壁智能新帶來的面壁小鋼炮模型MiniCPM4.0，在多項(xiàng)技術(shù)的加持下，使用更少的數(shù)據(jù)，需要更少的訓(xùn)練、更少的算力，因而成本也會(huì)下降，這有助于大模型能在更多場景實(shí)現(xiàn)落地。