今天,智譜AI正式發(fā)布并開源GLM-OCR,以 “小尺寸、高精度” 實(shí)現(xiàn)文檔解析能力新標(biāo)桿。沐曦股份曦云C500/C550 GPU充分發(fā)揮高生態(tài)兼容性、軟硬協(xié)同能力優(yōu)勢,高效完成與智譜GLM-OCR Day 0適配。此次曦云C500/C550基于Transformer和vLLM框架對(duì)GLM-OCR進(jìn)行適配,在保持優(yōu)異精度的同時(shí),實(shí)現(xiàn)高性能、低延遲推理。
這是繼去年12月智譜 GLM-4.6V 系列多模態(tài)大模型之后,沐曦再一次完成與智譜AI模型的快速適配。這充分體現(xiàn)了沐曦 MXMACA 軟件棧與曦云 C 系列的高兼容性與快速適配能力。曦云C系列依托沐曦全棧自研 MXMACA 軟件棧,能實(shí)現(xiàn)模型低成本遷移與高效部署,并充分釋放自身澎湃算力,為主流大模型提供 “發(fā)布即能用”的國產(chǎn)算力底座。
關(guān)于GLM-OCR
GLM-OCR作為一款輕量的專業(yè)級(jí) OCR 模型,其核心亮點(diǎn)如下:
性能 SOTA:以 94.6 分登頂 OmniDocBench V1.5,并在公式識(shí)別、表格識(shí)別、信息抽取的多項(xiàng)主流基準(zhǔn)中均取得 SOTA 表現(xiàn);
場景優(yōu)化:專攻真實(shí)業(yè)務(wù)痛點(diǎn),在手寫體、復(fù)雜表格、代碼文檔及印章等高難場景中表現(xiàn)穩(wěn)??;
推理高效:僅 0.9B 參數(shù)規(guī)模,支持 vLLM 和 SGLang 部署,顯著降低推理延遲與算力開銷,適合高并發(fā)與邊緣部署;
開源易用:同步開源完整 SDK 與推理工具鏈,支持一行命令快速調(diào)用,輕松接入現(xiàn)有業(yè)務(wù)系統(tǒng)。
性能SOTA、精準(zhǔn)干活兒
得益于自研 CogViT 視覺編碼器與深度場景優(yōu)化,GLM-OCR 實(shí)現(xiàn)了“小尺寸,高精度”。
GLM-OCR 參數(shù)量僅 0.9B,但在權(quán)威文檔解析榜單 OmniDocBench V1.5 中以 94.6 分取得SOTA。在文本、公式、表格識(shí)別及信息抽取四大細(xì)分領(lǐng)域的表現(xiàn)優(yōu)于多款OCR專項(xiàng)模型,性能接近 Gemini-3-Pro 。

案例實(shí)測
除了公開榜單,智譜還針對(duì)真實(shí)業(yè)務(wù)中的六大核心場景進(jìn)行了內(nèi)部測評(píng)。結(jié)果顯示,GLM-OCR 在代碼文檔、真實(shí)場景表格、手寫體、多語言、印章識(shí)別、票據(jù)提取等維度均取得顯著優(yōu)勢。

在實(shí)際應(yīng)用中,GLM-OCR 能精準(zhǔn)解析掃描件、PDF、表格及票據(jù),有效解決手寫、印章、豎排及多語言混排難題,在復(fù)雜版式下依然保持極高的準(zhǔn)確率和魯棒性。
通用文本識(shí)別:GLM-OCR支持照片、截圖、掃描件、文檔輸入,能夠識(shí)別手寫體、印章、代碼等特殊文字,可廣泛應(yīng)用于教育、科研、辦公等場景。
案例:手寫公式識(shí)別

案例:印章識(shí)別
案例:代碼識(shí)別

*由于長度原因,截圖未完全展示模型輸出
復(fù)雜表格解析:針對(duì)合并單元格、多層表頭等復(fù)雜結(jié)構(gòu),模型能精準(zhǔn)理解并直接輸出 HTML 代碼。無需二次制表,識(shí)別結(jié)果即可用于網(wǎng)頁展示或數(shù)據(jù)處理,大幅提升表格錄入與轉(zhuǎn)換效率。
案例:跨單元格表格

案例:分段表

信息結(jié)構(gòu)化提?。篏LM-OCR可從各類卡證、票據(jù)、表格中智能提取關(guān)鍵字段,并輸出標(biāo)準(zhǔn)的JSON格式,無縫對(duì)接銀行、保險(xiǎn)及物流等行業(yè)系統(tǒng)。
輸入圖片:

prompt:
請(qǐng)按下列JSON格式輸出圖中信息:
```json
{
"標(biāo)題":"中華人民共和國海關(guān)出口貨物報(bào)關(guān)單",
"境內(nèi)發(fā)貨人": {
"名稱":"",
"統(tǒng)一社會(huì)信用代碼":"",
"10位海關(guān)代碼":""
},
"出境關(guān)別":"",
"出口日期":"",
"申報(bào)日期":"",
"備案號(hào)":"",
"境外收貨人":"",
"運(yùn)輸方式":"",
"運(yùn)輸工具名稱及航次號(hào)":"",
"提運(yùn)單號(hào)":"",
"生產(chǎn)銷售單位": {
"名稱":"",
"統(tǒng)一社會(huì)信用代碼":"",
"10位海關(guān)代碼":""
},
"監(jiān)管方式":"",
"征免性質(zhì)":"",
"許可證號(hào)":"",
"合同協(xié)議號(hào)":"",
"貿(mào)易國(地區(qū))":"",
"運(yùn)抵國(地區(qū))":"",
"指運(yùn)港":"",
"離境口岸":"",
"包裝種類":"",
"件數(shù)":"",
"毛重(千克)":"",
"凈重(千克)":"",
"成交方式":"",
"運(yùn)費(fèi)":"",
"保費(fèi)":"",
"雜費(fèi)":"",
"商品信息": [{
"項(xiàng)號(hào)":1,
"商品編號(hào)":"",
"商品名稱":"",
"數(shù)量":"",
"單價(jià)":"",
"總價(jià)":"",
"幣制":"",
"原產(chǎn)國(地區(qū))":"",
"最終目的國(地區(qū))":"",
"境內(nèi)貨源地":"",
"征免":"",
"規(guī)格型號(hào)(申報(bào)要素)":""
},// 如果有多種商品,新建一個(gè)字典繼續(xù)在列表中記錄
]
}
```
輸出:
```json
{
"標(biāo)題":"中華人民共和國海關(guān)出口貨物報(bào)關(guān)單",
"境內(nèi)發(fā)貨人": {
"名稱":"建德市佳泓工具有限公司",
"統(tǒng)一社會(huì)信用代碼":"913301827042918701",
"10位海關(guān)代碼":""
},
"出境關(guān)別":"",
"出口日期":"",
"申報(bào)日期":"",
"備案號(hào)":"",
"境外收貨人":"ROSS PROCUREMENT, INC.",
"運(yùn)輸方式":"水路運(yùn)輸",
"運(yùn)輸工具名稱及航次號(hào)":"",
"提運(yùn)單號(hào)":"",
"生產(chǎn)銷售單位": {
"名稱":"建德市佳泓工具有限公司",
"統(tǒng)一社會(huì)信用代碼":"913301827042918701",
"10位海關(guān)代碼":""
},
"監(jiān)管方式":"一般貿(mào)易",
"征免性質(zhì)":"一般征稅",
"許可證號(hào)":"",
"合同協(xié)議號(hào)":"70037636",
"貿(mào)易國(地區(qū))":"美國",
"運(yùn)抵國(地區(qū))":"美國",
"指運(yùn)港":"美國",
"離境口岸":"北三集司",
"包裝種類":"紙箱+雙泡殼+標(biāo)貼",
"件數(shù)":"300",
"毛重(千克)":"2700.00",
"凈重(千克)":"2499.00",
"成交方式":"FOB",
"運(yùn)費(fèi)":"",
"保費(fèi)":"",
"雜費(fèi)":"",
"商品信息": [
{
"項(xiàng)號(hào)": 1,
"商品編號(hào)":"8205400000(999)",
"商品名稱":"螺絲刀",
"數(shù)量":"1200套",
"單價(jià)":"",
"總價(jià)":"7896.00",
"幣制":"USD",
"原產(chǎn)國(地區(qū))":"中國",
"最終目的國(地區(qū))":"美國",
"境內(nèi)貨源地":"杭州其他",
"征免":"照章征稅",
"規(guī)格型號(hào)(申報(bào)要素)":""
}
]
}
```
批量處理與RAG支持:GLM-OCR支持大批量文檔的識(shí)別與解析,其高精度的識(shí)別能力和規(guī)整的輸出格式,可為檢索增強(qiáng)生成(RAG)提供堅(jiān)實(shí)基礎(chǔ)。
更快、更便宜
速度方面,智譜對(duì)比了在相同硬件環(huán)境與測試條件下(單副本,單并發(fā)),分別以圖像文件和 PDF 文件為輸入,不同 OCR 方法完成解析并導(dǎo)出 Markdown 文件的速度差異。結(jié)果顯示,GLM-OCR 處理 PDF 文檔的吞吐量達(dá)1.86 頁/秒,圖片達(dá)0.67 張/秒,速度顯著優(yōu)于同類模型。

價(jià)格方面,API 輸入輸出同價(jià),僅需 0.2 元 / 百萬 Tokens。1元即可處理約2000張A4大小掃描圖片或200份10頁簡單排版PDF,成本約為傳統(tǒng) OCR方案的1/10。
技術(shù)細(xì)節(jié)
在訓(xùn)練策略方面,GLM-OCR 率先將多 Tokens 預(yù)測損失(MTP)引入OCR模型訓(xùn)練過程,以增強(qiáng)損失信號(hào)密度并提升模型學(xué)習(xí)效率。并且,通過持續(xù)且穩(wěn)定的全任務(wù)強(qiáng)化學(xué)習(xí)訓(xùn)練,能夠顯著提升模型在復(fù)雜文檔場景下的整體識(shí)別精度與泛化能力。
上述性能提升還得益于 GLM-OCR 在多模態(tài)模型結(jié)構(gòu)上的系統(tǒng)性設(shè)計(jì)。模型整體采用“編碼器—解碼器”架構(gòu),繼承自 GLM-V 系列,由視覺編碼器(ViT)、跨模態(tài)連接層和語言解碼器三大核心模塊組成。其中,視覺側(cè)集成了自研的CogViT視覺編碼器(400M 參數(shù)),并在數(shù)十億級(jí)圖文對(duì)數(shù)據(jù)上引入 CLIP 策略進(jìn)行大規(guī)模預(yù)訓(xùn)練,使模型具備了強(qiáng)大的文字與版面語義理解能力。
為實(shí)現(xiàn)視覺與語言信息的高效融合,GLM-OCR 設(shè)計(jì)了一套輕量而高效的連接層結(jié)構(gòu),融合SwiGLU 機(jī)制并引入4 倍下采樣策略,能夠精準(zhǔn)篩選并保留關(guān)鍵視覺 Token,將高密度語義信息高效傳遞至后端的GLM-0.5B解碼器,從而支撐高精度的 OCR 識(shí)別輸出。
在整體系統(tǒng)層面,GLM-OCR 采用“版面分析 → 并行識(shí)別”的兩階段技術(shù)范式。其中,版面分析模塊基于 PP-DocLayout-V3 實(shí)現(xiàn),能夠在版式多樣、結(jié)構(gòu)復(fù)雜的文檔場景下實(shí)現(xiàn)穩(wěn)定、高質(zhì)量且高效率的 OCR 解析效果。
開源與在線體驗(yàn)
1.開源地址
Github:https://github.com/zai-org/GLM-OCR
Hugging Face:https://huggingface.co/zai-org/GLM-OCR
2.模型API
智譜開放平臺(tái):https://docs.bigmodel.cn/cn/guide/models/vlm/glm-ocr
開放平臺(tái)特惠嘗鮮禮包已上線:https://bigmodel.cn/special_area
Z.ai:https://docs.z.ai/guides/vlm/glm-ocr
3.在線體驗(yàn)
Z.ai:https://ocr.z.ai
關(guān)于沐曦股份
沐曦股份致力于自主研發(fā)全棧高性能GPU芯片及計(jì)算平臺(tái),為智算、通用計(jì)算、云渲染等前沿領(lǐng)域提供高能效、高通用性的算力支撐,助力數(shù)字經(jīng)濟(jì)發(fā)展。
-
gpu
+關(guān)注
關(guān)注
28文章
5191瀏覽量
135401 -
AI
+關(guān)注
關(guān)注
91文章
39666瀏覽量
301274 -
開源
+關(guān)注
關(guān)注
3文章
4199瀏覽量
46101 -
沐曦
+關(guān)注
關(guān)注
1文章
80瀏覽量
1804
原文標(biāo)題:曦云C500/C550 Day 0 適配智譜GLM-OCR
文章出處:【微信號(hào):沐曦MetaX,微信公眾號(hào):沐曦MetaX】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
沐曦股份曦云C系列GPU全面適配通義千問Qwen3.5三款新模型
沐曦股份曦云C系列GPU深度適配通義千問Qwen3.5模型
沐曦曦云C500/C550 GPU產(chǎn)品深度適配MiniMax M2.5模型
沐曦曦云C600 GPU產(chǎn)品適配階躍星辰基座模型Step 3.5 Flash
沐曦曦云C500/C550 GPU產(chǎn)品適配騰訊混元圖像3.0圖生圖模型
沐曦曦云C500/C550 GPU產(chǎn)品適配PaddleOCR-VL-1.5模型
沐曦曦云C500/C550 GPU產(chǎn)品適配騰訊混元開源翻譯模型1.5版本
DLInfer聯(lián)手沐曦股份實(shí)現(xiàn)數(shù)據(jù)生成場景的實(shí)際落地
首款全國產(chǎn)通用GPU芯片發(fā)布 沐曦集成推出曦云C600
沐曦曦云C系列產(chǎn)品已支持TileLang
沐曦曦云C500/C550 GPU產(chǎn)品適配智譜GLM-OCR模型
評(píng)論