在大力發(fā)展新質(zhì)生產(chǎn)力背景下，人工智能正成為高質(zhì)量發(fā)展的最大增量。而大模型以其模型精度高、泛化能力強、支持多模態(tài)的特點，成為人工智能技術(shù)發(fā)展的核心方向。

當下，大模型在企業(yè)數(shù)字化場景的落地中會遇到，場景選擇、數(shù)據(jù)準備、模型訓練、算力獲取、效率提升等諸多挑戰(zhàn)。基于此，中軟國際在整合大模型應用架構(gòu)各層能力和生態(tài)資源后，打造大模型開發(fā)和應用服務的專業(yè)平臺--中軟國際模型工場，為政企客戶、模型供應商、算力中心提供從規(guī)劃設計到應用落地的一站式端到端大模型應用開發(fā)服務。

▲中軟國際模型工場服務架構(gòu)

政企客戶服務場景

在面向政企客戶的大模型應用開發(fā)場景時，模型工場基于主流大模型為底座，以咨詢引導、模型賦能、應用落地，三個層次的服務架構(gòu)，采用咨詢導入、規(guī)劃設計、原型驗證、模型微調(diào)/應用開發(fā)、應用集成、部署運營的六步應用開發(fā)工程法，為政企客戶提供從概念到部署的全周期服務。

模型供應商服務場景

在面向模型供應商的服務場景時，模型工場可提供模型場景調(diào)研分析及設計、數(shù)據(jù)標注、Prompt撰寫及優(yōu)化、模型工程部署、AI應用集成開發(fā)支持、模型遷移、模型開發(fā)和訓練、模型運維的八大服務。

模型場景調(diào)研分析及設計服務：根據(jù)客戶場景、數(shù)據(jù)的調(diào)研與分析，識別客戶業(yè)務中存在的痛點及需求，提供模型選型與落地實施方案。

▲模型場景調(diào)研分析及設計服務

數(shù)據(jù)標注管理服務：為客戶提供數(shù)據(jù)采集與標注服務，包括數(shù)據(jù)采集處理、標注審核、質(zhì)檢評估及發(fā)布等服務，數(shù)據(jù)集版本管理，支撐模型數(shù)據(jù)訓練和推理。

▲數(shù)據(jù)標注管理服務

Prompt撰寫及優(yōu)化服務：結(jié)合客戶NLP任務目標，以及數(shù)據(jù)分布和特征規(guī)律，編寫合適的Prompt，并進行優(yōu)化調(diào)整。

▲Prompt撰寫及優(yōu)化服務

模型開發(fā)和訓練服務：基于ModelArts平臺，構(gòu)建L2級AI模型開發(fā)工程，包括模型設計、特征工程、模型訓練、驗證融合等開發(fā)實施。

▲模型開發(fā)和訓練服務

模型工程部署服務：把模型部署在生成環(huán)境，并實時進行模型推斷，提升模型運行效率。

▲模型工程部署服務

AI應用集成開發(fā)支持服務：根據(jù)業(yè)務應用需求，實現(xiàn)基于大模型進行業(yè)務應用開發(fā)和實施服務。

▲AI應用集成開發(fā)支持服務

模型遷移服務：提供業(yè)務、應用及模型、算法及算子的昇騰環(huán)境遷移，并提供調(diào)測及集成對接等服務。

▲模型遷移服務

模型運維服務：針對私域模型的訓練、推理和部署過程，提供有效管理和維護服務，保障模型穩(wěn)定高效運行。

▲模型運維服務

算力中心服務場景

在面向算力中心服務場景時，中軟國際自主研發(fā)了大模型運營管理系統(tǒng)（LMBSS），全面提升算力中心在大模型運營領域的核心競爭力。該系統(tǒng)可構(gòu)建多種大模型納管與商品化，支持大模型資源的全生命周期流程管理，提供大模型運營業(yè)務中靈活的計量計費，提供合同、折扣、營銷、發(fā)票、工單等運營支撐服務能力，助力智算中心構(gòu)建一體化大模型服務平臺，推動客戶構(gòu)建大模型服務生態(tài)。

▲LMBSS大模型運營管理系統(tǒng)

打通AI應用最后一公里！中軟國際模型工場正成為推動千行百業(yè)智能化升級的重要力量，助力行業(yè)向更高效，更智能的未來邁進，攜手客戶、伙伴共同探索大模型在企業(yè)服務的無限可能。