在“全力打造全球引領(lǐng)性金融科技中心”的政策驅(qū)動下,《上海高質(zhì)量推進全球金融科技中心建設(shè)行動方案》明確提出,要聚焦人工智能等領(lǐng)域推動金融科技底層技術(shù)創(chuàng)新,構(gòu)建自主創(chuàng)新的金融信息技術(shù)創(chuàng)新生態(tài)體系。
浦發(fā)銀行作為行業(yè)先行者,在人工智能應(yīng)用與探索上走在前列,其對算力底座構(gòu)建、大模型訓(xùn)練調(diào)優(yōu)及業(yè)務(wù)應(yīng)用層面規(guī)劃長遠,積極探索人工智能技術(shù)與金融業(yè)務(wù)的深度融合,以提供更智能高效的金融服務(wù)。
昇騰憑高性能算力芯片領(lǐng)跑算力賽道,中軟國際則兼具深厚的AI技術(shù)積累與豐富的金融行業(yè)IT服務(wù)經(jīng)驗。雙方強強聯(lián)合攜手基于昇騰算力構(gòu)建算力底座,依托中軟國際的技術(shù)與行業(yè)優(yōu)勢開展業(yè)務(wù)模型訓(xùn)練調(diào)優(yōu),推動人工智能在金融業(yè)務(wù)中的規(guī)?;涞兀铀僦腔劢鹑诓季?。
聚焦AI落地:四大核心優(yōu)化方向
算力應(yīng)用與布局中面臨著多重挑戰(zhàn),首先體現(xiàn)在算力需求爆發(fā)式增長與傳統(tǒng)架構(gòu)的適配矛盾上。隨著千億級大模型逐步部署,單次模型訓(xùn)練便需數(shù)千卡時算力支撐,而傳統(tǒng)算力架構(gòu)已難以滿足實時風(fēng)控、智能營銷等核心業(yè)務(wù)場景對低時延、高可靠性的要求,算力瓶頸成為制約 AI 應(yīng)用快速迭代的關(guān)鍵因素。隨之產(chǎn)生的,是日益凸顯的自主創(chuàng)新與替代工作的緊迫性。受供應(yīng)鏈波動及金融安全監(jiān)管要求影響,構(gòu)建具備獨立技術(shù)體系的算力底座成為必然選擇。
與此同時,技術(shù)與業(yè)務(wù)的深度融合也面臨不小難度。金融行業(yè)業(yè)務(wù)場景復(fù)雜多樣,從知識助手到跨境金融,不同場景對 AI 模型的應(yīng)用需求差異顯著。推動 AI 模型從 “能運行”向“好用、實用”升級,實現(xiàn)技術(shù)與業(yè)務(wù)的精準(zhǔn)匹配,需專業(yè)技術(shù)與行業(yè)經(jīng)驗的雙重支撐。
此外,算力布局還需與國家戰(zhàn)略要求相契合。“東數(shù)西算”政策明確提出優(yōu)化算力資源空間布局,需在現(xiàn)有資源基礎(chǔ)上協(xié)同規(guī)劃,構(gòu)建高效運行與成本控制兼顧的算力架構(gòu)。
通力協(xié)作破局 技術(shù)創(chuàng)新賦能
浦發(fā)銀行與中軟國際、華為的深度合作,有效的應(yīng)對了上述挑戰(zhàn)。分布式訓(xùn)練與推理技術(shù)通過算力集群協(xié)同優(yōu)化與端到端流程重構(gòu),成為突破傳統(tǒng)架構(gòu)限制的關(guān)鍵,解決了算力增長與傳統(tǒng)架構(gòu)的適配難題。分布式訓(xùn)練依托多芯片算力集群協(xié)同,通過數(shù)據(jù)/模型/流水線混合并行的架構(gòu)創(chuàng)新,RDMA與通信壓縮的通信優(yōu)化技術(shù),以及彈性擴縮容的資源調(diào)度,突破單機資源局限,縮短訓(xùn)練周期,加速AI應(yīng)用迭代。
中軟國際結(jié)合自身在金融行業(yè)的經(jīng)驗以及AI技術(shù)能力,提供量身定制的算力資源優(yōu)化、大模型微調(diào)、AI應(yīng)用模型調(diào)優(yōu),持續(xù)提升AI大模型服務(wù)業(yè)務(wù)部門的效率。分布式推理通過模型并行、PD分離、專家并行等技術(shù),支持低時延、高吞吐與高并發(fā),為智能風(fēng)控、智能營銷等場景提供穩(wěn)定支撐,確保金融級服務(wù),重塑金融行業(yè)智能化標(biāo)準(zhǔn),為AI時代金融服務(wù)的價值躍遷提供核心引擎。
昇騰以自主算力芯片及完善生態(tài)為核心,支撐算力底座構(gòu)建。中軟國際結(jié)合昇騰服務(wù)器與鯤鵬 CPU,為銀行高效交付數(shù)據(jù)中心千卡級算力集群,使其算力水平躋身國內(nèi)銀行前列。該集群兼具超高計算密度、極致通信效率與綠色節(jié)能優(yōu)勢。中軟國際憑借端到端交付能力,助力推進算力資源優(yōu)化配置,深度契合“東數(shù)西算”戰(zhàn)略。
三方聯(lián)動
實現(xiàn)算力自主創(chuàng)新與效能提升雙突破
三方合作突破了算力限制,顯著提升了銀行業(yè)務(wù)與商業(yè)價值。模型推理平臺與算力優(yōu)化平臺通過技術(shù)重構(gòu)與資源提效,成為金融機構(gòu)實現(xiàn)數(shù)智化轉(zhuǎn)型的核心引擎。二者通過技術(shù)普惠化、資源集約化、場景深度適配,推動算力中心從成本中心轉(zhuǎn)向價值中心、從被動響應(yīng)轉(zhuǎn)向主動創(chuàng)新、從單點突破轉(zhuǎn)向生態(tài)共贏。
從行業(yè)視角看,大規(guī)模算力集群、模型訓(xùn)練推理平臺與算力優(yōu)化對金融機構(gòu)的影響意義深遠。在大模型參數(shù)規(guī)模持續(xù)擴大、迭代加速的背景下,可保障訓(xùn)練推理算力領(lǐng)先,助力金融機構(gòu)快速構(gòu)建 AIGC應(yīng)用,其優(yōu)化能力助力金融機構(gòu)實現(xiàn)“多快好省” 的算力應(yīng)用,精準(zhǔn)匹配核心業(yè)務(wù),助力金融機構(gòu)數(shù)智化轉(zhuǎn)型。
模型推理平臺與算力優(yōu)化平臺不僅為頭部機構(gòu)鞏固競爭優(yōu)勢,更為中小金融機構(gòu)提供“換道超車”的技術(shù)底座,成為中小型金融機構(gòu)數(shù)智化轉(zhuǎn)型的核心驅(qū)動力。中軟國際在多家頭部銀行AI解決方案的落地過程中,沉淀了從十億至千億級參數(shù)大模型性能優(yōu)化能力,滿足低首字符響應(yīng)、高吞吐等業(yè)務(wù)要求,充分釋放昇騰算力與模型價值,得到了客戶的充分認可。浦發(fā)銀行表示:“中軟國際在項目實施過程中基于昇騰算力完成模型微調(diào)試點,已初步打通微調(diào)業(yè)務(wù)流程,沉淀基礎(chǔ)微調(diào)經(jīng)驗?!毕嘈胚@樣的認可將會在更多客戶案例中得到進一步的實踐與提升。
展望未來,中軟國際通過“技術(shù)輸出+生態(tài)共建”雙輪驅(qū)動,為中小金融機構(gòu)提供可參考的數(shù)智化轉(zhuǎn)型路徑;異構(gòu)算力集群與模型訓(xùn)練推理平臺、算力優(yōu)化等技術(shù)和建設(shè)經(jīng)驗,將賦能中小金融機構(gòu),共建金融大模型生態(tài)聯(lián)盟,助力行業(yè)突破技術(shù)瓶頸,重塑AI時代金融服務(wù)的價值坐標(biāo),形成可量化的商業(yè)價值閉環(huán)。
-
人工智能
+關(guān)注
關(guān)注
1814文章
49957瀏覽量
263619 -
中軟國際
+關(guān)注
關(guān)注
0文章
716瀏覽量
8149 -
ai技術(shù)
+關(guān)注
關(guān)注
1文章
1313瀏覽量
25674
原文標(biāo)題:中軟國際攜手昇騰打造端到端AI解決方案,領(lǐng)跑金融數(shù)智化轉(zhuǎn)型
文章出處:【微信號:CSI00354,微信公眾號:中軟國際】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
中軟國際攜手昇騰推動人工智能在金融業(yè)務(wù)中的規(guī)?;涞?/h1>
評論