在“全力打造全球引領(lǐng)性金融科技中心”的政策驅(qū)動(dòng)下,《上海高質(zhì)量推進(jìn)全球金融科技中心建設(shè)行動(dòng)方案》明確提出,要聚焦人工智能等領(lǐng)域推動(dòng)金融科技底層技術(shù)創(chuàng)新,構(gòu)建自主創(chuàng)新的金融信息技術(shù)創(chuàng)新生態(tài)體系。
浦發(fā)銀行作為行業(yè)先行者,在人工智能應(yīng)用與探索上走在前列,其對(duì)算力底座構(gòu)建、大模型訓(xùn)練調(diào)優(yōu)及業(yè)務(wù)應(yīng)用層面規(guī)劃長遠(yuǎn),積極探索人工智能技術(shù)與金融業(yè)務(wù)的深度融合,以提供更智能高效的金融服務(wù)。
昇騰憑高性能算力芯片領(lǐng)跑算力賽道,中軟國際則兼具深厚的AI技術(shù)積累與豐富的金融行業(yè)IT服務(wù)經(jīng)驗(yàn)。雙方強(qiáng)強(qiáng)聯(lián)合攜手基于昇騰算力構(gòu)建算力底座,依托中軟國際的技術(shù)與行業(yè)優(yōu)勢(shì)開展業(yè)務(wù)模型訓(xùn)練調(diào)優(yōu),推動(dòng)人工智能在金融業(yè)務(wù)中的規(guī)模化落地,助力加速智慧金融布局。
聚焦AI落地:四大核心優(yōu)化方向
算力應(yīng)用與布局中面臨著多重挑戰(zhàn),首先體現(xiàn)在算力需求爆發(fā)式增長與傳統(tǒng)架構(gòu)的適配矛盾上。隨著千億級(jí)大模型逐步部署,單次模型訓(xùn)練便需數(shù)千卡時(shí)算力支撐,而傳統(tǒng)算力架構(gòu)已難以滿足實(shí)時(shí)風(fēng)控、智能營銷等核心業(yè)務(wù)場景對(duì)低時(shí)延、高可靠性的要求,算力瓶頸成為制約 AI 應(yīng)用快速迭代的關(guān)鍵因素。隨之產(chǎn)生的,是日益凸顯的自主創(chuàng)新與替代工作的緊迫性。受供應(yīng)鏈波動(dòng)及金融安全監(jiān)管要求影響,構(gòu)建具備獨(dú)立技術(shù)體系的算力底座成為必然選擇。
與此同時(shí),技術(shù)與業(yè)務(wù)的深度融合也面臨不小難度。金融行業(yè)業(yè)務(wù)場景復(fù)雜多樣,從知識(shí)助手到跨境金融,不同場景對(duì) AI 模型的應(yīng)用需求差異顯著。推動(dòng) AI 模型從 “能運(yùn)行”向“好用、實(shí)用”升級(jí),實(shí)現(xiàn)技術(shù)與業(yè)務(wù)的精準(zhǔn)匹配,需專業(yè)技術(shù)與行業(yè)經(jīng)驗(yàn)的雙重支撐。
此外,算力布局還需與國家戰(zhàn)略要求相契合。“東數(shù)西算”政策明確提出優(yōu)化算力資源空間布局,需在現(xiàn)有資源基礎(chǔ)上協(xié)同規(guī)劃,構(gòu)建高效運(yùn)行與成本控制兼顧的算力架構(gòu)。
通力協(xié)作破局 技術(shù)創(chuàng)新賦能
浦發(fā)銀行與中軟國際、華為的深度合作,有效的應(yīng)對(duì)了上述挑戰(zhàn)。分布式訓(xùn)練與推理技術(shù)通過算力集群協(xié)同優(yōu)化與端到端流程重構(gòu),成為突破傳統(tǒng)架構(gòu)限制的關(guān)鍵,解決了算力增長與傳統(tǒng)架構(gòu)的適配難題。分布式訓(xùn)練依托多芯片算力集群協(xié)同,通過數(shù)據(jù)/模型/流水線混合并行的架構(gòu)創(chuàng)新,RDMA與通信壓縮的通信優(yōu)化技術(shù),以及彈性擴(kuò)縮容的資源調(diào)度,突破單機(jī)資源局限,縮短訓(xùn)練周期,加速AI應(yīng)用迭代。
中軟國際結(jié)合自身在金融行業(yè)的經(jīng)驗(yàn)以及AI技術(shù)能力,提供量身定制的算力資源優(yōu)化、大模型微調(diào)、AI應(yīng)用模型調(diào)優(yōu),持續(xù)提升AI大模型服務(wù)業(yè)務(wù)部門的效率。分布式推理通過模型并行、PD分離、專家并行等技術(shù),支持低時(shí)延、高吞吐與高并發(fā),為智能風(fēng)控、智能營銷等場景提供穩(wěn)定支撐,確保金融級(jí)服務(wù),重塑金融行業(yè)智能化標(biāo)準(zhǔn),為AI時(shí)代金融服務(wù)的價(jià)值躍遷提供核心引擎。
昇騰以自主算力芯片及完善生態(tài)為核心,支撐算力底座構(gòu)建。中軟國際結(jié)合昇騰服務(wù)器與鯤鵬 CPU,為銀行高效交付數(shù)據(jù)中心千卡級(jí)算力集群,使其算力水平躋身國內(nèi)銀行前列。該集群兼具超高計(jì)算密度、極致通信效率與綠色節(jié)能優(yōu)勢(shì)。中軟國際憑借端到端交付能力,助力推進(jìn)算力資源優(yōu)化配置,深度契合“東數(shù)西算”戰(zhàn)略。
三方聯(lián)動(dòng)
實(shí)現(xiàn)算力自主創(chuàng)新與效能提升雙突破
三方合作突破了算力限制,顯著提升了銀行業(yè)務(wù)與商業(yè)價(jià)值。模型推理平臺(tái)與算力優(yōu)化平臺(tái)通過技術(shù)重構(gòu)與資源提效,成為金融機(jī)構(gòu)實(shí)現(xiàn)數(shù)智化轉(zhuǎn)型的核心引擎。二者通過技術(shù)普惠化、資源集約化、場景深度適配,推動(dòng)算力中心從成本中心轉(zhuǎn)向價(jià)值中心、從被動(dòng)響應(yīng)轉(zhuǎn)向主動(dòng)創(chuàng)新、從單點(diǎn)突破轉(zhuǎn)向生態(tài)共贏。
從行業(yè)視角看,大規(guī)模算力集群、模型訓(xùn)練推理平臺(tái)與算力優(yōu)化對(duì)金融機(jī)構(gòu)的影響意義深遠(yuǎn)。在大模型參數(shù)規(guī)模持續(xù)擴(kuò)大、迭代加速的背景下,可保障訓(xùn)練推理算力領(lǐng)先,助力金融機(jī)構(gòu)快速構(gòu)建 AIGC應(yīng)用,其優(yōu)化能力助力金融機(jī)構(gòu)實(shí)現(xiàn)“多快好省” 的算力應(yīng)用,精準(zhǔn)匹配核心業(yè)務(wù),助力金融機(jī)構(gòu)數(shù)智化轉(zhuǎn)型。
模型推理平臺(tái)與算力優(yōu)化平臺(tái)不僅為頭部機(jī)構(gòu)鞏固競爭優(yōu)勢(shì),更為中小金融機(jī)構(gòu)提供“換道超車”的技術(shù)底座,成為中小型金融機(jī)構(gòu)數(shù)智化轉(zhuǎn)型的核心驅(qū)動(dòng)力。中軟國際在多家頭部銀行AI解決方案的落地過程中,沉淀了從十億至千億級(jí)參數(shù)大模型性能優(yōu)化能力,滿足低首字符響應(yīng)、高吞吐等業(yè)務(wù)要求,充分釋放昇騰算力與模型價(jià)值,得到了客戶的充分認(rèn)可。浦發(fā)銀行表示:“中軟國際在項(xiàng)目實(shí)施過程中基于昇騰算力完成模型微調(diào)試點(diǎn),已初步打通微調(diào)業(yè)務(wù)流程,沉淀基礎(chǔ)微調(diào)經(jīng)驗(yàn)?!毕嘈胚@樣的認(rèn)可將會(huì)在更多客戶案例中得到進(jìn)一步的實(shí)踐與提升。
展望未來,中軟國際通過“技術(shù)輸出+生態(tài)共建”雙輪驅(qū)動(dòng),為中小金融機(jī)構(gòu)提供可參考的數(shù)智化轉(zhuǎn)型路徑;異構(gòu)算力集群與模型訓(xùn)練推理平臺(tái)、算力優(yōu)化等技術(shù)和建設(shè)經(jīng)驗(yàn),將賦能中小金融機(jī)構(gòu),共建金融大模型生態(tài)聯(lián)盟,助力行業(yè)突破技術(shù)瓶頸,重塑AI時(shí)代金融服務(wù)的價(jià)值坐標(biāo),形成可量化的商業(yè)價(jià)值閉環(huán)。
-
人工智能
+關(guān)注
關(guān)注
1811文章
49483瀏覽量
257955 -
中軟國際
+關(guān)注
關(guān)注
0文章
708瀏覽量
7972 -
ai技術(shù)
+關(guān)注
關(guān)注
1文章
1311瀏覽量
25465
原文標(biāo)題:中軟國際攜手昇騰打造端到端AI解決方案,領(lǐng)跑金融數(shù)智化轉(zhuǎn)型
文章出處:【微信號(hào):CSI00354,微信公眾號(hào):中軟國際】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
軟通動(dòng)力攜手華為昇騰推進(jìn)AI智能體規(guī)模化部署
中軟國際金融AI智能體助力行業(yè)數(shù)字化轉(zhuǎn)型
桔子數(shù)科以智能體開發(fā)平臺(tái)“百川”引領(lǐng)金融業(yè)務(wù)高效變革
中軟國際出席華為昇騰計(jì)算產(chǎn)業(yè)發(fā)展峰會(huì)
軟通動(dòng)力如何推動(dòng)工業(yè)AI規(guī)?;?/b>落地
中軟國際簽約成為華為昇騰大模型一體機(jī)伙伴

評(píng)論