大模型狂飆突進(jìn)之后，各行各業(yè)關(guān)注的焦點(diǎn)，逐漸轉(zhuǎn)移到了大模型的實(shí)用性與商業(yè)化，關(guān)注大模型在具體場(chǎng)景中能解決什么問(wèn)題。

其中，金融場(chǎng)景是許多大模型廠(chǎng)商和創(chuàng)業(yè)者都很關(guān)注的領(lǐng)域，由于市場(chǎng)規(guī)模大、客戶(hù)付費(fèi)能力強(qiáng)、對(duì)AI技術(shù)采納早、領(lǐng)域?qū)I(yè)性強(qiáng)易于構(gòu)建數(shù)據(jù)壁壘……這些先天優(yōu)勢(shì)，讓金融領(lǐng)域的垂類(lèi)大模型，展現(xiàn)出極強(qiáng)的落地和商用潛力，同時(shí)也掀起了激烈的市場(chǎng)競(jìng)爭(zhēng)。

不僅基礎(chǔ)大模型廠(chǎng)商積極向金融領(lǐng)域進(jìn)發(fā)，和金融伙伴聯(lián)合推出行業(yè)大模型，一些垂類(lèi)企業(yè)也在積極研發(fā)，Bloomberg率先推出了自研的BloombergGPT……這些面向金融場(chǎng)景的大模型，究竟有何差異呢？

最近，權(quán)威大模型評(píng)測(cè)榜單 C-Eval 剛剛更新，其中清華&智譜Al、OpenAl、商湯科技、容聯(lián)云等位居前列。

高達(dá)50～100億參數(shù)的容聯(lián)云赤兔大模型，專(zhuān)注于金融垂類(lèi)大模型，其成績(jī)表現(xiàn)超過(guò)了幾乎所有同等規(guī)模的模型，以輕量級(jí)模型躋身GPT4等千億模型為主的TOP梯隊(duì)。

百模大戰(zhàn)之后，通用大模型成為少數(shù)玩家的游戲，更小參數(shù)、更易部署、更懂行業(yè)、更低落地成本的垂類(lèi)大模型成為諸多行業(yè)和企業(yè)用戶(hù)關(guān)注的焦點(diǎn)。

我們不妨以表現(xiàn)突出的容聯(lián)云赤兔為例，來(lái)聊一聊大模型在垂直行業(yè)的落地，究竟該點(diǎn)亮哪些技能點(diǎn)。

赤兔飛馳，在大模型賽場(chǎng)一戰(zhàn)成名

赤兔，被認(rèn)為是馬中之王，是戰(zhàn)場(chǎng)上日行萬(wàn)里的悍將。從這個(gè)角度看，容聯(lián)云赤兔確實(shí)“模如其名”，在百模大戰(zhàn)中展現(xiàn)出和赤兔馬一樣的風(fēng)采：

首先是快。今年7月，容聯(lián)云在上海世界人工智能大會(huì)上發(fā)布了赤兔大模型，成為行業(yè)首個(gè)專(zhuān)注金融垂類(lèi)大模型，到今天躋身權(quán)威榜單第六，崛起速度是非常迅疾的。

其次是猛。C-Eval是由清華大學(xué)、上海交通大學(xué)和愛(ài)丁堡大學(xué)合作構(gòu)建的面向中文語(yǔ)言模型的綜合性考試評(píng)測(cè)集，包含13948道多項(xiàng)選擇題，涵蓋52個(gè)不同學(xué)科和四個(gè)難度級(jí)別，是目前較為權(quán)威的中文AI大模型評(píng)測(cè)榜單。赤兔大模型能躋身TOP梯隊(duì)，獲得第六的成績(jī)，屬實(shí)是垂類(lèi)大模型的一員猛將了。

垂類(lèi)大模型更重要的是精。因?yàn)榇竽Ｐ吐涞氐囊粋€(gè)普遍痛點(diǎn)，是場(chǎng)景和效果不確定，將大模型和金融行業(yè)需求精準(zhǔn)對(duì)接，需要在數(shù)據(jù)工程、知識(shí)工程、提示工程、應(yīng)用探索等多方面，下“巧功夫”。目前，赤兔大模型已經(jīng)探索出了一些垂直場(chǎng)景，比如其賦能的溝通智能2.0，專(zhuān)注解決客服和營(yíng)銷(xiāo)場(chǎng)景下的知識(shí)庫(kù)、人工座席輔助及陪練、問(wèn)答機(jī)器人、金牌銷(xiāo)售等需求，精準(zhǔn)釋放大模型的技術(shù)價(jià)值。

總體來(lái)說(shuō)，容聯(lián)云赤兔不僅在大模型評(píng)測(cè)賽場(chǎng)上一馬當(dāng)先，更重要的是，其在實(shí)用性和商業(yè)化探索上也邁出了重要一步，展現(xiàn)出國(guó)產(chǎn)大模型的落地速度和商用潛力。

金融+大模型，需要一個(gè)“四邊形戰(zhàn)士”

當(dāng)許多大模型廠(chǎng)商和創(chuàng)業(yè)公司，在為如何回收高昂的模型訓(xùn)練成本發(fā)愁的時(shí)候，容聯(lián)云赤兔所走的垂類(lèi)大模型之路，展現(xiàn)出了較為清晰的商用前景和價(jià)值轉(zhuǎn)化能力。

不由地使我們好奇，容聯(lián)云赤兔究竟做對(duì)了什么？一言以蔽之，大模型在垂直行業(yè)的落地需要的是在知識(shí)、數(shù)據(jù)、可信、成本等層面沒(méi)有短板的“四邊形戰(zhàn)士”， 容聯(lián)云正是將這些工作做到前面、做到實(shí)處、做出差異化競(jìng)爭(zhēng)力，才能一馬當(dāng)先。

1.知識(shí)層面。機(jī)器學(xué)習(xí)的模式是提出抽象化特征并反向輸送給機(jī)器，從而實(shí)現(xiàn)智能，大模型也不例外。但到底提取什么特征，如何給出評(píng)估決策，這些環(huán)節(jié)都存在大量領(lǐng)域知識(shí)和行業(yè)Know-How。不搞清楚這些問(wèn)題，缺少知識(shí)驅(qū)動(dòng)，大模型只能“大力出奇跡”，一味追求龐大規(guī)模參數(shù)，帶來(lái)產(chǎn)業(yè)落地難以承受的高成本、部署難度、幻覺(jué)和不確定性。

為解決這一問(wèn)題，“赤兔大模型”結(jié)合金融領(lǐng)域知識(shí)進(jìn)行訓(xùn)練，可以真正理解客戶(hù)的開(kāi)放問(wèn)題，根據(jù)不同的業(yè)務(wù)需求和場(chǎng)景特點(diǎn)匹配相應(yīng)回答，提高金融服務(wù)的效果。

2.數(shù)據(jù)層面。AI離不開(kāi)數(shù)據(jù)，大模型尤其依賴(lài)超大規(guī)模的數(shù)據(jù)積累和標(biāo)注。同時(shí)，要讀懂垂直行業(yè)如金融場(chǎng)景，只有通用數(shù)據(jù)還不夠，必須學(xué)習(xí)豐富的金融語(yǔ)料來(lái)深度理解金融內(nèi)容，以保證大模型生成內(nèi)容的質(zhì)量和準(zhǔn)確性。而領(lǐng)域數(shù)據(jù)，往往涉及到行業(yè)機(jī)密和隱私數(shù)據(jù)，是很難獲得的、高壁壘的。這一點(diǎn)上，赤兔大模型展現(xiàn)出了特別的優(yōu)勢(shì)。據(jù)了解，容聯(lián)云首先通過(guò)開(kāi)源和公開(kāi)數(shù)據(jù)讓赤兔大模型獲得基礎(chǔ)能力，然后依托容聯(lián)云長(zhǎng)期積累的金融、營(yíng)銷(xiāo)等領(lǐng)域數(shù)據(jù)構(gòu)建領(lǐng)域模型，以解決特定行業(yè)的問(wèn)題。在實(shí)際服務(wù)過(guò)程中，進(jìn)一步基于業(yè)務(wù)數(shù)據(jù)和行業(yè)知識(shí)進(jìn)行模型迭代，不斷提升赤兔大模型對(duì)金融的理解能力。

3.可信層面。金融業(yè)“穩(wěn)健經(jīng)營(yíng)”的要求，是一個(gè)嚴(yán)謹(jǐn)嚴(yán)肅的復(fù)雜場(chǎng)景，對(duì)大模型的可信、可靠、可解釋等要求非常高。如果大模型在生成過(guò)程中出現(xiàn)幻覺(jué)、答非所問(wèn)、無(wú)中生有，這對(duì)于需要精準(zhǔn)決策的金融用戶(hù)是無(wú)法接受的。解決這一問(wèn)題，一方面需要專(zhuān)門(mén)的算法、數(shù)據(jù)工程等進(jìn)行質(zhì)量控制，同時(shí)要選擇恰當(dāng)?shù)膱?chǎng)景并進(jìn)行定制，以達(dá)到金融客戶(hù)采購(gòu)所要求的質(zhì)量。比如，赤兔大模型聚焦在一些容錯(cuò)率較高的場(chǎng)景，如客服、營(yíng)銷(xiāo)等，金融機(jī)構(gòu)借助赤兔大模型，可以生成一套金牌話(huà)術(shù)，在電話(huà)咨詢(xún)等環(huán)節(jié)提高在線(xiàn)留存率，避免客戶(hù)流失，進(jìn)而提高交易成交率。在一些交易類(lèi)的敏感業(yè)務(wù)、用戶(hù)體驗(yàn)要求極高的投訴類(lèi)業(yè)務(wù)，“赤兔”的進(jìn)入也更加謹(jǐn)慎，用更長(zhǎng)的周期來(lái)探索。

4.成本層面。一個(gè)共識(shí)是，行業(yè)和企業(yè)引入大模型是為了用的，為了降本增效發(fā)揮價(jià)值的，不是為了跟別人比拼先進(jìn)性的。用大模型就要考慮到投入產(chǎn)出比。不僅企業(yè)用戶(hù)要考量大模型的使用成本，對(duì)于大模型的開(kāi)發(fā)廠(chǎng)商來(lái)說(shuō)，面對(duì)不低的訓(xùn)練推理和長(zhǎng)期維護(hù)成本，也需要在研發(fā)投入和商業(yè)回報(bào)周期之間進(jìn)行平衡。

容聯(lián)云CEO孫昌勛曾提到，在實(shí)際落地場(chǎng)景中，金融客戶(hù)更多使用十億級(jí)參數(shù)規(guī)模的模型來(lái)完成服務(wù)。所以，赤兔大模型在參數(shù)規(guī)模和模型性能之間做到了極高的效率，以50～100億的參數(shù)達(dá)到了極高的生成能力，為客戶(hù)提供更高的性?xún)r(jià)比和滿(mǎn)足私有化部署的要求。以智能客服領(lǐng)域?yàn)槔?，基于赤兔大模型，容?lián)云生成式一體化智能客服平臺(tái)，能將知識(shí)生產(chǎn)效率提升70%，對(duì)話(huà)構(gòu)建成本下降80%，將服務(wù)效率翻倍。

不難看出，大模型要落地金融行業(yè)并不簡(jiǎn)單，至少要具備“四邊形戰(zhàn)士”的條件，才能在產(chǎn)業(yè)化道路上快速前進(jìn)，這也是容聯(lián)云赤兔“一馬當(dāng)先”的特別之處。

一馬當(dāng)先,垂類(lèi)大模型向何處去？

我們都不希望大模型的火爆只是曇花一現(xiàn)，而是深度融入產(chǎn)業(yè)智能化，實(shí)現(xiàn)長(zhǎng)期繁榮。垂類(lèi)大模型如何走的更遠(yuǎn)？容聯(lián)云赤兔大模型的戰(zhàn)略選擇，在今天也非常值得我們思考。

具體來(lái)看，容聯(lián)云赤兔在幾次選擇中都選對(duì)了：

大模型的目標(biāo)，選擇了“致用”。

作為行業(yè)大模型的初入局者，容聯(lián)云將大模型應(yīng)用的立足點(diǎn)放在自身優(yōu)勢(shì)行業(yè)——從2013年開(kāi)始積累的金融行業(yè)，面向服務(wù)的上萬(wàn)個(gè)客戶(hù)，提供匹配當(dāng)前大模型能力和需求的產(chǎn)品，在客服、營(yíng)銷(xiāo)等場(chǎng)景中先完成落地。

孫昌勛曾說(shuō)過(guò)，行業(yè)大模型不是無(wú)限制地攀登技術(shù)高峰，而是在滿(mǎn)足客戶(hù)需求的前提下，盡可能節(jié)省成本。聚焦場(chǎng)景，解決具體問(wèn)題，赤兔大模型的致用，才有后續(xù)的無(wú)限可能性。

大模型的優(yōu)勢(shì)，選擇了“高能”。

從年初快進(jìn)到“百模大戰(zhàn)”，我們看到太多企業(yè)和創(chuàng)業(yè)公司為了追逐“風(fēng)口”而入局大模型，卻沒(méi)有考慮到后續(xù)的模型、商業(yè)等問(wèn)題，要么倉(cāng)促離場(chǎng)，要么模型推出后很快無(wú)人問(wèn)津。

大模型落地業(yè)務(wù)場(chǎng)景的過(guò)程，不是一蹴而就的，后續(xù)還需要業(yè)務(wù)對(duì)接、數(shù)據(jù)互通、應(yīng)用探索、平臺(tái)建設(shè)、運(yùn)維服務(wù)等一系列工作。容聯(lián)云就非常注重大模型的長(zhǎng)期能力：

具備云通訊領(lǐng)域老兵的優(yōu)勢(shì)，形成了“通訊+數(shù)據(jù)+智能”的綜合技術(shù)能力，為赤兔深入金融場(chǎng)景，提供技術(shù)上的“硬實(shí)力”。此外，大模型會(huì)涉及到敏感隱私數(shù)據(jù)，因此來(lái)自行業(yè)客戶(hù)，尤其是金融行業(yè)的信任，是大模型廠(chǎng)商至為關(guān)鍵的“軟實(shí)力”。據(jù)了解，容聯(lián)云已經(jīng)和數(shù)家標(biāo)桿性客戶(hù)進(jìn)行聯(lián)合共創(chuàng)，每家客戶(hù)都專(zhuān)門(mén)派了團(tuán)隊(duì)，和客戶(hù)一起做大模型之下的行業(yè)應(yīng)用、產(chǎn)品迭代和更新，這又會(huì)進(jìn)一步增強(qiáng)雙方的聯(lián)接和信任，為“赤兔”的產(chǎn)業(yè)化鋪下道路。

大模型的商業(yè)化路徑，則一開(kāi)始就選擇了聚焦“行業(yè)”。

大家應(yīng)該都聽(tīng)過(guò)“田忌賽馬”的故事，在白熱化的市場(chǎng)競(jìng)爭(zhēng)中，恰當(dāng)?shù)牟呗圆拍塬@得商業(yè)化成功，形成良性循環(huán)。大模型的持續(xù)發(fā)展，離不開(kāi)行之有效的產(chǎn)業(yè)化策略。正如容聯(lián)云創(chuàng)始人兼CEO 孫昌勛所說(shuō)，AI大模型更應(yīng)該聚焦到行業(yè)，聚焦到客戶(hù)需求。相比涉及各領(lǐng)域的通用大模型，企業(yè)其實(shí)更需要專(zhuān)精于某一領(lǐng)域的行業(yè)大模型。因此，在選擇赤兔大模型的應(yīng)用場(chǎng)景時(shí)，容聯(lián)云優(yōu)先考慮的還是匹配客戶(hù)需求以及商業(yè)化空間，加速了赤兔大模型的落地和價(jià)值兌現(xiàn)。

有一句俗語(yǔ)，說(shuō)“努力”是速度，“選擇”是方向，方向錯(cuò)了，越努力反而越快走向失敗。

對(duì)于成本高昂、競(jìng)爭(zhēng)激烈的大模型，面對(duì)群雄逐鹿的局面，更需要謹(jǐn)慎出手、做對(duì)“選擇”。

像容聯(lián)云赤兔這樣，在垂類(lèi)場(chǎng)景里深耕，不斷錘煉“四邊形戰(zhàn)士”的能力。

這條腳踏實(shí)地的路，才是大模型行穩(wěn)致遠(yuǎn)、做深向?qū)嵉恼_方向。

審核編輯 黃宇