通過 NVIDIA NIM 微服務和加速計算，Ntropy、Contextual AI、NayaOne 和 Securiti 增強了用于欺詐檢測、財務規(guī)劃等領域的 AI 應用。

NVIDIA 發(fā)布的全球金融服務業(yè) AI 現(xiàn)狀調(diào)查報告顯示，多達 91% 的金融服務公司正在評估或者已經(jīng)在使用 AI，并將其作為推動創(chuàng)新、提高運營效率和增強客戶體驗的工具。

借助由 NVIDIA NIM 微服務和加速計算驅(qū)動的生成式 AI，金融機構可以更好地優(yōu)化投資組合并加強欺詐檢測、客戶服務和風險管理。

NVIDIA 初創(chuàng)加速計劃成員企業(yè)中的 Ntropy、Contextual AI 和 NayaOne 公司，正在利用這些技術來加強金融服務應用。

總部位于硅谷的初創(chuàng)公司 Securiti 提供了一個集中化的智能平臺，它可以確保數(shù)據(jù)和生成式 AI 的使用安全。該公司正在使用NVIDIA NIM為金融服務開發(fā) AI 助手。

在本周于拉斯維加斯舉行的 Money20/20 金融科技大會上，這些公司展示了他們的技術如何幫助銀行、金融科技公司、支付公司和其它機構帶來創(chuàng)新機會，把通常極為復雜的各種金融服務數(shù)據(jù)轉(zhuǎn)化為有用的洞察和創(chuàng)新機會。

Ntropy 為非結構化財務數(shù)據(jù)帶來秩序

總部位于紐約的 Ntropy 正在消除金融服務工作流中的各種混亂情況——無序、隨機或不確定性。

Ntropy 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Naré Vardanyan 表示：“每當資金從 A 點轉(zhuǎn)移到 B 點時，銀行對賬單、PDF 收據(jù)和其它形式的交易記錄都會留下文本信息。傳統(tǒng)上，此類非結構化數(shù)據(jù)很難清理，也難以用于金融應用程序?！?/p>

該公司的交易豐富化應用程序編程接口（API）可對來自各種來源和地理位置的金融數(shù)據(jù)進行標準化處理。作為一種通用語言，它可以幫助金融服務應用程序在幾毫秒內(nèi)以類似人類的準確性來理解任何交易，而成本只需要傳統(tǒng)方法的萬分之一。

其使用了 Llama 3 NVIDIA NIM 微服務以及在NVIDIA Tensor Core GPU上運行的NVIDIA Triton推理服務器構建而成。借助 Llama 3 NIM 微服務，Ntropy 將其大語言模型的利用率和吞吐量提高到運行原生模型時的 20 倍。

Airbase 是一家領先的軟件平臺提供商，其平臺集成了從采購到支付的全過程。通過使用大語言模型和 Ntropy 數(shù)據(jù)豐富器，Airbase 大大改進了交易授權流程。

在 Money20/20 大會上，Ntropy 介紹了客戶如何使用他們的 API 來清理客戶的商戶數(shù)據(jù)，從而通過提高風險檢測模型的準確性來加強欺詐檢測。這樣的改進帶來了虛假交易減少和收入損失降低。

另一個演示重點介紹了自動貸款代理如何利用 Ntropy API 來分析銀行網(wǎng)站上的信息，并生成相關的投資報告，從而加快用戶的貸款發(fā)放和決策過程。

Contextual AI 為金融服務行業(yè)

推進檢索增強生成技術

位于加利福尼亞州 Mountain View 市的 Contextual AI 提供了一個由檢索增強生成（RAG）驅(qū)動的生產(chǎn)級 AI 平臺，該平臺非常適合在知識密集型金融服務場景中構建企業(yè) AI 應用程序。

Contextual AI 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Douwe Kiela 表示：“RAG 是將企業(yè) AI 投入實際應用的解決方案。Contextual AI RAG 2.0 平臺采用了 NVIDIA 的技術和大語言模型，可為尋求優(yōu)化運營并提供新的生成式 AI 產(chǎn)品的金融服務企業(yè)帶來準確、可審計的 AI?！?/p>

Contextual AI 平臺將整個 RAG 管道（包括提取、檢索、重新排序和生成）集成到一個優(yōu)化的系統(tǒng)中。該系統(tǒng)可以在幾分鐘內(nèi)部署，并且能夠根據(jù)客戶需求進一步調(diào)整和優(yōu)化，從而在依賴背景資料的任務中實現(xiàn)更高的準確度。

匯豐銀行計劃使用 Contextual AI，通過檢索并綜合相關的市場展望、財經(jīng)新聞和運營文件來提供研究洞察和流程指導支持。其它金融機構也在利用 Contextual AI 的預制應用程序，涉及財務分析、政策合規(guī)報告生成、財務建議查詢解析等等。

例如，用戶可能會問，“我們預測 2025 年第四季度的央行利率是多少？”，Contextual AI平臺將根據(jù)實際文件提供簡短的解釋和準確的答案，包括引用信息源的特定章節(jié)。

Contextual AI 使用 NVIDIA Triton 推理服務器和開源的NVIDIA TensorRT-LLM庫來加速和優(yōu)化大語言模型的推理性能。

NayaOne 提供數(shù)字沙盒

以推動金融服務創(chuàng)新

總部位于倫敦的 NayaOne 提供了一個 AI 沙盒，允許客戶在商業(yè)化部署之前安全地測試和驗證 AI 應用程序。其技術平臺使金融機構能夠創(chuàng)建合成數(shù)據(jù)，還為金融機構提供了一個擁有數(shù)百家金融科技公司的龐大市場的入口。

借助這個數(shù)字沙盒，客戶可以對應用程序的公平性、透明度、準確性和其他合規(guī)指標進行基準測試，以便更好地確保最高的性能和成功的集成。

NayaOne 首席執(zhí)行官 Karan Jain 表示：“金融服務領域?qū)?AI 驅(qū)動的解決方案的需求正在加速增長，而我們與 NVIDIA 的合作使金融機構能夠在可控、安全的環(huán)境中充分利用強大的生成式 AI。我們正在創(chuàng)建一個生態(tài)系統(tǒng)，讓金融機構可以更快、更有效地開發(fā)原型產(chǎn)品，從而實現(xiàn)真正的業(yè)務轉(zhuǎn)型并實施增長計劃?！?/p>

NayaOne 的 AI 沙盒使用了 NVIDIA NIM 微服務，讓客戶能夠探索和對優(yōu)化后的 AI 模型進行實驗，并更輕松地部署它們。與運行基于 CPU 的各種模型相比，借助 NVIDIA 加速計算，NayaOne 的欺詐檢測模型在處理大型數(shù)據(jù)集時，處理速度提升最多達 10 倍，基礎設施成本最多降低了 40%。

這個數(shù)字沙盒還使用了開源的NVIDIA RAPIDS數(shù)據(jù)科學和 AI 庫，用來加速資金流動應用中的欺詐檢測和預防功能。NayaOne 在 Money20/20 大會上的 NVIDIA AI 展臺上展示了其數(shù)字沙盒。

Securiti 利用 AI 助手來改進財務規(guī)劃

Securiti 高度靈活的 Data+AI 平臺為廣泛的生成式 AI 應用提供動力，包括安全的企業(yè) AI 助手以及大語言模型的訓練和調(diào)優(yōu)，使用戶能夠構建安全的端到端企業(yè) AI 系統(tǒng)。

該公司目前正在開發(fā)一款基于 NVIDIA NIM 的財務規(guī)劃助手。該助手的聊天機器人可以訪問各種財務數(shù)據(jù)，同時遵守隱私保護和權限政策，利用上下文感知來解答用戶提出的財務相關問題。

Securiti 首席數(shù)據(jù)官 Jack Berkowitz 表示：“在保證數(shù)據(jù)安全、隱私與合規(guī)的情況下，銀行難以大規(guī)模地提供個性化的財務建議。Securiti 通過強大的數(shù)據(jù)保護和基于角色的訪問權限來確保安全、可擴展的支持，幫助企業(yè)構建安全的 AI 助手，使其能夠針對個性化目標來提供量身定制的財務建議。”

這個聊天機器人可以檢索各種來源的數(shù)據(jù)，比如收益記錄、客戶資料和賬戶余額以及投資研究報告。Securiti 的解決方案可安全地攝取并準備數(shù)據(jù)，將其用于高性能的由 NVIDIA 驅(qū)動的大語言模型，同時保留了訪問權限等控制功能。最終，會通過一個簡單的用戶界面提供個性化的答案。

Securiti 使用 Llama 3 70B-Instruct NIM 微服務優(yōu)化了大語言模型的性能，同時確保數(shù)據(jù)得到安全的使用。該公司在 Money20/20 大會上展示了其生成式 AI 解決方案。

NIM 微服務和 Triton 推理服務器可通過NVIDIA AI Enterprise軟件平臺獲得。