近年來，隨著大數(shù)據(jù)和人工智能技術的逐步成熟與廣泛應用，AI業(yè)務對算力的需求不斷增加，算法迭代速度持續(xù)加快，新的算法框架層出不窮，場景化的算法應用日趨豐富。面對日益復雜的海量算法應用場景，如何建設一個更加高效并可持續(xù)演進的算法資源管理平臺，來幫助企業(yè)實現(xiàn)算法全生命周期管理，已成為各大企業(yè)在開展AI應用過程中面臨的一大挑戰(zhàn)。

為了幫助企業(yè)實現(xiàn)算法的統(tǒng)一管理和算法在企業(yè)應用中的全生命期支撐，提升企業(yè)資源的利用率和開放性，構建算法管理生態(tài)體系，淵亭科技針對行業(yè)痛點需求推出了算法倉平臺服務。

算法倉介紹

1.什么是算法倉？

人工智能的“三算”包括算力、算料和算法，分別對應算力倉、算料倉和算法倉。

其中，算法倉是管理算法模型的倉庫，倉庫集中管理所有的AI算法模型，并提供AI分析服務能力，實現(xiàn)多廠家、多版本算法的快速集成，提供算法的生命周期管理能力。

2.算法倉做什么用？

算法倉提供統(tǒng)一的算法管理服務和生命周期管理能力，實現(xiàn)終端設備、平臺、算法和應用之間的全解耦，通過分層架構設計和提供標準化的接口，將各種能力以模塊化服務的方式提供給不同應用靈活調(diào)用，實現(xiàn)算法與應用解耦、算法與數(shù)據(jù)解耦、算法與硬件解耦，同時通過統(tǒng)一API接口進行能力開放，實現(xiàn)數(shù)據(jù)共享與生態(tài)合作。算法倉體系架構使得算法分析能力不再固化在應用產(chǎn)品中，具有系統(tǒng)高可用、資源高利用率、算法靈活開放等優(yōu)勢。

淵亭科技算法倉平臺

淵亭科技算法倉基于公司深厚的技術沉淀進行研發(fā)，平臺既集成了國內(nèi)外各類領先的算法模型和淵亭科技自研算法模型，也支持第三方算法廠商的算法接入，建設算法開發(fā)-自動化準入-運行-運營的全生命周期管理體系，以滿足不同場景的算法管理需求。平臺遵循成熟的算法自動化檢測標準，符合企業(yè)的算法運營體系規(guī)范，能夠快速實現(xiàn)人工智能應用高質量落地，促進AI資源高效共享與運營。

1.平臺總體架構

算法倉平臺核心功能包括算法廠家管理、算法信息管理、算法服務管理、算法資源管理、開發(fā)者服務、準入自動化測試等模塊，并支持對接企業(yè)的基礎設施平臺和運營平臺，實現(xiàn)算法所需數(shù)據(jù)和支持應用的快速對接。算法倉平臺遵循了一套完整的算法統(tǒng)一對接標準規(guī)范，支持通過準入準出機制和統(tǒng)一對接標準實現(xiàn)第三方算法與自研算法的接入。基于算法倉平臺整體能力可為企業(yè)提供算法全生命周期管理服務，簡化算法調(diào)度流程，提升算法的管理、部署和上線應用效率。

淵亭科技算法倉平臺架構圖

2.核心功能介紹

（1）算法倉功能介紹

本功能實現(xiàn)對算法廠商信息的全面管理。該功能不僅可對算法廠商基本信息進行管理，還支持對廠商接入、退出、評價和算法授權等進行管理，可實現(xiàn)自動生成和刪除廠商編碼、預生成算法編碼等特性，同時支持對算法授權日志、算法授權數(shù)據(jù)進行統(tǒng)計和展示。

預生成算法編碼管理

（2）算法信息管理

該功能支持第三方算法廠商進行算法信息管理，廠商可基于通用/專用的算法鏡像關聯(lián)維護多個算法。該模塊支持對算法類別、事件告警等基本信息進行管理。同時，用戶可對鏡像編號、鏡像版本等信息進行錄入、修改、刪除等操作，校驗并管理鏡像狀態(tài)（測試態(tài)、下架態(tài)、上架態(tài)）等。

新增算法

（3）算法服務管理

該功能具備服務動態(tài)調(diào)度、算力資源調(diào)度、算法鏡像調(diào)度和算法自動化發(fā)布的能力。用戶可根據(jù)運營管理規(guī)劃，進行服務初始化部署，啟動算法的服務實例。服務動態(tài)調(diào)度支持根據(jù)實際下發(fā)任務進行服務的運行期資源調(diào)度，實現(xiàn)動態(tài)調(diào)度（彈性擴容、縮容、銷毀）的特性。算力資源調(diào)度支持結合算法任務承載量動態(tài)調(diào)度相應算力資源（包括整服務器資源、碎片化單卡資源、利用率較低的單卡資源），實現(xiàn)算法分析任務漂移的能力，支持在容器宕機、算法假死等情況下實現(xiàn)任務重新下發(fā)和任務分析。

算法服務管理

（4）算法準入管理

該模塊提供了算法接口規(guī)范檢測、算法功能驗證、資源情況評估和導出測試報告等功能，支持第三方算法和自研算法根據(jù)統(tǒng)一的對接標準實現(xiàn)算法接入，算法廠家可快速接入算法倉，同時提供算法驗證功能，包含告警上報驗證、算法準確率驗證和誤報率評估驗證等。

（5）算法資源管理

提供納管中心節(jié)點及邊緣節(jié)點算力資源的能力，中心節(jié)點可統(tǒng)一管理邊緣節(jié)點，其中算力資源包括資源IP、資源規(guī)格、（CPU、GPU、內(nèi)存等）、歸屬節(jié)點等信息。監(jiān)控中心節(jié)點及邊緣節(jié)點的服務器資源、主機資源等，算法維度統(tǒng)計算法資源消耗，可視化展示統(tǒng)計結果。監(jiān)控算法容器的運行狀態(tài)和資源使用情況，支持以圖表可視化方式展示資源監(jiān)控信息并支持導出報表。

容器監(jiān)控管理

3.平臺核心價值

（1）幫助企業(yè)提高算法生態(tài)整合能力。

（2）幫助企業(yè)建立算法全生命周期管理規(guī)范，提升算法資源利用效率。

（3）通過“賽馬機制”形成算法更新迭代的良性循環(huán)，幫助企業(yè)持續(xù)提升算法的計算性能。

（4）幫助企業(yè)節(jié)省算力資源的成本支出。

應用案例

1.天翼云案例

2022年3月，淵亭科技成功中標天翼數(shù)字生活科技有限公司算法倉項目。該平臺面向6000萬+個生活終端，實現(xiàn)數(shù)百個人工智能算法的集中加載、定向分發(fā)、擇優(yōu)計算及統(tǒng)一管理，形成算法生態(tài)合作，助力中國電信踐行“云改數(shù)轉”策略，極大發(fā)揮在數(shù)字生活領域的領先實力。

平臺累計對接6個運營子平臺接口、3個OOS接口、5個算法規(guī)范接口、2個鏡像服務接口和30多個云平臺接口。上線了算法產(chǎn)家管理、算法管理、算法服務管理、算法準入自動化測試等核心模塊。同時，算法成功應用在老鼠識別、佩戴廚師帽檢測、安全帽檢測、車牌識別、工程車輛檢測、身份證識別等20+個業(yè)務場景。

天翼云算法倉極大地提升了天翼數(shù)字生活科技有限公司對算法的自主掌控能力，有效的支撐多場景的智聯(lián)業(yè)務發(fā)展。

2.中國鐵塔案例

近日，淵亭科技就算法倉共建與中國鐵塔簽訂合作協(xié)議。項目根據(jù)中國鐵塔的運營思路，依托淵亭科技算法倉平臺，設計算法商城、動態(tài)配額等機制，激發(fā)算法廠商參與的積極度，持續(xù)構建算法生態(tài)，并同步建立算法自動化檢測標準和算法運營體系規(guī)范，在縮短算法應用周期的同時，幫助中國鐵塔整合通信基礎設施、IT基礎設施等監(jiān)控能力，研發(fā)視聯(lián)算法任務調(diào)度機制，實現(xiàn)邊緣自治和算法動態(tài)調(diào)度的運行保障能力。

為進一步拓展通信鐵塔基礎設施的服務能力，打造具有電信行業(yè)特色的自主掌控、開放高效的通信鐵塔基礎設施服務信息化平臺，提高AI技術在運營效率、服務水平等方面的應用能力，同時推進數(shù)字化管理創(chuàng)新，中國鐵塔基于算法倉等關鍵能力，對現(xiàn)有業(yè)務應用進行智能化改造，智能化地支撐生產(chǎn)和決策，切實為基層減負，提高運營管理效率。

3.中國移動案例

本項目通過在中國移動的計算節(jié)點上部署算法倉平臺，實現(xiàn)了跨區(qū)域算法的統(tǒng)一管理、分發(fā)和部署，有效管理了中國移動在山東、江西、云南、內(nèi)蒙、四川等地的算力資源，使得各省公司算法應用上線效率大幅提升，上線周期大幅縮短。同時，算法倉平臺有力的支撐了中國移動和包貸應用場景落地，通過算法對移動用戶進行授信分析，激活無法授信的沉睡客戶，實現(xiàn)了最終客戶轉換，使得獲客成本大幅降低，最終助力移動和包貸業(yè)績大幅增長。

4.國防領域案例

淵亭科技算法倉平臺除在政企領域開展實踐外，在國防領域也有著廣泛的運用，能夠為國防領域豐富的物聯(lián)網(wǎng)、人工智能場景，輸出包含機器學習和深度學習的應用級全棧算法服務能力，基于完備的邊霧云一體化架構實現(xiàn)算法的全面管理和調(diào)度。例如在某項目中，圍繞指揮控制、戰(zhàn)場態(tài)勢、支援保障等業(yè)務方向，構建覆蓋指揮中樞到單兵作戰(zhàn)終端的一體化算法分發(fā)和運行調(diào)度框架，對國防領域復雜的異構計算資源（大數(shù)據(jù)集群、GPU 集群、邊緣節(jié)點、終端算力等）進行優(yōu)化調(diào)配，匹配算力和數(shù)據(jù)進行高效計算，統(tǒng)籌情報取證、戰(zhàn)場目標意圖識別、作戰(zhàn)策略推薦等高頻算法的運行和使用，提高了智能作戰(zhàn)的體系韌性，實現(xiàn)方案優(yōu)化和綜合管理一體化，大大降低了人工智能在軍事領域落地的復雜性。

算法倉能力在各領域的廣泛應用，只是淵亭諸多人工智能技術創(chuàng)新和產(chǎn)品化沉淀的縮影之一。淵亭科技還將持續(xù)扎根技術、沉淀產(chǎn)品、服務場景，聚焦人工智能的應用價值，把落地業(yè)務做深做透，以獲得更多客戶的信賴、認可，助力各行各業(yè)在智能化時代的創(chuàng)新與突破。